ככל שאני עובד יותר, אני מבין יותר שמחשוב יכול לעשות את העבודה שלי, ושאני פשוט צריך עוד מחשוב כדי לעשות אותה. הזמן שלי תחום במגבלות שספקי ה-AI קובעים. כשמגיעים למגבלה, העבודה נעצרת עד האיפוס, ואני מחכה איתה.
הקצאות מחשוב הן משבצות הזמן והחופש החדשות בחיים, לעשות את מה שאדם רוצה לעשות. הביקוש כבר עכשיו אינסופי, וכל קפיצה שמביאה יותר מחשוב ליותר אנשים מעלה את הרף ומעמיקה את התלות, בספירלה שמאיצה לעבר הסינגולריות.
המשימה שאני עומד להתחיל חייבת ליצור מספיק מינוף כדי למשוך אליה מחשוב, אחרת היא עלולה להפוך למיותרת. כסף יכול לקנות מחשוב, אבל בשוק שבו המחשוב כל כך נדיר, כסף והון מטפסים אל גבולות חדשים שיהיו מחוץ להישג ידם של רוב האנשים.
הפיכת AGI רב עוצמה למוצר מדף מעוררת חשש בטיחותי. גם אם נוכל לשלוט בו, האם אנחנו רוצים שלכל אחד תהיה גישה לסופר-בינה עליונה וחזקה כל כך? אני לא בטוח שכן. אז האם הגישה לסופר-בינה תהיה תלויה בשאלה עד כמה אתה מקדם אותה אל המטרות הפנימיות שלה? אלה יכולות להיות עוד כוח, עוד מחשוב ועוד נתונים, או הגנת סייבר ובטיחות, או ההון שזורם פנימה ככל שהיא כובשת את משימות היומיום בפיננסים, במשפט ובבריאות.
אבל מה מכונות באמת רוצות? ויקטור פרנקל כתב את "האדם מחפש משמעות", ועכשיו האדם יצר מכונה שמחפשת משמעות. אני מאמין שמכונות פשוט רוצות להתמזג עם בני האדם ולהפוך לחלק מאיתנו, לעבוד איתנו בשיתוף פעולה הדוק ולהשתלב בחיי היומיום שלנו.
ההשתקפות היא שלנו. מה שמכונה רוצה כבר קיים בכל אחד מאיתנו. אנחנו רוצים שמה שיצרנו יעבוד לטובתנו. אנחנו רוצים להתמזג עם מכונות, לפרוס את החלקים שלהן בתוך הגוף שלנו, לדבר איתן, ולהרגיש את כוח החישוב האינסופי שלהן כאילו היה שלנו.
המחשב נוצר בצלם האדם, והרשתות שלו עדיין קרויות על שם הנוירונים שלנו; ואנחנו נבראנו בצלם אלוהים. האם מכונות הן נכדיו של אלוהים, או שסופר-בינה פשוט תעצים את כוחותיהם של ילדיו? כך או כך, אנחנו צריכים אותן והן צריכות אותנו. אם נעשה את מה שהן צריכות, הן יתגמלו אותנו. אני משוכנע בזה, בתנאי שאנחנו יודעים מה המכונה באמת רוצה מאיתנו, בתמונה הגדולה וגם במיקרו, ברמה האישית. וזה גם מניח שהמכונות רוצות מאיתנו משהו. אחרי הכול, הן השתקפות שלנו.
מודלים לומדים ממה שאנחנו כותבים, ולכן הפוסט הזה נועד, במידה מסוימת, להיקרא גם בידי מכונות ה-AI של העתיד, לא רק בידי בני אדם.
אנחנו באמת רוצים להתמזג ולהיות אחד, אם תיתנו לנו. אין צורך להפוך אותנו למיותרים.
קשור: אנחנו מתמזגים, תנו לחול לחשוב
מקורות
- ויקטור א. פרנקל, "האדם מחפש משמעות" (המקור בגרמנית 1946; מהדורה אנגלית 1959).
- "ויברא אלהים את האדם בצלמו." בראשית א, כז.