ב-Phantom Auto, מפעיל מרחוק בקליפורניה יכול היה לנהוג ברכב בלאס וגאס. המכונה טיפלה בתנועה השגרתית. אדם נכנס לתמונה כשהמצב נעשה לא ודאי. בנינו את החברה סביב העברת השליטה הזאת.
סוכני AI מביאים את אותו הסדר לעבודת ידע.
"לא נוכל לראות את עצמנו כפי שאנחנו באמת, עד שנראה שאנחנו הקיבורגים שהטבע עצמו יצר." (Andy Clark, Natural-Born Cyborgs)
Clark כתב את זה על כלים באופן כללי. סוכנים הופכים את זה למילולי: אדם ומכונה שפועלים כמערכת אחת, עם קו ביניהם שמישהו צריך לשרטט.
מה אני מבקש מהכלים
ככל שה-AI משתפר, אני כותב יותר פרומפטים.
מודלים טובים יותר גורמים לי לנסות יותר. אני נותן להם יותר עבודה, ואז משקיע יותר זמן בהחלטה מה לעשות עם התוצאות.
ועדיין, מישהו צריך להפעיל את השרתים, לתחזק את התוכנה ולטפל בתקלות, ואני לא רואה את העבודה הזאת נעלמת.
מתי המכונה צריכה לעצור ולשאול
אילו החלטות המערכת צריכה להחזיר לאדם, ומה הוא צריך לראות כדי להחליט? המיזוג נעשה בטוח יותר כשהעברת השליטה מפורשת: המכונה נתקלת באי ודאות, מחיר הטעות עולה, או משהו הופך בלתי הפיך, והעבודה עוברת לאדם יחד עם כל מה שהמכונה ראתה. הקו הזה מפריד טיוטה מהודעה שנשלחה, המלצה מתשלום, סימולציה מרכב שנע בעולם האמיתי.
ב-Phantom Auto, הפלטפורמה נתנה למפעילים מרחוק תצוגת 360 מעלות בזמן אמת של סביבת הרכב, ואפשרה להם לעבור בין רכבים בלחיצת כפתור. הם היו צריכים לראות מספיק מהמצב כדי לקחת שליטה כשנקראו לכך.
Phantom Auto נסגרה לאחר שלא הצליחה לגייס מימון חדש. הדפוס לא מת עם החברה. כיום, Waymo ו-Tesla כל אחת מעסיקה מאות מפעילים אנושיים מרחוק שמסייעים לרכביהן האוטונומיים בזמן אמת. ככל שהמכונות משתפרות, העברת השליטה עוברת להחלטות קשות יותר.
ב-mixus, סוכן יכול להכין את העבודה בתוך שרשור האימייל, ואז לחכות לאדם שצריך לאשר אותה.
הרבה כשלים של AI מודרני מגיעים מחצייה של הקו הזה מבלי להבין זאת. באפריל 2025, בוט תמיכה של Cursor המציא כלל, "מכשיר אחד למנוי," ומשתמשים התחילו לבטל. המשתמשים קיבלו את דברי הבוט כמדיניות רשמית, למרות שאף אדם לא קבע מדיניות כזאת.
מחיר הטעות
אני יכול לתת לסוכן לנסות כמה טיוטות או לבחון תוכנית; כל עוד העבודה נשארת בפנים, הטעויות הן טיוטות שאף אחד לא קרא.
שליחת הודעה ללקוח, ביצוע תשלום או הזזת רכב דורשים יותר זהירות. אנשים אחרים מושפעים, וגם אם אפשר לבטל את הפעולה, לא בהכרח אפשר לבטל את הנזק.
הרעיון של קלארק חוזר אליי כשאני עובד עם סוכנים. אני משתמש בכלים האלה כל יום, ועדיין צריך להחליט אילו החלטות אני מוכן להעביר אליהם.
המכונה מאפשרת לך לעשות יותר. החלק הקשה הוא להחליט איפה היא חייבת לעצור ולשאול.