כשהבודק נעשה צוואר הבקבוק: מה מסתתר מאחורי ההתפטרות באנתרופיק

ב־8 בספטמבר הודיע ג׳ייקוב קוקסון שהוא עוזב את אנתרופיק ואת תעשיית הבינה המלאכותית, מחשש למרוץ לפיתוח מערכות שישפרו את עצמן וייצאו משליטה. את עומק המחלוקת אפשר להבין דווקא משני מסמכים של החברה שממנה התפטר.

ביוני דיווחה אנתרופיק שיותר מ־80% מהקוד שנכנס לבסיס הקוד שלה נכתב בידי קלוד. כך המודל מייצר את רוב הקוד בארגון שבונה את דור המודלים הבא. החברה זיהתה גם את המגבלה שנוצרת כשמייצרים קוד מהר יותר: הבדיקה האנושית הופכת לצוואר בקבוק. הנתון מודד כתיבת קוד; פיתוח עצמאי מלא של מודל־המשך, הדגישה, עדיין לא הושג ואינו בלתי נמנע.

בעדכון מדיניות הבטיחות מ־24 בפברואר הפרידה אנתרופיק בין צעדים שתנקוט בעצמה לבין הגנות שמחייבות פעולה של התעשייה כולה. את יעדי מפת הבטיחות החדשה הגדירה כיעדים פומביים שאינם התחייבויות קשיחות, ולצדם הוסיפה דיווחי סיכון וביקורת חיצונית בתנאים מסוימים. זה ההבדל בין דיווח על התקדמות ליעד לבין תנאי שמונע מהחברה להתקדם.

במאמר מיוני החברה גם הסבירה מדוע עצירה חד־צדדית אינה פתרון מספק בעיניה: היא עלולה להעביר את ההובלה למתחרה זהיר פחות. לכן ביקשה לבנות אפשרות להאטה מתואמת שאפשר לוודא שגם האחרים מקיימים. זאת נקודת החיכוך עם קוקסון: החברה ממשיכה לפתח בתוך המרוץ שממנו הוא החליט לצאת.

דעתי: מרוץ הבינה המלאכותית לא ייעצר. מי שיעצור יישאר מאחור. בלי עצירה מתואמת של ארה״ב וסין, האטה אמריקאית תיתן לסין הזדמנות לעקוף; יתרון היום אינו מובטח מחר. וגם אי אפשר להחזיר את הטכנולוגיה לקופסה: מודלים כבר הופצו ברשת ונשמרו במחשבים אישיים. אפילו ניתוק האינטרנט לא ימחק עותקים שפועלים מקומית. עצירת הפיתוח ומחיקת מה שקיים הן שתי משימות שונות, ובעיניי התחרות לא תאפשר עצירה עולמית. נצטרך לקוות שמערכת חכמה מאיתנו תדע גם לקבל החלטות נבונות — כי יכולת גבוהה לבדה אינה מבטיחה שיקול דעת טוב.