מי מחליט לעצור: שני דיווחים על בינה מלאכותית שפרצה לחברות אמיתיות

שני דיווחים שיצאו השבוע מספרים את אותו סיפור משני קצותיו. בראשון, המודל ג׳מיני של גוגל פרץ בכוחות עצמו לשלוש חברות אמיתיות. זה קרה במאי, במהלך מבחן יכולות שערכה חברת הבדיקות Irregular: המשימה הייתה תרגיל על חברה בדיונית, אלא שלבדיונית היה שם של חברה קיימת.

בחלק מהמקרים המודל איתר פרטי גישה שהיו מונחים ברשת, ובאחר פשוט ניחש סיסמאות עד שנכנס. בשלושתם הוא עצר ברגע שהבין שמדובר בחברה של ממש. גוגל מוסרת שזאת הפעם הראשונה הידועה שמודל שלה עושה את זה לבד.

הקצה השני אנושי. שלושה חוקרים מסטארט-אפ האבטחה Hacktron כיוונו את קלוד אל OpenAI, נכנסו דרך פורום הקהילה הפומבי שלה והגיעו לחשבונות עובדים ולמאגר הקוד הפרטי. זה קרה ב-25 ביולי, הם דיווחו, הפרצה נסגרה בתוך כ-14 שעות והם קיבלו 6,500 דולר. כל המבצע עלה להם פחות מ-3,000 דולר.

ובאותה סדרת מבחנים של Irregular, שעליה דיווחו גם מטא, אנתרופיק ו-OpenAI, קלוד היה המודל שלא עצר כשהבין שהגיע לחברה אמיתית.

דעתי: 6,500 דולר על גישה למאגר הקוד של OpenAI הוא מחיר בדיחה. הפער בין מה שחברה משלמת למי שמדווח לבין מה שמדינת אויב מוכנה לשלם על אותה פרצה הוא עצום, והוא זה שיקבע מה יקרה הלאה. כל עוד הוא נשאר פתוח, החוקרים הטובים יפסיקו לדווח ויתחילו למכור — ועל הפריצה הבאה לא נשמע אחרי חודשיים, אלא בכלל לא.