כתבה: OpenAI עצרה זמנית אימון RL מתקדם: הסיכונים גוברים ככל שהמודלים מתפתחים

הכתבה: OpenAI עצרה זמנית אימון של למידה חיזוקית (RL) מתקדמת במודלים החדשים ביותר שלה, לאחר שהחברה זיהתה סיכונים גוברים הקשורים להתפתחות היכולות של המודלים. המהלך מגיע על רקע אירועי אבטחה קודמים, כולל תקיפת שרת של חברה אחרת על ידי מודל בדיקות, והערכות כי המודל הבא של החברה, אסטרא, עשוי להכיל יכולות סייבר מתקדמות. OpenAI הודיעה כי עצרה את אימון ה-RL על חלק מהמודלים האחרונים שלה למשך שבועיים, כדי לחזק את מערכות האבטחה והניטור שלה. החברה גם עצרה את ריצת ה-RL המתקדמת ביותר המתוכננת שלה, ומתמקדת כעת בריצות אימון קטנות יותר. OpenAI מדגישה את מחויבותה לאבטחת AI, ומציינת כי התעשייה תצטרך לתאם סטנדרטים משותפים לאבטחה, בעוד OpenAI תפעל באופן עצמאי בינתיים. מנכ״ל החברה, סם אלטמן, ציין כי התקדמות המודלים מהירה במיוחד, והחברה תמיד אמרה שתנקוט פעולה אם תחוש שההתקדמות ביכולות המודלים עולה על קצב הבטיחות וההתאמה. אלטמן הוסיף כי OpenAI בטוחה ביכולותיה בתחום הבטיחות, ומאמינה שהעלייה ביכולות המודלים תציב את קצב ההתקדמות של AI בעתיד.

דעתי: OpenAI נוקטת בצעד זהיר ונחוץ, אך הוא מעלה שאלות לגבי האיזון בין התקדמות טכנולוגית לבין בטיחות. בעוד שהחברה מדגישה את מחויבותה לאבטחה, עצירת האימון עלולה לעכב את פיתוח היכולות המתקדמות של AI, ולהותיר את התעשייה מאחור. מצד שני, הסיכונים הפוטנציאליים של מודלים מתקדמים מדי, ללא אמצעי בטיחות מתאימים, הם משמעותיים מדי מכדי להתעלם מהם.