הקוד הפתוח קנה לעצמו מפעל חשמל: מה מסתתר מאחורי עסקת 250 המגה-וואט
היום, ה-31 באוגוסט, פרסמו שלוש חברות בהפרש של שעתיים שלושה חלקים של אותו סיפור. בשעה 11:28 הודיעה AMD שתשתית מחשוב שלה כבר פועלת בסעודיה ומשרתת לקוחות של HUMAIN, חברת תשתיות הבינה המלאכותית הסעודית, ושבשלב הבא בכוונתן לפרוס יחד עד 250 מגה-וואט. בשעה 13:26 הודיעה Together AI שחתמה על מרכז נתונים בדיוק באותו הספק, עם למעלה מחמישה מיליארד דולר הכנסה שנתית צפויה, ושהוא נבנה עם אותה HUMAIN.
מגה-וואט הוא היחידה שבה מודדים מרכזי נתונים — לא שטח ולא מספר מכונות, אלא כמה חשמל אפשר להזרים פנימה, כי זה מה שקובע כמה שבבים ירוצו שם בפועל. 250 מהם זה סדר גודל של מתקן שנבנה לחברה אחת, לא שרת שכור אצל מישהו אחר.
והמשפט המעניין הוא לא המספר אלא מי חתום עליו. Together AI מוכרת הרצה של מודלים בקוד פתוח, והיא ניסחה זאת בעצמה: מודלים סגורים נהנו שנים ממימון של ענקיות הענן, והקוד הפתוח מתחיל להדביק רק עכשיו. באותו יום עצמו הודיעה CoreWeave שהיא מריצה את Kimi K3 — לדבריה המודל הפתוח הגדול בעולם, 2.8 טריליון פרמטרים — כשירות ייעודי ללקוחות.
דעתי: מודלים פתוחים תמיד היו זולים יותר להרצה, אבל אף אחד לא מימן עבורם ברזל, כי לא היה את מי לחייב. חמישה מיליארד דולר בשנה הם התשובה לשאלה הזאת, וזו הסיבה שהעסקה נחתמה. שווה לשים לב מאיפה הגיע הכסף: לא מענקית ענן אמריקאית שקונה נתח בשוק שהיא כבר שולטת בו, אלא ממדינה שקונה לעצמה מקום בשרשרת האספקה. השאלה מפסיקה להיות אם מודל פתוח מתקרב לסגור — glm-5.3 כבר טוען לכך בבנצ'מרקים — ונעשית שאלה על מי הבעלים של המכונות שהוא רץ עליהן.
