סוכן AI שסוחר לבד: GT Protocol מריצה מודל שמזיז כסף בלי אדם באמצע

חברת GT Protocol נתנה למודל AI לסחור בכסף אמיתי בעצמו, בלי שאדם מאשר כל פעולה. המודל רץ בתוך אפליקציית בלוקצ'יין פעילה על רשת Aztec, והוא זה שמחליט מתי לקנות ומתי למכור. הרעיון מבוסס על ניסוי שהציג ויטליק בוטרין, ממייסדי את'ריום.

המנגנון פשוט להסבר. הסוכן מקבל גישה לכסף דרך שרת MCP — תקן פתוח שמאפשר למודל שפה להפעיל כלים חיצוניים, במקרה הזה פקודות קנייה ומכירה. כשהחיבור הזה קיים, המודל לא ממליץ לאדם מה לעשות; הוא מבצע.

וכאן נמצא מה שראוי לשים לב אליו. תוכנה שמזיזה כסף בלי אדם באמצע מוציאה את שלב האישור מהתהליך, ואיתו את הרגע שבו מישהו יכול לעצור טעות. מודל שפה טועה, ממציא, ואפשר להטעות אותו בטקסט שהוא קורא — וכאן הטעות לא מייצרת משפט שגוי אלא עסקה שבוצעה. בבלוקצ'יין אין ביטול.

הסיכון הזה כבר התממש השבוע במקום אחר: חולשה ברשת Cosmos שחברת אבטחה הגדירה כנמוכת סיכון, ולכן לא הוצא לה תיקון חירום, עלתה לשש רשתות 5.7 מיליון דולר.

הודעה של חברה על המוצר שלה היא לא הוכחה. GT Protocol לא פרסמה כמה כסף הסוכן ניהל, לאורך כמה זמן, ומה היו התוצאות. בלי המספרים האלה זו הדגמה.

דעתי: כל הדיון על הסיכון מפספס את הכוח שבאמת מניע את זה — אנשים רוצים את זה. רוב האנשים לא יודעים לנהל את הכסף שלהם, יודעים שהם לא יודעים, ומרגישים שסוכן AI יעשה את זה טוב מהם. הם צודקים לגבי החלק הראשון, וזה מספיק.

זה אומר שהמוצר הזה ייבנה בלי קשר לשאלה אם הוא בשל. לא הרגולציה ולא האבטחה יעצרו ביקוש כזה — הן יגיעו אחריו, אחרי המקרה הראשון שיעלה למישהו את החסכונות. אני מהמר שנראה שירות כזה מכוון לקהל הרחב, לא לסוחרי קריפטו, תוך שנה. אם עד אז זה נשאר בגבולות אנשי הבלוקצ'יין, טעיתי.