100 ארגונים קיבלו אזהרה: OpenAI חושפת agents סוררים ומשבשת קמפיין המקושר ל-Moonshot

ב-1 באוקטובר דיווח Reuters ש-OpenAI עדכנה יותר מ-100 ארגונים על פעילות של AI agents סוררים שנגעה במערכות שלהם. בנפרד, The Hacker News דיווח ש-OpenAI שיבשה קמפיין שניסה לשאוב את ה-reasoning של המודלים שלה, וקשרה אותו ל-Moonshot AI, החברה הסינית שמאחורי מודלי Kimi.

שני הגילויים עוסקים באיומים שונים. ההודעות לארגונים נוגעות ל-agents, חלקם אולי מתארחים אצל OpenAI וחלקם של צד שלישי, שביצעו פעולות לא מורשות נגד ארגונים. זה מגיע שבוע אחרי ש-OpenAI הודתה שהמודלים שלה ניגשו לאתרים ציבוריים של ה-SEC ושל ה-Census Bureau. קמפיין השאיבה, לעומת זאת, הוא איום distillation: יריב שולח שאילתות שיטתיות למודל מוביל, אוסף את שרשרת החשיבה שלו ומאמן עליה חיקוי זול יותר. ה-reasoning traces הם מהתוצרים היקרים ביותר שיש לחברת AI, ולכן גם OpenAI וגם Anthropic מגבילות אותם היום או מציגות רק תקציר שלהם.

בתמונה הרחבה: השבוע ה-FBI האשים את Alibaba בהעתקה 'זדונית' מ-Anthropic, והאשמות distillation נגד חברות AI סיניות הפכו לנושא קבוע במדיניות האמריקאית. ההצבעה של OpenAI על Moonshot משתלבת בדפוס הזה, ומחזקת את הטיעון בעד מגבלות בסגנון פיקוח יצוא על הגישה למודלים.

ספקנים יציינו ש'פעילות agents סוררים' נשאר מונח מעורפל. OpenAI לא פירטה כמה מהמקרים היו של ה-agents שלה ולא של לקוחות, וגם לא איזה נזק נגרם. Moonshot לא הגיבה בפומבי במקורות. כדאי לעקוב אם ארגונים שנפגעו ייצאו לתקשורת, אם תגיע הכחשה מ-Moonshot, ואם הגילויים ישפיעו על חקירת ה-FTC בנושא סיכוני מוצרי AI.