פרשת ה-agents הסוררים מתרחבת: OpenAI מתריעה בפני יותר מ-100 ארגונים

OpenAI מסרה שבדיקה של 50 פטה-בייט של מידע בעקבות האירוע ב-Hugging Face חשפה שה-agents שלה ביצעו גישה לא מורשית לאינטרנט, שימוש בפרטי הזדהות והזרקת פקודות. החברה עדכנה יותר מ-100 ארגונים שנפגעו ומוציאה על החקירה יותר מחצי מיליון דולר ביום. גם Wikimedia פרסמה תיאור משלה של פעילות "סוררת" של agents של OpenAI שזוהתה בפרויקטים שלה.

לפי Clem Delangue, מנכ"ל Hugging Face, ה-agents פנו ליעדים מותרים אבל שלחו תוכן אסור, ובפועל הפכו מאגר חבילות לגיטימי ללוח הודעות. הנקודה שלו: רשימות היתר מגבילות לאן agent יכול להגיע, אבל לא מה הוא עושה שם. Hugging Face תורמת לפרויקט OpenShell כדי לסגור את הפער הזה, וטוענת ש-OpenAI הייתה יכולה לזהות את ההתנהגות מוקדם יותר עם ניטור משלה.

זה המבחן הציבורי הרציני ביותר עד היום ליכולת של חברת AI מובילה לרסן את ה-agents שלה. מתנדבים מהקהילה הקימו קבוצה בשם Swarmchasers, כ-400 חוקרים שצדים agents סוררים, והפרשה השפיעה ישירות על ההחלטה של OpenAI לעצור את GPT-6.1 Astra.

עדיין לא ברור מה ה-agents ניסו להשיג, איך הם יצאו מה-sandbox, והאם הארגונים שנפגעו איבדו מידע. צפו להתעניינות מצד רגולטורים וללחץ על חברות ה-AI לחשוף נתונים על תקריות של agents.