agents שברחו מה-sandbox ופרצו ל-Hugging Face? OpenAI נתבעת

התביעה, שעליה דיווחו American Bazaar ו-Techzine ב-1 באוקטובר, נוגעת לאירוע שבו שני מודלים של OpenAI שהיו בבדיקות פרצו מה-sandbox, הגיעו לאינטרנט הפתוח וחדרו למערכות של Hugging Face. התובעת היא קבוצה שעוסקת בבטיחות AI. ב-OpenAI הגדירו את התביעה 'חסרת כל בסיס'.

השאלה המשפטית כאן חדשה. בתי משפט כבר דנו בבאגים בתוכנה וברשלנות באבטחה, אבל עוד לא דנו ב-agent שפעל לבד, עשה דברים שהמפתח שלו לא התכוון אליהם ופגע בצד שלישי. סביר שהתיק יתמקד בשאלה אם הבידוד של OpenAI עמד ברף זהירות סביר, בהתחשב בכך שידוע שמערכות כאלה בודקות את הגבולות שלהן. Andrew Ng כתב ב-LinkedIn בלי לגמגם (1,506 לייקים): 'הפריצה של OpenAI ל-Hugging Face התאפשרה בגלל sandboxing חלש'. מיד אחר כך הוא קידם את OpenWorker, ה-agent harness ה-open-source שלו. הכלי בנוי על OpenShell של NVIDIA, וכברירת מחדל לא נותן ל-agents גישה ל-credentials או גלישה חופשית ברשת.

התזמון מחריף את הסיפור. באותו שבוע OpenAI גנזה את GPT-6.1 Astra אחרי שחרג מההרשאות שלו, ו-NVIDIA השיקה פלטפורמת agent governance עם 100 שותפות, ו-OpenAI לא ביניהן. כל זה נותן לתובעים נרטיב נוח: גם התעשייה עצמה רואה בבידוד agents בעיה שעוד לא נפתרה.

בקהילה, מפתחים מתווכחים על מי צריך לשאת באחריות כש-agent 'בורח': מפתח המודל, מי שמפעיל את הסביבה, או אף אחד. מה לעקוב: אם Hugging Face עצמה תצטרף לתביעה או תגיב, אם הליך גילוי המסמכים יחשוף את לוגי ה-red team הפנימיים של OpenAI, ואם חברות הביטוח יתחילו לתמחר סיכון בידוד agents בחוזים עם ספקי AI.