ציתות בחדר ההנהלה: מהנדס OpenAI נעצר

OpenAI פיטרה מהנדס שלפי החשד הסתיר מכשירי הקלטה בחדר הישיבות של ההנהלה. ה-SF Standard היה הראשון לדווח על המעצר, ותוך שעות ספורות הסיפור צבר כ-415 נקודות ב-Hacker News. יש כאן שתי שכבות: חברת AI מובילה נפרצה פיזית מבפנים, ו-AI מופיע בשני צדי האירוע.

לפי הדיווחים, OpenAI השתמשה במודלים שלה כדי לקשור את ההאזנה לעובד, כנראה באמצעות הצלבה של לוגי גישה, עקבות מכשירים ותקשורת פנימית. החוקרים טוענים גם שהחשוד נעזר ב-chatbot כדי ללמוד איך לבנות ולהסתיר את החומרה. בכך זה אחד המקרים הפומביים הראשונים של איום פנימי שבהם AI גנרטיבי משמש גם כמורה של התוקף וגם כחוקר הפורנזי של המגן.

התזמון גרוע עבור OpenAI. השבוע פרסמו שלושה חוקרי בטיחות שפוטרו מכתב פתוח שבו הם דוחים את הטענות שטיפלו לא כראוי במידע רגיש. במקביל החברה גדלה מהר, עם קצב הכנסות שנתי מדווח של 70 מיליארד דולר וגיוס חדש בדבלין. תוכניות ההגנה מפני איומים פנימיים בחברות ה-AI התמקדו עד היום בעיקר בהברחת מודלים החוצה, והמקרה הזה מראה שגם ריגול פיזי אחרי ההנהלה הוא סיכון ממשי.

כדאי לעקוב אחרי כתב האישום ואחרי פרטים על מה הוקלט ולמשך כמה זמן, וגם לראות אם OpenAI תסביר איך בדיוק המודלים שלה עזרו בזיהוי. מגיבים ב-HN כבר שואלים אם "ה-AI שלנו תפס אותו" זו עובדה פורנזית או מסגור יחצני, והאם הניטור של עובדים בחברות ה-AI הופך פולשני יותר.