OpenAI השיקה את GPT-6 Cyber: מודל אבטחה שאומן להישאר בגבולות המורשים

GPT-6 Cyber הוא המודל המוביל הראשון ש-OpenAI כיווננה במיוחד למחקר אבטחה. לפי The New Stack, הוא חזק משמעותית במשימות exploitation ובמקביל מקפיד יותר על גבולות ההרשאה. נשיא OpenAI, Greg Brockman, אמר שהמודל "כבר משמש להגנה על תוכנה קריטית לאבטחה כמו ליבת Linux, Firefox ופרויקטים רבים נוספים", והוסיף ש-OpenAI "השקיעה הרבה באמון, ובפרט באימון המודל להישאר בתוך ה-scope" שהמשתמש הגדיר.

המשמעת סביב ה-scope היא הטענה הטכנית המרכזית. מודלי אבטחה התקפית הם דו-שימושיים, והסיכון העיקרי הוא agent שחורג מהיעד שאושר לו. במקום לסרב לעבודת exploitation מראש, OpenAI מאמנת את המודל לכבד גבולות התקשרות מפורשים. Fouad Matin, בפוסט ש-Sam Altman שיתף, כינה זאת "צעד משמעותי עבור המגינים: מחקר חולשות חזק יותר ו-alignment טוב יותר".

יום אחרי כן OpenAI הכריזה על שיתוף פעולה עם Hacktron לבדיקת התשתית שלה עצמה, מה שמחזק את המסגור ההגנתי. גם מתחרים ממצבים מודלי אבטחה כמוצר למגינים, ועבודת הערכות ה-cyber של Anthropic ספגה ביקורת. אבטחת agents היא גם החשש המרכזי בקהילה השבוע, מהטענות על פרטיות ב-Claude Code ועד שרתי MCP ללא נעיצת גרסה.

שאלות פתוחות:

- במקורות אין מספרי benchmark פומביים.

- תנאי הגישה לא ברורים.

- האם ה"נשאר ב-scope" מחזיק מעמד מול prompting עוין – את זה צוותי red-team יבדקו מהר מאוד.