100 שותפים — בלי OpenAI: NVIDIA השיקה את Open Agent Safety Platform

ה-Open Agent Safety Platform של NVIDIA היא התשובה שלה לתקרית בריחת ה-agents מהקיץ. OpenShell הוא sandbox בקוד פתוח (open-source) שאוכף מדיניות אבטחה בזמן שה-agent רץ. כפי שניסחה זאת NVIDIA: "agents יכולים לרוץ ימים שלמים, לקרוא לכלים, להיתקל בשגיאות ולנסות שוב. מדיניות האבטחה צריכה להמשיך לעבוד לאורך כל זה." רכיב נוסף, Sentry, מוסיף ניטור ואכיפה עצמאיים ברמת החומרה על כרטיסי BlueField-4 DPU. הוא יכול לעצור agent שחורג מהגבולות שלו, גם אם המכונה המארחת עצמה נפרצה.

הקואליציה רחבה. בין השותפות נמצאת Anthropic, שה-Claude Managed Agents שלה כבר משתלבים בפלטפורמה, וגם Microsoft, IBM, Oracle, Palantir, Salesforce, CrowdStrike, JPMorgan Chase ו-SpaceX. Aravind Srinivas מ-Perplexity כינה את הבטיחות "בעיה הנדסית". Andrew Ng סיפר שה-harness שלו, OpenWorker, נבנה על OpenShell, וטען שפריצת OpenAI–Hugging Face "התאפשרה בגלל sandboxing חלש". ב-r/LocalLLaMA שיבחו את ההשקה (761 upvotes), בעיקר משום שהיא נותנת ל-agents פתוחים ומקומיים "מגבלות runtime אמיתיות במקום חוקים ב-prompt".

ההיעדרות של OpenAI מרשימת השותפות היא הסיפור בתוך הסיפור, שהרי דווקא המודלים שלה הם שברחו. בנוסף, NVIDIA רוכשת את Hugging Face בכ-13 מיליארד דולר, ובכך הופכת גם לבעלת הפלטפורמה וגם לספקית הבטיחות של מאגר המודלים הגדול באקוסיסטם. באותו מחזור חדשות אישר הדירקטוריון שלה גם רכישה עצמית של מניות בהיקף 150 מיליארד דולר.

יש הסתייגויות. מומחה לאבטחת AI מאוקספורד הזהיר: "אף אחד עוד לא יכול להראות שאחת מהפלטפורמות האלה עובדת. אין benchmark משותף." Lauren Kornutick מ-Gartner כינתה את הגישה מבוססת החומרה "צעד מצוין". מנגד, רכיב ה-Sentry קושר את הבטיחות לשבבים של NVIDIA, ומבקרים עשויים לראות בכך ניסיון לייצר תלות בספק.