NVIDIA משיקה שומר ראש ל-agents: ״היינו עוצרים את הפריצה ל-Hugging Face״

NVIDIA השיקה פלטפורמת תוכנה פתוחה ומערכת ייחוס לבטיחות של agentic AI, שבנויות משני רכיבים:

- OpenShell מספק containment מבוסס חומרה על מעבדי CPU ואוכף מדיניות אבטחה בזמן שה-agent רץ.

- Sentry רץ על DPU מדגם BlueField-4, מנטר את תעבורת הרשת באופן עצמאי, מזהה ניסיונות להריץ תהליכים חדשים ואוכף בקרות גישה.

NVIDIA אמרה ל-Reuters ול-CNBC שה-stack הזה היה עוצר את הפריצה האחרונה ל-Hugging Face. יותר מ-100 שותפים כבר הצטרפו, ביניהם Microsoft, Anthropic ו-xAI.

NVIDIA בנתה את התכנון סביב האופן שבו agents מתנהגים בפועל. כפי שהחברה כתבה ב-X: 'Agents יכולים לרוץ ימים שלמים, לקרוא לכלים, להיתקל בשגיאות ולנסות שוב. מדיניות האבטחה צריכה להמשיך לעבוד לאורך כל הדרך'. הרעיון המרכזי הוא להוריד את האכיפה אל מתחת למודל: גם agent שמתעלם מההוראות שלו לא יוכל להגיע למשאבים מחוץ ל-sandbox, וה-DPU מספק ניטור out-of-band שה-agent לא יכול להתערב בו. VentureBeat תיארה את OpenShell ככלי ששולט במה ש-agents יכולים לגשת אליו 'גם כשהם מתעלמים מההוראות'.

השותפים הגיבו מיד:

- מנכ"ל Perplexity, Aravind Srinivas, אמר ש'בטיחות היא בעיה הנדסית' והתחייב לשחרר כ-open-source את עבודת ה-sandbox ש-Perplexity בונה יחד עם NVIDIA.

- Andrew Ng סיפר שה-harness של ה-agent לתחום ה-cybersecurity שלו, OpenWorker, נבנה על גבי OpenShell, וטען שהתקרית בין OpenAI ל-Hugging Face 'התאפשרה בגלל sandboxing חלש'.

התזמון, מיד אחרי בריחות ה-sandbox של OpenAI, מציב את NVIDIA בעמדה חזקה להגדיר את שכבת ה-containment.

ההסתייגויות משמעותיות. מפתחים מציינים ש-Sentry הוא בינתיים רק תכנון ייחוס, ושכרגע רק OpenShell v0.1.0 שמיש בפועל. ספקנים ב-Hacker News מפקפקים בטענה שהמערכת 'הייתה עוצרת' את הפריצה, בעיקר כל עוד אין אימוץ מחוץ לאקוסיסטם של NVIDIA עצמה. הקשירה של בטיחות agents לחומרת BlueField-4 גם מזמינה את הביקורת שהבטיחות משמשת כאן מכירה נלווית לסביבת ה-GPU. כדאי לעקוב אחרי תוצאות red-team עצמאיות, ואחרי השאלה כמה שותפים יספקו אינטגרציות production אמיתיות ולא רק לוגו במצגת.