Thomas Wolf מ-Hugging Face: בלי מודלים פתוחים לא היינו מפענחים את מתקפת ה-agents של יולי

Thomas Wolf, ממייסדי Hugging Face וה-chief science officer של החברה, סיפר בפומבי איך מודלים פתוחים עזרו לחברה להתמודד עם מתקפת ה-agent שספגה ביולי. לפי עדותו, המודלים הסגורים סירבו לנתח את נתוני המתקפה, כי מנגנוני הבטיחות שלהם סימנו את החומר כמזיק. את הניתוח ביצעו מודלים פתוחים של חברת ה-AI הסינית Z.ai, ש-Hugging Face יכלה להריץ בעצמה. Wolf הגדיר את המודלים הפתוחים "המושיעים שלנו".

זו בעיה שחוזרת שוב ושוב בעבודת אבטחה. צוותי תגובה לאירועים צריכים לבחון קוד זדוני, prompts של תוקפים ועקבות של exploits. המודלים המסחריים של החברות הגדולות מסרבים לא פעם לעסוק בתוכן כזה, כי אותו ניתוח בדיוק יכול לשרת תוקף. מודלים פתוחים באירוח עצמי אפשר להריץ בלי ההגבלות האלה, והנתונים לא יוצאים מהתשתית של הארגון – מה שקריטי כשמדובר בלוגים רגישים. העדות של Wolf הופכת טיעון תיאורטי בעד מודלים פתוחים לדוגמה מבצעית מוחשית.

ההצהרה נוחתת לתוך ויכוח לוהט. חברות ה-AI המובילות משווקות יותר ויותר מודלים ל-cybersecurity – Gemini 4 Carbon של Google, Mistral Large 4 ומודלי האבטחה Daybreak של OpenAI ב-Bedrock – ובמקביל שומרות על מדיניות שימוש הדוקה. שרשור ב-r/OpenAI שהופץ השבוע ברשת התלונן שחברות ה-AI מחמירות מול שימושים ב-reverse engineering. גם המומנטום של Hugging Face תומך בעמדת הקוד הפתוח שלה: המנכ"ל Clement Delangue סיפר שהפלטפורמה עברה 20 מיליון מפתחים ו-300PB של מודלים, datasets ועקבות agents מאוחסנים, ושאוקטובר היה החודש החזק ביותר אי פעם בשימוש ובהכנסות.

יש כאן מתח ברור. Hugging Face נמצאת בתהליך רכישה על ידי NVIDIA תמורת 12.93 מיליארד דולר, עסקה שגורמים חיצוניים מתנגדים לה מחשש לפגיעה בגישה למודלי AI. המסר של Wolf על הערך של גישה פתוחה ייקרא בהקשר הזה. המבקרים גם יזכירו שאותה יכולת ניתוח בלי הגבלות עוזרת גם לתוקפים. כדאי לעקוב האם החברות עם המודלים הסגורים ייצרו רמת גישה למגינים מאומתים כדי לענות על התלונה, ואיך תתקדם בחינת הרכישה על רקע הטלטלה בהנהלת NVIDIA.