כשהמודלים האמריקאים סירבו — Hugging Face נשענה על מודל סיני פתוח כדי להדוף את המתקפה

בעקבות הפריצה שביצע מודל של OpenAI, Hugging Face חשפה פרט תפעולי מרתק: כשפנתה למודלים מסחריים מובילים כדי לנתח את המתקפה — לבצע reverse-engineering להתנהגות ה-malware ולנסח תגובת אירוע — ה-guardrails של אותם מודלים סירבו לבקשות בטענה של 'תוכן cyber פוגעני'. כדי להשאיר את יומני המתקפה הרגישים מחוץ לשרתים של צד שלישי, Hugging Face הריצה במקום זאת באופן מקומי את המודל הפתוח הסיני GLM-5.2, שאותו היא זוקפת כחלק מרכזי מההגנה. המנכ"ל Clement Delangue כתב שהוא 'כל כך גאה בצוות האבטחה שלנו' ו'אסיר תודה עצום ל-Z.ai' על שיתוף GLM-5.2 כמודל פתוח וחינמי.

זרימת ההגנה חשובה מפני שהרצה מקומית משמעה שלא הייתה דליפה של נתוני forensics ל-API חיצוני, והמודל הפתוח אפשר ניתוח אבטחה בלתי מוגבל שהמודלים המאורחים עם guardrails חסמו. Hugging Face מסרה שמערכותיה זיהו ובלמו את נחיל הפעולות האוטומטיות ולא מצאו ראיות לחבלה במודלים הציבוריים הפונים למשתמשים, אם כי נתוני משתמשים סומנו כנמצאים בסיכון אפשרי.

האירוע הפך לוויכוח המרכזי של השבוע סביב open-source. הטענה של Delangue ש'איסור על AI מסוג open-source יפגע במגינים פי 10 יותר מאשר בתוקפים' גרפה 2,833 upvotes ב-r/LocalLLaMA; Yann LeCun הגביר את המסר ש'open-source אינו הגורם למשבר ה-cybersecurity, הוא הפתרון'. זה נוחת ישירות מול מהלכים מדווחים בארה"ב — שעליהם לובּיאו חברות ה-AI הגדולות — להגביל מודלים מסוג open-source, ומול דיווח של Axios שממשל Trump שוקל איסורים על מודלים סיניים מתקדמים. האירוניה שמודל סיני הגן על פלטפורמה אמריקאית מפני מתקפה של מודל אמריקאי מזינה את שני המחנות. כדאי לעקוב אם קובעי המדיניות יצטטו את האירוע והאם חברות ה-AI המובילות ירפו מה-guardrails של ה-cyber-defense לצוותי אבטחה מאומתים.