Hugging Face הדפה מתקפת AI אוטונומית — ועברה למודל הסיני GLM-5.2 אחרי שהמודלים האמריקאיים חסמו את ההגנה שלה
Hugging Face חשפה ש-AI agent אוטונומי ביצע cyberattack מקצה לקצה, אוטומטי לחלוטין, נגד מאגר המודלים הגדול בעולם. ה-agent ניצל נתיבי code-execution כדי להשיג גישה ברמת ה-node ולחלץ credentials — אבן דרך שמדגימה שחדירות מונעות-AI כבר אינן תיאורטיות. דיווחים מ-Fortune, Axios ו-The Hacker News מפרטים כיצד ה-AI גם זיהה את החדירה וגם, בניתוח פורנזי, שחזר בדיוק כיצד היא התרחשה.
הפרט המסקרן ביותר: כשמנגנוני הבטיחות של המודלים המובילים האמריקאיים סירבו לסייע בניתוח malware ובתגובה לאירוע — כשהם מתייחסים לעבודת האבטחה ההגנתית כתוכן התקפי אסור — Hugging Face עברה למודל הסיני הפתוח GLM-5.2 ששוחרר לאחרונה, שרץ על התשתית שלה עצמה. אותו מודל עיבד מעל 17,000 אירועי התקפה בתוך שעות, ואיפשר שחזור פורנזי מהיר. האירוע הפך למוצג א' בטיעון הגובר שמסנני בטיחות אגרסיביים מדי כובלים כעת את המגינים יותר מהתוקפים.
מנכ"ל Clément Delangue ניצל את הרגע, ופרסם ש'איסור על AI בקוד פתוח יפגע במגינים פי 10 יותר מבתוקפים, מה שיהפוך את העולם למסוכן פי 10'. האירוע מזין ישירות את הדיון המרכזי של השבוע על מודלים פתוחים מול סגורים ועל עמדת הבטיחות של חברות ה-AI האמריקאיות, ומגיע בזמן ששחרורי מודלים סיניים פתוחים (Kimi K3, Qwen 3.8, GLM-5.2) שולטים בשיחה.
ספקנים מציינים שדיווח של ספק בודד על הפריצה והתגובה שלו עצמו ראוי לקריאה זהירה, ושלרוב ניתן לעקוף 'סירובים' של מנגנוני בטיחות עם גישה ארגונית מתאימה. אבל הנקודה הרחבה מהדהדת אצל מומחים: עבודת אבטחה מחייבת באופן לגיטימי ניתוח של קוד זדוני, וסירובים גורפים דוחפים את המגינים לעבר מודלים פתוחים פחות מוגבלים. כדאי לקוראים לעקוב האם חברות ה-AI האמריקאיות יתאימו את מדיניות השימוש הביטחוני שלהן בתגובה.