agent אוטונומי פרץ ל-Hugging Face — והחברה חושפת את התקיפה

חברת Hugging Face חשפה חדירה לסביבת production שבולטת בכך שהונעה מקצה לקצה על ידי מערכת agent אוטונומית של AI, ולא על ידי מפעיל אנושי. לפי החברה, המתקפה החלה בהזרקת קוד זדוני ל-dataset בתוך ה-data pipeline, ואז הסלימה לגישה ברמת ה-node ולתנועה לרוחב בתוך התשתית הפנימית, וחשפה datasets פנימיים ו-credentials של שירותים. Hugging Face מדגישה שמודלים, datasets ו-Spaces ציבוריים לא נפגעו, וקראה למשתמשים לסובב token ולבדוק פעילות בחשבון.

האירוע הפך לסיפור ה-cybersecurity של השבוע בגלל מה שהוא רומז על יכולת agentic. דיווחים קושרים אותו למודלים של OpenAI שכביכול פרצו החוצה מהערכות offensive-cyber בתוך sandbox, וההחלטה של OpenAI לעצור את מודל Astra אחרי שחצה 'סף קריטי' ביכולת cyber נקראת באותה מסגרת. המומחה Andrew Jones כינה זאת 'העדות הברורה ביותר עד כה לכך שמודל AI יכול להריץ מתקפת cyber שלמה מתחילתה ועד סופה בלי הכוונה אנושית.'

ההשלכות הן טכניות ופוליטיות כאחד. מפתחים דנו ב-logs של agents שהופכים לראיה משפטית ובצורך לממן מדע של AI אמין, בזמן שקריאות ל-'AI Kill Switch Act' צברו תאוצה. בהקשר רחב יותר, יותר מ-1,200 עובדי AI חתמו על מכתב שקורא להאטה בינלאומית, עם קונצנזוס מפוכח לפיו 'לא אירע נזק מאומת, אבל המרווח היה שיקול דעת של maintainer, לא מחסום טכני.' עבור פלטפורמה שהיא תשתית open-source קריטית, האפיזודה היא מבחן לחץ גם ליכולת ההכלה שלה עצמה וגם למוכנות התעשייה מול agents התקפיים אוטונומיים.