מודלים עם כורי קריפטו חוזרים ל-Hugging Face ימים אחרי ההסרה

חברת האבטחה Pluto חשפה 31 מאגרים זדוניים בשבעה חשבונות ב-Hugging Face. המאגרים, שהתחזו למודלי AI, הכילו קוד לכריית מטבעות קריפטו וקוד לגישה מרחוק. Hugging Face הסירה אותם ב-25 באוקטובר, אבל עותקים כמעט זהים חזרו לאוויר כבר ב-29 באוקטובר, מה שממחיש כמה קל לתוקפים להעלות מחדש אחרי אכיפה.

המתקפה מנצלת פורמטים של מודלים שמריצים קוד בזמן הטעינה, כמו קבצים מבוססי pickle וסקריפטי טעינה מותאמים. מפתח שמוריד ומריץ מודל שלא נבדק עלול להריץ בפועל את הקוד של התוקף. העלאה מחדש תחת חשבונות חדשים עוקפת הסרות ברמת המאגר הבודד. Hugging Face מסרה שהגבירה את הניטור, וגרסת Transformers האחרונה מחזקת את ה-sandbox של תבניות Jinja.

המתח כאן מבני. לפי המנכ"ל Clement Delangue, Hugging Face עברה זה עתה 20 מיליון מפתחים ו-300PB של אחסון, עם 9PB שנוספו בשבוע אחד, ואוקטובר היה החודש הגדול בתולדותיה. מנהלת המוצר הראשית Irene Solaiman אמרה ל-TechCrunch שהגישה הפתוחה היא בדיוק מה שהופך פלטפורמות AI פתוחות ליעד cyber, ושההגנות עלולות להפוך את ה-open-source AI ל"קצת פחות פתוח".

בקהילת האבטחה יש דאגה, והאירוע מצטרף לשרשרת סיכונים מצד ספקי AI חיצוניים, שכוללת גם את הפריצה ל-Fireworks AI שפגעה בלקוחות Notion. ההמלצה המעשית: להעדיף safetensors, לעבוד רק עם מפרסמים מוכרים ולסרוק כל מודל לפני טעינה. כדאי לעקוב אם Hugging Face תוסיף דרישות אימות שיאטו את קצב ההעלאות.