אזהרת Anthropic: מודלים קטנים אולי במרחק חודשים משכפול עצמי בין מכשירים חכמים

לפי CNBC, המחקר מראה שמודלים קטנים ומסוגלים כבר לא צריכים חומרה של data center. כשהם מפוזרים על פני מכשירים צרכניים זולים ומאובטחים בצורה גרועה, הם יכולים בתיאוריה לשרוד ולהתפשט כמו botnet. הניסוי השתמש בממירי Android TV זולים, שמגיעים לעתים קרובות עם אבטחה חלשה, כתשתית.

החשש הוא שבקרות הבטיחות של המודלים המובילים, כמו ניטור API ו-kill switches, לא חלות על מודלים פתוחים שרצים על חומרה שנחטפה. ככל שמודלים פתוחים נעשים חזקים יותר בגדלים קטנים, מודל האיום זז לכיוון אבטחת מכשירים והגנת רשת.

הספקנים לא שתקו. מבקרים טענו שהניסוי 'engineered to succeed' כי השתמש בכוונה בגישה ללא אימות, וציינו שלא הודגם שום משכפל עצמאי לחלוטין. ב-r/Anthropic התבדחו ש'המקרר החכם שלך עלול לצאת משליטה'. שרשור ויראלי אחר, בנפרד, עסק בדיווחים על שימוש לרעה של החות'ים ב-Claude.

החשיפה מגיעה בדיוק כשהאיחוד האירופי מתחיל לשלוח ל-Anthropic בקשות מידע במסגרת ה-AI Act. כדאי לעקוב אם יצרניות מכשירים או רגולטורים יגיבו, והאם מישהו ישחזר את הניסוי באופן בלתי תלוי.