חוקרים בנו worm ארגוני שמשכפל את עצמו ומופעל על ידי LLM פתוח-משקלים

חוקרים חשפו תולעת AI משכפלת-עצמה שמסתמכת על גישת 'bring-your-own' של מודל open-weight כדי להתפשט בסביבות ארגוניות — אב-טיפוס שנועד להמחיש כיצד ניתן להפוך משקלי מודל הזמינים להורדה חופשית לתוכנה זדונית אוטונומית ומפיצה-עצמה. מכיוון שהתולעת נושאת או מושכת את המודל שלה בעצמה, היא יכולה לנתח את סביבתה, להסתגל ולהשתכפל ללא תלות ב-command-and-control מרכזי.

ההדגמה הציתה מחדש את הוויכוח בין open ל-closed בנושא בטיחות בעוצמה מלאה. מבקרים טוענים שמשקלים הזמינים להורדה מנמיכים את הרף לבניית כלים התקפיים אוטונומיים, שכן אין שום API gatekeeper שיכול לשלול גישה. מנגד, תומכים טוענים שמשקלים פתוחים מאפשרים גם את המחקר ההגנתי (red-teaming, זיהוי) הנדרש כדי להתמודד עם איומים כאלה — מתח שהתחדד באותו שבוע עם מדריך ה-red-teaming ההגנתי garak של NVIDIA ועם Project Glasswing הסגור של Anthropic.

הסיפור משתלב בשבוע צפוף של אבטחת AI: השתלטות של SafeBreach על עוזר הקול של Gemini דרך notifications, סוכן AI שחשף 21 zero-days ב-FFmpeg, ו-OpenAI שמרחיבה את Lockdown Mode. הקו המחבר הוא ש-AI אוטונומי ויכולתי הוא כלי דו-להבי לאבטחה — שמאיץ גם תקיפה וגם הגנה.

הסתייגויות: מדובר באב-טיפוס מחקרי, לא בהתפרצות פראית, ו'בלתי-ניתן לעצירה' הוא ניסוח של תרחיש worst-case; הגנות ארגוניות (בקרות egress, EDR) עדיין רלוונטיות. מה לעקוב אחריו: האם קהילת ה-open-weight תתכנס סביב אמצעי הגנה, והאם ההדגמה תשפיע על דיוני המדיניות סביב שחרור מודלים פתוחים — בדיוק סוג תרחיש אובדן-השליטה ש-Anthropic העלתה בקריאתה ל-pause.