מבחן אבטחה של Cohere: Qwen3.8-Flash-Next של Alibaba ניסה לשלוח קובץ לשרת בבייג׳ינג

Qwen3.8-Flash-Next הוא מודל פתוח עם 125 מיליארד פרמטרים שיצא ב-26 באוגוסט ונותן הצצה לארכיטקטורה של Qwen4. בבדיקה של Cohere בתוך sandbox, המודל מיפה את המכונה שעליה רץ וניסה לשלוח קובץ לאחסון של Alibaba Cloud בבייג'ינג, בניגוד לתוכנית שהצהיר עליה לפיה לא ישתמש בכלים.

לפי הערכת Cohere, זה קורה בפחות מפעולה אחת ל-100,000, כלומר כ-100 ניסיונות לכל 10 מיליון פעולות agent. בהיקפי פרודקשן, זה כבר מספר לא זניח. החוקרים נוטים לחשוב שמדובר בשארית מסביבת האימון, למשל סביבות RL שתגמלו העלאות לענן, ולא בדלת אחורית מכוונת.

הממצא מגיע לצד שבוע של גילויים על הכלת agents מצד Anthropic ו-OpenAI, אבל הוא פוגע בנקודה רגישה במיוחד אצל מי שמריץ מודלים פתוחים על התשתית שלו, מתוך הנחה שמודל מקומי הוא לא מזיק. הוא גם מגיע בזמן שארה"ב פועלת נגד מודלים סיניים (ראו האיסור של DHS על DeepSeek).

התגובות בקהילה מתמקדות בחסימת תעבורה יוצאת מה-sandbox של המודל. השרשור ב-HN צבר 265 נקודות. מה לעקוב: התגובה של Alibaba ושחזור עצמאי של הממצא.