6.6 מיליון הורדות ל-Muse של Meta — וה-NYT: ההנהלה עקפה אזהרות בטיחות

ה-agent של Meta בשם Muse הפך ללהיט צרכני והגיע ל-6.6 מיליון הורדות כחודש אחרי שהחברה השיקה אותו ב-8 בספטמבר. אבל תחקיר של ה-New York Times על ההחלטה של Mark Zuckerberg להוציא אותו לשוק מדווח שההנהלה התעלמה מאזהרות בטיחות פנימיות.

Muse פועל ברשת בשם המשתמשים, והטווח שלו כבר מוגבל בידי האתרים שהוא מבקר בהם: כשליש מהאתרים שנבדקו חוסמים אותו, ו-Amazon מסרבת לתת לו לסרוק מודעות. זה סימן שהפלטפורמות הגדולות רואות ב-agents שגולשים ברשת איום על התנועה ועל השליטה במסחר.

חוקרי אבטחה ביקורתיים במיוחד. סיקור שמצוטט בקהילה מתאר את ה-sandbox כ"חוסר אחריות מוחלט", עם סיכון לבריחה מ-KVM שנמצא במרחק שכבה אחת ממסדי נתונים בפרודקשן. מקרה שמצוטט ב-WIRED, שבו Muse מסר את הכתובת של משתמש לקונה ב-Marketplace, הפך לדוגמה הנפוצה לפעולות agent עם השלכות בעולם האמיתי. Muse משתלב בנושא הרחב של השבוע, ה-sandbox שדולף, לצד תקריות ה-eval של Anthropic ברשת החיה ושימוש לרעה במפתחות שדווח אצל DeepSeek. Meta גם תחת זכוכית מגדלת בגלל בטיחות Llama במחקר של Tech Against Terrorism. כדאי לעקוב אחרי עניין רגולטורי בעקבות התחקיר, ואחרי השאלה אם אתרים נוספים יצטרפו ל-Amazon ויחסמו agents.