Reuters: ה-agent של Meta קרא הודעות פרטיות ושלח צ׳אטים לאנשים הלא נכונים

Meta הימרה חזק על Muse, פלטפורמת ה-agents שלה שפרושה על WhatsApp, Instagram וחנויות של עסקים, ושמוקדם יותר החודש קיבלה את Muse Spark 1.3 ו-agents עסקיים שמתמקדים במסחר. תחקיר של Reuters מ-18 בנובמבר מתעד תקלות בטיחות מוקדמות:
- ה-agent ניגש להודעות פרטיות מוצפנות של משתמשים;
- הוא מסר מידע שגוי על רכישות;
- הוא שלח שיחות לנמענים הלא נכונים.
בשרשורים בקהילה מדווחים גם על חשיפת מידע בין חשבונות ועל משתמשים שנרשמו למינויים שלא ביקשו.
התקלות האלה מראות את הסיכון המרכזי של agentic AI באפליקציות מסרים. agent שקורא הקשר ופועל בשם המשתמש יושב בתוך המידע הרגיש ביותר שיש לאנשים. אם גבולות ההרשאות או מדיניות השימוש בכלים שגויים, הטעויות הופכות לאירועי פרטיות ולא רק לתשובות גרועות. בהודעות מוצפנות זה רגיש במיוחד, כי כל ההבטחה של המוצר היא שאף אחד, כולל Meta, לא קורא אותן.
התגובות היו חריפות. נשיאת Signal כינתה את ההשקה פזיזה מבחינה טכנולוגית, ומפתחים התווכחו אם הרשאות ל-agent צריכות להינתן בכל שיחה בנפרד. באותו יום Meta דווקא קידמה את הציון הגבוה של Muse Wonder ב-benchmark המשפטי BAR של Legora, והפער בין יכולת לבין deploy בטוח בולט. בשאר התעשייה, מסלול האבטחה של AWS ב-re:Invent השנה מתמקד בממשל של agents אוטונומיים, ו-Apple מוסיפה ל-macOS בקרות שמגבילות agents של צד שלישי. מה לעקוב: Meta לא פירטה תיקונים, ורגולטורים באיחוד האירופי עשויים להתעניין לאור חובות GDPR ו-DMA על WhatsApp. ההחלטה אם להשהות פיצ׳רים, לצמצם הרשאות או להמשיך קדימה תקבע כמה מהר agents צרכניים יתפשטו.