'SearchLeak': POC חדש מרחיב את משטח התקיפה של prompt-injection ב-M365 Copilot

חוקרי אבטחה חשפו את 'SearchLeak', proof-of-concept נגד Microsoft 365 Copilot Enterprise שמדגים הזרקת parameter-to-prompt (P2P) — שבה נתונים בשליטת תוקף זורמים אל פרמטרי חיפוש ובסופו של דבר אל ה-prompt של המודל. הממצא, שסוקר ב-CSO Online, ממסגר מחדש חיפוש יומיומי מועצם ב-AI כמשטח תקיפה גדול בהרבה ממה שארגונים רבים מניחים.

המנגנון חשוב: ככל ש-Copilot משתלב עמוק יותר עם נתוני ארגון וחיפוש, הגבול בין הוראות מהימנות לתוכן לא מהימן מיטשטש. הזרקת P2P מנצלת את הטשטוש הזה, ועלולה לכפות על Copilot פעולות או חשיפות שהמשתמש מעולם לא התכוון אליהן. החוקרים הציגו את זה לא כבאג בודד אלא כסוג של סיכון שגדל עם כל data connector ויכולת חיפוש חדשים.

זה נוחת בתוך שבוע רחב של סיפורי cybersecurity ב-AI — AWS השיקה את פלטפורמת ה-vulnerability שלה Continuum ו-DeepMind פרסמה את תוכנית הגנת ה-agents שלה מפני 'insider threat' — מה שמדגיש שאבטחת agents ועוזרים היא כעת דאגה ארגונית בקו הראשון. עבור Microsoft, שדחפה באגרסיביות את Copilot על פני Office וזה עתה הביאה את Copilot Cowork ל-GA, החשיפה היא תזכורת שהטווח של העוזר הוא גם הסיכון שלו. ארגונים צריכים לעקוב אחר ה-mitigations של Microsoft ולהתייחס למקורות נתונים נגישים ל-agent כחלק ממודל האיומים שלהם.