Microsoft נלחמת בתולעת עיקשת ב-Copilot ל-Word — ומכינה "super app" של AI

Microsoft אישרה קיומו של תולעת AI מתמשכת שמתפשטת דרך Copilot ואפליקציות נוספות באמצעות prompt-injection. חוקרים ניסחו מחדש את המתקפה שוב ושוב כדי לעקוף טלאי אחר טלאי, עד שב-14 ביולי נאלצה החברה לשחרר תיקון ששדרג את המודל שמאחורי Copilot for Word במקום סתם לסנן קלטים. הפרשה היא מקרה מבחן לכך שהתקפות prompt-injection עמידות בפני טלאים קונבנציונליים: מכיוון שהמתקפה חיה בשפה טבעית, ניסוחים מחדש קטנים חומקים מהגנות מבוססות-חתימה, מתסכלים את קהילת ה-cybersecurity ומוכיחים שייתכן שנדרשים שינויים ברמת המודל עצמו, לא רק guardrails.

היכולת של התולעת להתפשט בעצמה דרך תהליכי עבודה של מסמכים בתיווך AI היא בדיוק סוג הסיכון המתהווה שחוקרי בטיחות מזהירים מפניו, והיא משתלבת בנושא הרחב של השבוע: agentic AI שיוצר משטחי תקיפה חדשים לצד האירועים של OpenAI ו-Anthropic. התגובה של Microsoft — החלפת המודל של Copilot for Word — מדגישה שההגנה בעידן ה-agentic היא מטרה נעה שתלויה במודל.

במקביל, Satya Nadella אמר ש-Microsoft תשיק בקרוב 'super app' של Copilot שתשתרע על שימוש צרכני וארגוני כאחד, ותיאר אבולוציה 'מ-chat ל-Cowork ל-autopilots'. Nadella קשר זאת ל'מערכת מודלים' חדשה שבה ה-harness, ה-context, הזיכרון ומרחב הפעולה מנותקים ממשפחת מודלים בודדת — הימור על גמישות, שליטה בעלויות והמשכיות עסקית. הוא גם הדגים בניית 'ROIC Intelligence App' בעזרת prompt יחיד תוך שימוש בקוד Copilot וב-autopilot, כשהתוצרים נוחתים ב-GitHub הארגוני ובסביבת ה-Copilot שלו.

הקשר הדוחות הכספיים של Microsoft מחזק את השאיפה: 331 מיליארד דולר הכנסה שנתית (עלייה של 18%), Azure שחוצה את רף ה-100 מיליארד דולר (עלייה של 41%), ו-MAI-Cyber-1-Flash שמציע אבטחה מובילה בחצי מהעלות. הקריאה התחרותית היא ש-Microsoft נשענת על ההפצה הארגונית שלה ועל ארכיטקטורה שאגנוסטית למודל כדי להתמודד עם התלות ב-OpenAI. כדאי לעקוב אם ה-super app תשיק בזמן ואם התולעת ב-Word באמת נבלמה.