Microsoft מנתבת prompts של Office למודלים שלה — כדי לחתוך בעלויות

Microsoft מתחילה בשקט להחליף את OpenAI ו-Anthropic במודלי ה-MAI שלה עצמה בפיצ'רים ספציפיים של Office, במקומות שבהם עלות או data residency פועלים לטובתה — החל מחלק מה-prompts ב-Excel, Word ו-Outlook. החברה הקימה 'MAI Superintelligence Team' כדי להפחית תלות בספקי מודלים מובילים חיצוניים, מהלך אסטרטגי שהתאפשר בזכות משא ומתן מחודש על החוזה עם OpenAI ב-2025.

מבחינה מכניזמית, Microsoft מבצעת model routing: לשמור את המודלים החיצוניים הפרימיום ל-queries קשים, אך לשלוח prompts שגרתיים או רגישי-עלות למודלי MAI פנימיים וזולים יותר שרצים על צי Azure שלה עצמה. זה גם קוצץ את חשבון ה-tokens וגם משאיר את הנתונים בתוך ה-stack של Microsoft.

הרקע מחדד את האובססיה לעלות: דיווחים טוענים שאימוץ Microsoft 365 Copilot נמוך מ-4.5% אחרי שלוש שנים, כשרק כ-1% מהמשתמשים משתמשים בו שבועית — למרות העלאות מחיר. אם הכנסות Copilot רכות, קיצוץ עלות ה-inference הוא הדרך המהירה ביותר לרווחיות. זה משתלב בתמה ברורה של השבוע: מרד נגד תמחור המודלים המובילים, שמהדהד גם בחברות אמריקאיות שמאמצות מודלים סיניים פתוחים זולים ב-60%–90% וב-Guillermo Rauch מ-Vercel שדוחף model routing על פני תלות בספק יחיד. תחרותית זה מביך את OpenAI, שהמפיץ הגדול ביותר שלה בונה כעת אלטרנטיבות. שווה לעקוב עד כמה תתפשט תחלופת MAI ואם יצוצו תלונות איכות ב-Office.