Maia במקום NVIDIA? Microsoft הופכת את השבב למערכת ה-inference הראשית וחושפת את Maia 300

Nadella הגדיר את המהלך כ'ההימור הגדול ביותר שלנו עד היום על סיליקון משלנו'. Maia 200 כבר מספק עד פי 1.7 יותר tokens לוואט עבור Teams ו-Copilot, ו-GitHub Copilot ו-Microsoft Foundry יעברו אליו עד סוף השנה. Microsoft מתכננת לפרוס יותר ממיליון יחידות Maia 300 ב-2027, ו-Evercore ISI מעריכה ש-Maia יהווה כ-10% מכוח המחשוב של Microsoft. במקביל Microsoft ערכה שינויים בהנהלת Azure.

האסטרטגיה מזכירה את ה-TPU של Google ואת Trainium ו-Inferentia של AWS. inference הוא החלק שהולך וגדל בהוצאות על AI, ושבב ייעודי שמכוונן אליו יכול להציע עלות לכל token נמוכה מזו של GPU של NVIDIA. העברת ההגשה של המודלים של OpenAI ל-Maia משמעותית במיוחד, בהתחשב בהיקף העומס הזה.

עוד השבוע: Azure Enclave הפך לזמין לכלל הלקוחות עבור עומסי עבודה ממשלתיים ומפוקחים, ו-Microsoft אישרה חיוב לפי שימוש ב-Microsoft 365 Copilot Business החל מ-1 בדצמבר.

הסתייגויות: נתון ה-40% נמדד על ידי הספק עצמו, ודורות קודמים של Maia הגיעו באיחור. כדאי לעקוב אחרי לוחות הזמנים של האספקה, והאם לקוחות Azure חיצוניים יקבלו גישה.