Azure קורסת ב-18 אזורים: Azure OpenAI מושבת שש שעות בשוודיה

ל-Microsoft Azure היה סוף ספטמבר קשה. לפי Shattered.io, שתי תקלות נפרדות בין 29 בספטמבר ל-1 באוקטובר יצרו רצף של כ-40 שעות שבהן שירותי ה-gateway פעלו באופן חלקי ב-18 אזורים. שירותי gateway יושבים לפני ה-workloads של הלקוחות ומנתבים אליהם תעבורה, כך שתקלה בהם יכולה להתגלגל לכל אפליקציה שמאחוריהם. הפגיעה הבולטת ביותר ב-AI הייתה בשוודיה: לקוחות Azure OpenAI ספגו כמעט שש שעות של קריאות API שנכשלו.

שש שעות של קריאות למודל שנכשלות הן השבתה ארוכה מאוד עבור AI ב-production. ארגונים רבים בוחרים ב-Azure OpenAI בדיוק בגלל דרישות של מיקום נתונים: לקוחות אירופיים בוחרים אזורים בשוודיה או במדינות אחרות באיחוד כדי שהנתונים יישארו באירופה. הבחירה הזו מצמצמת את אפשרויות ה-failover שלהם, כי העברת תעבורה לאזור בארה״ב עלולה להפר התחייבויות רגולטוריות. ייתכן שללקוחות עם דרישות מחמירות פשוט לא הייתה חלופה לאורך כל התקלה.

ההשבתות עומדות בניגוד חד לסיפור ש-Microsoft מספרת לשוק. המניה של Microsoft רשמה זה עתה את הרבעון הטוב ביותר שלה מאז 1998, עם עלייה של 37.7%, בזכות צמיחה של 43% ב-Azure לעומת השנה הקודמת ותחזית של 45% לרבעון הבא. Microsoft 365 Copilot עבר את רף 30 מיליון המושבים בתשלום, ו-Agent 365 מונה כמעט 40 מיליון agents רשומים. צמיחה מהירה יותר פירושה יותר עומס ויותר תלות באמינות של Azure. וכש-agents רצים ברציפות ולא רק לפי בקשה, זמינות חשובה עוד יותר: השבתה עוצרת עבודה, לא רק תשובה בצ׳אט.

הסיקור מבוסס על מקור משני אחד, ודוחות התחקיר של Microsoft עצמה לא היו בחומר, כך שסיבת השורש וההיקף המדויק של הפגיעה בלקוחות לא אומתו. עבור ארכיטקטים הלקח מוכר, אבל בעידן ה-agents הוא חד יותר: לבנות failover בין אזורים או בין ספקים איפה שהרגולציה מאפשרת, ולהכין מסלולי עבודה מופחתים ושמישים למקרה שה-API של המודל נופל. כדאי לעקוב אחרי דוחות התקלה הרשמיים של Microsoft ולראות אם תציע זיכויים על השירות.