Claude Opus 5, Sonnet 5 ו-Haiku 4.5 מקבלים inference מקומי בהודו על Bedrock

AWS הרחיבה את ה-cross-Region inference הגאוגרפי של Bedrock, וכעת בקשות ל-Claude Opus 5, Sonnet 5 ו-Haiku 4.5 שמגיעות מהודו מעובדות אך ורק בתוך ה-Regions של הודו. מבחינת הלקוח שום דבר לא משתנה: הקריאה למודלים נעשית כרגיל, דרך קונסולת Bedrock או דרך ה-APIs של Messages, InvokeModel ו-Converse. ההבדל הוא בניתוב, שנשאר בתוך גבולות המדינה.

המנגנון מבוסס על ה-cross-Region inference profiles של Bedrock. במקום לקבע בקשה ל-Region אחד, פרופיל גאוגרפי מאפשר ל-AWS לפזר עומסים בין כמה Regions בתוך אזור מוגדר. כך משתפרים ה-throughput והזמינות, והמידע עדיין לא יוצא מהאזור. לבנקים, לחברות ביטוח ולגופים הקרובים לממשלה בהודו, מגבלת המיקום היא לא פעם מה שמכריע אם אפשר להשתמש במודלים המובילים בכלל.

הדור החדש, Claude 5.5, עוד לא נכלל בהרחבה. AWS השיקה אותו ב-Bedrock השבוע, בינתיים רק ב-Regions בארה״ב. הפער הזה מוכר: זמינות אזורית וריבונית מגיעה בדרך כלל שבועות או חודשים אחרי השקת מודל הדגל. בזירה התחרותית, AWS מתמודדת מול Azure ו-Google Cloud, ששתיהן משווקות בהודו פתרונות AI ריבוניים, והמדינה הופכת לשדה קרב על יכולת inference מקומית.

מה לעקוב אחריו: האם Opus 5.5 ו-Sonnet 5.5 יגיעו גם הם לאזור של הודו, ובאיזה קצב. שווה לבדוק גם את התמחור. inference אזורי מגיע לפעמים עם תוספת מחיר, והפוסט של AWS לא מתייחס לעלויות. בינתיים זה סיפור על גישה לתשתית ולא על יכולות חדשות, אבל לארגונים מפוקחים בהודו הוא מסיר חסם ממשי בדרך ל-deploy בפרודקשן.