Azure OpenAI Decisions API זמין לכולם ב-Microsoft Foundry

Microsoft הכריזה על זמינות כללית (GA) של Azure OpenAI Decisions API בתוך Microsoft Foundry, יום אחרי ש-OpenAI השיקה את ה-API בפלטפורמה שלה. במקום לבקש מהמודל לכתוב "אבחר באפשרות B" ואז לפרסר את התשובה, שולחים קלט מולטימודלי או מובנה, וה-API מחזיר בחירה בדידה יחד עם הסתברויות וציוני ביטחון – משהו שהקוד יכול להסתעף עליו ישירות.

ההבטחה הטכנית היא דטרמיניזם ומהירות. היום frameworks של agents שורפים לא פעם tokens וזמן תגובה על יצירת טקסט חופשי רק כדי לבחור את הכלי הבא או לנתב טיקט, והפרסור השביר מוסיף עוד נקודות כשל. endpoint של ניקוד מוריד את עלות היצירה ונותן ביטחון מכויל, כך שאפשר להגדיר ספים: למשל לאשר אוטומטית מעל 0.9 ולהעביר לבן אדם מתחת. לארגונים, GA ב-Foundry אומר שה-API מגיע עם בקרות הציות, הרשת והאזורים של Azure.

מבחינה תחרותית זה ממשיך את המגמה של structured outputs ו-function calling, אבל הולך צעד קדימה ומוריד את היצירה לגמרי. גם המנכ"ל של Perplexity קידם השבוע "Perplexity Decision Model" שרץ מקומית – סימן ש-endpoints של "החלטות" הופכים לקטגוריית מוצר בפני עצמה. Microsoft צירפה ל-GA גם הרחבה של קרדיטים לשותפים ב-Copilot Studio, מה שמשקף לחץ להראות מונטיזציה של Copilot לפני הדוחות.

כדאי לבדוק עד כמה ציוני הביטחון באמת מכוילים, ואיך התמחור משתווה ל-classifiers קטנים וזולים. צוותים שכבר עושים fine-tune לנתבים קטנים עשויים לגלות שהיתרון של ה-API הוא נוחות ולא יכולת.