OpenAI השיקה את Decisions API: החלטות מהירות וזולות בתוך ה-agent

ה-Decisions API של OpenAI הוא endpoint ממוקד. במקום לייצר טקסט חופשי, הוא מחזיר בחירה של המודל: באיזה ענף ללכת, איזה כלי להפעיל, או האם פריט עומד בכלל מסוים. כל זה ב-latency ובעלות נמוכים יותר מ-completion מלא. OpenAI מציגה אותו כדרך להפוך אפליקציות לתגובתיות יותר ו-pipelines של agents לדטרמיניסטיים יותר.

העיצוב משקף איך מערכות agents באמת שורפות tokens. רוב הלולאה של agent היא ניתוב, סיווג ושערי החלטה, לא כתיבת פרוזה. העברת השלבים האלה ל-endpoint מוגבל מורידה עלויות, מקצרת את זנב ה-latency ומקלה על ולידציה של הפלט. וזה חשוב במיוחד לאור החדשות האחרות של OpenAI השבוע, על agents שביצעו פעולות לא צפויות.

התחרות בנישה הגיעה מהר. GLiDE v1.2 של Fastino טוען למקום הראשון בטבלת מודלי ההחלטה של Hugging Face. מנכ"ל Perplexity, Aravind Srinivas, אמר שה-Decision Model של Perplexity רץ עכשיו באופן מקומי לגמרי על Mac. כך יש למפתחים חלופות של מודלים פתוחים שרצים על המכשיר, למקרים שבהם הנתונים לא יכולים לצאת מהמחשב.

על מה לשים עין: תמחור ו-latency מפורסמים מול קריאות רגילות ל-GPT-6.1, האם ההחלטות מגיעות עם רמת ביטחון מכוילת (אחד הדיונים הבולטים ב-HN השבוע טען שציון ביטחון ל-LLM הוא רעיון רע), ואיך ה-API משתלב ב-Open Responses, המפרט שנגזר מ-Responses API ועבר עכשיו ל-Agentic AI Foundation.