115 מילישניות להחלטה: AWS משחררת את Strands Decider 2B לניתוב agents

Strands Decider 2B שייך למה ש-AWS מכנה קטגוריה חדשה של מודלי החלטה. מודל reasoning מייצר טקסט פתוח. מודל החלטה, לעומתו, בוחר מתוך אפשרויות שאתם מגדירים ומצמיד לכל אחת ציון ביטחון. Swami Sivasubramanian, סגן נשיא Agentic AI ב-AWS, תיאר אותם כמהירים ומוכשרים יותר ביחס לגודלם, והדגיש שהם תמיד מחזירים תשובה מתוך הסט המותר. המודל, עם 2 מיליארד פרמטרים, רץ על CPU או GPU מקומי ועונה בעשרות מילישניות. לפי הדיווחים זמן התגובה הוא כ-115ms על RTX 3090, ובדף שלו ב-Hugging Face מופיע 106ms. ב-JevBench הוא משיג 0.723.

Matt Wood, ה-Chief AI & Technology Officer של AWS, פירט את שימושי היעד. ביניהם מסווגים פשוטים כמו זיהוי ספאם או סנטימנט, וגם ההחלטות השגרתיות ש-agent מקבל בכל סבב: באיזה כלי להשתמש, לאיזה מודל לנתב בקשה, האם פעולה עוברת guardrail והאם בקשה עומדת במדיניות. המודל עבר fine-tune מ-Qwen 3.5-2B. AWS שחררה גם את המודל וגם את מתכון האימון המלא תחת Apache 2.0, כך שצוותים יכולים לאמן אותו מחדש על נתוני ההחלטות שלהם.

היעד התחרותי ברור. VentureBeat הציגה אותו כ"Jev killer" חינמי ומהיר, שמכוון למודל ההחלטה Jev של TypeSafe. Perplexity נכנסה לאותו תחום באותו יום, שחררה כ-open-source את pplx-decider-27b והשיקה Decisions API במחיר של 4 סנט למיליון token קלט, עם פלט בחינם. מודלי החלטה הפכו פתאום לקטגוריה צפופה, והמודלים הפתוחים הופכים אותם למוצר מדף עוד לפני שספק כלשהו מספיק להשתלט על השוק.

ההסתייגויות נוגעות להיקף. מודל של 2B לא יודע לבצע reasoning פתוח, ואיכות הכיול בהחלטות שמחוץ להתפלגות האימון היא שתקבע אם צוותים יסמכו עליו כ-guardrail. גם JevBench הוא benchmark צעיר. מה שכדאי לעקוב אחריו: האם Strands Decider יהפוך לנתב ברירת המחדל בתהליכי AgentCore ו-Kiro. אם כן, ל-AWS תהיה שכבה זולה ודביקה בתוך ה-stack של ה-agents אצל הלקוחות.