פי 76 זול יותר ופי 5 מהיר יותר: Asana מריצה את ה-agent שלה בדפדפן על GPT-6.1 Sol

סיפור הלקוח של OpenAI עם Asana שם מספרים קשים על הכלכלה של GPT-6.1 Sol ב-production. Asana בנתה מחדש את ה-agent שלה לדפדפן על מודלים של OpenAI באמצעות Codex, ומדווחת שעלויות המודל ירדו פי 76 ושהריצות הסתיימו פי חמישה מהר יותר בבדיקות.

נראה שהשיפור מגיע משילוב של יעילות המודל ובנייה מחדש של ה-agent בעזרת Codex, ולא מהחלפה פשוטה של מודל. Asana אומרת שהיא משקיעה את החיסכון בחזרה, כדי לתת ללקוחות גישה למודלים חזקים יותר בתוך המוצר.

המקרה הזה הוא חלק מגל של חדשות פריסה סביב GPT-6.1 Sol: AWS השיקה מצב Ultrafast ל-Sol ב-Amazon Bedrock לעומסים רגישים ל-latency, Bedrock הוסיפה סיכומי reasoning למודלים של OpenAI דרך ה-Responses API, ו-Sophos דיווחה על קיצוץ של 96% בזמן חקירת איומים בעזרת Daybreak של OpenAI. ניתוח של Korea IT Times טוען ש-Sol הוא בעצם ארגון מחדש של ChatGPT כפלטפורמת עבודה, ולא עוד שדרוג מודל שגרתי.

הסתייגויות: סיפורי לקוח של ספקים עוברים אוצרות, ונתון ה-76 מושווה למערך הקודם של Asana עצמה, שייתכן שהיה לא יעיל. ועדיין, זה מחזק את הטענה שהעלות של agents, ולא היכולות שלהם, היא המגבלה האמיתית, בהתאם לעמדה של Postman שניהול context הוא צוואר הבקבוק האמיתי ב-production.