Realtime API v2 beta של OpenAI חותכת את זמן ההשהיה בקול ב-25% בערך

במקביל להשקה המדורגת של GPT-5.6, OpenAI השיקה גרסת beta של Realtime API v2 שממוקדת בדיוק ב-voice agents. העדכון מקצץ את ה-latency מקול לטקסט בכ-25% לעומת v1, ומוסיף streaming function calls וטיפול בהפרעות (interrupt handling) — בדיוק המרכיבים הדרושים לאינטראקציות קוליות טבעיות שמאפשרות לקוטע להיכנס לתוך הדיבור. מפתחים דיווחו על latency נמוך ב-30% מקצה לקצה, שיעור הצלחה של מעל 95% בטיפול בהפרעות וביצוע tools מהיר ב-40%, במטרה להגיע ל-workflows של agent תמיכת לקוחות מתחת ל-100ms.

המנגנון שבאמת משנה כאן הוא ה-interrupt handling: בשיחות אמיתיות אנשים מדברים אחד על השני, ו-agent שאפשר לקטוע אותו באמצע התשובה ולהתאושש באלגנטיות מרגיש טבעי בהרבה מבוטים קוליים מבוססי-תור. יחד עם streaming function calls, ה-API יכול להריץ tools (לחפש הזמנה, להנפיק החזר) בזמן שהשיחה נמשכת, ובכך למחוק את ההשהיות המביכות שחושפות שמדובר בבוט.

OpenAI צירפה לזה תמחור מחדש של ה-Batch API שנכנס לתוקף ב-8 ביולי, עם שכבות זולות יותר לעבודות לילה — מנוף עלות לעבודות bulk שאינן רגישות ל-latency, ותשובה קטנה לנרטיב לחצי העלויות של השבוע, שבו Microsoft מכניסה עומסים פנימה וארגונים מציצים לכיוון מודלים סיניים.

ההקשר התחרותי חד: ה-Voice Agent Builder של SpaceXAI הושק — נכון יותר, xAI השיקה אותו — במחיר של 0.05$ לדקה עם מעל 80 קולות ויכולת cloning, מה שמפתחים רואים כחלופה זולה וברת-קיימא ל-call-center לעומת ה-Realtime API של OpenAI. voice agents הופכים למלחמת מחירים לא פחות ממרוץ יכולות. שווה לעקוב האם היתרון של OpenAI ב-latency יחזיק מול התמחור של xAI, והאם Realtime v2 יצא מ-beta עם תמחור ששורד את הביקורת על העלויות שניצבת מול כל חברות ה-AI המובילות השבוע.