Cloudflare משיקה את Clef-omni המולטימודלי — ומקצצת את ה-context של Clef-flash ל-24k

Cloudflare הרחיבה את משפחת Clef עם Clef-omni, מודל מולטימודלי מלא, ועדכנה את המהירות והמחיר של Clef ו-Clef-flash הקיימים. בהכרזה הזו Cloudflare ממצבת את עצמה כספקית מודלים לכל דבר, ולא רק כפלטפורמה שמריצה inference על רשת ה-edge שלה.

הפרט שמעורר מחלוקת הוא חלון ה-context. כדי להגיע למחיר נמוך יותר, Cloudflare צמצמה את חלון ה-context של Clef-flash בגרסה המתארחת ל-24 אלף tokens, לעומת 64 אלף שפרסמה קודם. המודל הפתוח ב-Hugging Face עדיין תומך ב-256 אלף tokens, כלומר מי שמריץ אותו בעצמו מקבל בערך פי עשרה context ממה שמוצע בשירות של Cloudflare עצמה.

הפשרה הזו נובעת מהכלכלה של inference: הגשת context ארוך זוללת זיכרון, והגבלת ה-context מאפשרת לדחוס יותר בקשות על כל GPU. בפועל Cloudflare מפלחת את השוק: קריאות מתארחות זולות עם context קצר מול הרצה עצמית עם כל היכולות. זה דפוס שכבר ראינו אצל ספקים שמגבילים פיצ'רים של מודלים פתוחים ב-endpoints המתארחים שלהם.

מפתחים לא שתקו, במיוחד אלה שבנו על ה-64 אלף שפורסמו. המהלך גם בולט על רקע מתחרים שרצים לחלונות ארוכים יותר, כמו Grok 4.7 של xAI עם 500 אלף tokens ו-Mistral Large 4 עם מיליון. שווה לעקוב אם Cloudflare תציע מסלול בתשלום עם context ארוך ל-Clef-flash, או שתחזור בה.