DeepSeek V4.1-Flash מגיע ל-KV cache של 890 בייט ל-token — קטן פי 437 מ-V1

ה-V4.1-Flash של DeepSeek מכוון לצוואר הבקבוק הגדול ביותר בהרצת agents בפרודקשן: זיכרון. על ידי צמצום ה-KV cache ל-890 בתים לכל token — רבע מהנפח של V4-Flash ופי 437 קטן יותר מ-V1 — המודל מאפשר בערך פי 4 יותר sessions מקבילים של agents על אותו GPU. עבור הכלכלה של agents זו קפיצת מדרגה: העלות של הרצת הרבה sessions מקבילים וארוכי-טווח נשלטת על ידי זיכרון, ושיפור של פי 4 בצפיפות מאפס מחדש באופן ישיר את עקומת העלות לכל session.

הארכיטקטורה, לפי benchmark השוואתי, בנויה על causal encoder-decoder מסוג MoE עם backbone של 552B ועוד 196B פרמטרים פעילים (V4.1 Flash), ששוחרר ב-10 בספטמבר. המפתחים היו נלהבים — המאמר הפך למדורג הגבוה ביותר באותו יום עם 131 upvotes ו-3,412 לייקים ב-Hugging Face, כשהקהילה מכנה את צמצום ה-KV-cache 'איפוס מעשי של הכלכלה של agents'.

DeepSeek גם הפגינה קשב לבסיס המשתמשים שלה, כשהיא הופכת את ההחלטה לפרוש את V4-Pro תוך ימים בעקבות תגובות זועמות. בזירת החומרה, החברה מתכננת לפרוס 160,000 שבבי Huawei Ascend 950DT במונגוליה הפנימית, כששבבי האימון צפויים ברבעון הרביעי של 2026 — אות לדחיפה שלה לעצמאות בסיליקון מקומי בצל מגבלות הייצוא. המיקוד ביעילות משתלב עם אסטרטגיה רחבה יותר של DeepSeek לעשות יותר עם פחות, וממצב את המודלים שלה כמובילי היעילות בשוק שבו OpenAI חוזה הוצאה של 856 מיליארד דולר על כוח מחשוב. השאלה הפתוחה היא האם דחיסת ה-KV-cache האגרסיבית מקריבה איכות במשימות reasoning בעלות context ארוך — סוג הפשרה שכותרות ה-benchmark לעיתים רחוקות תופסות אך פרודקשן חושף במהירות.