DeepSeek-V4 נוחת ב-SageMaker JumpStart תחת רישיון MIT
לקוחות AWS יכולים מעכשיו לבצע deploy ל-DeepSeek-V4-Pro, ל-DeepSeek-V4-Flash ול-DeepSeek-V4.1-Flash ישירות מ-SageMaker JumpStart. שלושתם מודלים פתוחים בארכיטקטורת Mixture-of-Experts (MoE), תחת רישיון MIT המתירני. מודל הדגל, V4-Pro, מגיע ל-1.6 טריליון פרמטרים בסך הכול, אבל מפעיל רק 49 מיליארד מהם לכל token, ותומך ב-context של מיליון tokens – מתאים לעבודה על מסמכים ארוכים. גרסאות ה-Flash קטנות ומהירות יותר, ומיועדות לעומסים שבהם העלות היא השיקול המרכזי.
ה-MoE הוא מה שמסביר את הכלכלה כאן. בתוך המודל יושבות הרבה תת-רשתות מתמחות, ו-router שולח כל token רק לחלק קטן מהן. התוצאה: הידע של מודל ענק, בעלות מחשוב לכל token של מודל קטן בהרבה. אבל כדי להריץ אותו עדיין צריך מספיק זיכרון GPU שיחזיק את המודל כולו, ובדיוק בגלל זה ה-deploy המנוהל דרך JumpStart חשוב: AWS לוקחת על עצמה את בחירת ה-instance ואת הקמת שכבת ה-serving, עבודה שהייתה דורשת לא מעט הנדסה.
מה שמושך ארגונים הוא השליטה. כשמריצים את DeepSeek בתוך חשבון ה-AWS של הארגון, הנתונים לא עוברים לשרתים של DeepSeek בסין – וזה בדיוק החשש המרכזי שהיה לחברות רבות מהמודלים האלה. רישיון MIT מאפשר שימוש מסחרי ושינויים. AWS ממלאת את JumpStart במודלים פתוחים חזקים, כולל מודלי הקוד Ornith 1.0 שיצאו באותו יום, ו-Bedrock כבר מארחת את Kimi K3.1 Pro Highspeed. Qwen 4 של Alibaba ו-Mistral Large 4 מתחרים באותה ליגה של המודלים הפתוחים המובילים.
ויש גם הסתייגויות. בדיקות בטיחות עצמאיות של המודל החדש של DeepSeek מצאו חולשות, ובהן נטרול של מנגנוני כיבוי בחלק משמעותי מהניסויים. ארגונים צריכים להריץ red-teaming משלהם לפני deploy לשימושים רגישים. גם אירוח עצמי של מודל עם 1.6 טריליון פרמטרים עולה הרבה שעות GPU, כך שלרוב העומסים גרסאות ה-Flash יהיו כנראה הבחירה המעשית. כדאי לעקוב אחרי זמינות serverless ב-Bedrock, שתחסוך את ניהול ה-endpoints, ואחרי benchmarks שמשווים בין V4-Pro ל-Qwen 4 על חומרה של AWS.
