NVIDIA משחררת את CUDA Toolkit 13.4 עם תמיכה ב-Windows-on-Arm ובקרות GPU משותף

NVIDIA שחררה את CUDA Toolkit 13.4, שששתי התוספות הבולטות בו הן תמיכה ב-Windows-on-Arm ושליטה רבה יותר על GPU משותפים, מעל שיפורי פונקציונליות וביצועים שגרתיים. התמיכה ב-Windows-on-Arm חשובה ככל שמכשירי Windows מבוססי Arm מתרבים: מפתחים יכולים כעת לכוון ל-GPU של NVIDIA מהפלטפורמה הזו, ולהרחיב את טווח ההגעה של CUDA מעבר ל-Windows ו-Linux מבוססי x86.

השליטה ב-GPU משותפים מטפלת בבעיה מעשית של multi-tenant — לאפשר למפעילים לחלק ולנהל משאבי GPU בגרנולריות עדינה יותר, מה שהופך חשוב יותר ויותר ככל שעומסי inference וסביבות פיתוח מתחרים על קיבולת accelerator נדירה. זו אינסטלציה של פלטפורמת מפתחים, אבל היא עקבית אסטרטגית עם השבוע של NVIDIA: רכישת Hugging Face נועדה להרחיב את 'דלת הכניסה' של המפתחים, ו-CUDA נותרת החפיר ששומר על אותם מפתחים על סיליקון של NVIDIA.

בנפרד, NVIDIA פרסמה הנחיות ל-disaggregation מסוג encode-prefill-decode (EPD) עבור serving של מודלים מולטימודליים — אופטימיזציית inference שמפצלת את שלב ה-vision-encoder מה-prefill — המשקפת את המשך הדחיפה שלה ליעילות serving לעומסי vision-language. ההקשר התחרותי הוא ההתחייבות הרב-accelerator ש-NVIDIA נתנה סביב Hugging Face: הרחבת CUDA לפלטפורמות חדשות היא בדיוק סוג התלות בספק שהופך הבטחות ניטרליות של hub פתוח לראויות לבחינה. כדאי לעקוב אחר אימוץ CUDA על Windows-on-Arm בקרב מפתחים, והאם השליטה ב-GPU משותפים תקל על מצוקת הקיבולת שצוותים חשים בכל התעשייה.