NVIDIA משיקה DGX Spark עם 64GB ב-4,999 דולר ל-AI מקומי

NVIDIA חשפה תצורה של DGX Spark עם 64GB זיכרון מאוחד, במחיר 4,999 דולר. המערכת מבוססת על שבב העל GB10 Grace Blackwell, מספקת petaFLOP אחד בדיוק FP4 עם רוחב פס זיכרון של 273 GB/s, ומריצה מקומית מודלים פתוחים בגודל של עד כ-35 מיליארד פרמטרים.

מערכות של שותפות כמו Acer, ASUS, Dell, Gigabyte, HP ו-MSI יתחילו להימכר ב-23 באוקטובר, עם DGX OS מותקן מראש. אפשר לחבר שתי יחידות ולקבל 128GB של זיכרון קוהרנטי ושיפור מהירות של בערך פי 1.7.

ההבטחה המרכזית היא להיפטר מחשבונות ה-token בענן, וזה מגיע בדיוק בשבוע שבו העלויות בכותרות. מפתחים שעובדים עם מודלים מקומיים כבר מריצים את Muse Glimmer 30B של Meta על כרטיסי GPU עם 24GB. ההסתייגות: רוחב פס של 273 GB/s מגביל את קצב יצירת ה-tokens, ושרשור "הקללה של 64GB" ב-r/LocalLLaMA משקף תסכול מכך ש-64GB הוא גודל ביניים לא נוח.