חצי זיכרון באותו מחיר: DGX Spark של NVIDIA ב-4,999 דולר עם 64GB יוצא ב-October 23 בצל משבר ה-RAM

NVIDIA מוסיפה תצורה זולה יותר של 64GB למחשב ה-AI השולחני DGX Spark. היא שומרת על שבב ה-GB10 Grace Blackwell Superchip ועל petaFLOP אחד של כוח מחשוב, ויכולה להריץ מקומית מודלים של עד כ-100B פרמטרים. המכשיר יגיע ב-23 באוקטובר דרך יצרניות כמו Acer, Dell, ASUS ו-HP במחיר 4,999 דולר. דגם ה-128GB עולה עכשיו 6,950 דולר.

חיבור של שתי יחידות נותן פי 1.7 מהביצועים של יחידה אחת, ו-Sync Model Launcher להקמת clusters יגיע בסוף אוקטובר. NVIDIA מכוונת את המכשיר ל-agents מקומיים, ל-fine-tune ול-inference, ומציעה את Muse Glimmer 30B של Meta כ-NIM microservice. מדריכים מהקהילה מראים ש-Glimmer רץ על 24GB VRAM עם קוונטיזציות GGUF, אבל BF16 מלא דורש 55GB ומעלה, וזה מה שמגביר את העניין ב-Spark של 64GB.

הסיפור האמיתי הוא המחיר. לפי The Register, יחידת ה-64GB יקרה ב-1,000 דולר מדגם ה-128GB ביום ההשקה שלו, עם חצי מה-RAM וחצי מהאחסון. משתמשים מאשימים את מחסור הזיכרון, שזכה לכינוי 'RAMpocalypse'. הלחץ בשוק החומרה מורגש גם במקומות אחרים: לפי דיווחים, Micro Center דורשת עכשיו מסמכי התחייבות לאי-ייצוא ברכישת RTX 5090.

מבחינת הקונים, התחרות היא מחשבי Mac עם הרבה זיכרון והשכרת GPU בענן. חלק מהאנשים בתחום מודים ש'אירוח עצמי של AI לא חוסך כסף', ועושים את זה בכל זאת בשביל השליטה. כדאי לעקוב אחרי throughput בעולם האמיתי, אחרי הזמינות אצל היצרניות ב-23 בחודש, ואחרי השאלה אם מחירי הזיכרון יאלצו את NVIDIA לשנות מחירים שוב.