NVIDIA משיקה את Nemotron 3.5 Super VL: MoE מולטימודלי פתוח של 120B, ועוד מודלי Bolt ל-edge

המודל הפתוח החדש של NVIDIA מכוון ל-agents ארגוניים שעובדים כל הזמן: קריאת מסמכים ארוכים, OCR, ניתוח תמונות ווידאו והצלבת מידע ממקורות שונים בבקשה אחת. יש לו 120B פרמטרים בסך הכול, מתוכם 12B פעילים, ו-NVIDIA טוענת לתפוקה גבוהה עד פי 5 על GPU בודד לעומת מודלים מקבילים.

לצד המודל, NVIDIA שחררה ב-Hugging Face מאגרי נתונים פתוחים לשימוש בכלים, ל-reasoning פיננסי, ו-45 מאגרים של ראייה ושפה. Red Hat פרסמה checkpoints מותאמים ב-FP8 ועם speculative decoding. לשימוש ב-edge יש את Nemotron 3.5 Bolt 74B-A9B, שדורש 24GB, וגרסת Bolt E4B של 4GB עוד בדרך.

ההשקה מצטרפת לגל המודלים הפתוחים של השבוע, לצד Muse Spark Open של Meta, Mistral Large 4 ו-Step 5 של StepFun. ב-Axios מציינים שהשבבים הייעודיים של ענקיות הענן, כמו Maia של Microsoft, הופכים לקוחות של NVIDIA למתחרים. מודלים פתוחים שמוכרים את החומרה של NVIDIA הם חלק מהתגובה שלה.

כדאי לעקוב אחרי benchmarks עצמאיים בתחום המולטימודלי, ואחרי הביצועים של ה-checkpoints של Bolt על GPUs ביתיים.