816B פרמטרים על שני מקים: Meta חוזרת למודלים פתוחים עם Muse Spark Open

Meta חוזרת למחנה המודלים הפתוחים. Muse Spark Open הוא מודל MoE עם 816 מיליארד פרמטרים, שמפעיל 42 מיליארד פרמטרים לכל token, ומכוון להנדסת תוכנה ולמשימות agent ארוכות טווח. זה החבר הפתוח במשפחת Muse, שהחליפה את המותג Llama. המודל זמין ב-Hugging Face תחת Muse Model License, שמתיר שימוש חופשי עם תנאים מסחריים מוגבלים. Meta ממליצה על TorchTitan להתאמה אישית ועל MLX של Apple להרצה על Apple Silicon.

השותפות עם Apple היא הכותרת הטכנית. שתי החברות הדגימו את המודל המלא רץ באופן מקומי על שני Mac Studio עם M5 Ultra, ביותר מ-36 token לשנייה. זה אפשרי כי ארכיטקטורת ה-MoE מפעילה רק 42B פרמטרים לכל token, והזיכרון המאוחד הגדול של ה-Mac Studio מסוגל להכיל את המודל כולו על פני שתי מכונות. זו אבן דרך אמיתית ל-inference מקומי ברמה של המודלים המובילים, אבל לא זולה: ההערכות לעלות שני המחשבים נעות בין כ-10,800 ל-20,000 דולר.

ההשקה הגיעה ימים אחרי ש-Meta חשפה את המודלים הסגורים המובילים שלה, Muse Wonder ו-Wonder Full, במחיר 4/20 דולר למיליון token דרך Meta Model API. הפיצול הזה עורר ספקנות: Meta משחררת את המודל החלש יותר ושומרת את הטוב ביותר סגור. בודקים מדווחים על המרה חזקה של תמונה ל-HTML ועל tool calling ברמה דומה ל-DeepSeek V4.1, אבל התוצרים נופלים מהמודלים הסגורים של Meta. המשפט של SemiAnalysis, "American open weights are back", ש-Meta הפיצה, מסכם את המסגור התחרותי מול המודלים הפתוחים הסיניים.

שאלות פתוחות: המגבלות המסחריות ברישיון, האם הקהילה תעשה לו fine-tune בהיקף שעשתה ל-Llama, והאם Meta תמשיך לשחרר גרסאות פתוחות ככל ש-Muse Wonder יתפתח. בנפרד, השבוע הסירה Meta מתנאי השימוש העסקיים סעיפים שעוררו חשש לגבי scraping ואימון AI.