llama.cpp מגיע ל-v1.0.0, ו-Delangue: נמשיך להילחם על open-source

llama.cpp הגיע לגרסה v1.0.0 – ה-release היציב הראשון שלו. Hugging Face הכריזה על כך יחד עם היוצר Georgi Gerganov, שהארגון שלו, ggml-org, הצטרף ל-Hugging Face. הפרויקט הוא עמוד השדרה של ה-AI המקומי: הוא מניע את Ollama, את LM Studio ואינספור אפליקציות on-device, דרך פורמט GGUF ו-backends ל-CPU, Metal, CUDA ו-Vulkan. תגית 1.0 מאותתת על יציבות API ופורמט שמפיצים ו-enterprises חיכו לה שנים.
ההכרזה של Delangue הייתה גם הצהרת כוונות: 'We're not going to win by lobbying, plotting, or manipulating. We're going to win by building, in the open, with the whole community!' – ציוץ שאסף יותר מ-3,300 לייקים. לפי Traictory, הוא התחייב להמשיך לדחוף open-source גם כשהרכישה של Hugging Face על ידי Nvidia ב-12.9 מיליארד דולר מתקדמת לקראת סגירה צפויה במחצית הראשונה של 2027. באותו שבוע Hugging Face שחררה את XYBench – 8,000 שאלות שבודקות אם עוזרים מזהים הנחות יסוד שגויות – לצד LeRobot v0.7.0 וגרסאות חדשות של PEFT ו-TRL.
המתח הוא הסיפור האמיתי. תחת הבעלות של Nvidia, ה-hub שמפיץ את רוב המודלים הפתוחים – ועכשיו גם סביבת ההרצה המקומית המרכזית – יישבו בתוך ספקית ה-GPU הדומיננטית, בזמן שכל הערך של llama.cpp הוא דווקא הניטרליות שלו מול החומרה. גם החברות של Nvidia ב-SGLang Consortium מראה שהיא רוצה להשפיע על ה-stack של inference פתוח. ב-r/LocalLLaMA ההבטחה התקבלה בחום, אבל רבים הצביעו על האירוניה, וחלק ראו ב-v1.0 גידור מפני רישוי ריכוזי. מה שצריך לעקוב אחריו זה הממשל: האם ggml יישאר ניטרלי לספקים אחרי סגירת העסקה, והאם התמיכה ב-backends של AMD, Apple ו-Intel תמשיך להתעדכן באותו קצב.