llama.cpp בקליק אחד: Hugging Face משיקה את Llama Windows ל-Windows 11

האפליקציה החדשה של Hugging Face מורידה את חסם הכניסה להרצת מודלים מקומיים ב-Windows. אפשר לדפדף ב-Hub, להוריד מודל בקליק אחד ולהריץ אותו ממגש המערכת, בלי שורת פקודה.

ה-Hub גם מתייג עכשיו אוטומטית מטא-דאטה של GGUF עבור llama.cpp כבר ביצירת ה-repository, כך שקל יותר למצוא גרסאות quantized. הוא מארח את המודל הפתוח Muse Spark Open של Meta, והפלטפורמה עברה את רף 3 מיליון ה-checkpoints הציבוריים.

ההשקה רוכבת על ההתלהבות מ-AI מקומי שראינו השבוע, מ-PS5 פרוץ שמריץ את Qwen 3.8 27B ב-20 tokens לשנייה ועד שידור חי של Hugging Face על האצות speculative decoding. בגדול, Windows פיגרה אחרי ה-Mac בכלים צרכניים להרצת LLM מקומי, ו-LM Studio ו-Ollama הן השחקניות הוותיקות. כדאי לעקוב אחרי האימוץ ותמיכת ה-GPU backends.