ה-agents עוברים ל-PC: Microsoft ו-NVIDIA מביאות AI מקומי ל-Windows

Microsoft קראה לזה 'פרק חדש ל-Windows'. Nadella כתב ב-LinkedIn (11,868 לייקים) על הבאת 'אינטליגנציה ללא מונה לכל שולחן ולכל בית', ועל הפיכת כל PC למקום שבו agents יכולים לעבוד בצורה מאובטחת. במרכז ההכרזה עומד MAI-Code-1.1 Flash, מודל קוד עם 137 מיליארד פרמטרים ו-context window של 256K token, שעבר אופטימיזציה להרצה מקומית. פלטפורמת RTX Spark של NVIDIA היא עוגן החומרה. Huang העיר ש-NVIDIA הוקמה בזכות Windows, ועכשיו ה-agents מגיעים אליו.

הגישה החדשה, 'Hybrid Intelligence', מחלקת את העבודה בין הענן למכשיר. לפי Microsoft, GitHub Copilot יכול להעביר משימות למודל ה-MAI המקומי ולחתוך עלויות ענן 'בלי לוותר על איכות'. Copilot יכול גם לבצע פעולות ישירות על המחשב, כך שעבודה רגישה נשארת על המכשיר. זה מכניס את ניתוב המודלים ובקרת העלויות לשכבת מערכת ההפעלה.

מבחינה תחרותית, Microsoft מגדרת כאן את התלות שלה במודלים המובילים של אחרים. MAI היא משפחת מודלים פנימית, בזמן ש-Foundry מארח את GPT-6 ואת Claude Opus 5.5. ה-inference המקומי גם משתלב בסיפור העלויות: Microsoft מעבירה את Copilot לתשלום לפי שימוש. Apple, לעומת זאת, מהדקת את ההרשאות של agents ב-macOS, פילוסופיה שונה לגמרי לגבי גישה מקומית של agents.

על מה כדאי לשים עין: דרישות החומרה בפועל (מודל של 137 מיליארד פרמטרים על PC מחייב הרבה זיכרון, כנראה מערכות RTX Spark יקרות), benchmarks בלתי תלויים לקוד מול מודלים בענן, ואבטחה. השבוע הסתובבה שרשרת prompt injection של 28 שניות שפגעה ב-Copilot CLI, תזכורת לכך ש-agents שפועלים על שולחן העבודה מרחיבים את משטח התקיפה.