ה-Needle של Cactus Compute מזקק tool-calling של Gemini למודל edge של 26M parameters

Cactus Compute טיפסה לעמוד הראשי של HN (329 נקודות, 117 תגובות) עם Needle, מודל של 26 מיליון פרמטרים שעבר distillation מ-Gemini במיוחד ל-tool calling. מפתחים מסמנים אותו כחביב ה-LLM הזעיר של השבוע ל-agents על ה-edge.