קדחת ה-routing: סטארטאפים מגייסים בגדול ככל שגוברת הזעקה על עלות ה-tokens

סטארט-אפים בתחום ה-AI routing — שעוזרים למפתחים לנתב משימות אל המודל המשתלם ביותר ולנטר חריגות בהוצאות ותקלות — זוכים לגשם של כסף על רקע התסכול הגובר מחשבונות ה-AI המנפחים. OpenRouter גייסה 113 מיליון דולר בסוף מאי לפי שווי של 1.3 מיליארד דולר, וב-10 ביוני יצאה Concentrate AI ממצב סטלת' עם מימון של יותר מ-5 מיליון דולר, כך דיווחה Business Insider.

זינוק הביקוש מונע מכלכלת ה-token של כלי ה-AI לקידוד: Anthropic ו-OpenAI מחייבות לקוחות רבים לפי token, והמודלים החזקים שלהן מסבים לחברות 'הלם מחיר'. ה-routers פותרים את זה בכך שהם מתווכים גישה למודלים המובילים לצד חלופות זולות יותר מ-Google, DeepSeek, MiniMax ו-Xiaomi. 'נוף המודלים כל כך מפוצל, כל כך קשה לעקוב,' אמר Ari Jacoby, מנכ"ל Concentrate AI.

למגמה יש גיבוי כבד משקל: מנכ"ל Coinbase משבח את ה-routing כדרך לשמור על עלויות AI יציבות בערך תוך הגדלת השימוש, וגם Julien Chaumond, מייסד-שותף של Hugging Face, תמך בה כאסטרטגיה. הקאץ' הוא שחברות הטכנולוגיה הגדולות — AWS, Microsoft ו-Google Cloud — מציעות כל אחת כלי routing משלהן, מה שמעמיד את הסטארט-אפים מול תחרות אדירה. האות העמוק יותר, שמהדהדים אותו מנהיגי Coinbase ו-Hugging Face, הוא שאנרגיה וכוח מחשוב — לא מודלים טובים יותר — הופכים למגבלה האמיתית, ושב-DeepSeek ומודלים זולים אחרים 'עוקפים את המתחרים' על גבול העלות-ביצועים באביב הזה.