Palantir משיקה מנוע להרצת מודלי Nemotron הפתוחים של NVIDIA בסביבות ריבוניות

Palantir Technologies הכריזה על יוזמה אסטרטגית עם NVIDIA לספק מנוע חכם להרצת מודלי AI ו-Nemotron הפתוחים של NVIDIA בסביבות ריבוניות, במיקוד על סוכנויות ממשל בארה"ב ותשתיות קריטיות. ההצעה משלבת את כוח המחשוב, האקוסיסטם והמודלים הפתוחים של NVIDIA עם מוצרי AIP, Ontology, Foundry ו-Apollo של Palantir, ומאפשרת לארגונים לאמן ולפרוס מודלים פתוחים לצד טכנולוגיה קניינית תוך שמירה על שליטה בנתונים, ב-IP ובמערכות ה-AI.

יכולות מרכזיות כוללות הרשאת נתונים מפורשת, אכיפת פרימטר מאובטח, בידוד ספציפי-ללקוח הנאכף ארכיטקטונית, ניידות נתונים, זכות למחיקה ויכולת ביקורת מלאה. באופן קריטי, הלקוחות הם הבעלים של מודלים משתפרים-עצמית הספציפיים למשימה שלהם: המנוע אוסף נתוני טלמטריה ו-trace מהמשתמשים, ואז משתמש בהם כדי לבצע post-train ו-alignment למודל למשימות בעלות ערך גבוה — לולאת משוב מתמשכת שמשפרת את הביצועים התפעוליים תוך שמירה על הכל בתוך הפרימטר של הלקוח.

המהלך לוכד מדוע מודלים פתוחים הפכו לתשתית המועדפת לפריסות של ביטחון לאומי ותחומים מוסדרים: אפשר לבחון אותם, לבצע להם fine-tune ולהריץ אותם באופן מבודד לחלוטין (air-gapped), בניגוד למודלי API סגורים. הוא משלים את השחרור המקביל של AWS ב-GovCloud של Nemotron ו-GPT OSS, ומראה מספר חברות שמתחרות לשרת את הביקוש ל-AI ריבוני.

ההכרזה חפפה להערת שוליים צבעונית: בראיון ל-CNBC על העסקה של Palantir עם NVIDIA, המנכ"ל Alex Karp סטה מהתסריט כביכול למשך כ-20 דקות כדי לתקוף את תעשיית ה-AI ואת יחסי הממשל האמריקאי איתה. בנפרד, מתחרת שבבי NVIDIA בשם Etched הגיעה לשווי של 5 מיליארד דולר עם הזמנות רשומות של מיליארד דולר עבור 'frontier inference clusters' ממוקדי inference. שווה לעקוב אילו סוכנויות יאמצו את מנוע Palantir-NVIDIA והאם לולאת המשוב המשתפרת-עצמית תספק הישגי משימה מדידים.