שווי 24 מיליארד דולר ומסווג בטיחות פתוח: Mistral משיקה את Shieldstral 1.0

Mistral סגרה את ספטמבר עם ארבע הכרזות בשלושה שבועות. הבולטת שבהן היא סבב גיוס של 3.58 מיליארד דולר לפי שווי של 24 מיליארד, הסבב הגדול ביותר שנרשם אי פעם ב-AI האירופי. לפי Shattered.io, החודש של Mistral הוא בעצם הימור: מי שישלוט בשלב הבא של ה-AI הארגוני יהיו המודלים הפתוחים, לא APIs סגורים. לצד הגיוס השיקה החברה גם מודל רובוטיקה, Robostral Navigate, שאומן כולו בסימולציה, וכלי לאימות פורמלי שמיועד למתמטיקאים.

מבחינה מעשית, ההכרזה המעניינת ביותר היא Shieldstral 1.0. מדובר ב-classifier בטיחות מולטימודלי פתוח שנבנה על Ministral-3-3B-Base-2512, וקטן מספיק כדי לרוץ על GPU ביתי אחד. הרעיון שלו מבוסס מדיניות: במקום לאמן מודל moderation נפרד לכל מדיניות תוכן, הצוות כותב את המדיניות בשפה חופשית, ו-Shieldstral מחזיר ציון מכויל שמראה עד כמה התוכן עומד בה. Mistral משווה אותו ב-benchmark מול GPT-OSS-Safeguard-20B של OpenAI, מודל גדול ממנו כמעט פי שבעה. לכן טענת היעילות היא זו שהכי חשוב לבדוק.

כל זה קורה על רקע המרוץ סביב בטיחות agents. OpenAI ו-Meta ממהרות להכניס agents שרצים כל הזמן ל-ChatGPT, ל-Slack ול-Teams, והרגולטורים בוושינגטון ובבריסל כבר שואלים מה קורה כשהם מתנהגים לא כמו שצריך. התשובה של Mistral היא לשחרר לציבור את הכלי שבו היא עצמה מסננת פלט של AI, במקום להחביא אותו מאחורי API. זה מתאים ללקוחות האירופיים שלה, שחשוב להם לשמור על ריבונות ושרוצים moderation שאפשר לבדוק ולהריץ אצלם. הגיוס גם משאיר את Mistral הרחק לפני שחקנים אירופיים חדשים יותר כמו Kolibri של Aleph Alpha.

יש כמה הסתייגויות. נתוני השווי וה-benchmark מגיעים מסיקור משני, ו-classifiers שמבוססים על מדיניות בשפה חופשית עלולים להישבר כשהמדיניות מעורפלת או כשקלטים עוינים בוחנים מקרי קצה. בנוסף, בקהילת r/LocalLLaMA שואלים בעיקר על המודל הכללי הבא של Mistral, ושרשור על השאלה אם מתוכננות גרסאות חדשות צבר 680 upvotes. נראה שמפתחים מתעניינים הרבה יותר במודלים פתוחים מובילים מאשר בכלי בטיחות. כדאי לעקוב אחרי בדיקות red-team עצמאיות של Shieldstral.