Anthropic פותחת את הדלתות ל-METR: גישה למודלים ברמת עובד
לפי Reuters, ל-METR, הארגון העצמאי להערכת מודלים, יש עכשיו גישה ברמת עובד למודלים ולנוהלי הבטיחות של Anthropic. זה יותר ממה שגופי הערכה חיצוניים מקבלים בדרך כלל, כלומר גישה ל-API או ל-checkpoints לפני השקה. הגישה הזו אמורה לאפשר ל-METR לבחון גם את תהליכי ה-deploy והבטיחות הפנימיים, ולא רק את התוצרים של המודלים.
התזמון לא מקרי. השבוע Anthropic פרסמה אזהרה מתולעי AI שמשכפלות את עצמן, ומבקרים טענו שזה הייפ שלא אומת. הכותרת ב-The Register הייתה "Anthropic ממציאה עוד איום שעדיין לא קיים". בדיקה חיצונית מעמיקה יותר היא דרך אחת להשיב לטענה ש-Anthropic בודקת את שיעורי הבית של עצמה בנושא בטיחות.
בנוסף, Anthropic מתקרבת ל-IPO עם הכנסות רבעוניות של 16.8 מיליארד דולר. לכן האמינות שלה בענייני ממשל תאגידי מול משקיעים חשובה יותר מבעבר.
מה לבדוק בהמשך: האם METR תפרסם גם ממצאים ביקורתיים ולא רק חיוביים, והאם OpenAI ו-Google יציעו גישה דומה.