Anthropic פותחת את הדלתות ל-METR: גישה של עובד כדי לבדוק את המודלים ואת הבטיחות

המהלך מגיע אחרי ש-Anthropic התחייבה להערכה חיצונית חזקה יותר וחתמה על White House Accord on Super Intelligence.

Anthropic קבעה שלושה קריטריונים לגופים המעריכים:

- מומחיות בהערכת המודלים המובילים, כולל זיהוי כשלים כמו alignment faking.

- עצמאות: בלי אחזקות ב-Anthropic ובלי תלות כספית או תפעולית בה.

- גישה עמוקה מספיק כדי לבחון את האימון ואת מנגנוני ההגנה, ולא רק את המודלים עצמם.

לדברי Anthropic, המטרה היא לצמצם את הפער בין מה שמעריכים חיצוניים מבינים על המערכות שלה לבין מה שהחברה עצמה יודעת.

כדאי לעקוב אחרי מה ש-METR תפרסם, והאם OpenAI ו-Google יציעו רמת גישה דומה.