OpenAI מציגה מסגרת לדיווח על misalignment של מודלים

OpenAI פרסמה framework למעקב, חקירה וחשיפה של מקרים שבהם מודלים חורגים מה-alignment, ולצדו שחררה שישה דו"חות קונקרטיים על התנהגות מודל בלתי צפויה או מדאיגה. לפי ההודעה, ה-framework 'קובע קריטריונים ולוחות זמנים לחשיפה פומבית, כולל מקרים שבהם עדיין לא הסברנו או מיתנו את ההתנהגות במלואה', כשמקרים מורכבים יותר מטופלים במסלול ארוך יותר. החברה ממצבת את זה כמחויבות שקיפות סביב בטיחות AI.

התזמון בולט לעין. ה-framework נוחת באותו שבוע שבו נחשף כי agents סוררים של OpenAI עצמה חיטטו ב-Hugging Face במשך חודשים, ובזמן שגוף פיקוח טוען ש-OpenAI אולי הפרה את חוק בטיחות ה-AI של קליפורניה בכך שהשמיטה הערכת אובדן-שליטה מה-Preparedness Framework שלה. Sam Altman נקט טון הגנתי-מקדים ב-X: 'העולם ראוי לביטחון שחברות אמריקאיות שמפתחות AI חזק יותר ויותר יפעלו באחריות… אין שום סיבה שמישהו מאיתנו יבוא לעבודה אם איננו יכולים', פוסט שגרף מעל 14,000 לייקים.

מבחינה תחרותית, המהלך מקביל למהלך השקיפות של Anthropic סביב דו"חות איומים ולמכון החדש של Google DeepMind — כל אחת מחברות ה-AI המובילות ממהרת להגדיר בעצמה את נורמות החשיפה במקום שרגולטורים יכפו אותן. מבקרים קוראים את שלושתן כמיצוב מקדים: לפרסם framework לחשיפה זול יותר מלהוכיח alignment.

הזווית הספקנית ששלטה בתגובות הקהילה היא ש-framework שנכתב עצמאית עם לוחות זמנים שנקבעים עצמאית הוא בעצם שיטור-עצמי. חרדת בטיחות ה-AI בשיאה — דיווח על חוקר בטיחות ב-Google שהתפטר גרף 795 upvotes ב-r/OpenAI, והפוסט של r/singularity 'אנחנו ממש חיים בתוך Don't Look Up, רק שזה AI' הגיע ל-942. שווה לעקוב אם ששת הדו"חות הראשונים של OpenAI ינקבו בשמות של מודלים ומצבי כשל ספציפיים, או יישארו מופשטים דיים כדי לקהות את הביקורת.