Paul Christiano מצטרף לדירקטוריון קרן OpenAI ולוועדת הבטיחות והאבטחה

OpenAI מינתה את חוקר ה-alignment פול כריסטיאנו ל-Foundation Board שלה ולוועדת הבטיחות והאבטחה. כריסטיאנו הוא מהדמויות הבולטות בתחום ה-alignment — מזוהה עם עבודת היסוד על reinforcement learning from human feedback, ולאחרונה עם עבודת הערכה וקביעת תקנים בקרבת גופים ממשלתיים — וצירופו מכניס קול בטיחות בעל מוניטין אל תוך מבנה הממשל של OpenAI.

התזמון אינו מקרי. המינוי נוחת בשבוע שנשלט על ידי חרדות בטיחות AI: אירוע ה-cybersecurity הרביעי של Anthropic, החלטתה למנוע את Mythos 5.1 מבדיקות בבריטניה, ודיון רחב יותר בתעשייה על השאלה האם audits לפני שחרור באמת תופסים את ההתנהגויות שחשובות. הצבת חוקר alignment בוועדת הבטיחות והאבטחה היא מהלך מהותי וגם מהלך של איתות — OpenAI רוצה להפגין רצינות ממשלית בזמן שהיא מרחיבה את Astra ודוחפת לעבר מה שסם אלטמן רמז שיכנה פנימית AGI עד דצמבר.

הקריאה הספקנית היא שמושבים ב-board ובוועדה חזקים רק כמו המנדט שלהם: חוקרי alignment הצטרפו לחברות AI ועזבו אותן בעבר על רקע מחלוקות בשאלה האם התחייבויות הבטיחות באמת נושכות. ההשפעה של כריסטיאנו תימדד לא לפי המינוי אלא לפי השאלה האם הוא משנה החלטות שחרור. כדאי לעקוב אחרי האופן שבו הוועדה מתממשקת עם הלחץ העסקי לשגר מהר (קיצוצי המכסה ב-Astra מרמזים שהלחץ המסחרי עז), והאם OpenAI תפרסם התחייבויות הערכה קונקרטיות תחת כהונתו.