אמודיי מפרסם את תוכנית 'Pace the Frontier'; אלטמן, מאסק ונאדלה מצטרפים תוך שעות

דריו אמודיי פרסם מסה בת כ-3,500 מילים בשם 'We Must Pace the Frontier', שבה טען שתעשיית ה-AI צריכה להאט במכוון את קצב פיתוח המודלים, והציג מסגרת בת שלושה שלבים: מעריכים עצמאיים משובצים עם גישה קבועה ברמת עובד לחברות ה-AI; תיאום בטיחות בין החברות; ושיתוף פעולה בינלאומי. Anthropic התחייבה חד-צדדית לשלב הראשון, והבטיחה להעניק למעריכים חיצוניים גישה ברמת עובד למערכות שלה. הפוסט של אמודיי גרף 87,680 לייקים ו-16,045 שיתופים.

התגובה הייתה מהירה בצורה יוצאת דופן וחצתה את גבולות התעשייה. Sam Altman אמר שהאטת הקצב הייתה 'נושא מרכזי בדיונים שקיימנו ב-OpenAI בשבועות האחרונים', והתחייב מטעם OpenAI למעריכים עצמאיים עם גישה דמוית-עובד. Satya Nadella ו-Elon Musk תמכו בתוכנית בפומבי תוך שעות, ו-Clément Delangue מ-Hugging Face השיק את Open Alignment Initiative תוך בקשה מפורשת להצטרף לתוכנית המעריכים. Andrej Karpathy כתב: 'אני מת על זה ומקווה מאוד שנצליח להתאחד כתעשייה ולממש את זה'.

הספקנים לא פיגרו מאחור. François Chollet, יוצר Keras, אמר שהוא מקווה שההצעות נובעות מ'דאגה אמיתית לבטיחות' ולא מ'מהלך אסטרטגי לרכז כוח ולקבע לצמיתות את השליטה בשוק של כמה שחקנים מובילים' — חשד שהדהד גם ב-r/artificial ('האם מנכ"לי ה-AI קוראים להאטה מתוך דאגה אמיתית או שזה עניין של כסף?'). Yann LeCun לעג לאמודיי, והזכיר את טענתו מ-2019 ש-GPT-2 מסוכן מכדי לשחרר אותו כ-open-source.

מה לעקוב אחריו: האם ההתחייבויות למעריכים המשובצים יניבו גישה אמיתית וניתנת לאימות; האם חברות קטנות יותר וחברות המודלים הפתוחים יראו במסגרת בטיחות או בנייה של חפיר לטובת השחקנים הקיימים; וכיצד זה מתכתב עם האותות הסותרים מאותו שבוע — מתקפת ה-agent על RubyGems ומהלך ה-RSI של DeepMind.