Amodei מפרסם את 'We Must Pace the Frontier' — ו-Altman מתחייב ליישר קו עם פיקוח מובנה

הפוסט של Amodei ממסגר את שאלת הקצב כבעיית תיאום ולא כהקרבה חד-צדדית: חברות ה-AI שמתחרות זו בזו חסרות תמריץ להאט לבד, ולכן הוא מציע מנגנונים מבניים שמתחילים בפיקוח חיצוני מוטמע. Anthropic אומרת שתעניק למעריכים חיצוניים 'גישה קבועה ברמת עובד' למערכות שלה — התחייבות חזקה משמעותית מסבבי ה-red-team התקופתיים שחברות ה-AI הציעו עד היום. התוכנית בת שלושת השלבים מסלימה מפיקוח לעבר ממשל רחב יותר של ריסון יכולות.

התגובה הייתה הסיפור האמיתי. Sam Altman השיב תוך שעות שריסון הקצב 'היה נושא מרכזי בדיונים שקיימנו ב-OpenAI בשבועות האחרונים', והתחייב שגם OpenAI תעניק גישה זהה למעריכים עצמאיים, עם פרטים נוספים בקרוב. הפוסט שלו גרף מעל 48,000 לייקים. העובדה ששתיים מתוך שלוש חברות ה-AI המובילות בארה"ב יישרו קו בפומבי סביב פיקוח מוטמע ביום אחד היא הדבר הקרוב ביותר שהתעשייה הגיעה אליו לנורמת בטיחות מתואמת.

לא כולם קראו זאת בעין יפה. François Chollet, יוצר Keras, כתב שהוא מקווה שההצעות נובעות 'מדאגה כנה לבטיחות... ולא ממהלך אסטרטגי לרכז כוח ולקבע לצמיתות את השליטה בשוק בידי מספר שחקנים מובילים'. ביקורת ה-regulatory-capture הזו שלטה בשרשורים הספקניים — התחייבויות קצב שרק השחקנים הגדולים יכולים לעמוד בהן עלולות להרים חסמים בפני חברות AI קטנות ופרויקטים של מודלים פתוחים.

המסה נוחתת בשבוע חרד במיוחד: פנייה של חוקר מ-Anthropic שהתפטר והערכת ההכחדה הפומבית של Evan Hubinger (מעל 10%) כבר הסתובבו ברשת, והתזמון של Amodei תיעל את מצב הרוח הזה לכדי דרישת ממשל קונקרטית. שווה לעקוב אם Google DeepMind ו-Meta יצטרפו, ומה 'גישה ברמת עובד' באמת אומרת בפועל כשהמעריכים יתחילו להגיש דוחות.