חוקר Anthropic מתפטר ומזהיר: חברות ה-AI דוהרות בפזיזות אל superintelligence

ההתפטרות של Coxon בלטה גם בתוכנה וגם במחירה: הוא מסגר את מרוץ ה-AI כפזיז, ולפי דיווחי קהילה ויתר על אקוויטי שכבר הבשיל (vested) — פרט שהעניק אמינות והפך לנקודת התלכדות. פרפרזה שנפוצה מאוד לכדה את מצב הרוח: 'הייתי שורף את האקוויטי שלי עד היסוד תמורת סיכוי גבוה ב-1% שנצא מהמצב הזה בחיים'.

התגובה בעלת ההשלכות הגדולות ביותר הגיעה מתוך Anthropic: אוואן היובינגר, ראש Alignment Science, העריך בפומבי סיכוי של יותר מ-10% להכחדת המין האנושי בתוך עשור — נתון כן ומזעזע מראש מחקר מכהן, שהפך ויראלי בפני עצמו. העובדה שראש ה-alignment של חברה יצהיר על סיכויים כאלה בגלוי מדגישה עד כמה Anthropic מבטאת כיום בפתיחות חשש קיומי.

תגובת הקהילה נחלקה בחדות. הפתיל ב-r/Anthropic הגיע ל-1,563 הצבעות חיוביות ו-943 תגובות; תומכים כינו את הקריאה 'עוצמתית ודחופה', בעוד מתנגדים ביטלו אותה כ'התמכרות לריח של עצמך'. הפתיל 'הוא אולי באמת צודק' ב-r/singularity הגיע ל-2,143 הצבעות. הדיון לכד שבר אמיתי בקהילת המפתחים סביב השאלה האם אזהרות קיומיות הן כנות או מנופחות-אגו.

התזמון חשוב: Coxon התפטר ב-9 בספטמבר, ההערכה של היובינגר התפשטה, ושלושה ימים לאחר מכן פרסם אמודיי את מסת ה-pacing שלו שמחייבת את Anthropic לפיקוח צד-שלישי. בקריאה משולבת, הרצף מרמז על חרדת בטיחות פנימית שמיתרגמת להתחייבויות מדיניות פומביות. האם התחייבויות ה-pacing יספקו חוקרים כמו Coxon — או ייקראו כמעט מדי — זו השאלה הפתוחה.