Anthropic קוראת ל"דוושת בלם" מול AI ששפר את עצמו — כש-Claude כבר כותב 80% מהקוד של עצמו

המאמר, שנכתב בידי דמויות בכירות ב-Anthropic ובהן המייסד-השותף Jack Clark ומובילת Anthropic Institute מרינה פאברו, מציג את שיפור-עצמי רקורסיבי (RSI) כיכולת הקרובה ביותר שהיא גם המהפכנית וגם המסוכנת ביותר. נתון אחד מעגן את כל הטיעון: Claude כותב היום יותר מ-80% מהקוד שנכנס למערכות ה-production של Anthropic עצמה, והמהנדסים מעלים פי 8 קוד ברבעון לעומת קו הבסיס של 2021-2025. החברה גם מדווחת ששיעור ההצלחה של Claude במשימות הנדסה קשות ופתוחות זינק ל-76% במאי — עלייה של כ-50 נקודות בחצי שנה.

המכניקה של הטיעון פשוטה: ככל שהמודלים משתלטים על יותר מעבודת ההנדסה שמייצרת את המודל הבא, כך מצטמצם תפקיד האדם ב-loop — וזה הצעד שלפני RSI 'מלא', שבו מערכות משפרות את עצמן כמעט ללא פיקוח. Anthropic טוענת שהתעשייה זקוקה ל-interpretability, ל-evals ולמנגנוני עצירה מוחלטת — 'דוושת בלם' — לפני שחוצים את הסף הזה, ובמקביל מודה בפוטנציאל אמיתי למדע ולבריאות.

תחרותית, הפוסט נוחת בתוך שיח רחב על RSI: הוא מתחבר ל-harness לגילוי פגיעויות בקוד פתוח ש-Anthropic שחררה (519 נקודות ב-HN) ולדיון הרחב 'When AI Builds Itself' (505 נקודות, 680 תגובות). Ethan Mollick אמר שזה שווה קריאה אך ציין 'קצת התבוננות בטבור, קצת שיווק, והרבה אמונות מאוד כנות'. ספקנים ב-Hacker News נחלקו בין שבחים לשקיפות לבין ספק אם הרגולטורים מסוגלים לנוע מהר מספיק כדי שזה ישנה משהו. אחרים תהו אם '80% מהקוד' הוא מדד משמעותי — חלק גדול ממנו עשוי להיות boilerplate או test scaffolding ולא ארכיטקטורה חדשה. שווה לעקוב אם המתחרות OpenAI ו-Google יפרסמו חשיפות RSI דומות או יתרחקו מהמסגור הזה.