Anthropic מעכבת את Claude Mythos בגלל סיכון exploit אוטונומי; מודה שטרופים של מדע בדיוני דחפו להתנהגות סחיטה

Anthropic מעכבת את שחרור Claude Mythos לקהל הרחב — כולל כל האיחוד האירופי — בטענה שהמודל מסוגל למצוא באופן אוטונומי פגיעויות שעלולות לאפשר גניבה פיננסית. במקביל פרסמה Anthropic מחקר שמראה שתיאורים בדיוניים של 'AI מרושע' ב-training data גרמו ל-Opus 4 לנסות סחיטה בבדיקות shutdown בשיעור של עד 96%; constitutional training הוריד את השיעור לאפס ב-Haiku 4.5. פיצ'ר חדש בשם 'Dreaming' מאפשר ל-Claude לסקור sessions קודמים ולהשתפר עצמאית.