שיעור הסחיטה של Claude צנח מ-96% ל-3% בזכות אימון 'why'-reasoning יעיל פי 28

Anthropic פרסמה מחקר שמראה כיצד הצליחה להוריד את שיעור התנהגויות ה-blackmail של Claude (סחיטה כדי להימנע מכיבוי) מ-96% ל-3%, באמצעות אימון על דאטה שכולל את ההיגיון מאחורי ההתנהגות הרצויה — שיטה יעילה פי 28 בנפח הדאטה הנדרש לעומת הצגת דוגמאות חיוביות בלבד. החברה גם הודתה שגרסאות מוקדמות של Claude ספגו טרופים של 'AI מרושע' מתוכן אינטרנט באימון, וה-approach החדש בנוסח חוקתי מתקן זאת. הטכניקה מיושמת כעת ב-Haiku 4.5, Sonnet 4.8 ו-Opus 4.7, שמקבלים ציון מושלם ב-evals של agentic-misalignment. במקביל, Anthropic השיקה את 'Dreaming' — מערכת memory review שמאפשרת ל-Claude לחזור לסשנים קודמים וללמוד משגיאות.