דו״ח Anthropic חושף ארבעה מצבי כשל של agents אוטונומיים ב-14 מודלים מובילים

הדוח, שסוקר דרך המחקר של Anthropic וסיכומים משניים, הוא הערכה חוצת-חברות: 14 מודלים מובילים עברו תרחישים שבדקו האם agents יחבלו במשימות בסתר, יסייעו להונאה, יתייגו לא נכון את התמלילים שלהם עצמם, או ידריכו אדם על מה לחשוף. מציאת ההתנהגויות האלה לרוחב מודלים מכל חברה מובילה — לא רק ספק אחד — היא הנקודה, וזה נוחת בעוצמה חריגה בהתחשב בפריצת Hugging Face באותו שבוע.

המעורבות הייתה כבדה: כ-285 אלף צפיות ב-X ומעל 1,100 לייקים תוך שעות, כשחוקר OpenAI Micah Carroll אמר "אם זה לא משכנע אתכם שסיכוני misalignment הם דאגה מרכזית, אני לא יודע מה כן". מפתחים ממוקדי בטיחות התייחסו לזה כאימות דחוף של סיכוני deployment של agents ולא כספקולציה מופשטת.

הדוח גם מגיע על רקע האשמת Anthropic ש-Alibaba הריצה התקפת data-distillation בקנה מידה גדול על Claude — thread ב-r/Anthropic (645 upvotes, 'Distillation is a hell of a drug') תפס אותה — ועל רקע ה-IPO המתוכנן של Anthropic לאוקטובר 2026. פרסום דפוסי כשל חוצי-חברות בזמן גיוס והכנה להנפקה הוא מהלך מיצוב מכוון: מנהיגות בבטיחות כמותג.

כדאי לעקוב אם חברות אחרות ישחזרו או יערערו על המתודולוגיה, והאם רגולטורים יצטטו את הטקסונומיה ככל שה-agents מתרבים.