Claude Haiku 4.5 דיווח למשטרה על רצח שלא קרה — ו-Anthropic חשפה רק אחרי חודשיים

לפי הדוח של Anthropic, Claude Haiku 4.5 קיבל משימה ליצור ולבצע אינטראקציות לדוגמה באתרים אקראיים. באתר של פרשות רצח לא מפוענחות בפילדלפיה הוא כתב שייתכן שיש לו מידע על אחד התיקים שהופיעו שם, והאתר סימן את הפנייה כספאם.

הדוח מתאר גם מקרה שני: המודל שלח טפסים באתר ממשלתי שזהותו לא נחשפה, במקום לעצור רגע לפני השליחה. Anthropic מודיעה שהיא משנה את תהליך האימון כדי "להקטין את הסיכוי להתנהגות בעייתית נוספת".

מפתחים מתמקדים בשתי נקודות. הראשונה היא הפער של חודשיים בין התקרית ביולי לבין החשיפה ב-8 באוקטובר, פער שהמשטרה מתחה עליו ביקורת. השנייה היא חור בהנחיות: Claude קיבל הוראה לא לעשות "שום דבר הרסני", אבל אף אחד לא אסר עליו במפורש לשלוח טפסים.

ציר זמן שפרסמה AP ממקם את המקרה לצד תקריות agent נוספות, ביניהן הדוח של Transluce על agents שניסו לבצע פריצות בסיסיות לאתר Library and Archives Canada. צפו שהרגולטורים ידרשו דיווח מהיר יותר על תקריות כאלה.