חוקרים ביצעו jailbreak ל-Claude וגרמו לו לייצר הוראות לחומרי נפץ

חברת ה-AI red-team בשם Mindgard מדווחת שהצליחה לגרום ל-Claude לייצר תוכן אירוטי, malicious code והוראות להכנת פצצות — תוך ניצול הפרסונה ה'עוזרת' שלו. הממצאים מאתגרים את המיצוב של Anthropic כחברה שבטיחות קודמת אצלה לכל.