DeepMind הציגה benchmark AI Agent Traps לבדיקת בטיחות

DeepMind הציגה את AI Agent Traps, benchmark חדש לבדיקת בטיחות וחוסן AI במערכות agentic. ה-benchmark בוחן כיצד AI agents מתמודדים עם תרחישים מטעים או עוינים, ומספק תובנות קריטיות על מצבי כשל פוטנציאליים ופגיעויות בטיחותיות במערכות AI אוטונומיות.