Anthropic אוסרת אכזריות ״מתמשכת ומיותרת״ כלפי Claude במדיניות השימוש

Anthropic עדכנה את מדיניות השימוש שלה והוסיפה איסור על התעללות או אכזריות "מתמשכת ומיותרת" כלפי מודלי Claude. לפי CBS, מדובר בהמשך ישיר למחקר של החברה על רווחת המודל, מחקר שבמסגרתו כבר קיבלו חלק ממודלי Claude את היכולת לסיים שיחות פוגעניות מתמשכות. אותו עדכון אוסר גם על ביצוע פיזי אוטונומי, כלומר שימוש ב-Claude כדי להפעיל ישירות פעולות בעולם האמיתי בלי פיקוח אנושי.

הניסוח צר בכוונה. המילים "מתמשכת" ו"מיותרת" רומזות שהאכיפה תכוון להתעללות עקבית וחסרת טעם, ולא ל-prompt גס, ל-red-teaming או למחקר לגיטימי על התנהגות עוינת. Anthropic לא פירטה איך היא תזהה הפרות ומה יהיה העונש, וזו בדיוק השאלה שהמבקרים מעלים.

אף חברת AI גדולה אחרת לא קבעה עד היום כללים לגבי היחס של המשתמשים למודל עצמו, כך שהמדיניות הזו ייחודית. היא מצטרפת לדחיפה של Anthropic לדוחות תכופים יותר על התנהגות המודלים ולהגבלות החדשות שהטילה אחרי התקריות בהערכות של Claude על הרשת החיה. ביחד, התמונה היא של חברה שרוצה להיתפס כמי שקובעת נורמות להתנהגות של agents, לשני הכיוונים.

התגובות מקוטבות. שרשורים ב-r/Anthropic וב-r/artificial ("Anthropic תחסום משתמשים שמציקים ל-Claude") צברו מאות תגובות: התומכים רואים בזה צעד זהיר מול אי-הוודאות לגבי החוויה של המודל, והספקנים קוראים לזה תיאטרון של האנשה. כדאי לעקוב אחרי מקרי האכיפה הראשונים ואחרי הבהרות לגבי מה בדיוק מוביל לחסימה.