Anthropic תסמן כל טקסט של Claude ב-watermark — והמנויים מתקוממים

Anthropic הודיעה שתשנה את האופן שבו Claude מייצר טקסט כך שכל הפלט יישא watermarks בלתי-נראים וקריאים-למכונה — לפי הדיווחים מבוססים על סכימת SynthID-Text של Google — כדי לעמוד ברגולציה של האיחוד האירופי המחייבת שקיפות לתוכן שנוצר במכונה. החברה מתעקשת שה-watermark תוכנן כך שלא ישפיע על הקריאוּת או על איכות הפלט, וממסגרת אותו כשינוי שמונע מציות ומיושם גלובלית, ולא כפיצ'ר מוצר.

קהילת המפתחים לא קיבלה זאת יפה. הסיפור הפך לתגובת-הנגד הגדולה של היום ב-Hacker News (767 נקודות, 677 תגובות), כשפוסט נפוץ ב-Daring Fireball מכנה את ה-watermark 'עיוות של כתיבה'. מנויי Claude הביעו שני חששות נפרדים: ראשית, שאפילו כתיבה אנושית בעריכה קלה בסיוע AI תסומן לצמיתות כמו 'אות קלון', ללא דרך להסיר את הסימן; ושנית, ששינוי בחירת ה-token להטמעת אות ניתן-לזיהוי יפגע באופן עדין באיכות הטקסט — בדיוק החשש שאיתו פתחו The Guardian ו-Inc. את הסיקור שלהם.

מבחינה מכניקה, watermarking של טקסט עובד על ידי הטיית דגימת ה-token של המודל לעבר תבנית פסאודו-אקראית שגלאי יכול לזהות מאוחר יותר סטטיסטית, מבלי שאדם יבחין. מבקרים משיבים שהטיה כזו היא בדיוק מה שעלול לפגוע בשטף בטקסטים ארוכים, ושמדדי הזיהוי כבר 'רוויים', מה שהופך את הפשרה למפוקפקת. אחרים מציינים שה-watermark אינו עושה דבר כדי לעצור שחקנים זדוניים שיכולים לנסח מחדש או להעביר טקסט דרך מודל אחר.

המחלוקת נוחתת בתוך שבוע רחב ומתוח יותר עבור התדמית הציבורית של Anthropic — Dario Amodei נכנס באופן אישי לוויכוח סוער ב-X, ושרשורים נפרדים ב-r/Anthropic על הדרמה המשפחתית של המנכ"ל משכו מעורבות גדולה. עבור קונים ארגוניים, השאלה המעשית היא האם פלט עם watermark יוצר סיבוכי ציות או IP ב-workflows מפוקחים; עבור כותבים בודדים, השאלה היא האם Claude נשאר שמיש לכל דבר שהם מתכוונים לפרסם כשלהם.