ה-watermark של Claude ל-EU AI Act? כלי חינמי מוחק אותו תוך ימים

Anthropic החלה לסמן בסתר (watermarking) את כל הטקסט שנוצר על ידי Claude ב-2 באוגוסט 2026, מהלך שנועד לעמוד בדרישות המקור (provenance) של חוק ה-AI של האיחוד האירופי לתוכן שנוצר על ידי AI. תוך ימים ספורים, המפתח הפריזאי Guillaume Meyer שחרר כלי open-source חינמי שמסיר את הסימן בצורה אמינה, והצית מחדש ויכוח ותיק על השאלה האם ניתן בכלל לאכוף watermarking של טקסט.

בניגוד לסימני מים בתמונות או באודיו, ששורדים טרנספורמציות רבות, סימני מים סטטיסטיים בטקסט ידועים לשמצה בשבירותם: ניסוח מחדש, re-tokenizing או כלי הסרה ממוקדים יכולים למחוק את האות תוך שמירה על המשמעות. הכלי של Meyer מדגים שמשתמש נחוש יכול להביס את המנגנון במאמץ מזערי, ומרוקן מתוכן את הערך הרגולטורי שהרגולטורים קיוו להפיק.

האירוע מבליט מתח מבני בהוראות המקור של חוק ה-AI האירופי: חיוב סימני מים אינו מבטיח שהם ישרדו את השימוש בעולם האמיתי. הוא גם מהדהד אי-נוחות רחבה יותר בקהילה — משתמשי HN ציינו ש-Paint ו-Photos של Microsoft כעת מוסיפים בסתר סימן מים עם GUID לפלט שנוצר מקומית, מה שמעלה חששות פרטיות לצד שאלות האכיפה. דיווחים ציינו גם תלונות איכות על כך שה-watermarking עלול לפגוע באופן עדין באיכות הטקסט.

עבור Anthropic, ההבסה המהירה היא בעיית תדמית מביכה של ציות ולא כישלון טכני של המודלים המרכזיים, אך היא מזמינה בחינה מדוקדקת של השאלה האם התחייבויות ה-watermarking של התעשייה מהותיות או הצגתיות. הקוראים צריכים לעקוב כיצד יגיבו הרגולטורים האירופיים לסימני מים שניתן להסיר בקלות, האם Anthropic תחזק את הסכמה, והאם התעשייה תפנה לכיוון מקור קריפטוגרפי או תקני content-credentials במקום.