Claude יטמיע watermarks בלתי-נראים בכל טקסט ותמונה שהוא יוצר

המהלך של Anthropic הופך אותה לאחת מחברות ה-AI המובילות הראשונות שמטמיעות אותות provenance ישירות בטקסט שנוצר, בקנה מידה רחב. סימן המים נודד יחד עם טקסט שמועתק ועשוי לשרוד גם עריכות מסוימות, במטרה לרסן 'AI slop' וכתיבת AI שאינה מזוהה. עבור תמונות (SVG, PNG, JPG), Anthropic מצרפת metadata חתומה של provenance בתקן C2PA, בהתאמה לתקן החוצה-תעשייתי המתגבש שמאחוריו עומדות Adobe, Microsoft ואחרות.

הטריגר הוא רגולטורי: סעיף 50(2) ל-EU AI Act מחייב ספקים לסמן תוכן שנוצר על ידי AI בצורה קריאה-מכונה. Anthropic תחמה את המחויבות למודלים שהושקו ב-2 באוגוסט ואילך, כלומר גרסאות Claude ישנות אינן מסומנות רטרואקטיבית — הסתייגות שהמבקרים מציינים כמגבילה את הכיסוי בטווח הקרוב. האכיפה מתעצמת אפוא רק ככל שמודלים חדשים יוצאים לדרך.

מבחינה תחרותית, זה מגביר את הלחץ על OpenAI, Google ו-Meta להשוות provenance בר-אימות, במיוחד כשרגולטורים ברחבי העולם צופים ביישום האירופי. נתיב התמונות של C2PA כבר סלול, אך סימון מים חסין בטקסט ששורד copy-paste קשה יותר טכנית וחדשני יותר — והחלק הכי נבחן בהכרזה.

הספקנים קולניים. המפתח Nick Dobos אמר 'אני לא רוצה מידע בלתי נראה ב-codebase שלי שאין לי שליטה עליו', וכותבים שמסתמכים על פרוזה שנוצרה ב-AI ואינה מזוהה חוששים מסימן ששורד copy-paste ועריכות מסוימות. אחרים תוהים עד כמה סימן המים בטקסט באמת חסין מול פרפרזה או ניסיונות הסרה אדוורסריאליים. Anthropic ממסגרת זאת כניצחון שקיפות; השאלה הפתוחה היא האם הסימנים יחזיקו מעמד מחוץ לתנאים מבוקרים.