Watermark על כל מילה: xAI מסמנת את טקסט Grok API מ-November 7 — גם ב-tool calls

xAI מפעילה סימון מים (watermarking) לטקסט כברירת מחדל. החל מ-7 בנובמבר, מודלי Grok נתמכים ב-API — grok-4.7, 4.6, 4.5, 4.3 ו-4.20 — יטמיעו בפלט אות סטטיסטי בלתי נראה. המפתחים לא צריכים לשנות קוד, ואפשרויות הביטול מוגבלות.

סימון מים סטטיסטי לטקסט עובד בדרך כלל באמצעות הטיה עדינה של בחירת ה-token בעזרת מפתח סודי, כך שגלאי יכול בהמשך להעריך אם הטקסט נוצר על ידי המודל. באופן חריג, xAI מחילה אותו לא רק על פרוזה אלא גם על תגובות מובנות ועל ארגומנטים של tool calls. ההיקף הזה הוא מה שמטריד מפתחים: הטיית token בתוך JSON או בארגומנטים של פונקציות יכולה, לפחות בתיאוריה, לפגוע בדטרמיניזם או בפלטים שדורשים התאמה מדויקת — אף ש-xAI רומזת שהאיכות לא נפגעת.

xAI מציגה את המהלך כעמידה ב-EU AI Act, שמחייב סימון קריא-מכונה של תוכן סינתטי. רוב חברות ה-AI כבר מסמנות תמונות ואודיו, אבל סימון טקסט כברירת מחדל על API שלם הוא נדיר יותר. SynthID-Text של Google הוא התקדים המוכר ביותר, אבל אכיפה כברירת מחדל גם על tool calls הולכת צעד רחוק יותר.

נשארו שאלות פתוחות: כמה הסימון עמיד לניסוח מחדש, האם כלי הזיהוי יהיו ציבוריים, ואיך לקוחות ארגוניים יוכלו לבטל אותו. מפתחים ב-Dev.to ובמקומות אחרים רוצים בהירות לגבי ההשפעה על פלט מובנה לפני שהמתג יורד.