Google פותחת לציבור את SynthID Detector: בדיקה אם תמונה, וידאו או אודיו נוצרו ב-AI

Google פתחה לציבור את SynthID Detector. כל אחד יכול להעלות תמונה, וידאו או אודיו ל-synthid.com ולבדוק אם יש בהם סימני מים בלתי נראים של SynthID. החידוש המרכזי הוא הכיסוי הרוחבי: מעבר למודלים של Google עצמה, הכלי מזהה גם סימנים שהטמיעו OpenAI, NVIDIA ו-Kakao, שאימצו את שיטת הסימון.

SynthID מטמיע אותות שאי אפשר לזהות בעין או באוזן בתוך הפיקסלים, דגימות האודיו או ה-tokens שהמודל מייצר. האותות האלה שורדים עריכות נפוצות כמו חיתוך ודחיסה. גלאי שווה משהו רק אם הרבה מחוללים מסמנים את התוכן שלהם, ולכן האימוץ של כמה ספקים הוא מה שהופך את זה מפיצ'ר של Google למשהו שמתקרב לתקן תעשייתי. הוא משלים את C2PA, שנשען על metadata שקל מאוד להסיר.

ההשקה מגיעה בזמן שהלחץ סביב אימות מקור התוכן גובר, בגלל בחירות, הונאות ו-deepfakes, ובזמן שרגולציה כמו ה-EU AI Act מחייבת לסמן מדיה סינתטית. Meta ו-Adobe דוחפות גישות משלהן, והפיצול נשאר המכשול העיקרי. המגבלה ברורה: הגלאי מזהה רק תוכן של מחוללים שמשתתפים בתוכנית. מודלים פתוחים לתמונות וספקים שלא הצטרפו לא משאירים שום סימן, כך שתוצאה שלילית לא אומרת שהתוכן נוצר בידי אדם. כדאי לעקוב אם Anthropic, Meta ו-Midjourney יצטרפו, ואחרי מחקרים שמנסים להסיר את סימני המים.