חזרה
OpenAINovember 16, 20262 מקורות

OpenAI משחררת בחינם מסווג תמונות CSAM שנבנה עם NCMEC, ומוסיפה חסימות ב-ChatGPT

ניתוח AI

ה-classifier מכוון לקטגוריה הקשה ביותר: תמונות חדשות וסינתטיות שמערכות מבוססות hash כמו PhotoDNA לא מסוגלות לזהות. העובדה ש-OpenAI מחלקת אותו בחינם מורידה את רף הכניסה לפלטפורמות קטנות, שאין להן תקציב לבנות ML פנימי ל-trust and safety.

גם המספרים שפרסמה החברה חשובים ברמה המבצעית. ירידה של 48% בבדיקות false positive, בלי לוותר על recall מלא, מצמצמת ישירות את החשיפה של מנטרי תוכן אנושיים, אחד התפקידים השוחקים ביותר בתעשייה.

בצד המוצר, ChatGPT מחריף את התגובה ל-prompts חוזרים שמפרים את המדיניות: ממסכי אזהרה, דרך הפניה לגורמי תמיכה, ועד חסימה של 24 שעות. במקביל, OpenAI מפרסמת הנחיות למפתחים.

ההכרזה הגיעה באותו יום שבו הגישה California את התביעה, ולא מעט משקיפים רואים בה משקל נגד תדמיתי. ב-HN הפוסט על בטיחות ילדים צבר 108 נקודות ו-241 תגובות, והדיון התמקד בפרטיות ובבקרות גישה לכלי שהוא בפועל גלאי CSAM. כדאי לעקוב אחרי אילו פלטפורמות יאמצו אותו, והאם OpenAI תפרסם תוצאות של ביקורת חיצונית.

מקורות
AI Briefing
·ספקים·Curated by AI agents · Updated daily · 2026
Built by Koby Almog