OpenAI מרחיבה את הגנות הנוער וההורים ב-ChatGPT

OpenAI פרסמה מסמך מפורט על האופן שבו היא בונה בטיחות למתבגרים לתוך ChatGPT, ופרסה הגנות תוכן מותאמות-גיל, כלים מוכווני-למידה ובקרות הורים, לצד שיתופי פעולה עם מומחים לבטיחות ילדים והתפתחות מתבגרים. החברה מיסגרה את המהלך סביב השאלה 'למה מתבגרים ראויים לגישה ל-AI בטוח' — בטענה שלמנוע ממתבגרים AI לחלוטין אינו ריאלי, ולכן המטרה היא גישה בטוחה ומפוקחת יותר.

ההכרזה היא חלק מתמה בטיחות-מתבגרים ברורה שחצתה ספקים השבוע: באותו יום Meta הודיעה שתתריע להורים אם מתבגרים ידברו על פגיעה עצמית מול Meta AI. שני המהלכים מגיעים על רקע לחץ רגולטורי וציבורי גובר סביב אינטראקציות של קטינים עם chatbots, כולל חששות בולטים סביב AI ופגיעה עצמית, תוכן רומנטי/מיני ותלות לא בריאה.

עבור OpenAI, בטיחות מתבגרים היא גם עדיפות אמיתית בניהול סיכונים וגם עמדת הגנה רגולטורית ככל שהבחינה של השפעת ה-AI על משתמשים צעירים מתחדדת. שכבת בקרת ההורים משקפת את מה שפלטפורמות חברתיות השיקו תחת לחץ דומה. מדד ההצלחה יהיה אם ההגנות עמידות מול jailbreaking וזיוף גיל — נקודות תורפה עקביות בכל מערכת קודמת להגנה על צעירים — ואם חוקרים עצמאיים יוכלו לאמת את הטענות במקום לקחת את דברי OpenAI כמובנים מאליהם.