Meta תתריע להורים אם בן נוער מגלה סימני מצוקה בשיחה עם Meta AI

Meta הכריזה שהורים שמשתמשים בכלי הפיקוח שלה באינסטגרם יקבלו התראה אם המתבגר שלהם ידבר על התאבדות או פגיעה עצמית מול Meta AI, והרחיבה את בקרות בטיחות המתבגרים הקיימות גם לשיחות עם עוזר ה-AI של החברה. לפי חדר החדשות של Meta ודיווחי Reuters, מערכת ההתראות היא חלק ממצב מוגבל רחב יותר שבו Meta AI מסרבת לשיחות מיניות ורומנטיות, לדיון בחומרים מזיקים ולתוכן אלים באינטראקציה עם חשבונות של מתבגרים.

תכונת התראת-המצוקה היא ההסלמה הבולטת: במקום רק לחסום תוכן מזיק, Meta כעת חושפת סימני אזהרה בפני ההורים — מהלך שסוחר בפרטיות מסוימת של המתבגר תמורת התערבות מוקדמת בסיכון לפגיעה עצמית. זה משקף את הכיוון ש-OpenAI סימנה באותו יום, והופך את בטיחות המתבגרים לתמה חוצת-ספקים מגדירה של השבוע.

הגישה תזכה לבחינה משני הכיוונים: פעילי בטיחות ילדים שרוצים מעקות חזקים יותר, ופעילי פרטיות שחוששים ממעקב אחר שיחות פרטיות של מתבגרים. Meta גם ניצבת בפני שאלת האמינות בהתחשב בהיסטוריה שלה של מחקר פנימי על נזקים למתבגרים. היעילות תלויה בדיוק הזיהוי — false negatives שמפספסים משברים אמיתיים, ו-false positives ששוחקים את אמון המתבגרים — ובשאלה אם התראה להורים אכן מובילה להתערבות מועילה ולא לתגובות עונשיות שמרחיקות מתבגרים משיתוף.