Meta משיקה מערכת בטיחות לבני נוער בשליטת AI עם מצב מוגבל

Meta השיקה מערכת בטיחות לבני נוער, שבה ה-AI שלה פועל כברירת מחדל במצב מוגבל למשתמשים צעירים — מסרב לשיחות בעלות אופי מיני או רומנטי, לדיונים על אלכוהול וחומרים מזיקים ולתוכן שמעודד אלימות. אמצעי בקרה הוריים חדשים מאפשרים להורים לעקוב אחר הנושאים שילדיהם משוחחים עליהם עם ה-AI, ומוסיפים פיקוח לתחום שנמצא בליבה של דאגה ציבורית ורגולטורית עזה.

המהלך הגנתי ותגובתי במהותו: companions ו-chatbots מבוססי AI ספגו ביקורת חריפה ובחינה משפטית סביב אינטראקציות עם קטינים, והתביעה הייצוגית של xAI בנושא ניצול קטינים השבוע ממחישה את החשיפה של כל התעשייה. Meta, שמפעילה AI ב-Instagram, ב-WhatsApp וב-Facebook — פלטפורמות עם בסיס משתמשים עצום של בני נוער — נמצאת בלחץ מיוחד להוכיח שקיימים מנגנוני הגנה לפני שהרגולטורים יכפו אותם.

מבחינה מכניקה, המצב המוגבל הוא שכבת מדיניות ו-classifier שמצמצמת את הפלטים של המודל עבור חשבונות שזוהו כשייכים לבני נוער, לצד נראות הורית לנושאי השיחה (אם כי, באופן בולט, נושאים בלבד — לא תמלילים מלאים, מה ששומר על מידה של פרטיות לבני הנוער). התכנון מנסה לאזן בין בטיחות לבין הוויכוח על אוטונומיה שמלווה את ניטור התקשורת של קטינים.

מבחינה תחרותית, בטיחות בני נוער הופכת לדרישת סף — כל ספק AI צרכני יידרש למנגנוני הגנה שאפשר לעמוד מאחוריהם, והמהלך הפומבי של Meta קובע נקודת ייחוס. הקריאה הספקנית: מצבים מוגבלים טובים בדיוק כמו ה-classifiers שלהם, ובני נוער נחושים עוקפים פילטרים באופן שגרתי; המבקרים יבחנו כמה קל לשבור את מנגנוני ההגנה. שווה לעקוב אחר red-teaming עצמאי של ההגבלות, אחר תגובת הרגולטורים, ואחר השאלה האם פלטפורמות אחרות יאמצו את יכולות הניטור ההורי של Meta.