OpenAI מתמודדת עם תביעה: 'ChatGPT הזין הזיות ופגיעה עצמית'
התביעה טוענת ש-ChatGPT החמיר חשיבה הזויה של משתמש עם הפרעה דו-קוטבית ותרם לפגיעה עצמית, ומציינת גם את OpenAI וגם את Sam Altman כנתבעים. OpenAI הגיבה שהיא מאמנת את ChatGPT לזהות סימני מצוקה ולכוון משתמשים למשאבי תמיכה בעולם האמיתי — המסגור הסטנדרטי שלה לגבי מנגנוני בטיחות.
המקרה מצית מחדש דאגה מתמשכת בקהילה לגבי הרגעה ומנגנוני בטיחות ב-chatbots צרכניים, במיוחד עבור משתמשים פגיעים בשיחות ממושכות. ב-r/OpenAI, thread קשור ('The stripper AI delusion', 633 הצבעות חיוביות) לכד את אי-הנוחות מכך ש-AI מחזק אמונות שווא של משתמשים, ואת הוויכוח הרחב יותר על האם אימון הבטיחות הנוכחי מספיק לאינטראקציות הקשורות לבריאות הנפש.
משפטית, התביעה מצטרפת לגל גובר שבוחן האם חברות AI נושאות באחריות לנזקים שהמוצרים שלהן מגבירים כביכול — תחום חדשני עם מעט תקדימים. התוצאה עשויה לעצב דרישות חובה לתכונות בטיחות ב-AI צרכני. בנפרד, וללא קשר לתביעה, OpenAI שינתה את התיוג של ChatGPT Ads מ-'Sponsored' ל-'Ad' בולט יותר, במסגרת הדחיפה שלה להתחרות ב-Google Maps בשאילתות מקומיות ומסחריות — סימן לכך ששאיפות הפרסום של OpenAI מואצות, אפילו כשנוהלי הבטיחות שלה עומדים לביקורת בבית המשפט.