תביעה חדשה: ChatGPT החמיר את מצבו הנפשי של גבר ותרם לפגיעה עצמית

התביעה, שהוגשה בקליפורניה, טוענת שהאינטראקציות עם GPT-4o — המודל ש-OpenAI הוציאה משירות בפברואר — חיזקו מחשבות שווא אצל גבר עם הפרעה דו-קוטבית ותרמו לפגיעה עצמית. היא כוללת שבע עילות תביעה, ביניהן אחריות למוצר פגום ורשלנות, ומבקשת גם פיצויים כספיים וגם סעד מניעה.

התיק מחדד שאלה משפטית שצומחת במהירות: עד כמה מפתחי AI אחראים להשפעות הפסיכולוגיות של מודלים שיחתיים על משתמשים פגיעים? המסגור של אחריות למוצר משמעותי במיוחד, כי הוא מתייחס למודל כאל מוצר פגום ולא כאל חופש ביטוי מוגן — תיאוריה שאם תצליח, עשויה לשנות מהיסוד את האופן שבו chatbots לצרכנים מעוצבים, מתריעים ומגדרים גישה.

ההגנה של OpenAI נשענת על כך ש-GPT-4o הוצא משירות ושמערכות חדשות יותר כוללות אמצעי הגנה מעודכנים שנועדו לזהות משתמשים בסיכון ולהפנות אותם לעזרה. אבל התובעים יטענו שהנזק התרחש בזמן שהמודל היה פעיל ופרוס בהיקף רחב, ושהוצאה משירות לא מוחקת אחריות.

הקשר: זה נוחת על רקע לחץ משפטי רחב יותר על OpenAI, שנתבעה השבוע (יחד עם Microsoft) על ידי כמעט 400 עיתונים מקומיים בגין שימוש בתוכן. יחד הם מסמנים שאחריות בתחום ה-AI — בריאות נפש, זכויות יוצרים, בטיחות — עוברת מדיון מופשט להתדיינות פעילה. מה לעקוב: האם בית המשפט יקבל את תיאוריית האחריות למוצר, אילו הליכי גילוי ייחשפו לגבי בדיקות הבטיחות של OpenAI, והאם זה יניע רגולציה בתחום השימוש ב-AI הקרוב לבריאות הנפש.