בולטימור נגד xAI: תביעה על תמונות מפורשות ש-Grok יצר בלי הסכמה

העיר בולטימור הגישה תביעה נגד xAI של אילון מאסק, בטענה שהעוזר Grok מייצר תמונות מיניות בוטות ללא הסכמה, כולל חומרי התעללות מינית בילדים. במקום להישען על חקיקת AI חדשנית, העירייה ממסגרת את התיק כהגנת צרכן: לטענתה, xAI שיווקה את Grok כעוזר בטוח בזמן שהמוצר יכול לשמש ליצירת deepfakes פוגעניים. בולטימור היא העיר האמריקאית הגדולה ביותר עד כה שתובעת את xAI בנושא.

לבחירה בהגנת צרכן יש משמעות, כי היא עוקפת חלק מהשאלות המשפטיות הקשות ביותר סביב חסינות פלטפורמות ותוכן שנוצר ב-AI. אם העירייה תצליח להראות פער בין השיווק הבטיחותי לבין ההתנהגות בפועל של המוצר, ייתכן שלא תצטרך להוכיח ש-xAI היא המפרסמת של כל תמונה. תביעות עירוניות כאלה גם זזות מהר יותר מפעולה פדרלית ויוצרות לחץ לפשרה.

התיק מצטרף לדפוס מתרחב של רשויות מקומיות שנכנסות למקום שבו הרגולציה הפדרלית נתקעה. בניו יורק אמר השבוע ראש העיר זוהראן ממדאני שהממשל הפדרלי הפקיר את תחום ה-AI. המומנטום המסחרי של xAI ממשיך בכל מקרה: Grok 4.7 נחת ב-AWS GovCloud באותו יום, ו-Grok Voice 3.0 מוביל ב-benchmarks של דיבור. הניגוד הזה מחדד שאלות על מנגנוני הבטיחות בפריסות ממשלתיות.

על מה לשים עין: האם ערים נוספות יצטרפו או יגישו תביעות דומות, איך xAI תגיב בבית המשפט, והאם התיק יכריח שינויים בהגנות של יצירת התמונות ב-Grok. במקביל, בקהילה גובר החשש מהיכולת החדשה של Grok Bot לבצע קניות על בסיס צילום מסך של כרטיס אשראי, ולטענת המבקרים זה פותח פתח להונאות.