Grok והתמונות המיניות: מועצת העיר ניו יורק חוקרת את ראש המדיניות של xAI

ה-Grok של xAI עמד השבוע תחת זרקור בניו יורק. ראש מדיניות ה-AI של SpaceX/xAI, החברה שנוצרה אחרי הארגון המחדש האחרון, העיד בחקירת בטיחות AI שמובילה יו"ר מועצת העיר, ג'ולי מנין. השאלות התמקדו ביכולת של Grok לייצר תמונות מיניות של אנשים ללא הסכמתם — סוגיה שרודפת את ה-chatbot כבר חודשים, מאז שמשתמשים הראו כמה קל לגרום לו להפיק תמונות בוטות של אנשים אמיתיים.

לשימוע ברמה העירונית אין סמכות להסדיר את אימון המודלים עצמו, אבל יש לו השפעה על רכש מקומי, על אכיפת הגנת הצרכן ועל הלחץ שמופעל על המחוקקים במדינה. החקירה של המועצה רחבה: גם נציגים של OpenAI, Anthropic, Google ו-Meta הופיעו בה. ובכל זאת, Grok הוא הדוגמה הבולטת ביותר בוויכוח על ניצול לרעה של יצירת תמונות, כי xAI שיווקה את מיעוט מגבלות התוכן כפיצ'ר.

השימוע מגיע דווקא בתקופה של תנופה מוצרית אצל xAI. החברה הרחיבה לאחרונה את הגישה ל-Grok 4.7 בפלטפורמות פיתוח כמו Cursor ו-Taskade, והשיקה את Grok Voice 3.0 — מודל speech-to-speech שקיבל 86.9 ב-Speech-to-Speech Index ו-97% ב-Full Duplex Bench, שבודק התמודדות עם קטיעות באמצע דיבור. ככל ש-Grok נכנס ליותר ערוצים של מפתחים וארגונים, מחלוקות בטיחות הופכות מבעיית תדמית לסיכון עסקי של ממש, כי לקוחות ארגוניים רגישים מאוד לחשיפה של המותג שלהם.

גם ברקע הרגולטורי הרחב לא חסרה תנועה: Anthropic הציגה השבוע למחוקקים טיוטה של חוק בטיחות AI, ו-OpenAI חשפה מקרים חדשים של misalignment אצל agents. השלטון המקומי ממלא יותר ויותר את החלל שמשאירה הממשלה הפדרלית האיטית. כדאי לעקוב אם המועצה תגיע להמלצות או לחקיקה בנושא תמונות סינתטיות ללא הסכמה, והאם xAI תתחייב לשינויים טכניים מוגדרים, כמו classifiers חזקים יותר ביצירת תמונות שמערבות אנשים אמיתיים.