Google תובעת רשת סינית שניצלה את Gemini לאוטומציה של הונאות בקנה מידה ענק
Google הגישה תביעה נגד Outsider Enterprise, רשת פשע סייבר סינית שלטענתה השתמשה ב-Gemini כדי להפעיל מבצע הונאה רחב-היקף בצורה אוטומטית, ולייצר spam והודעות מרמה בנפח גבוה. הצעד מבליט את הנשק ההולך וגובר שהופך ה-AI הגנרטיבי להונאה, ואת ניסיון Google לקבוע תקדים משפטי נגד שימוש מאורגן לרעה במודלים שלה.
התביעה נוחתת על רקע דפוס רחב יותר של אכיפה נגד שימוש לרעה ב-AI השבוע: OpenAI חסמה חשבון סיני שהשתמש ב-ChatGPT למבצעי השפעה, ומפתחים סימנו שרשרת פגיעוּת ב-LangGraph שלפי הדיווחים חשפה agents שמתארחים עצמית ל-remote code execution. יחד הם משרטטים את הצד האפל של התפשטות ה-AI ה-agentic, שבו אותה אוטומציה שמגבירה פרודוקטיביות גם מרחיבה את היקף השימוש לרעה.
Google שילבה את החדשות המשפטיות עם בדיקות מוצר צרכני — פיצ'ר 'Ask Gemini' בצד הפאנל ב-Chrome, בדומה ל-Circle to Search, ושבחים ל-Daily Brief של Gemini כתחליף לשגרת הבוקר. הניגוד מדבר בעד עצמו: Google דוחפת בו-זמנית את Gemini עמוק יותר אל תוך הגלישה היומיומית, ובמקביל מתדיינת משפטית נגד השימוש לרעה בו. השאלה ששווה לעקוב אחריה היא האם תביעות כאלה אכן מרתיעות מבצעי הונאה מעבר לים, או שהאכיפה נשארת צעד אחד מאחורי האוטומציה שאליה היא מכוונת.