Google תובעת: קבוצת פשע סייבר סינית הפעילה רשת הונאות מבוססת Gemini

ההתפתחות החדשה: Google הגישה תביעה פדרלית נגד קבוצת פשע סייבר, בטענה שזו רתמה את Gemini לייצור אתרים מזויפים של חברות וגופים ממשלתיים ולקמפיינים הונאתיים של הודעות טקסט, תוך התחזות למותגים מוכרים כדי לגנוב מיליונים מקורבנות. Google מציינת שהיא פועלת בתיאום עם ה-FBI ועם חברות הסלולר כדי לפרק את התשתית שמאחורי הסכֵמה.

המנגנון המשפטי חשוב כאן: במקום להסתמך רק על אכיפה ברמת הפלטפורמה, Google משתמשת בתביעה ככלי שיבוש — טקטיקה שכבר הפעילה בעבר נגד botnets — וכעת היא מרחיבה אותה לשימוש לרעה במוצרי ה-AI שלה עצמה. היא ממסגרת את הניצול של Gemini כבעיה של ניצול עוין שדורשת פעולה מתואמת של רשויות אכיפה וחברות תקשורת.

הסיפור משתלב בשבוע עמוס של חדשות סביב שימוש לרעה ב-AI ורגולציה: OpenAI חסמה חשבונות מזוהים עם סין שהריצו קמפייני השפעה, וממשלת ארה"ב פעלה נגד המודלים של Anthropic מטעמי אבטחה. יחד הם משרטטים תעשייה שבה ספקי המודלים המובילים נשאבים יותר ויותר לתפקידי ביטחון לאומי ואכיפת חוק.

Google גם הודתה בתקלה מהותית ב-Gemini ב-10 ביוני, מעידה של אמינות שאינה קשורה לתביעה, בתוך שבוע עמוס במיוחד בהשקות של Gemini. כדאי לעקוב אם התביעה תנקוב בנתבעים ספציפיים ואם היא תיצור תבנית שחברות AI אחרות יאמצו במאבק בהונאות שנוצרות באמצעות AI בקנה מידה רחב.