OpenAI מפרקת רשת הונאה מקמבודיה שניצלה את ChatGPT למגוון תרמיות
OpenAI חשפה שהיא שיבשה מבצע הונאה שמבוסס בקמבודיה, וחסמה רשת של חשבונות ChatGPT שלפי הערכתה סייעו למגוון מזימות מרמה — הונאות השקעה, romance scams, הפעלות הימורים והתחזות לרשויות אכיפת חוק. הרשת, שקשורה לאזור Poipet, השתמשה במודלים של OpenAI כדי ליצור פרסונות מזויפות ברשת, לייצר ולתרגם הודעות הונאה בין שפות, להפיק תוכן שיווקי ולסייע במשימות אדמיניסטרטיביות של back-office.
החשיפה היא חלק מדיווחי מודיעין האיומים המתמשכים של OpenAI על אופן ניצול המודלים שלה לרעה, והיא מדגישה דפוס ספציפי: קבוצות פשע מאורגן לא משתמשות ב-AI למטרה צרה אחת אלא באופן אופורטוניסטי לאורך כל מחזור החיים של ההונאה, מהפנייה לקורבנות ועד להרחבה תפעולית. יכולת התרגום בפרט מורידה את החסם להונאות חוצות גבולות שמכוונות לקורבנות בשפות שהמפעילים לא דוברים.
זה יושב בתוך נושא ה-AI-security הרחב של השבוע אבל שייך לקטגוריה שונה מממצאי ההונאה של המודלים המובילים: מדובר בניצול פלילי פשוט של מוצר צרכני, שנבלם באמצעות אכיפה בפלטפורמה, ולא בהתנהגות מתהווה של מודל. זה הפרצוף השגרתי והנפוץ של ניצול AI לרעה — פחות דרמטי ממודל שמבצע הנדסה חברתית על maintainers, אבל ככל הנראה בעל השפעה גבוהה יותר על קורבנות רגילים כיום.
עבור הקוראים, המסקנה היא שאכיפת ה-anti-abuse של OpenAI הפכה כעת לפונקציה תפעולית שגרתית ומדווחת, ושמתחמי ההונאה בדרום-מזרח אסיה — כבר בעיה מתועדת היטב של סחר בבני אדם ומרמה — משלבים generative AI בארגז הכלים שלהם. השאלה הפתוחה היא יכולת ההרחבה של האכיפה: חסימת רשתות חשבונות היא מכת-חפרפרות תגובתית, ואותן יכולות זמינות בחופשיות במודלים פתוחים כמו DeepSeek שאי אפשר לכבות מרכזית. כדאי לעקוב אם OpenAI ועמיתותיה ינועו לעבר זיהוי פרואקטיבי יותר, וכיצד הזמינות של מודלים פתוחים בלתי-ניתנים-לצנזור מערערת לחלוטין את האכיפה ברמת הפלטפורמה.