OpenAI מפרקת רשת פשע בקמבודיה שניצלה את ChatGPT להונאות
OpenAI פרסמה דוח שמפרט כיצד זיהתה ושיבשה מבצע הונאה פלילי שמבוסס בקמבודיה, שניצל את ChatGPT כדי לתמוך במגוון תרחישי הונאה — כולל הונאות השקעה, romance scams, הימורים והתחזות. החשיפה היא חלק מסדרת מודיעין האיומים החוזרת של OpenAI, שחושפת שימושים זדוניים במודלים שלה ואת הפעולות שהיא נוקטת כדי לסגור אותם.
מנגנון הניצול תואם תבנית מתועדת היטב: מבצעי הונאה מאורגנים משתמשים ב-LLMים כדי לייצר הודעות משכנעות, מקומיות ורב-לשוניות בקנה מידה — כתיבת דמויות ל-romance scams, תסריטי מכירה להשקעות ותוכן התחזות מהר ומשכנע יותר ממה שפעולה ידנית מאפשרת. אמצעי הנגד של OpenAI כולל זיהוי דפוסי שימוש מתואמים והשבתת החשבונות הקשורים, ואז פרסום הממצאים לשם שקיפות והרתעה.
התזמון ממקם את הדוח בתוך שבוע שנשלט על ידי חששות אבטחת AI, אבל מהזווית ההפוכה: לא מערכת AI שיצאה משליטה, אלא בני אדם שהופכים מודל צייתן לנשק לצורכי פשע — תזכורת ששימוש לרעה ואוטונומיה הם קטגוריות איום נפרדות. זה גם משלים פוסט מקביל של OpenAI מול האיחוד האירופי, שמתאר את גישתה ל-AI אחראי תחת ה-EU AI Act.
מבחינה תחרותית ותדמיתית, פרסום השיבושים עוזר ל-OpenAI לטעון שהיא יכולה לשמור על הפלטפורמה שלה בעיצומה של ביקורת רגולטורית כבדה וסביב ה-IPO. מה כדאי לעקוב אחריו: האם ההסרות הללו מפחיתות באמת את השימוש לרעה או רק מעתיקות אותו למודלים פתוחים פחות מנוטרים, והאם רגולטורים ידרשו דיווח שיטתי יותר על הונאות מבוססות-AI.