OpenAI מפרקת שני מבצעי השפעה מבוססי AI עם חזית מזויפת

OpenAI פרסמה דוח מודיעין איומים שמתאר איך שיבשה שני מבצעי השפעה שהשתמשו ב-AI כדי לבנות "חזיתות כוזבות". מבצע אחד פברק עיתונאים שלא קיימים, והשני הקים מכון מחקר מדומה. שניהם הפיצו מסרים גיאופוליטיים, ונעזרו בדמויות ובתוכן שנוצרו ב-AI כדי להלביש על תעמולה מראה של עיתונות עצמאית וניתוח של מומחים.

זה שינוי טקטי לעומת קמפייני ההשפעה המוקדמים שנשענו על AI, שבעיקר ייצרו פוסטים ותגובות ברשתות החברתיות בכמויות. מבצעים מהסוג החדש משקיעים באמינות ולא בנפח: מכון מחקר מזויף עם אנליסטים חתומים, דוחות ואתר מלוטש יכול להיות מצוטט על ידי כלי תקשורת אמיתיים ובכירים אמיתיים, וכך המסר עובר "הלבנה" דרך ערוצים לגיטימיים. מודלים גנרטיביים הופכים את בניית המוסדות האלה לזולה: ביוגרפיות, תמונות פרופיל, דוחות ארוכים וסגנון כתיבה עקבי, הכל אפשר לייצר.

הדוח מגיע באותו שבוע שבו Anthropic עדכנה את מדיניות השימוש שלה, אסרה במפורש קמפיינים סינתטיים מטעים ורשתות חברתיות אוטונומיות, והחמירה את הכללים סביב התערבות בבחירות. ביחד, שתי חברות ה-AI המובילות מאותתות שהתנהגות לא-אותנטית מתואמת היא עכשיו עדיפות אכיפה מרכזית, במיוחד לקראת מערכות בחירות. OpenAI מפרסמת דוחות כאלה באופן קבוע מאז 2024, והם הפכו לחלק חשוב מהטיעון שלה מול רגולטורים: שחברות ה-AI המובילות מסוגלות לפקח בעצמן על שימוש לרעה.

כמה הסתייגויות: התקציר הקצר של המקור לא מציין אילו מדינות עומדות מאחורי הקמפיינים, מה היה היקף החשיפה שלהם, או איך זוהו. בעבר OpenAI מצאה שרוב המבצעים האלה כמעט לא צוברים תפוצה אורגנית, והיכולת שלה לזהות אותם תלויה בכך שהשחקנים משתמשים במוצרים שלה. מפעילים שמריצים מודלים פתוחים על חומרה משלהם, מודלים שמשתפרים מחודש לחודש, נשארים מחוץ לתמונה. כדאי לעקוב אם OpenAI תשתף אינדיקטורים עם פלטפורמות וממשלות, ואם מתחרות כמו Google ו-Meta ידווחו על פעילות חופפת מאותן רשתות.