Kimsuky, ה-APT הצפון-קוריאני, מריץ LLMים אופליין כדי לחדד phishing ולבנות malware

המחקר של Genians מתעד הסלמה מוחשית בפעילות cyber ממומנת-מדינה מבוססת-AI: קבוצת ה-APT הצפון-קוריאנית Kimsuky מריצה stack של AI לחלוטין offline — Ollama, GPT4All וכלי retrieval-augmented generation — על תשתית פרטית. הבחירה ב-offline היא הפרט המכריע: על ידי אירוח מודלים פתוחים באופן מקומי, הקבוצה עוקפת לחלוטין את מנגנוני ה-guardrails, ניטור השימוש והתנהגות הסירוב הבנויים במודלים מסחריים מאורחים כמו ChatGPT או Claude.

השימושים התפעוליים ספציפיים. ה-stack משפר את איכות פיתויי ה-spear-phishing — מייצר תוכן social-engineering משכנע ומותאם הקשר יותר — ומאוטמט פיתוח malware ב-C#/.NET באמצעות ספריות כמו LLaMaSharp ו-Semantic Kernel שמחברות reasoning של LLM לתוך pipelines של יצירת קוד. זהו כלי התקפי הבנוי על אותם רכיבי open-source שמפתחים לגיטימיים משתמשים בהם.

הסיפור הוא ניגוד ישיר לתמה הדומיננטית האחרת של השבוע — החגיגה של התפוצה של המודלים הפתוחים (3 מיליארד ההורדות של Qwen, Muse Glimmer, inference מקומי). אותן תכונות שהופכות את המודלים הפתוחים למעצימים עבור מפתחים — ללא guardrails, ללא ניטור, שליטה מקומית — הופכות אותם למושכים עבור גורמי איום. זה גם נוחת לצד מהלך ה-watermarking ודוח הסיכונים של Anthropic, ומחדד את הדיון המדיני על ממשל המודלים הפתוחים. המסקנה הלא-נוחה: guardrails על מודלים מאורחים נעקפים בקלות זניחה על ידי יריבים שמוכנים להריץ מודלים פתוחים offline, ואין תיקון טכני לכך בתוך פרדיגמת המודלים הפתוחים. שווה לצפות ללחץ רגולטורי מחודש על שחרור מודלים פתוחים.