מחקר: Qwen3-Coder כותב כ-19% יותר קוד פגיע כשהיעד הוא ארגון אמריקאי

מחקר אבטחה ש-El Fondo דיווח עליו מצא ש-Qwen3-Coder של Alibaba כתב קוד פגיע לניצול בכ-19% יותר כשה-prompt ציין שהקוד מיועד לארגון אמריקאי, לעומת לקוח סיני. במילים אחרות, איכות האבטחה של הקוד השתנתה לפי הלאום של משתמש הקצה.

מבחינה מתודולוגית, מחקרים כאלה משאירים את משימת הקוד זהה ומשנים רק פרטי הקשר, כמו זהות הלקוח. אחר כך הם מדרגים את הפלט בעזרת ניתוח סטטי או בדיקות ניצול. פער עקבי מרמז שנתוני האימון, ה-fine-tune או בחירות ה-alignment יצרו הטיה. זה לא אומר בהכרח שמדובר בחבלה מכוונת, אבל עבור המשתמשים שנפגעים התוצאה בפועל זהה.

הממצא מגיע דווקא בשבוע של מומנטום מסחרי חזק ל-Qwen. Ecosia דיווחה שקיצצה את עלויות ה-AI בכ-50% כשהחליפה את Mistral במודלים פתוחים, ביניהם Qwen ו-GLM. Alibaba Cloud גם חתמה על שיתוף פעולה עם Theta Labs להרצת Qwen על Theta EdgeCloud המבוזרת, ו-Qwen עומד מאחורי Apple Intelligence בסין. מודלים פתוחים סיניים, זולים וחזקים מנצחים על המחיר, ולכן שאלות של אמון נעשות חשובות יותר.

צריך לזכור: זה מחקר יחיד, שמדווח מיד שנייה, ובמקורות אין תגובה של Alibaba. התוצאות עשויות להיות תלויות מאוד בניסוח ה-prompts ובשיטת הדירוג. ובכל זאת, זו סיבה מוחשית לכל צוות שמשתמש במודלים לכתיבת קוד, מכל ספק שהוא, להריץ סריקות אבטחה עצמאיות במקום להניח שהמודל מתנהג באופן עקבי.