Apple Research מציגה את Dynamically Scaled Activation Steering (DSAS)

קבוצת מחקר ה-machine-learning של Apple פרסמה שיטה בשם Dynamically Scaled Activation Steering (DSAS) — framework אגנוסטי לשיטה, שנועד לכוון את התנהגות המודל ברמת ה-activations. הרעיון מאחורי activation steering הוא להוביל את המודל לפלטים רצויים — למשל לרסן רעילות — באמצעות התערבות ב-activations הפנימיים במקום אימון מחדש. הבעיה ש-DSAS מנסה לפתור ברורה: שיטות ה-steering הקיימות מפעילות את ההתערבות באופן אחיד על כל הקלטים, וזה פוגע בביצועים באותם קלטים רבים שבהם אין באמת צורך בכיוון. DSAS מפריד בין ההחלטה האם להתערב לבין עוצמת ההתערבות, ומכייל אותה דינמית לכל קלט בנפרד.

המנגנון הזה חשוב כי steering אחיד כופה trade-off בין שליטה ליכולת — ככל שמכוונים באגרסיביות רבה יותר לטובת בטיחות, כך נפגעים הפלטים הרגילים. על ידי התערבות רק כשצריך וכיול לפי הסיטואציה, DSAS שואפת ליהנות מיתרון הבטיחות והשליטה בלי לשלם את מס הביצועים הכללי. ומכיוון שהשיטה אגנוסטית, אפשר לעטוף בה טכניקות steering קיימות במקום להחליף אותן.

המחקר נוחת בשבוע שנשלט על ידי סוגיות של alignment ושליטה — חשיפות ה-misalignment של OpenAI, פריצת ה-Gemini של Google, ודירוג ה-cyber של GPT-6 Astra — מה שממצב את התרומה של Apple כטכניקת שליטה מעשית ובת-deploy, ולא כניסה לתחרות היכולות. זה גם משתלב בזהות של Apple סביב on-device, פרטיות ושליטה: activation steering יכול לאכוף אילוצי התנהגות מקומית בלי moderation בצד השרת.

מכיוון שמדובר במאמר מחקר ולא במוצר, ההשפעה של DSAS בעולם האמיתי תלויה באימוץ ובשאלה האם ה-gating של 'להתערב רק כשצריך' יתכלל מעבר למשימות שהודגמו כמו ריסון רעילות. אבל זו תרומה מנגנונית וקונקרטית לארגז הכלים של interpretability ושליטה, ברגע שבו התעשייה מודה בגלוי ששליטה התנהגותית עדיין לא פתורה. שווה לעקוב האם Apple תשלב את DSAS ב-safety stack של Apple Intelligence עבור Siri ב-on-device.