Apple Research חושפת את Dynamically Scaled Activation Steering (DSAS)

חוקרי Apple Research חשפו שיטה בשם Dynamically Scaled Activation Steering (DSAS) — framework אגנוסטי שמנווט את התנהגות המודלים הגנרטיביים לעבר תוצאות רצויות, כמו הפחתת רעילות. החידוש המרכזי הוא הסלקטיביות: בעוד ששיטות activation steering קודמות הפעילו את ההתערבות שלהן באופן אחיד על כל תהליך יצירה — ולעיתים קרובות פגעו באיכות גם על קלטים תמימים — DSAS מפרידה ומכיילת את עוצמת ההיגוי כך שהיא מתערבת רק כשההתנהגות שאותה רוצים לתקן באמת דורשת זאת.

התמורה הטכנית היא הימנעות ממס הביצועים שהפך את טכניקות היגוי-ההתנהגות למסורבלות ל-deploy בסביבת production. באמצעות כיול דינמי של עוצמת ההתערבות לפי הצורך, DSAS שואפת לספק את יתרונות ה-safety וה-alignment בלי אובדן האיכות הנלווה שמרתיע צוותים משימוש בשיטות כאלה במערכות שרצות תמיד.

המחקר משתלב במיצוב מחדש רחב יותר של Apple סביב AI. אחרי שנים של גישה זהירה שמעמידה פרטיות במקום ראשון — גישה שספגה ביקורת על איטיות — Apple החלה לשחרר יכולות גנרטיביות בקצב אגרסיבי, ביניהן Siri משודרגת ו-Siri Recap. פרסום מחקר על היגוי ו-safety מסמן ש-Apple רוצה אמינות בשיח ה-alignment ששולט השבוע, ולא רק פיצ'רים לצרכן. מבחינה תחרותית, activation steering הוא תחום פעיל ב-Anthropic (שפרסמה רבות על הטכניקה) ובחברות AI נוספות; התרומה של Apple היא שכלול הכיול הדינמי. המשמעות המעשית תלויה בשאלה אם DSAS תכליל על פני משפחות מודלים והתנהגויות מעבר לרעילות, ואם Apple באמת תשלב אותה בתוך Apple Intelligence — מאמר מחקר לבדו לא מזיז את מחט ה-alignment, אבל הוא מסמן ש-Apple עולה למגרש שהמתחרות שלה שלטו בו עד כה.