AWS חושפת rDPO: unlearning סלקטיבי לניהול תוכן ב-Amazon Nova

AWS פירטה את Reverse Direct Preference Optimization (rDPO), הטכניקה שמניעה את הגדרות ה-Customizable Content Moderation החדשות של Amazon Nova. הבעיה המרכזית ש-rDPO מטפלת בה היא selective unlearning — לגרום למודל "לשכוח" או לסרב באופן אמין לקטגוריות תוכן ספציפיות מבלי לחסום יתר על המידה בקשות תמימות (over-deflection) ומבלי לפגוע באיכות הכללית של המודל.

מתודולוגית, rDPO הופכת את ה-Direct Preference Optimization הסטנדרטית: בעוד ש-DPO מכוונת מודל לעבר פלטים מועדפים, rDPO מרחיקה אותו מתוכן ממוקד באופן מבוקר, ומאפשרת ללקוחות לכוונן את ה-moderation למדיניות שלהם. AWS פרסמה הנחיות ללקוחות שרוצים ליישם טכניקות דומות של preference-optimization על המודלים שלהם.

זהו חלק מחקר יישומי מעשי באופן משמעותי — content moderation ו-unlearning הם נקודות כאב חוזרות עבור ארגונים שעושים deploy למודלים גנרטיביים, במיוחד בהקשרים מפוקחים. המסגור של "הפחתת over-deflection תוך שמירה על איכות" מכוון ישירות לתלונה נפוצה שכיוונון ה-safety הופך את המודלים למתסכלים בנטייתם לסרב.

זה נוחת בתוך גל של מחקר AWS Nova ו-SageMaker השבוע: הסתרת PII אוטומטית בתמונות באמצעות ה-vision של Nova יחד עם Segment Anything (SAM 3) של Meta ו-Amazon Textract, תשתית RL רב-שלבית על SageMaker HyperPod (שהודגמה על ידי לימוד מודל לשחק Wordle), והרשאת least-privilege מבוססת Cedar עבור שרשראות multi-agent. מה לעקוב: האם rDPO תהפוך לשיטת unlearning מאומצת באופן רחב וכיצד ה-moderation הניתן להתאמה שלה יעמוד מול הצעות כיוונון ה-safety של המתחרים.