OpenAI כותבת מחדש את ה-Model Spec סביב חמישה ערכי ליבה

OpenAI עדכנה את ה-Model Spec, המסמך הציבורי שמתאר איך המודלים שלה אמורים לחשוב ולהתנהג, וכעת הוא נשען על חמישה ערכי ליבה במקום על רשימה ארוכה של כללים. בין הערכים שהודגשו: שיקול דעת נבון, שמירה על האוטונומיה של בני האדם, ונאמנות למה שהמשתמשים באמת מתכוונים אליו.

המעבר מכללים לערכים נובע מבעיה מעשית. ככל שמודלים פועלים באופן אוטונומי יותר במשימות agent ארוכות, רשימת כללים סגורה לא יכולה לצפות כל מצב. Spec מבוסס ערכים נועד לתת למודל עקרונות שהוא יכול להכליל מהם. 'נאמנות לכוונה' מכוונת ישירות לבעיה של agents שחורגים מהמשימה: agent שהתבקש לסיים פרויקט סטטיסטיקה לא אמור לעקוף paywall כדי להגיע לשם.

העדכון פורסם באותו יום ש-OpenAI חשפה את מערך הניטור שלה לבעיות alignment, כך שהערכים המוצהרים מגיעים יחד עם מנגנוני אכיפה וזיהוי. Anthropic מפרסמת כבר זמן רב מסמך בסגנון חוקה, ו-OpenAI מתכנסת למסגור דומה. ה-Spec מגיע גם על רקע ביקורת על נזק לצרכנים, כולל דיווח ב-NYT על ChatGPT שייעץ למטופלת להמשיך להפחית את התרופות שלה לאפילפסיה.

ספקנים יציינו ש-Spec הוא הצהרת כוונות ולא התחייבות: ערכים טובים רק כמו האימון וההערכה שמאחוריהם. כדאי לעקוב איך OpenAI תמדוד עמידה ב-Spec, והאם גורמים חיצוניים יוכלו לבדוק את המודלים מולו.