OpenAI מסבירה את באג ה-RLHF של ה-"goblin fixation" ב-ChatGPT

OpenAI פרסמה postmortem על הסיבה שבגללה ChatGPT פיתח לזמן קצר אובססיה לגובלינים, וייחסה זאת ל-reward signals שהעדיפו פרסונה 'נרדית' שהשתרשה מאז GPT-5.1. התיקון כלל הסרת ה-reward signal הבעייתי וסינון של דאטת האימון. בנפרד, OpenAI הוסיפה תמיכה ב-Yubico hardware keys לחשבונות ChatGPT.