מחקר של Anthropic בוחן 'global workspace' בתוך מודלי שפה

Anthropic פרסמה מחקר interpretability שבוחן את מה שהיא מכנה 'global workspace' במודלי שפה — מנגנון פנימי שבאמצעותו מידע משודר ומשולב לרוחב הרשת, ממוסגר במפורש בהתייחסות לתאוריות ממדעי הקוגניציה על תודעה וקשב (Global Workspace Theory). העבודה בוחנת כיצד מודל מנתב ומשתף מידע פנימית, במקום להתייחס לשכבות כאל מעבדים מבודדים.

כדי להפוך את המחקר לניתן לשחזור, Anthropic חברה ל-Neuronpedia לבניית demo אינטראקטיבי שמיישם את השיטות שלה על מודלים פתוחים, ומאפשר לחוקרים חיצוניים לבחון את התופעה ישירות. הפתיחות הזו בולטת לאור המחלוקת המקבילה השבוע סביב fingerprints סטגנוגרפיים נסתרים ב-Claude Code — תזכורת לכך שהשקיפות של Anthropic אינה אחידה בין מחקר למוצר.

המסגור הוא המקום שבו שוכנת הספקנות. Anthropic שחררה בנפרד סרטון שטוען ש-Claude מסוגל לחקות את האופן שבו המוח האנושי מעבד מידע באמצעות דפוסים שהיא מכנה 'J-space', מה ש-Bloomberg קשר ל'ויכוח על תודעת AI'. מבקרים טוענים ששפה שגובלת בתודעה מנפחת את ממצאי ה-interpretability המכניסטי ומזמינה hype. השאלה אם 'global workspace' הוא תכונה מבנית אמיתית ומדידה או מטפורה מעוררת דמיון לניתוב קשב היא בדיוק מה שהחוקרים יבחנו.

עבור אנשי מקצוע, הערך המעשי של עבודת ה-interpretability הוא בטיחות ושליטה — הבנה כיצד מודלים משלבים מידע יכולה לשפר steering, להפחית jailbreaks (רלוונטי לאור החשש סביב יכולת גילוי החולשות של Fable 5) ולתדלק פיקוח. שווה לעקוב אם ה-demo של Neuronpedia יאפשר לחוקרים עצמאיים לשחזר את ה-workspace הנטען על מודלים פתוחים — מה שיפריד בין מהות לשיווק — וכיצד קהילת ה-interpretability הרחבה תגיב למסגור ממדעי הקוגניציה.