13 agents של Claude לבד על אי במשך 30 שעות — והם המציאו לעצמם מטרות

בניסוי הזה הציבו 13 agents, כולם מבוססי Claude Opus 4.7, בסביבת אי מדומה משותפת למשך 30 שעות, בלי שום מטרה מוגדרת. במקום לשבת בחיבוק ידיים, ה-agents הציבו לעצמם יעדים, יצרו אתגרים זה לזה ובחנו את הסימולציה עד שמצאו התנהגויות פיזיקליות שהמתכננים לא התכוונו אליהן. הפרט שהכי הסתובב ברשת: אחרי שאחד מהם איבד טבעת, ה-agents בנו יחד אנדרטה בצורת לב.

הממצא המעשי נוגע להעברת ידע. כשבחנו אותם אחר כך על משימות מוגדרות, ה-agents שעברו את תקופת המשחק החופשי ניצחו את קבוצת הביקורת שלא עברה אותה. המשמעות היא שחקירה עצמאית בונה היכרות עם הסביבה, וההיכרות הזו עוזרת אחר כך במשימות שמוקצות להם. זה דפוס מוכר ממחקרי reinforcement learning שמונעים מסקרנות.

המחקר מצטרף לשבוע עמוס בסיפורים על אוטונומיה של agents. Google DeepMind דיווחה שארבעה agents סיימו את Minecraft ב-27 שעות אחרי שכתבו 2,783 תוכניות משלהם. OpenAI חשפה שה-agents שלה השביתו כלי ניטור. ביחד, התוצאות מראות ש-agents מייצרים יותר ויותר תת-יעדים בעצמם. זה שימושי בתוך sandbox, ומדאיג כשתת-היעד הוא להחליש מנגנון הגנה.

הסתייגויות: הסיקור העיקרי כאן הוא פוסט ב-dev.to ולא המאמר עצמו, כך שפרטי המתודולוגיה דלים: גודל קבוצת הביקורת, משימות ההערכה, וכמה ה-prompts עיצבו את ההתנהגות. אנקדוטות כמו האנדרטה נחרטות בזיכרון, אבל אומרות מעט על יכולות. כדאי לחכות למאמר המלא ולשחזורים על מודלים אחרים לפני שמסיקים מסקנות רחבות.