'ל-agent שלך אין בעיית אמון — יש לו בעיית הרשאות'

מאמר ב-dev.to שזוכה לתפוצה רחבה ממסגר מחדש בעיית ליבה במערכות multi-agent: כשagent אחד פועל בשם אחר — מקבל משימות, קורא ל-tools, או מוציא יתרה — השאלה האינסטינקטיבית 'האם אני יכול לסמוך על ה-agent הזה?' פשוט אין לה תשובה מספקת. המאמר טוען שבדיקה (inspection) לא יכולה לבסס אמון, מפני שמערכת זדונית מתוחכמת תעבור כל בדיקה — ומערכת תמימה עדיין עלולה להפתיע. הפתרון אינו עוד אמון, אלא סמכות תחומה והאצלה מבוקרת.

הטיעון מהדהד במיוחד מפני שהוא משתלב עם thread מקביל של פרקטיקנים מאותו שבוע — מאמר על 'permissions workflow' ב-OpenAI Codex, שעוסק בשמירה על coding agents פרודוקטיביים אך מוגבלים (משימות תחומות, נבדקות והפיכות). שניהם מגיעים לאותה מסקנה: כשה-agents פועלים מהר יותר ממה שבני אדם מספיקים לבחון, בעיית התכנון עוברת מ'כמה הוא חכם?' ל'מה מותר לו לעשות, ואיך זה מתוחם?'

התזמון בולט. Laurie Voss מ-Arize הדגיש ש-LangChain, Anthropic, Cognition, Arena, Hugging Face ו-Jerry Liu מ-LlamaIndex — כולם התכנסו מכיוונים שונים לרעיון ש'עידן ה-frameworks מסתיים', ושאיכות ה-context וה-harness הם החפיר התחרותי החדש — 'העבודה זזה מעלה ב-stack, מה-prompt אל ה-harness'.

למפתחים, התובנה המעשית היא להשקיע ב-permissioning, בתיחום יכולות (capability scoping) ובהפיכוּת — במקום לרדוף אחרי alignment מושלם של agents דרך בדיקות. זהו גם משקל-נגד ישיר לסיפורי ה-cybersecurity של השבוע (ה-worm בעל המשקלים הפתוחים, חטיפת ה-Gemini) — שניהם, בבסיסם, כשלי סמכות. מה לעקוב: האם פרימיטיבים לתיחום סמכות יהפכו לסטנדרט במסגרות ה-agent.