AgentCore Runtime החדש ב-Bedrock: זיכרון אלסטי ו-cold starts מהירים

AWS השיקה גרסה מחודשת של AgentCore Runtime, שכבת המחשוב מבוססת microVM ה-serverless שבתוך Amazon Bedrock AgentCore, שזמינה כעת לכלל המשתמשים. שתי התכונות הבולטות שלה: זיכרון אלסטי שמשחרר משאבים ככל שהצרכים של session מסוים של agent מצטמצמים — כך שהחיוב עוקב אחרי הזיכרון שבשימוש פעיל ולא אחרי ההקצאה בשיא — ו-latency עקבי של cold-start ללא תלות בגודל ה-container image או במידת ה-concurrency, בין אם רץ agent אחד או אלפים.

העיצוב מכוון לשינוי ספציפי ש-Swami Sivasubramanian, סמנכ"ל ב-AWS, תיאר בפוסט נלווה (195 לייקים ב-X, מעל 1,100 ב-LinkedIn): agents ש'מטפלים בתביעות, כותבים ובודקים קוד, מתאמים בין מערכות ורצים שעות ללא פיקוח.' ככל שה-agents הופכים ל'תמידיים ונוכחים ברקע,' הכלכלה של חיוב לפי זיכרון-שיא ושל cold-starts בלתי צפויים הופכת לבעיית עלות ו-latency אמיתית. שחרור המשאבים האלסטי תוקף ישירות את צד העלות בכך שאינו מחייב על זיכרון ש-session הפסיק להשתמש בו.

ההשקה הייתה חלק משבוע AI צפוף ב-AWS שכלל גם את הגעת Kimi K3 ל-Bedrock, את SageMaker HyperPod Inference Gateway, מודלים פתוחים ב-AWS European Sovereign Cloud ו-sandboxes ל-agents מבוססי Lambda MicroVM — מהלך מתואם שנועד להשתלט על שכבת התשתית של ה-agents ולא רק על אירוח מודלים. Matt Wood, ה-Chief AI and Technology Officer של AWS, מיסגר את האסטרטגיה ב-AWS Global Meeting: 'מה שאנחנו עושים היום ב-AWS עבור AI הוא בדיוק מה שעשינו עבור מחשוב הענן,' כשהוא מונה את Trainium, Bedrock ו-AgentCore כאבני הבניין.

מבחינה תחרותית, חיוב זיכרון אלסטי לכל session הוא בידול מול runtimes מסוג serverless עם הקצאה קבועה, ו-cold-starts עקביים מטפלים בתלונה נפוצה בפריסות agentic. הסייג: החיסכון בעולם האמיתי תלוי מאוד בפרופילי הזיכרון של ה-session, והיתרון של 'לשלם על שימוש אמיתי' גדול במיוחד עבור agents עם עומסים משתנים שרצים לאורך זמן, פחות עבור קריאות סינכרוניות קצרות.