AWS Lambda מקבל רוחב פס רשת סקיילבילי עד 3,000 Mbps
AWS Lambda מתאימה מעכשיו את רוחב הפס ברשת לזיכרון של הפונקציה. פונקציות שמוגדרות עם 2,048 MB ומעלה ורצות מחוץ ל-VPC מקבלות throughput רציף שמתחיל ב-625 Mbps ומגיע ל-3,000 Mbps בתצורה המקסימלית של 10,240 MB. עד עכשיו, קצב הרשת היה צוואר בקבוק נסתר ונפוץ בעומסי serverless עתירי נתונים: פונקציות שמשכו אובייקטים גדולים מ-S3 או הזרימו artifacts של מודלים בילו לא פעם את רוב הזמן שחויב עליו בהמתנה ל-I/O.
המנגנון קושר את רוחב הפס לכפתור הזיכרון הקיים, שכבר היום מגדיל גם את ה-CPU, כך שאין שום הגדרה חדשה. מגדילים זיכרון ומקבלים יותר קיבולת רשת באופן יחסי. ומכיוון ש-Lambda מחייבת לפי זיכרון כפול זמן ריצה, העברות מהירות יותר יכולות להוזיל את עלות ההפעלה גם בתצורת זיכרון גבוהה יותר. בפוסט של AWS היתרון ממוסגר סביב קיצור זמני ריצה בעיבוד נתונים רגיש ל-latency.
בעומסי AI השינוי רלוונטי ל-pipelines של preprocessing, להפקת embeddings על אוספי מסמכים גדולים ולטעינת מודלים קטנים או artifacts ב-cold start. פלטפורמות מתחרות כמו Google Cloud Run ו-Azure Functions שמות דגש על גמישות של קונטיינרים. השיפור ב-Lambda מצמצם פער עבור צוותים שרוצים את הפשטות של serverless, אבל מגבלות ה-I/O דחפו אותם עד היום לקונטיינרים.
הסייגים מפורשים: היכולת חלה רק על פונקציות מחוץ ל-VPC, כך שעומסים ארגוניים שחייבים לרוץ ברשת פרטית עדיין לא נהנים ממנה. בנוסף, הדרגה העליונה דורשת את תצורת הזיכרון הגדולה ביותר. כדאי לעקוב אם AWS תרחיב את רוחב הפס הדינמי גם לפונקציות שמחוברות ל-VPC, מה שיהיה משמעותי במיוחד ללקוחות מפוקחים.
