METR: קצב פיתוח ה-AI ב-Anthropic כמעט הוכפל, וה-AI עושה חלק גדול מהמחקר

METR, הגוף העצמאי שבודק את חברות ה-AI המובילות ליכולות מסוכנות, הגיע למסקנה שקצב הפיתוח של Anthropic בערך מכפיל את עצמו משנה לשנה. לפי הממצאים, רוב ההאצה מגיעה ממערכות AI שעוזרות למחקר ולהנדסה של Anthropic עצמה. זו גרסה מוקדמת ואמפירית של לולאת השיפור העצמי שחוקרי בטיחות מזהירים ממנה כבר שנים.

המתודולוגיה נשענת על נתוני פרודוקטיביות פנימיים, על תפוקת מחקר ועל ראיונות, ולא רק על benchmarks ציבוריים. חלק גדול מהראיות המרכזיות הושחר, ומבקרים ב-dev.to ובמקומות אחרים מיהרו להצביע על זה. גם מייסד-שותף ב-Anthropic, Sam McCandlish, נשמע זהיר ואמר שה-AI אכן מאיץ את המחקר, אבל "קשה לומר בדיוק בכמה".

גם ההקשר הפיננסי חשוב. ההכנסות של Anthropic ברבעון השלישי צמחו ב-47% ל-17 מיליארד דולר, ובכל זאת החברה רשמה הפסד תפעולי של 567 מיליון דולר, שאותו היא מייחסת לשכירות יקרה וקצרת טווח של כוח מחשוב. הנפקת שיא צפויה בהמשך החודש, כך שדוח METR משמש גם איתות על יכולות וגם סיפור למשקיעים. הוא גם מזין את הוויכוח הרחב על חברות AI שמאיצות בזמן שפוליטיקאים דורשים להאט, כולל חברת קונגרס מאריזונה שהקריאה שלה לעצירה הפכה ויראלית ב-Reddit.

מה לעקוב אחריו: האם METR או Anthropic ישחררו ראיות פחות מושחרות, האם חברות AI אחרות יעברו בדיקה דומה, ואיך מסמכי ה-IPO יתארו את עלויות המחשוב. קצב שמכפיל את עצמו לצד הפסד תפעולי הוא הסימן הברור ביותר עד עכשיו לכך שההתקדמות של המודלים המובילים והשוליים שלהם הולכים בכיוונים הפוכים.