Hassabis קורא להקמת גוף עצמי בהובלת ארה״ב שיסדיר את ה-AI המוביל

במסה פומבית נדירה, דמיס הסאביס, מנכ"ל Google DeepMind, קרא להקמת גוף תקינה בינלאומי עצמאי בהובלת ארה"ב שיפקח על ה-AI המוביל, והזהיר שלאנושות יש רק 'חלון יקר-ערך' להבטיח ש-AI מתקדם — ובסופו של דבר AGI, שלדבריו רחוק אולי כמה שנים בלבד — יפותח בבטחה. ההצעה משכה תשומת לב קהילתית משמעותית (535 upvotes ב-r/singularity, 228 תגובות ב-r/LocalLLaMA).

הסאביס ממסגר את האתגר בין השאר סביב 'צוואר בקבוק של validation': agents של AI מסוגלים יותר ויותר להציע השערות ולתכנן ניסויים, אבל לבחון את הרעיונות האלה בעולם האמיתי נשאר החלק הקשה והאיטי. המסה הנלווית של DeepMind מתווה ארבעה סדרי עדיפויות לקובעי מדיניות ולגורמים מממנים כדי לסגור את הפער — מיצוב של Google כמובילת דעה בממשל של AI-for-science.

הקריאה נוחתת ברגע פוליטי פעיל. ממשל טראמפ וקבוצות תעשייה דנו לפי הדיווחים בהקלה על שחרור מודלים פתוחים אמריקאיים בעלי יכולת שווה או נמוכה מזו של המודלים הפתוחים הסיניים המובילים, ו-Anthropic מפעילה לובי בסנאט בנוגע להעתקת המודל הנטענת של Alibaba. גוף תקינה בהובלת ארה"ב ייטיב בבירור עם חברות ה-AI האמריקאיות — וזו בדיוק הסיבה שמבקרים ב-r/LocalLLaMA התנגדו, ותהו האם ממשל גלובלי 'בהובלת ארה"ב' הוא באמת עצמאי או מנגנון לביצור השחקנים הקיימים. ספקנים גם מציינים שחברות ה-AI המובילות שקוראות לרגולציה שהן עצמן יעצבו — זה עלול להסתכם ב-regulatory capture. מה לעקוב אחריו: האם ממשלה כלשהי תאמץ את ההצעה, איך סין וה-EU יגיבו למסגור בהובלת ארה"ב, והאם טענת ציר-הזמן של הסאביס ל-AGI ('כמה שנים') תזיז את שיחת המדיניות או תיפסל כהייפ.