Google DeepMind קוראת למממנים לסגור את פער אימות ה-AI במדע

Google DeepMind פרסמה אג'נדת מדיניות בת ארבעה חלקים הקוראת לממשלות ולגופי מימון מדעי להיערך לעולם שבו agents של AI מאיצים דרמטית את קצב ההגיית הרעיונות המדעיים. ארבעת העמודים: הרחבת הגישה של חוקרים ל-agents של AI, הכנת מאגרי נתונים לאומיים כך שיהיו שמישים על ידי agents, שדרוג התשתית הניסויית לבחינת השערות שנוצרו על ידי AI, וציוד שופטי עמיתים בכלי AI כדי לעמוד בקצב של גל תפוקת מחקר שנוצרת במכונה.

החשש המרכזי הוא 'פער אימות': אם agents של AI יכולים לייצר השערות מדעיות סבירות ולנסח מאמרים הרבה יותר מהר משהניסויים ושיפוט העמיתים מסוגלים לאמת אותם, צוואר הבקבוק עובר מהגיית רעיונות לאימות — ומדע שנוצר על ידי AI באיכות נמוכה או בלתי ניתן לאימות עלול להציף את הספרות המדעית. המסגור של DeepMind קורא לשותפויות ציבוריות-פרטיות שיבנו את התשתית הניסויית והשיפוטית שתתאים למהירות ההגיית הרעיונות של AI.

האג'נדה מתחברת למומנטום אמיתי בגילוי מדעי בסיוע AI: הקהילה סערה השבוע סביב טענה ש'Claude Fable ייצר דוגמה נגדית להשערת Jacobian' (693 נקודות ב-Hacker News), ו-Anthropic הכריזה בנפרד על מענקים של עד 50,000 דולר ב-credits של Claude לחוקרים שמאיצים ריפוי מחלות נדירות. AI למען המדע הופך לזירת תחרות ומוניטין אמיתית בין חברות ה-AI המובילות. ספקנים עשויים לראות במהלך המדיניות דרך של DeepMind למקם את עצמה בעמדה נוחה באופן שבו ממשלות ימממנו ויסדירו AI במדע, וההמלצה 'להכין מאגרי נתונים לאומיים ל-agents' מעלה שאלות של ממשל נתונים ושוויון בגישה. האג'נדה היא קריאה, לא תוכנית ממומנת. כדאי לעקוב האם ממשלה או גוף מימון מרכזי יאמצו את ההמלצות הללו, וכיצד הממסד המדעי יגיב במיוחד להצעת שיפוט העמיתים בסיוע AI.