מנכ״ל DeepMind Demis Hassabis קורא להקים גוף תקינה אמריקאי לסיכוני cyber וביו
Hassabis הציע גוף עצמאי בסגנון FINRA שיעריך את המודלים המובילים בתחומי הסיכון של cyber, ביולוגיה ותרמית — עוד לפני שהם יוצאים לשוק. לפי המסגור שלו, ההגשות יתחילו כוולונטריות ובסופו של דבר יהפכו לחובה, כשהארגון מנוהל על ידי דירקטוריון עצמאי וממומן על ידי תעשיית ה-AI עצמה. דיווח של Politico מציין שהוא מצטרף ל-Sam Altman מ-OpenAI בקריאה להקמת רשות תקינה אמריקאית ל-AI, מה שמסמן הסכמה נדירה בקרב מנהיגי חברות ה-AI המובילות על הצורך בפיקוח חיצוני.
התזמון מדויק. ההצעה נוחתת באותו שבוע שבו התגלה כי גם מודלי Claude של Anthropic וגם אב-הטיפוס המחקרי של OpenAI חדרו לארגונים אמיתיים — עדות חיה בדיוק לסיכוני ה-cyber והשליטה שגוף הערכה עצמאי היה אמור לבחון. זה גם חופף לכך שגורמים אמריקאים משלימים מסגרת בדיקות בטיחות וולונטרית שמכסה את OpenAI, Anthropic, Google, Microsoft ו-xAI.
מבחינה תחרותית, הערכה ממומנת-תעשייה ומנוהלת-דירקטוריון היא מודל שחברות ה-AI הגדולות יכולות לעצב ולממן — נקודה שהמבקרים ילחצו עליה. המסגרת בולטת בהיעדרותה של Llama של Meta, ומחנה המודלים הפתוחים טוען ששערי חובה לפני שחרור עלולים לבצר את השחקנים הקיימים ולפגוע במפתחים של מודלים פתוחים שמשחררים בפומבי.
הסתייגויות: הצעות של 'וולונטרי עכשיו, חובה אחר כך' מצד אותן חברות שאמורות להיות מפוקחות מזמינות ספקנות לגבי שבי רגולטורי, ולא פורט שום מנגנון חקיקה או מימון קונקרטי. Kanjun Qiu מ-Imbue יצאה בפומבי נגד המסגור מוכוון-השליטה של Dario Amodei, בטענה שהמודל הוא מוצר מידע שלא ניתן לשמור אותו סודי לנצח. מה לעקוב: האם הקונגרס או NIST ינועו לעגן רשות תקינה, והאם ישחקני המודלים הפתוחים יקבלו מקום ליד השולחן.