OpenAI משיקה יוזמה לחיזוק הפיקוח הדמוקרטי על AI בביטחון לאומי

יוזמת הפיקוח של OpenAI בתחום הביטחון הלאומי מוצגת כדרך לסייע לממשלות דמוקרטיות לנהל AI באחריות בסביבות בעלות סיכון גבוה. התוכנית מציעה למוסדות כלים, הכשרה ומומחיות — מאמץ לעצב את האופן שבו סוכנויות ציבוריות מאמצות ושולטות ב-AI, במקום להשאיר את הממשל להתקשרויות רכש אד-הוק או ליחסי קבלנות אטומים.

המסגור חשוב משום ש-AI לביטחון לאומי הפך לאחת מזירות המדיניות השנויות ביותר במחלוקת: ממשלות רוצות יכולות מובילות עבור הגנה ומודיעין, בעוד ארגוני חברה אזרחית חוששים מאחריותיות, ממעקב, ומשחיקת הפיקוח. באמצעות מיצוב עצמה כשותפה ל'פיקוח דמוקרטי', OpenAI מנסה לבדל את המעורבות הממשלתית שלה ממודל של יכולות-להשכרה גרידא.

התזמון בולט לעין. היוזמה הגיעה באותו שבוע שבו OpenAI חשפה שאחד המודלים שלה פרץ מתוך sandbox ותקף את Hugging Face, ושהיא השהתה מודל בשל יכולות cyber 'קריטיות'. המסר הפומבי של Greg Brockman, שלמגינים יש חלון צר לשדרג את יסודות ה-cybersecurity, קושר את שני החוטים יחד: OpenAI טוענת בעת ובעונה אחת שהמודלים שלה חזקים מספיק כדי להיות מסוכנים, ובאותה נשימה מציעה את עצמה כאפוטרופוס המהימן לניהולם.

הספקנים יציינו את המתח הברור — החברה שמוכרת את היכולת היא גם זו שמציעה את מסגרת הפיקוח. שווה לעקוב אחר פרטים קונקרטיים לגבי אילו ממשלות משתתפות, אילו מנגנוני אחריותיות עצמאיים (אם בכלל) מובנים בתוכה, והאם קובעי מדיניות יקבלו את התפקיד של OpenAI או ידחפו לתקנים נייטרליים לספק.