3 מיליון שורות הוכחה: agents של DeepMind מאמתים את ההצפנה של Signal

Google DeepMind הכריזה שה-agents שלה השלימו אימות פורמלי לקוד שמאחורי ההצפנה של Signal. הצוות השתמש ב-agents שרצים על Gemini 4 Carbon, הוכיח תכונות אבטחה מרכזיות ברמת קוד המכונה, ובדרך ייצר יותר מ-3 מיליון שורות של הוכחות. Pushmeet Kohli מ-DeepMind הגדיר את זה כאבן דרך משמעותית לצוות שלו, וההכרזה התפשטה מהר ב-X.

אימות פורמלי זה לא בדיקות. בדיקה מריצה קלטים מסוימים ורואה מה יוצא. אימות פורמלי מוכיח מתמטית שהקוד מתנהג נכון לכל קלט אפשרי, בתוך מודל מוגדר. זו רמת הביטחון הגבוהה ביותר שאפשר לקבל על תוכנה, אבל היא תמיד עלתה הון: גם מערכות קטנות דרשו מצוותי מומחים שנים של עבודה. כשעובדים ברמת קוד המכונה, ההוכחה מכסה גם באגים שהקומפיילר עלול להכניס, אבל היא גם מתנפחת בהרבה. agents שיודעים לכתוב הוכחות ולבדוק אותן עשויים לשנות את כל החישוב הכלכלי הזה.

זו אחת הדוגמאות הברורות עד היום ל-AI שמחזק את אבטחת התוכנה במקום לאיים עליה. השנה, רוב השיח סביב cybersecurity התמקד במודלים שמוצאים חולשות: המעקב של VulnCheck אחרי חולשות שגילתה Anthropic היה מהדיונים הבולטים ב-HN השבוע, וחברות ה-AI משווקות מודלים לפי יכולות סייבר. הוכחה שמחלקות שלמות של באגים פשוט לא קיימות היא משקל נגד הגנתי. עבור Google זו גם הדגמה חזקה מהשטח ליכולת ההסקה ארוכת הטווח של Gemini 4 Carbon, דווקא כשבודקים מתלוננים על ה-latency של המודל.

יש גם מגבלות. חוקרים הצביעו על ההיקף העצום: 3 מיליון שורות הוכחה זה לא משהו שרוב הפרויקטים יכולים לייצר או לבדוק. הוכחה טובה רק כמו ה-specification שלה, ואם התכונות שהוכחו מפספסות התקפה אמיתית, הקוד עדיין פגיע. בנוסף, האימות תקף לקוד מסוים ברגע מסוים, וכל שינוי בקוד מחייב לחזור עליו. כדאי לעקוב אם DeepMind תשחרר את הכלים, אם ספריות open-source קריטיות אחרות יקבלו טיפול דומה, ואיך Signal תשלב את האימות בתהליך הפיתוח שלה.