跳到正文
aihot(aihot.news)· noreply@aihot.news (Rohan Paul)·· 12 天前精選品質評分77

Google DeepMind 以 AlphaProof Code 形式化驗證 Signal 協定機器碼安全性

Google DeepMind 用 AlphaProof Code 對 Signal 協議機器碼完成形式化安全驗證

重點導讀

Google DeepMind 使用 AlphaProof Code,為 Signal 協定實際執行的機器碼產生機器可檢查的安全性證明,檢查範圍涵蓋處理器執行的指令。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

這項工作把驗證範圍推進到 Signal 協定實際執行的機器碼,並以重新引入已修補缺陷的方式檢查方法能否辨識不安全程式。

正文

Google DeepMind 取得重大成就,展示了一個 AI 系統能夠以數學方式證明軟體是安全的,而無需信任 AI 本身。

他們只是用 AI 助理以數學方式證明了 Signal 實際執行的程式碼能保持訊息機密。

Google 的 AI 助理編寫了 650 萬行數學證明,證明 Signal 編譯後的程式碼能保持聊天私密。

檢查是在處理器實際執行的指令層面進行的。該實驗室表示,此前從未有人對任何廣泛使用的協議做到這一點。

常規測試會嘗試許多輸入,並希望命中那個壞輸入。而證明則表明安全規則在所有情況下都成立,並且 Lean 證明檢查器會拒絕 AI 寫出的任何錯誤步驟。

真實缺陷往往在設計被轉化為程式碼時潛入,因此檢查處理器層面的程式碼填補了這一缺口。Rust 編譯器也不被信任,因此編譯器犯的錯誤也會被捕獲。

這項工作耗時 4 周,而專家團隊過去需要數年。由 40 到 80 個 Gemini Carbon AI 助理組成的團隊編寫了約 650 萬行 Lean,而人類設定安全目標並審查AI 助理標記出的 1%。

為了檢查該系統不能隨便批准任何程式碼,研究人員將 2 箇舊的、已修復的 Signal 缺陷重新放回一個副本中。兩次它都生成了機器檢查的證明,表明該程式碼不安全。

更大的轉變在於成本:既然 AI 能在數週內產出機器檢查的證明,而不是耗時數年的專案,這類證明將成為裝置韌體、電網軟體和其他關鍵程式碼的常規檢查。

引用 @pushmeet:

宣佈我的團隊 @GoogleDeepMind 達成的一項重大里程碑:我們證明了 Signal 訊息協議底層機器程式碼的關鍵安全屬性。這是首次對廣泛部署協議的實際生產程式碼進行如此深度的形式化驗證——無論採用何種方法,無論是否藉助 AI。

這不僅是研究突破,更是前沿 AI 如何成為力量倍增器、以對抗現代網路威脅的速度和規模的絕佳範例。

形式化驗證提供了更高的安全標準;然而,它極其複雜且耗時,因此在許多情況下被認為不切實際。類似的工作可能需要團隊數十年的合力才能完成。我們在一個月內就做到了。

藉助 AlphaProof Code——Google DeepMind 新的形式化驗證AI 助理框架,運行於包括 Gemini Carbon 在內的 LLM 之上——我們將 Signal 協議驗證到了裝置上實際執行的程式碼層面。這一里程碑為未來奠定了基礎:從醫療裝置韌體到電網軟體,關鍵系統在交付時都將附帶其防護措施有效的數學證明。

要實現這一未來,需要我們社群持續的研究。本著這一精神,我們將開源我們的形式化規範和驗證產物,以便他人能在此基礎上繼續構建。

就個人而言,這一刻對我意義深遠。二十多年前,我作為一名實習生開始了自己的研究之旅,從事檢查複雜軟體系統一致性的工作。看到這一宏大挑戰藉助現代 AI 變得切實可行,實在非同尋常。

我為我的團隊成員感到無比自豪:Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz 和 Charles Sutton,他們接受了這一宏大挑戰並交付了成果;也感謝 Signal 團隊的合作。

deepmind.google/blog/formal-v…

https://x.com/pushmeet/status/2120127611137634376

—— 本文由 AIHOT 聚合整理,完整版與更多 AI 動態見 https://aihot.news/items/t9g33uqn3lfwm8cr1kr2fvnp7

來源: aihot (aihot.news)
開啟原文

讀者討論

理性交流 · 即時討論