紀錄工作經驗、相關知識,解決技術相關問題。

資訊相關

DeepMind AlphaProof Code 是什麼?用 AI 做形式化驗證檢查 Signal 加密協議

DeepMind AlphaProof Code 是什麼?用 AI 做形式化驗證檢查 Signal 加密協議 特色圖片

AlphaProof Code 是 Google DeepMind 在 2026 年 11 月 10 日於官方部落格〈Introducing AlphaProof Code〉介紹的多重 LLM 代理框架(multi-LLM agentic framework):由人類專家決定「要證明什麼」,再由 AI 代理負責撰寫證明。

DeepMind 用它對 Signal 協議的實際程式碼做形式化驗證(Formal Verification)。本文先用白話說明形式化驗證和一般測試的差別,再整理官方公布的做法與數字,最後列出開源成果。數字與名詞以官方部落格、開源成果頁與 Lean、Signal 官方網站為準,細節請以原文為準。

形式化驗證和一般測試差在哪

一般軟體測試,是挑一組輸入跑程式,看輸出是否符合預期。測試能發現問題,但跑過的輸入再多,也只是全部可能情況中的一小部分。像 冒煙測試(Smoke Testing) 這類做法,目的是在短時間內確認主要功能沒壞,而不是證明所有情況都正確。

形式化驗證的做法不同:先用數學語言寫出「這段程式必須滿足什麼性質」(稱為規格,specification),再用證明工具檢查程式確實滿足這些性質。證明通過時,結論涵蓋規格描述的所有情況,而不是只涵蓋測過的幾組輸入。

補充說明:以上是本文的白話比較。證明只保證「程式滿足所寫下的規格」,規格本身寫得對不對,仍需要人來審。這也是 AlphaProof Code 把規格交給人類專家的原因之一,後面會再提到。

Lean 是什麼

Lean 官方網站將它描述為開源的程式語言與證明輔助工具(proof assistant)。在 AlphaProof Code 裡,AI 代理寫出的證明是 Lean 程式碼,由 Lean 自動檢查證明有沒有錯。

DeepMind 部落格用「能以數學方式證明程式碼正確性的電腦語言」來介紹 Lean。重點在於:就算證明是 AI 產生的,只要 Lean 檢查通過,結果就是機器檢查過的證明(machine-checked proof),不需要人去相信 AI 的說法。

AlphaProof Code 做了什麼

官方部落格說明的流程,可以分成四個部分:

  1. 人類決定要證明什麼:DeepMind 的研究人員使用多個模型,把 Signal 的安全目標翻譯成形式化規格,而且每一份規格都由人類專家審閱。
  2. AI 代理負責寫證明:由 Gemini Carbon 驅動的代理,產生了超過 600 萬行 Lean 程式碼。
  3. Lean 自動檢查:代理會標出需要人類再看一眼的部分,約占整個程式碼庫的 1%,其餘由 Lean 自動檢查。
  4. 驗證對象是編譯後的程式碼:官方指出,這次證明的是編譯後、實際在裝置上執行的程式碼,而不只是設計層級的模型。

整個驗證過程耗時四週。官方部落格提到,這類工作過去通常需要專家團隊花上數年時間。

Signal 協議和驗證的安全性質

Signal 是端對端加密通訊協議,Signal 官方文件頁列出多份協議規格,包含 X3DH、PQXDH、Double Ratchet、Sesame 與 ML-KEM Braid。例如 Double Ratchet 規格的說明是:從共享密鑰開始交換加密訊息,並為每則訊息衍生新金鑰,讓外洩的金鑰影響範圍較小。

官方部落格指出,這次的證明涵蓋裝置遭到暫時入侵之前與之後的訊息保護。開源成果頁則進一步列出驗證的安全性質。

模型官方列出的性質
符號模型(symbolic model)前向保密(forward secrecy)、入侵後安全(post-compromise security)、握手驗證(handshake authentication)、抗 KCI(KCI resistance)、握手機密性、會話獨立性
計算模型(computational model)訊息的機密性與真實性,搭配前向保密與入侵後安全,對象為傳統(classical)攻擊者

驗證對象在開源成果頁上寫得很具體:libsignal v0.105.4 搭配 spqr v1.6.0,在 AArch64 機器碼層級。符號模型共有十個定理。

兩個舊漏洞的驗證

為了檢驗這套系統,DeepMind 在隔離的 Signal 程式碼版本中,重新放回兩個真實發生過、且已修復的漏洞。官方表示,兩次系統都產生了機器檢查過的證明,指出有漏洞的版本不安全。開源成果頁也寫到,這兩個重新放回漏洞的二進位檔,被證明違反了符號定理。

開源了哪些成果

官方在部落格與開源成果頁公開的內容如下:

  • 技術論文:部落格附有 Signal 形式化驗證的技術論文連結。
  • Lean 成果:開源成果頁提供完整的 Lean 開發內容,包含所有規格與證明,約 650 萬行經機器檢查的證明程式碼。
  • GitHub 儲存庫:google-deepmind/code-verification,內含 AArch64 語意目錄、libsignal 的第三方副本,以及 libsignal-cli 測試工具。

這裡的「超過 600 萬行」出自部落格,「約 650 萬行」出自開源成果頁,兩者說的是同一批成果的不同寫法。

官方標明的限制與範圍

開源成果頁列出作者自己標明的限制,閱讀成果時要一併看:

  • 符號證明假設密碼學是完美的,且隨機值(coins)是新鮮的。
  • 未涵蓋群組訊息、多裝置狀態、計算模型下的量子攻擊者,以及 SPQR 的後量子修復機制。
  • 語意模型沒有涵蓋執行緒、訊號、動態連結,以及工作目錄以外的檔案。

官方部落格另外說明,這是 AI 首次在這個深度上,對廣泛部署的密碼學協議做形式化驗證。這是官方自己的說法,本文僅轉述。

延伸閱讀

想先了解 AI 推理模型怎麼用強化學習訓練,可以參考站內的 推理模型在解什麼問題?從強化學習看思維鏈與獎勵駭客。

參考資料與延伸閱讀

發佈留言