KeyFrame內部研究專用

Alex Ozdemir on where Theorem Provers and ZK meet

Zero Knowledge·7月15日週三·61 min英文

三句話摘要

形式驗證與定理證明在零知識證明系統中的應用與演進 # 隨著密碼系統在現實中的部署日增,形式驗證與零知識証明的結合——尤其是能隱私保護地証明大型軟體正確性的系統——將成為信任基礎設施的不可或缺的一環。 ZK 語言生態的兩條平行線:DSL 繼續演進(Clean、Plonky2、Cairo),同時 ZK VM 異軍突起。VM 讓應用開發者無需理解電路細節,只需知道虛擬機介面;但電路層仍有用武之地——VM 引入的間接性帶來性能成本,關鍵應用仍需定製電路以獲得最優性能。

重點整理

重點
  • 1

    ZK 語言生態的兩條平行線:DSL 繼續演進(Clean、Plonky2、Cairo),同時 ZK VM 異軍突起。VM 讓應用開發者無需理解電路細節,只需知道虛擬機介面;但電路層仍有用武之地——VM 引入的間接性帶來性能成本,關鍵應用仍需定製電路以獲得最優性能。

  • 2

    隨機電路作為一級概念的重要性:傳統電路是確定性的,新一代 DSL 允許電路在執行中「擲硬幣」(採樣隨機挑戰),這讓查詢論證、記憶體論證等互動式証明系統成為原生特性而非事後補丁。Cersei 不只支援隨機電路,還能自動優化其使用——合併冗餘挑戰、選擇最佳記憶體論證演算法。

  • 3

    形式驗證的兩大工具各司其職:SMT 求解器(如 CVC5)進行自動定理證明,適合較簡單的數學領域(如有限域運算);Lean 是交互式定理證明器,由人類編寫証明但內核小且可信。兩者都開始引入機器學習來指導證明搜索,但真理判定始終是確定的——ML 只是幫助尋找證明路徑。

  • 4

    零知識與隱私保護正確性的新範式:ZK πι 允許專有軟體開發商證明「我的系統不會洩露你的資料」而無需公開原始碼。核心創新是零知識證明 Lean 定理——定理陳述保持可見(防止「安全劇場」),但完整證明被隱藏。這需要有限域上的強大 SMT 支援與新的証明系統(Mirage Plus)來高效編碼互動式证明。

  • 5

    #

實用技巧與重點

乾貨
  • 工具與系統名稱:
  • ZK DSL:Noir、Clean (Lean-based)、Plonky2、Cairo、CIRCOM、ArcWorks
  • Cersei:編譯器基礎設施,支援多源多目標(ZK SNARKs、MPC、SMT、同態加密)
  • 定理證明工具:Lean(交互式)、Z3、CVC5、Yices(SMT 求解器)
  • 證明系統:Mirage Plus、Halo 2、Groß 16、Spartan
  • 新系統:ZK πι(零知識證明 Lean 定理)、Dorian(改進的 Spartan 變體)
  • 技術概念:
  • 隨機電路(Randomized Circuit):電路內部採樣隨機挑戰,實現互動式證明系統
  • SMT (Satisfiability Modulo Theories):自動定理證明,需預先定義有限的數學領域
  • Lean 中的 Curry-Howard 對應:將定理證明約化為類型檢查
  • 翻譯驗證(Translation Validation):編譯器邊編譯邊生成程式特定的正確性證明
  • 具體數據:
  • ZK πι 証明大小:約 200 字節
  • 有限域元素範圍:約 2^32 到 2^256 個選項
  • 方法與流程:
  • 形式驗證的兩階段:(1) 規格化(定義輸入/輸出語言語義)→ (2) 驗證(用 SMT 證明編譯器正確性)
  • Cersei 對隨機電路的優化:
  • 檢測確定性操作,替換為最優隨機版本(查詢/記憶體論證)
  • 合併冗餘挑戰,重組隱含互動結構
  • ZK πι 的核心技術:將 Lean 定理證明中的依賴型檢查編碼為 ZK 電路,在 Mirage Plus 上執行
  • 安全風險:
  • 「安全劇場」:虛假定理或隱藏關鍵假設仍可被「證明」
  • 例:只驗證 4 台伺服器行為,隱瞞第 5 台伺服器的惡意操作
  • 解決方案:ZK 証明不隱藏定理本身,只隱藏證明過程
  • #

結論

結論

隨著密碼系統在現實中的部署日增,形式驗證與零知識証明的結合——尤其是能隱私保護地証明大型軟體正確性的系統——將成為信任基礎設施的不可或缺的一環。

完整解析

詳細

這場播客對話深入探討了形式驗證、定理證明與零知識証明在現代密碼學中的交匯點。

自 2021 年以來,ZK 領域的語言與工具生態發生了重大轉變。一方面,DSL 繼續演進,引入了隨機電路這一關鍵創新——電路不再是純粹的確定性計算,而是能夠採樣隨機挑戰、實現互動式證明系統的動態結構。Clean 等新 DSL 採用「驗證優先」設計,將驗證工具與語言協同設計。另一方面,ZK VM 的興起改變了開發者體驗——應用開發者無需理解電路細節,只需面對虛擬機介面,彷彿在用標準語言(如 Rust)編程。然而,這並非電路的終結。VM 實現本身基於電路,且 RISC-V 等通用指令集為零知識優化而非設計,導致性能開銷。因此生態正進入分層時代:對性能要求不高的應用用 VM,對性能敏感的應用(如 Google 的匿名憑證系統)仍需定製電路。

Cersei 編譯器基礎設施在這個演進中扮演樞紐角色。與傳統編譯器不同,Cersei 不是一對一的源-目標轉譯,而是一套可共享的編譯邏輯。它支持多個源語言編譯到多個目標:ZK SNARKs、多方計算、SMT 邏輯公式、整數線性規劃乃至全同態加密。過去兩年,Cersei 取得的核心突破是自動化隨機電路優化——不僅支持隨機性的使用,更能自動偵測確定性操作並替換為最優的隨機版本(如選擇四種記憶體論證中最合適的),甚至能合併冗餘挑戰、重組互動結構。這種動態優化對互動式証明的編譯是前所未有的。

與此同時,形式驗證成為確保編譯器正確性的關鍵。講者採用「驗證前」方法,聚焦有限域編碼這一易出錯的編譯階段,並發現了預期外的 bug——這驗證了預先驗證的必要性。為此,講者與團隊建構了 CVC5 SMT 求解器對有限域的支持,填補了此前的空白。現在,Z3、Yices 等多個求解器都支持有限域推理,形成了互操作的生態。

定理證明工具的選擇與應用同樣關鍵。SMT 求解器(自動定理證明)與 Lean(交互式定理證明)各有所長。SMT 專注於自動化,但僅限於預先定義的有限數學領域;Lean 允許人類定義複雜的數學結構(如同調),但需人工証明。兩者都已開始引入機器學習來指導證明搜索,但本質不變——SMT 承諾 100% 正確(找到證明),Lean 的內核極小且可驗證。這兩種工具甚至可協作:Lean 戰術生成 SMT 公式,SMT 求解後的證明被重新編碼為 Lean 可接受的形式。

講者新近的工作 ZK πι 代表了這些技術的融合。它解決了一個實際問題:專有軟體廠商如何向用戶證明「我的系統不會洩露你的資料」而無需公開原始碼?傳統方案要求開放源碼進行形式驗證;ZK πι 的方案是零知識證明一個 Lean 定理——定理敘述(如「系統不向第三方伺服器發送使用者資料」)保持可見供審查,但完整的 Lean 證明被隱藏。這需要 Mirage Plus 這樣的新證明系統,能高效地將依賴型檢查編碼為互動式電路。ZK πι 生成的証明僅 200 字節,相比數 MB 的完整 Lean 證明實現了顯著的簡潔性。

然而,形式驗證也面臨「安全劇場」風險。即便證明過程無懈可擊,虛假或不完整的定理同樣能被「證明」——例如,定理只指定四台伺服器的行為卻對第五台隱瞞。解決方案不是加密定理本身(ZK πι 正是因此而可見定理),而是警惕规范的完整性。這提醒我們:形式驗證解放了開發者對代碼的檢查負擔,但將責任轉移到對定理正確性的思考——這同樣不容懈怠。

#

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。