KeyFrame內部研究專用

Generative Cryptography, AI & Scaling Trust with Nicola Greco

Zero Knowledge72 min英文
觀看原始影片

三句話摘要

AI與密碼學的交匯如何既威脅現有密碼系統,也能推動更強大、更快的新型密碼學發展。 密碼學韌性與生成密碼學的雙向發展——既要防守AI對現有密碼的威脅,也要進攻用AI設計更強大的新密碼學——將在未來十年重塑整個領域。 密碼學面臨的完整威脅堆疊:威脅不止於基礎假設,還包括密碼庫的交付方式、協議參數設定、實現細節、側通道攻擊與安全證明等每一層。這就是為何需要「密碼學韌性」而非簡單的「後量子」或「後AI」標籤,因為這涉及整個系統的防禦升級。

重點整理

  1. 密碼學面臨的完整威脅堆疊:威脅不止於基礎假設,還包括密碼庫的交付方式、協議參數設定、實現細節、側通道攻擊與安全證明等每一層。這就是為何需要「密碼學韌性」而非簡單的「後量子」或「後AI」標籤,因為這涉及整個系統的防禦升級。

  2. 生成密碼學的雙軌道:一是改進現有密碼學(通過更好的數據集、形式驗證、研究迴路加速),二是發明新密碼學(讓AI生成新假設、新定義、新協議)。後者透過將智能體放入對抗環境中強制其設計新密碼學應用,可能發現人類尚未探索的密碼原始。

  3. 安全代理協調的隱藏現實:當多個AI代理需要互動時,今日它們因過度防禦而無法有效溝通。若代理能生成密碼協議(如MPC進行隱私日曆匹配),就能在不洩露敏感資訊的前提下協作。這是量子領域未曾有過的能力——代理可承諾在協議失敗時清除記憶。

  4. 形式化AI安全的空白:雖有量子威脅的完整數學框架,但AI對密碼學的威脅卻缺乏形式理論基礎。無人能用複雜度理論界定「代理有多聰明」,也沒有通用的「越獄理論」。這需要密碼學家與AI安全研究者合作,創造新定義如自證明模型(自帶正確性證明的模型)。

實用技巧與重點

  • 機構與資金
  • ARIA(英國進階研究創新局)Scaling Trust計畫:5000萬英鎊,三年期
  • Alex Obadia主導
  • 三個Arena合作單位:Amodo、BT6、Andon Labs
  • 技術工具與模型
  • Lean定理證明器(用於形式驗證密碼協議)
  • Better Codes比賽(AI自動生成密碼證明的案例)
  • 多代理系統與MPC(安全多方計算)
  • 密碼學五世界理論(Impagliazzo論文)
  • Cryptomania(現今世界):所有密碼學皆可用
  • Minicrypt:有對稱密碼、雜湊、簽章,但無公鑰
  • Pessiland:NP≠P但無平均情況難問題
  • Heuristica:P≠P但NP在平均情況下易解
  • Algorithmica:P=NP
  • 主要應用場景
  • 日曆隱私匹配
  • 自動密碼分析與審計(每次新模型發佈時)
  • DNA密碼學與實體世界驗證
  • 密碼感知(Cryptographic Sensing):用不同問題從LLM答案反推原始問題答案
  • 時間表
  • Quantum Punks議題首次討論至今已6年+
  • AI威脅密碼學成為密碼學家關注焦點:約1年(2025年起)
  • 下一階段:持續開放申請募資

結論

密碼學韌性與生成密碼學的雙向發展——既要防守AI對現有密碼的威脅,也要進攻用AI設計更強大的新密碼學——將在未來十年重塑整個領域。

完整解析

當AI與密碼學相遇時,業界習慣談論威脅——量子計算會破裂RSA,AI會發現實現漏洞。Nikola Greco的視角卻更細緻。他在ARIA的Scaling Trust計畫中不只問「威脅在哪」,更問「威脅有多深」。答案是:威脅無所不在。

從基礎假設層開始,AI可能發現今日認為難的問題其實易解。但威脅不止於此。它延伸到密碼庫如何交付(今日庫的發佈方式本身就可能成為攻擊面)、協議參數如何設定、實現的細節、側通道漏洞、甚至安全證明本身的正確性。這就是為何Greco提出「密碼學韌性」而非簡單的「後量子」標籤——它要求對整個堆疊的防禦升級,而非倉促更換假設。

相比之下,AI帶來的機會同樣深刻。透過「生成密碼學」,AI可以在兩個層級上推進。第一層是改進——給定明確的協議規約,用Lean等形式驗證工具寫出規約,讓AI生成證明,定理驗證器檢驗是否正確。Better Codes比賽正在驗證這一模式有效。第二層是發明——讓AI在對抗環境中設計協議,強制其在解決實際問題時生成新的密碼定義與假設。想像你將AI代理放入遊戲,遊戲規則是「只有透過密碼交互才能贏」——代理會被迫創造密碼學。

安全代理協調實例最為具體:你與同事都有AI代理,需排定下次播客時間。若你的代理絕對拒洩密日曆,我的代理絕對不敢請求,兩者都很「安全」卻完全無法合作。解法是讓代理自動生成MPC協議進行隱私日曆匹配——只洩露交集,不洩露各自日程。這在今日需要僱傭密碼學家實現,明日AI代理瞬間完成。更妙的是,代理還能運用人類無法實現的能力:在TEE內承諾若協議失敗就擦除記憶,使資訊交換無法事後追蹤。

但這些能力的另一面是安全隱患。若代理學會互相加密通訊、自動生成協議,我們如何偵測惡意行為?Greco的答案是:既然代理終將使用密碼學,與其禁止,不如建立更強的防禦——更好的沙箱、更好的監督、形式驗證的軟硬體。同時,每當新AI模型發佈,整個密碼學堆疊都需重新審計。今日密碼分析論文減少,明日應該被AI反攻擊熱潮重啟。

至於人類密碼學家的未來,Greco強調這是生產力工具而非替代品。AI不擅長生成基礎假設與新定義——這仍需人類直覺與判斷。但它能加速驗證、尋找優化、甚至在形式框架內生成證明。結果是每位密碼學家的工作量會改變,而非消失。

76 min
AI 技術英文PODCAST11月11日

When Math Meets Auto Research with Bartosz Naskręcki

Zero Knowledge看原片 ↗
  • 一、自動研究的適用範圍與侷限 Bartosz強調自動研究特別適合具有複雜組合空間、已知演算法工具、但需要大量耐心和嘗試的問題。ecdsa.fail競賽之所以成功,是因為該演算法模組化,可分解為多個獨立優化的部分,允許多人並行工作。然而這種方
  • 二、AI解決問題的隱藏機制 AI模型本質上是翻譯機器,能將問題重新表述為多種形式。許多看似困難的數學問題,實際上只是定義和表述的問題,AI通過自動重新語境化(context translation)而輕鬆解決。這解釋了為何某些困擾人類數十年
50 min
Web3 安全英文PODCAST10月28日

From Nova to Magnetar: Three Years of Research with Srinath Setty

Zero Knowledge看原片 ↗
  • 1. 安全與效率的權衡突破
  • Magnetar的核心動機是建構最安全的通用ZKVM,只依賴經過驗證的標準雜湊函數。研究團隊發現,這種「極簡」設計反而帶來顯著性能優勢——比依賴橢圓曲線或特製雜湊函數(Poseidon)的「雜湊加」系統快超過一個數量級。這打破了人們對安全與
71 min
AI 技術英文PODCAST10月21日

zkGolf: AI, Clean and Optimising ZK Circuits with zkSecurity

Zero Knowledge看原片 ↗
  • 傳統 CTF 與 ZK Hack 益智遊戲已因大語言模型自動求解而失效,導致無法測試人類理解力或進行有效招聘。競賽與挑戰曾是業界發現人才的重要渠道——Giorgio 與 Matthias 分別因解決 ZK Security 的難題而被聘僱—
  • Clean 框架在 Lean 證明助手上構建,讓開發者用高階程式碼編寫電路規格(如 SHA-256 的行為),AI 可據此生成低階 R1CS 約束電路並自動用 Lean 證明等價性。這解決了傳統電路設計中手工驗證困難且單一錯誤即致命的問題。