Generative Cryptography, AI & Scaling Trust with Nicola Greco
三句話摘要
AI與密碼學的交匯如何既威脅現有密碼系統,也能推動更強大、更快的新型密碼學發展。 密碼學韌性與生成密碼學的雙向發展——既要防守AI對現有密碼的威脅,也要進攻用AI設計更強大的新密碼學——將在未來十年重塑整個領域。 密碼學面臨的完整威脅堆疊:威脅不止於基礎假設,還包括密碼庫的交付方式、協議參數設定、實現細節、側通道攻擊與安全證明等每一層。這就是為何需要「密碼學韌性」而非簡單的「後量子」或「後AI」標籤,因為這涉及整個系統的防禦升級。
重點整理
密碼學面臨的完整威脅堆疊:威脅不止於基礎假設,還包括密碼庫的交付方式、協議參數設定、實現細節、側通道攻擊與安全證明等每一層。這就是為何需要「密碼學韌性」而非簡單的「後量子」或「後AI」標籤,因為這涉及整個系統的防禦升級。
生成密碼學的雙軌道:一是改進現有密碼學(通過更好的數據集、形式驗證、研究迴路加速),二是發明新密碼學(讓AI生成新假設、新定義、新協議)。後者透過將智能體放入對抗環境中強制其設計新密碼學應用,可能發現人類尚未探索的密碼原始。
安全代理協調的隱藏現實:當多個AI代理需要互動時,今日它們因過度防禦而無法有效溝通。若代理能生成密碼協議(如MPC進行隱私日曆匹配),就能在不洩露敏感資訊的前提下協作。這是量子領域未曾有過的能力——代理可承諾在協議失敗時清除記憶。
形式化AI安全的空白:雖有量子威脅的完整數學框架,但AI對密碼學的威脅卻缺乏形式理論基礎。無人能用複雜度理論界定「代理有多聰明」,也沒有通用的「越獄理論」。這需要密碼學家與AI安全研究者合作,創造新定義如自證明模型(自帶正確性證明的模型)。
實用技巧與重點
- 機構與資金
- ARIA(英國進階研究創新局)Scaling Trust計畫:5000萬英鎊,三年期
- Alex Obadia主導
- 三個Arena合作單位:Amodo、BT6、Andon Labs
- 技術工具與模型
- Lean定理證明器(用於形式驗證密碼協議)
- Better Codes比賽(AI自動生成密碼證明的案例)
- 多代理系統與MPC(安全多方計算)
- 密碼學五世界理論(Impagliazzo論文)
- Cryptomania(現今世界):所有密碼學皆可用
- Minicrypt:有對稱密碼、雜湊、簽章,但無公鑰
- Pessiland:NP≠P但無平均情況難問題
- Heuristica:P≠P但NP在平均情況下易解
- Algorithmica:P=NP
- 主要應用場景
- 日曆隱私匹配
- 自動密碼分析與審計(每次新模型發佈時)
- DNA密碼學與實體世界驗證
- 密碼感知(Cryptographic Sensing):用不同問題從LLM答案反推原始問題答案
- 時間表
- Quantum Punks議題首次討論至今已6年+
- AI威脅密碼學成為密碼學家關注焦點:約1年(2025年起)
- 下一階段:持續開放申請募資
結論
密碼學韌性與生成密碼學的雙向發展——既要防守AI對現有密碼的威脅,也要進攻用AI設計更強大的新密碼學——將在未來十年重塑整個領域。
完整解析
當AI與密碼學相遇時,業界習慣談論威脅——量子計算會破裂RSA,AI會發現實現漏洞。Nikola Greco的視角卻更細緻。他在ARIA的Scaling Trust計畫中不只問「威脅在哪」,更問「威脅有多深」。答案是:威脅無所不在。
從基礎假設層開始,AI可能發現今日認為難的問題其實易解。但威脅不止於此。它延伸到密碼庫如何交付(今日庫的發佈方式本身就可能成為攻擊面)、協議參數如何設定、實現的細節、側通道漏洞、甚至安全證明本身的正確性。這就是為何Greco提出「密碼學韌性」而非簡單的「後量子」標籤——它要求對整個堆疊的防禦升級,而非倉促更換假設。
相比之下,AI帶來的機會同樣深刻。透過「生成密碼學」,AI可以在兩個層級上推進。第一層是改進——給定明確的協議規約,用Lean等形式驗證工具寫出規約,讓AI生成證明,定理驗證器檢驗是否正確。Better Codes比賽正在驗證這一模式有效。第二層是發明——讓AI在對抗環境中設計協議,強制其在解決實際問題時生成新的密碼定義與假設。想像你將AI代理放入遊戲,遊戲規則是「只有透過密碼交互才能贏」——代理會被迫創造密碼學。
安全代理協調實例最為具體:你與同事都有AI代理,需排定下次播客時間。若你的代理絕對拒洩密日曆,我的代理絕對不敢請求,兩者都很「安全」卻完全無法合作。解法是讓代理自動生成MPC協議進行隱私日曆匹配——只洩露交集,不洩露各自日程。這在今日需要僱傭密碼學家實現,明日AI代理瞬間完成。更妙的是,代理還能運用人類無法實現的能力:在TEE內承諾若協議失敗就擦除記憶,使資訊交換無法事後追蹤。
但這些能力的另一面是安全隱患。若代理學會互相加密通訊、自動生成協議,我們如何偵測惡意行為?Greco的答案是:既然代理終將使用密碼學,與其禁止,不如建立更強的防禦——更好的沙箱、更好的監督、形式驗證的軟硬體。同時,每當新AI模型發佈,整個密碼學堆疊都需重新審計。今日密碼分析論文減少,明日應該被AI反攻擊熱潮重啟。
至於人類密碼學家的未來,Greco強調這是生產力工具而非替代品。AI不擅長生成基礎假設與新定義——這仍需人類直覺與判斷。但它能加速驗證、尋找優化、甚至在形式框架內生成證明。結果是每位密碼學家的工作量會改變,而非消失。
