Anthropic开源FlashProve:给大模型验明正身 | FlashProve | Anthropic | 可证明推理 | 零知识证明 | zkSNARK | 形式化验证 | Lean
三句話摘要
Anthropic開源FlashProve系統,用零知識簡潔論證技術實現大型語言模型的可驗證推理,使用戶無需模型權重也能驗證服務商是否真的用了聲稱的模型。 FlashProve將可驗證推理從理論夢想變成實用現實,用密碼學證明把千小時級驗證壓到秒級,為模型権重驗證、算力監管、防篡改防護等場景開啟了真實可行的新路徑。 信任問題的密碼學解法:用戶無法判斷服務商是否真的用了指定的昂貴模型,FlashProve透過零知識論證讓驗證成為可能。用戶無需獲取模型權重,僅用承諾、輸入、輸出、證明四樣東西,就能自主驗證計算正確性。
重點整理
信任問題的密碼學解法:用戶無法判斷服務商是否真的用了指定的昂貴模型,FlashProve透過零知識論證讓驗證成為可能。用戶無需獲取模型權重,僅用承諾、輸入、輸出、證明四樣東西,就能自主驗證計算正確性。
兩階段架構的工程巧思:離線階段服務商將權重壓成數字指紋(承諾),每個模型只需39分鐘;線上階段針對每個請求生成證明。這樣設計把昂貴的權重承諾開銷分攤到百萬次請求上,降低單次成本。
稀疏與並行的優化組合:充分利用混合專家模型的稀疏特性(4000億參數中只激活170億),採用事後批量證明而非即時證明,單卡流式處理權重分塊,用鏈接證明延長承諾壽命,整體將驗證從千小時級壓到秒級。
透明的邊界與可驗證性:系統明確指出只驗證計算正確性而非輸出真實性(整數版和浮點版可能差異、缺乏隨機採樣驗證),用Lean定理形式驗證協議的完備性、可靠性、零知識性,主動交底哪些部分有形式保證、哪些沒有,建立信任的透明基礎。
實用技巧與重點
- 系統核心元件
- 離線階段:權重→承諾(Commitment),39分鐘/模型
- 線上階段:請求→輸出+證明(Proof)
- 驗證所需:承諾、輸入、輸出、證明(無需權重、無需GPU)
- 密碼學技術棧
- 零知識簡潔論證(zkSNARK)
- 交互式預言機證明(Interactive Oracle Proof, IOP)
- Merkle承諾樹(Merkle commitment)
- 菲亞特-沙米爾變換(Fiat-Shamir transformation)
- 哈希函數:BLAKE2
- 查表論證(Lookup argument)處理非線性激活函數
- 鏈接證明(Link proof)延長承諾壽命
- 測試環境與效能指標
- 模型:Meta Llama 4 Maverick(4000億參數混合專家模型)
- 權重來源:Hugging Face第三方4-bit量化版本
- 證明端硬體配置:
- 1×H100 GPU + 24 CPU核心
- 單批次:24個請求
- 吞吐速度:每秒110個token(僅驗證1024個token中的一個)
- 完整驗證速度:每秒39.1個token
- 單份證明檔案:18.78MB
- 批處理延遲:攒夠一批5分鐘生成證明
- 驗證端硬體配置:
- 24個線程(無需GPU)
- 多線程驗證時間:17秒
- 單線程驗證時間:21秒
- 用戶需下載:6.5MB基礎 + 18.78MB証明
- 開銷對比
- 相比vLLM單張GPU普通推理:70~95倍開銷
- 相比vLLM 8張H100批量推理(折算每張卡):約72倍開銷
- 單個請求生成證明:58秒
- 開銷分析:70倍中約70-75%用於sumcheck操作
- 歷史進展里程碑
- 2017 SafetyNets:兩層卷積MNIST網路
- 2021 zkCNN:VGG-16(1500萬參數,88.3秒/證明)
- 2021 ZKML GPT-2:1.17億參數(159秒/token)
- 2022 GPT-2 XL(1.5B參數):90多小時
- 2024 zkLLM LLaMA-2(130億參數,A100):2.5 token/秒
- 2025 zkGPT GPT-2:21.8秒/token
- VerInf(同款Llama 4 Maverick):14.3小時/1000個token,93.6GB證明檔案
- FlashProve(Llama 4 Maverick):110 token/秒,19MB證明,數十秒驗證
- 數學結構細節
- 一次請求包含:約2000次sumcheck
- sumcheck占交互輪次:90~95%
- 承諾支撐請求數:約1600萬次
- 上下文窗口:1024個token
- 安全目標:128位
- 工程優化關鍵點
- 稀疏性利用:
- 模型參數總量:4000億
- 每個token激活:170億參數 + 共享專家
- 證明工作量直接對應激活參數
- 批處理策略:
- 一次解開權重承諾供多個請求共用
- 事後並行證明(非即時)
- 單個批次重複開銷省去
- 硬體配置:
- 單卡流式:權重232GB存主機記憶體
- 分塊傳輸:按需送入80GB顯存
- 無需多卡集群與卡間搬移資料
- 鏈接證明機制:
- 每1600萬次請求後重新編碼
- 每次換新隨機數重新編碼
- 附加鏈接證明說明仍為同一權重
- 並行化優化:
- 菲亞特-沙米爾變換原本串行
- 多請求有向無環圖併行證明
- 串行瓶頸被並行盖住達到單卡滿載
- 形式驗證承諾
- Lean定理證明三項性質:
- 完備性(Completeness):誠實方一定通過
- 可靠性(Soundness):偽造證明一定失敗
- 零知識(Zero-knowledge):除了結論其他都看不出
- 實現細節:
- C++驗證器:無形式保證
- Lean驗證器:有形式保證但較慢
- GPU證明器代碼:由Claude協助生成,未等價性證明
- 批量證明零知識:未形式證明
- 可靠性邊界說明
- 可靠性只取決驗證器,與證明器無關
- 證明器代碼錯誤最多影響完備性與零知識
- 不可能影響可靠性(偽造證明必定失敗)
- 系統邊界與限制
- 上下文:最長1024個token(實際聊天需數十萬)
- 模型架構:無法隱藏(可能是商業機密)
- 計算模式:整數模型 + 貪心解碼(無浮點、無隨機採樣)
- 並行策略:單卡無張量並行
- 側信道:時序資訊理論上可能泄露
- 驗證機制的真實作用
- 篡改發現機制:篡改會被驗證發現(非預防篡改)
- 事後驗證特性:用戶拿到答案時證明才生成
- 日誌可信性前提:需假設服務商日誌真實
- 縱深防禦角色:不是唯一防線,配合多層保護
- 重算開銷
- 重算成本:一次前向計算
- 証明成本:70~95倍前向計算
- 驗證器重算增加:1~1.5%工作量
- 應用場景(官方列舉)
- 算力節奏監管:驗證硬體確實在推理而非訓練
- 防篡改驗證:入侵或模型替換立即露餡
- 內部系統審計:確認伺服器運行的權重版本
- 安全掃描驗證:企業證明代碼通過指定模型掃描
- 合規模型上岗:監管要求用備案模型的機制保障
- 時間線與官方態度
- 2026年9月30日:計畫完成可證明推理原型
- 2026年10月19日:官方改稱「推理驗證」
- 改口理由:「可證明」一詞比實際技術路徑聽起來太窄
- 當前狀態:研究原型,非開箱即用商用產品
- 遠期目標:每份API回覆自帶可驗證憑證
結論
FlashProve將可驗證推理從理論夢想變成實用現實,用密碼學證明把千小時級驗證壓到秒級,為模型権重驗證、算力監管、防篡改防護等場景開啟了真實可行的新路徑。
完整解析
在大型語言模型時代,用戶面臨一個根本的信任危機。當我們透過網路調用第三方模型時,無法確認後台究竟是哪一個模型在回答。平台可能為了節省成本把聲稱的昂貴模型偷換成便宜的替代品,傳輸過程中也可能被中間節點篡改,而僅從回答品質我們無法區分這些情況。這一直以來都是靠信任維繫的——平台說用的是哪個模型,我們就當它是哪個。Anthropic在2026年11月2日開源的FlashProve系統正是為了打破這種被動依賴而誕生。
FlashProve採用零知識簡潔論證(zkSNARK)技術,核心目標是同時滿足兩個看似矛盾的要求。一方面,證明本身不能泄露模型權重及其中間計算細節——什麼層啟動了哪個專家都要藏起來;另一方面,證明要足夠小、驗證要足夠快,使得普通用戶無需高端硬體即可完成核驗。傳統驗證方式是重新跑一遍模型權重,但這對普通用戶完全不現實——前沿模型動輒幾百GB,執行需要H100等高階顯卡。FlashProve的解決方案分為兩個階段巧妙地將這個難題分解開來。
離線階段,服務商將權重壓縮成一枚短短的數字指紋,稱為「承諾」(Commitment)。可以理解成給這組參數上了密碼鎖,權重本身不公開,但這枚指紋把具體的參數組合永久綁定了。這一步每個模型只需執行一次,大約39分鐘就搞定。之後的線上階段才是重點。當用戶發出請求,服務商返回答案,同時附上一份證明。這份證明要表達的只是一句話:由那枚指紋綁定的那組權重,在這個輸入上確實產出了這串token。巧妙的是,用戶無需原始權重,也無需算力,只要擁有四樣東西——承諾、輸入、輸出、證明——就能自主驗證。這個結構之所以這樣設計,是因為推理並非一次性計算,同一組權重要被千萬次請求反覆引用。先承諾、後證明,把承諾的昂貴開銷分攤到百萬次請求上,單次成本才能降下來。
技術實現的核心分為三個層次遞進。第一步,用交互式預言機證明(IOP)機制將「這一整段計算對不對」的問題壓縮為「只需驗證少數幾個點對不對」。第二步,用Merkle樹進一步將冗長的證明壓短,使得驗證者只需翻查幾個位置就能確認。第三步,用菲亞特-沙米爾變換把本來需要多輪交互的驗證過程變成一份單獨的非交互文件。整個體系只依賴哈希函數而非椭圓曲線等代數結構,這意味著即使未來量子計算機到來也能抵禦,具備後量子安全特性。非線性激活函數如softmax和SiLU在有限域中表達代價極高,解決方法是預先準備一張公開的查表,證明者只需說明每個輸入輸出都能在這張表中查到。整個證明過程中,sumcheck操作佔據了90到95%的交互輪次。
工程優化是將系統從理論推向實用的關鍵。在Meta的Llama 4 Maverick(4000億參數混合專家模型)上測試,FlashProve達到每秒110個token的推理速度,生成的證明檔案僅19MB。相比之下,前代系統VerInf在同一模型上需要14.3小時才能完成1000個token的驗證,證明檔案高達93.6GB,驗證本身就要近一天。這個巨大的進步來自幾個關鍵的工程決策。首先是充分利用混合專家模型的稀疏性,4000億參數中每個token只激活170億左右加上共享專家,證明工作量隨著激活的參數數減少;其次是採用事後批量證明而非實時證明,等推理完全生成完後再一次性並行讀進來;再次是單卡流式處理,將232GB的權重存放在主機記憶體裡分塊傳入,無需多卡集群也不用在顯卡間搬移資料;最後是鏈接證明機制,一個承諾可支撐約1600萬次請求,之後重新編碼時用新的隨機數附加鏈接證明說明仍為同一權重。甚至連哈希鏈的串行瓶頸都被聰慧地用有向無環圖並行化克服了,單張H100才能跑滿。儘管性能已大幅改善,相比普通推理仍有70到95倍的開銷,在日常調用中依然難以承受,但已進入了能認真談論落地的區間——要知道20年前驗證一個1億參數的小模型就要159秒每個token。
系統最值得稱道的是其透明地說明限制的態度。當前實現針對整數版模型搭配貪心解碼,不支援浮點計算與隨機採樣,因此驗證的是計算過程正確性而非輸出的現實合理性。整數版和浮點版通常只差很小的比例,但在對抗性輸入上無法保證。上下文被限制在1024個token,遠低於實際聊天需求。模型架構無法隱藏,側信道資訊如時序差異理論上可能泄露資訊。為確保系統的正確性,Anthropic團隊用Lean定理證明語言將協議和安全性質寫成了機器可檢查的定理,分別證明了完備性(誠實方一定通過)、可靠性(偽造證明必定失敗)和零知識性(除了「計算對了」什麼都看不出)。這很重要,因為快速的C++驗證器缺乏形式保證,被人形式驗證的是那個較慢的Lean驗證器。團隊甚至坦言Lean驗證器只對單個請求的零知識進行了證明,批量證明的零知識還沒有,GPU上的證明器代碼由Claude協助優化生成,也未被證明與Lean的描述等價。這種主動交底比含糊帶過更容易贏得信任。系統提供的是事後驗證機制而非預防篡改,它保證篡改會被發現,但不能保證篡改不會發生——一旦攻擊者劫持了推理服務器,完全可以在驗證失敗報警之前先偷走一些資訊。操作方還得信任自己的日誌是真的。儘管如此,重新計算的成本只相當於一次前向計算,而證明本身就已經是70到95倍的開銷,重算增加的工作量微乎其微,只有1到1.5%。


