KeyFrame內部研究專用

Auditing with Machines: A Practical Exploration of AI-Augmented Security Work

DeFi Security Summit - DSS·11月24日週一·6 min英文

三句話摘要

OpenZeppelin 區塊鏈安全研究員分享如何用 AI 工具加速智能合約審計流程。 AI 最大的價值在於壓縮「讀懂代碼」的時間成本,但驗證正確性的責任與複雜邏輯的判斷仍屬人類審計員,context 品質決定 AI 上限。 AI 擅長快速理解複雜架構:透過 Cursor / Windsurf 等 IDE 整合工具,審計員可用自然語言在數十秒內掌握大型協議(如 Uniswap v4)的設計模式、核心合約與執行流程,大幅縮短熟悉代碼庫的時間。

重點整理

重點
  • 1

    AI 擅長快速理解複雜架構:透過 Cursor / Windsurf 等 IDE 整合工具,審計員可用自然語言在數十秒內掌握大型協議(如 Uniswap v4)的設計模式、核心合約與執行流程,大幅縮短熟悉代碼庫的時間。

  • 2

    組合語言等低層代碼的理解速度大幅提升:AI 能將看似複雜的 assembly 二分搜尋邏輯解釋為步驟清單,並說明為何用 `or/and` 節省 gas,審計員仍需對照 opcode 確認正確性,但速度遠快於手動閱讀。

  • 3

    AI 適合找簡單漏洞樣板,不適合複雜邏輯漏洞:對於「文件描述步驟 vs. 實作不符」、「跨鏈訊息缺少 sender 綁定」等結構性問題效果良好;但對需要深度跨合約上下文理解的漏洞,需透過 primer document 或 context 專化來補強。

  • 4

    Context window 的品質決定 AI 表現:應將代碼庫按功能拆分,移除測試檔、輔助庫、view 函式等低密度資訊,讓 token 預算集中在核心邏輯,同時注意 prompt injection 風險(惡意合約可能透過代碼內容操控 AI 行為)。

實用技巧與重點

乾貨
  • Context window:最大 400,000 tokens
  • 工具:Windsurf、Cursor(自動擷取代碼庫 + heuristic 搜尋)
  • 測試案例:30 秒生成含 `deployFreshManager`、router helper 的 Uniswap v4 swap 測試
  • Primer document 技巧:預先列出 ERC-4626 Vault 已知漏洞清單餵入 AI,提升回答準確度
  • 可識別漏洞類型:密碼學函式步驟缺漏、configuration 參數錯誤、跨鏈 sender 未綁定、參數順序錯誤、gas 優化機會
  • Uniswap v4 示範:singleton 設計、PoolManager 核心合約、5 大操作、Hook 系統(lifecycle callback)
  • assembly 範例:`mostSignificantBit(uint256)`,二分搜尋、5 次 check(因為 2^5=32)、`or/and` 節省 gas
  • 安全警示:AI 易受用戶偏見影響(堅持「2+2=3」可能讓 AI 同意);prompt injection 風險(Red Guild 同場有相關 presentation)

結論

結論

AI 最大的價值在於壓縮「讀懂代碼」的時間成本,但驗證正確性的責任與複雜邏輯的判斷仍屬人類審計員,context 品質決定 AI 上限。

完整解析

詳細

本場演講由 OpenZeppelin 區塊鏈安全研究員 Yonus Vorel Gangu 主講,核心問題是:審計員如何在不降低品質的前提下,用 AI 工具處理大量重複性理解工作,把省下來的時間集中在 AI 無法處理的複雜邏輯上。

AI 的幾項能力使其適合嵌入審計流程:內部多步推理可將複雜問題拆解為子問題、400,000 tokens 的大上下文窗口能容納完整協議代碼、Cursor 與 Windsurf 等 wrapper IDE 還加入啟發式搜尋與摘要機制。講者以 Uniswap v4 為例,一個問題在 30 秒內拿到了「singleton 設計、PoolManager 合約、5 大核心操作、Hook lifecycle 系統」的完整架構說明,接著可繼續追問每個組件直到掌握完整執行路徑。

在代碼理解層面,講者展示了 Uniswap v4 core 內一段用 assembly 實作的 `mostSignificantBit` 函式。這段代碼乍看複雜,AI 卻能立刻解釋這是 uint256 上的二分搜尋,共 5 次條件判斷(對應 2^5=32),並說明 `or/and` 操作是為了讓邏輯更節省 gas。審計員仍需自行對照 opcode 確認細節,但理解速度遠超傳統方式。

在漏洞識別方面,AI 最擅長處理「有文件描述、代碼卻實作錯誤」的情境:密碼學函式的步驟缺漏或 configuration 錯誤、跨鏈訊息中目標鏈沒有驗證來源 sender 身份、函式參數順序顛倒等。對於需要跨越多份合約深度理解的複雜漏洞,AI 表現較差,解法是用「primer document」——預先整理已知漏洞清單(如 ERC-4626 的歷史問題)注入 context,讓 AI 回答時已具備領域知識背景。測試生成同樣實用,30 秒內 AI 即寫出完整 Uniswap v4 swap 測試,並自動識別並使用代碼庫內的 `deployFreshManager` 等自訂 helper。

最後講者提醒三件事:AI 給的所有答案都需要人工驗證,最終責任在審計員;AI 極易被偏見引導(堅持錯誤觀點可能讓 AI 妥協同意);放入 context 的資訊品質比問題本身更關鍵,應移除測試、view 函式等低密度檔案以節省 token,同時警惕惡意合約透過 prompt injection 操控 AI 行為。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。