Enhancing Large Language Models for Smart Contract Security - DeFi Security Summit 2025
三句話摘要
透過依賴感知上下文、審計標注語料庫與參數高效微調，打造能自動偵測智能合約業務邏輯漏洞的 LLM 審計員。 把調用圖縮小上下文、正負樣本標注語料、LoRA 參數高效微調三件事做對，就能在可接受成本內打造出真正理解業務邏輯的智能合約 LLM 審計員。 傳統算法檢測器已過時：業務邏輯漏洞需要上下文感知能力，算法無法理解跨函式的意圖與狀態流，必須引入 LLM。
重點整理
重點- 1
傳統算法檢測器已過時：業務邏輯漏洞需要上下文感知能力，算法無法理解跨函式的意圖與狀態流，必須引入 LLM。
- 2
縮小上下文是減少幻覺的核心手段：與其把整份程式碼餵給 LLM，不如透過調用圖與繼承關係樹，只傳入與待查問題相關的函式，讓 LLM 得到精確輸入，才能給出精確輸出。
- 3
負樣本同樣重要：語料庫不只要標注「什麼是漏洞」，也必須標注「什麼不是漏洞」，這對壓低誤報率有顯著效果。
- 4
參數高效微調讓訓練成本可控：Supervised Fine-Tuning 搭配 LoRA/QLoRA 只需更新 1-3% 的參數，再加上偏好優化（DPO/ORDPO），可在有限預算內顯著提升模型對漏洞語境的理解能力。
實用技巧與重點
乾貨- 損失規模：每年因惡意黑客損失近 20 億美元
- 主要漏洞類型：訪問控制（Access Control）、代理升級（Proxy Upgrade）、業務邏輯（Business Logic）
- 訓練數據來源：審計競賽（Audit Competitions）、事後分析（Post-Mortems）、公開審計報告
- 架構：RAG + 向量數據庫，搭配負樣本標注
- 訓練方法：
- Supervised Fine-Tuning（SFT，監督式微調）
- LoRA / QLoRA（參數高效微調，僅訓練 1%-3% 參數）
- DPO / ORDPO（偏好優化）
- 上下文技術：Call Graph（調用圖）+ 繼承關係樹 + Storage Slot 分析
結論
結論“把調用圖縮小上下文、正負樣本標注語料、LoRA 參數高效微調三件事做對，就能在可接受成本內打造出真正理解業務邏輯的智能合約 LLM 審計員。”
完整解析
詳細Web3 安全領域每年因惡意黑客攻擊損失接近 20 億美元，其中訪問控制漏洞、代理升級漏洞與業務邏輯漏洞佔大宗。面對如此規模的威脅，手動審計根本無法擴展，業界早期嘗試用算法檢測器自動化這個流程，但算法只能識別固定模式，對於依賴上下文的業務邏輯漏洞幾乎無能為力。
演講者 Shashank 提出的解法是把 LLM 塑造成一位「初級智能合約審計員」。他指出，開箱即用的 LLM 有兩個根本問題：一是容易產生漏洞幻覺，誤報浪費審計員時間；二是無法理解業務邏輯的深層上下文，導致真正的漏洞被遺漏。要解決這兩個問題，需要從三個維度同時下手。
第一是依賴感知上下文。人工審計員不會逐行閱讀程式碼，而是沿著調用圖追蹤函式呼叫關係、理解繼承層次與儲存槽的值傳遞路徑。Shashank 的團隊將這個邏輯複製到 LLM 的輸入管線中：先建立樹狀調用圖，再針對特定查詢（如「誰在呼叫誰」）只抽取相關函式片段提供給 LLM，而非餵入整份代碼庫。精確的輸入直接帶來精確的輸出，幻覺率因此大幅下降。
第二是標注語料庫的品質。他們從審計競賽、事後分析報告、公開審計報告中收集資料，並在 RAG 架構的向量數據庫中同時標注正樣本（這是漏洞）與負樣本（這不是漏洞），讓模型學會區分邊界，從而有效降低誤報率。
第三是成本可控的訓練流程。LLM 全量訓練費用高昂，團隊採用監督式微調（SFT）作為起點，再以 LoRA 與 QLoRA 進行參數高效微調——這兩種方法只需更新模型 1% 到 3% 的參數，成本遠低於全量訓練。最後再加上偏好優化（DPO / ORDPO），強化模型對「好答案」與「壞答案」的辨別能力。三者疊加後，模型在業務邏輯漏洞的偵測準確率與上下文理解能力均有顯著提升。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
