Exploit Development, Agentic Vulnerability Discovery, and Fake PoCs
三句話摘要
AI 模型在網路安全漏洞發現上成效顯著,但在實際漏洞利用的可靠性仍有限制,人工驗證與分類依然關鍵。 AI 加速了漏洞發現與初步分析,但可靠的漏洞利用仍需人類專業判斷與高度專注的工程努力,尤其在閉源和複雜系統領域。 漏洞發現與漏洞利用的根本差異:AI 模型擅長在原始碼中識別潛在的安全缺陷(漏洞),但將其轉變為實際可攻擊的工具(漏洞利用)需要更深層的上下文理解。業界驗證標準往往低於實際攻擊者需求的標準,造成大量「被過度炒作」的漏洞報告。
重點整理
漏洞發現與漏洞利用的根本差異:AI 模型擅長在原始碼中識別潛在的安全缺陷(漏洞),但將其轉變為實際可攻擊的工具(漏洞利用)需要更深層的上下文理解。業界驗證標準往往低於實際攻擊者需求的標準,造成大量「被過度炒作」的漏洞報告。
AI 能力的分化特性:AI 在開源網頁應用的邏輯漏洞、令牌處理缺陷上表現優異,但面對需要逆向工程(如韌體或閉源二進制檔案)的漏洞時表現不佳,因為缺乏現成的訓練語料。
POC 品質劇降與 AI 生成問題:Vulncheck 分析顯示,2026 年起超過 50% 的公開 POC 無法實現預期功能,其中 AI 生成的 POC 比例持續上升,但品質往往只達到「導致程式崩潰」而非「實現攻擊者目標」的程度。
防護措施與研究者的兩難:美國主流 AI 模型的安全防護日趨嚴格,導致合法防守性研究人員轉向開源本地模型(DeepSeek GLM、Qwen),但這也帶來了資料隱私和信任問題。
實用技巧與重點
- 人物與組織背景
- Spencer McIntyre:Vulncheck exploit development director,前 Metasploit 模組開發者,具 10 年以上漏洞研究經驗
- 核心框架與工具
- Metasploit:漏洞開發與滲透測試框架,Ruby 語言,已運行 21 年
- GoExploit:Vulncheck 開發的現代化漏洞利用框架,用於標準化漏洞檢查、掃描、驗證、執行和 C2 設置流程
- Initial Access Intelligence Feed:Vulncheck 提供的漏洞資料饋送,包含漏洞本身、檢測方法、高階理解
- AI 模型表現對比
- 優良組別:Opus 5.5、Claude、GLM、Qwen 在開源網頁應用邏輯漏洞的表現
- 困難組別:需逆向工程的閉源軟體、韌體、x86 專有軟體
- 數據與趨勢
- 2026 年公開 POC 統計:不可靠(破損或不符標準)比例突破 50%
- Vulncheck 每週新增漏洞利用:上週約 50 個,當週預計 60 個
- CVE 覆蓋範圍:PHP 漏洞影響版本回溯至 PHP 5.x
- 漏洞 POC 主要來源:GitHub(已取代傳統 ExploitDB、Packet Storm)
- 開源模型備選方案
- DeepSeek GLM 5.3:可本地部署,效能達 Anthropic 前沿模型 90%
- Qwen(阿里開源)
- 模型託管時間表:Opus 4.6/4.8 將於 2 月日落,導致研究人員對未來可用工具的擔憂
- 安全防護政策
- AI 模型的 cyber security verification programs 效果有限
- 美國模型防護趨勢:近期變嚴格,降低對合法研究的幫助
結論
AI 加速了漏洞發現與初步分析,但可靠的漏洞利用仍需人類專業判斷與高度專注的工程努力,尤其在閉源和複雜系統領域。
完整解析
自 2018 年起運營近 375 集的《Practical AI Podcast》在近日邀請到 Vulncheck 的 Spencer McIntyre 討論一個業界關鍵課題:人工智慧在網路安全領域的雙面角色。
當天節目錄製時,華爾街日報報導出一項 AI 發現的漏洞影響全網 70% 網站,恰好印證了主題的時效性。Spencer 首先釐清了業界常見的概念混淆。漏洞(vulnerability)是潛在的安全缺陷——一種可能性,而漏洞利用(exploit)才是具體實現該缺陷的工具或程式碼。業界對「漏洞驗證」的定義往往低於攻擊者真正需要的功能水準,這導致了大量被誇大其詞的安全警報。CVSS 評分(常見的漏洞嚴重程度評分標準)在大量高分漏洞面前幾乎無法指導優先度,關鍵是理解「攻擊者效用」——該漏洞是否真的能被攻擊者或防守性研究人員實際利用。
在實際應用中,Vulncheck 採用 GoExploit 框架與 AI 模型協作。GoExploit 提供標準化的漏洞檢查、掃描、驗證到利用的流程,這使 AI 模型能在結構化的基礎上工作,而非從零開始。Spencer 團隊發現 AI 模型的能力存在明顯的「二分法」:在開源網頁應用的邏輯漏洞、令牌處理缺陷上表現優異;但面對需要逆向工程的閉源軟體、韌體等,則明顯吃力。原因在於訓練資料的差異——開源應用有充足的語料庫供模型學習,而閉源環境缺乏現成的分析範例。
更令人警惕的是 POC(漏洞概念驗證)品質的劇降。Vulncheck 在第二屆 ThreatCon 大會上披露的分析結果顯示,自 2026 年起,GitHub 上公開發布的 POC 中,超過 50% 無法實現預期功能——它們要麼是破損的,要麼只能導致程式崩潰而無法達成攻擊者的實際目標。其中,AI 生成 POC 的比例持續上升,但品質往往停留在初級階段。這背後反映出兩個現象:一是漏洞公開數量激增(GitHub 取代了傳統平台如 ExploitDB),二是大量低品質 POC 被快速發布。
Spencer 還重點討論了防護措施對合法研究的影響。美國主流 AI 服務商(如 OpenAI、Anthropic)的安全防護日趨嚴格,使用官方 API 開發漏洞分析工具面臨諸多限制。雖然存在 cyber security verification programs(網路安全驗證計畫),但實效有限。這推動了研究社群向開源模型轉移——DeepSeek 的 GLM 5.3(可本地部署)、阿里的 Qwen 等成為替代方案。Anthropic 自己也承認,三四個月前發布的 GLM 5.3 效能達到其前沿模型的 90%,這進一步加速了這一遷移趨勢。
在 agent swarms(代理集群)應用上,Spencer 將其類比為過去的「模糊測試農場」(fuzz farms)——規模化並行搜尋漏洞。但區別在於 AI 代理不僅能大規模發現漏洞,還能提供初步的漏洞分析,判斷是否可利用、屬於何種漏洞類別等。這相當於自動化了人工漏洞分類的第一步。不過,Spencer 坦言,目前尚未看到「全面自動化攻擊」的證據,但他預計這種情況可能在三至六個月內改變,因為技術演進速度驚人。最有效的方式是以 AI 作為發現與初步分析工具,再由人類專家接手驗證、深化利用,特別是在 AI 表現較差的漏洞類別上投入人工努力。


