KeyFrame內部研究專用

Black Hat USA 2026 Keynote: The End of Rare Defending When Offense Is Cheap

Black Hat·8月6日週四·46 min英文

三句話摘要

AI時代網路防禦範式轉變——從被動漏洞修補轉向主動設計安全與形式化驗證 當AI將漏洞發現從稀缺變成工業化規模、自動利用成為平常時,防禦方唯一的出路是投資設計安全與形式化驗證,用生產力優勢改變防禦經濟,而非無休止地追趕。 漏洞稀缺性時代已終結

重點整理

重點
  • 1

    漏洞稀缺性時代已終結

  • 2

    過往網路防禦依賴「邊界破壞很罕見、成本高昂」的假設,企業得以採用「快速修補」策略。但AI改變了這一基礎。微軟MSRC資料顯示,每六週需進行一次修復,漏洞數量達三月水準的九倍。內部漏洞工具啟用後,四個月內發現的關鍵問題已超過去年全年,形式化分析證實此非檢測能力進步,而是AI真正加速了漏洞發現。

  • 3

    自動化利用威脅演進迅速

  • 4

    漏洞發現只是第一步。在Linux核心的200個新發現漏洞中,超過90%能自動轉化為可執行的根權限利用程式碼,平均成本3.61美元、耗時21分鐘。在Exploit Gym基準中,前沿模型已能在898個真實漏洞中產生157個可用攻擊。限制先進模型訪問並無效果——開放權重模型搭配安全框架已能注入專業知識,自主行動能力增長59%,實現32步入侵行動的中9.8步。

  • 5

    記憶體安全為防禦優先線

  • 6

    當前70%漏洞源於記憶體問題,Rust等安全語言已在大規模生產驗證其價值。Google藉由編寫500萬行Rust程式碼,將Android系統記憶體安全漏洞比例從76%(2019年)降至20%(2025年),且Rust程式碼缺陷率低傳統程式碼千倍。Azure虛擬機管理程式用開源Rust完全重寫,已無事故擴展至150萬台虛擬機。AI輔助工具如Rust Assistant可自動修復編譯失敗的74%,Safe C可從舊程式碼推斷86%的記憶體安全契約,大幅降低遷移成本。

  • 7

    形式化驗證與AI聯動成新防線

  • 8

    形式化驗證過去因高成本和專業知識門檻難以推廣,但AI驅動的證明生成改變了局面。微軟在一周內用AI生成30,000行Lean程式碼,形式化驗證AES-GCM無邏輯缺陷,所有測試通過。蘋果在核心加密庫的形式化驗證中發現MLDDSA錯誤,微軟在PQC金鑰封裝演算法中發現通過所有傳統測試仍被忽略的缺陷。基礎設施層也適用此法——通過圖計算和代理分析組織資產,78%的檢查能被代理自動解決。

實用技巧與重點

乾貨
  • 數字與統計
  • 微軟MSRC:4月內部漏洞工具發現的關鍵問題比去年全年多66%
  • Linux漏洞:內部發現200個,182個可自動生成崩潰級利用程式
  • 利用成本:平均3.61美元、21分鐘生成
  • Exploit Gym:Mythos模型在898個真實漏洞中生成157個攻擊
  • 自主行動:測試完成32步中9.8步,單年增長59%
  • Google Android:漏洞中記憶體安全問題從76%(2019)→20%(2025)
  • Rust代碼量:Android 500萬行Rust
  • Azure虛擬機:150萬台無事故運行
  • 修復速度:每六週修復一次
  • 工具與技術
  • 安全語言:Rust、Go Lang、Safe C/Checked C
  • 漏洞發現:MSRC內部工具、Mdash、Exploit Gym基準
  • 代碼轉換:Rust Assistant(74%自動修復)、Sila(SHA-3→Rust性能誤差<1%)
  • 形式化驗證:Lean語言、CBMC for C、AWS Cedar(策略驗證)
  • AI模型:Claude(密碼分析)、Mythos、OpenAI前沿模型
  • 關鍵步驟
  • 集中保護風險最高區域,採用設計安全(非僅記憶體安全)
  • 識別最關鍵邊界,開始用代理進行形式化驗證
  • 基礎設施即代碼+圖計算,建立代理軍隊進行主動防禦

結論

結論

當AI將漏洞發現從稀缺變成工業化規模、自動利用成為平常時,防禦方唯一的出路是投資設計安全與形式化驗證,用生產力優勢改變防禦經濟,而非無休止地追趕。

完整解析

詳細

黑帽大會今年的主題演講揭示了網路防禦面臨的根本性轉折。微軟AI安全團隊負責人Dave Weston指出,過往二十年的網路防禦架構建立在一個核心假設上——破壞安全邊界(如虛擬機管理程式、進程沙箱)極為罕見且成本極高,因此邊界穿越的漏洞利用價格是進程級穿越的20倍。這種稀缺性經濟模型決定了企業採用「快速修補」策略,依賴檢測與響應應對入侵。

然而,AI正在打破這一平衡。微軟內部資料第一次清晰呈現了轉折點:自4月啟用新型漏洞發現工具後,發現的關鍵漏洞數量在短短四個月內已超過去年全年,增幅達66%。更關鍵的是,這不是誤報或邊界情況——形式化測試證實AI確實在加速漏洞發現。當同樣的邏輯應用於Linux生態時,結果更令人警惕。微軟在內部Azure發行版中發現200個Linux核心漏洞,其中超過90%能自動轉化為可執行的根權限利用程式碼。這些不是理論威脅——每一個利用平均成本僅3.61美元、耗時21分鐘。攻擊的經濟學已徹底反轉。

自動化利用的進展更加令人警覺。在業界公認的Exploit Gym基準測試中,前沿AI模型已能在近900個真實漏洞中生成157個實際可用的攻擊。Dave強調,限制先進模型訪問無法阻止進展——開放權重模型搭配精心設計的「安全框架」(harness)已能通過Markdown文件等方式注入專業知識,產生的攻擊威力並無明顯差異。以英國安全研究機構測試為例,自主行動能力在測試32步複雜入侵中已完成9.8步,而這一指標單年成長59%。

面對這場轉變,防禦方需要徹底改變策略——不再追趕漏洞發現,而是根本減少漏洞的產生。Dave提出的核心方向是投資「設計安全」。首先是記憶體安全。當前70%的漏洞源於記憶體問題,而Rust等安全語言已在規模化生產中證明了價值。Google透過編寫500萬行Rust程式碼,將Android系統中記憶體安全漏洞的比例從76%(2019年)驟降至20%(2025年)。根據Google自身分析,Rust程式碼的缺陷率遠低於傳統C++。Azure的虛擬機管理程式用開源Rust完全重寫後,已無事故擴展運行150萬台虛擬機。AI工具的出現進一步降低了遷移成本——Rust Assistant能自動修復74%的編譯失敗,Safe C能從現有C程式碼推斷86%的記憶體安全契約。

更前沿的防禦工具是形式化驗證——過去因高成本和專業知識門檻而鮮少應用,但AI的介入改變了局面。微軟研究團隊展示,通過AI驅動的證明生成,可在一周內自動產生30,000行Lean程式碼(形式化驗證用的函數式語言),正式驗證AES-GCM密碼演算法無邏輯缺陷、無密碼學漏洞、無記憶體安全問題。蘋果在對核心加密庫進行形式化驗證時發現了MLDDSA的錯誤,微軟在新型PQC金鑰封裝演算法中發現了通過所有傳統測試和人工審查仍被忽略的缺陷——這些發現都來自形式化驗證。同樣的方法也適用於基礎設施層面。通過代理和圖計算分析組織的資產與網路流,可識別高風險中心點並集中補救。實證數據表明,78%的基礎設施檢查結果能由代理自動解決。

Dave留給與會者的三個當下可採取的行動分別是:集中精力保護風險最高的區域並透過設計使其安全;識別最關鍵的邊界並開始用代理進行形式化驗證;以及透過基礎設施即代碼和圖計算建立代理軍隊進行主動防禦。這些策略的共同點是投資耐用性——用AI生產力優勢改變防禦經濟學,而非陷入與攻擊者的無止境修補競賽。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。