KeyFrame內部研究專用

Black Hat Asia 2026 | Keynote: From Prompt Tricks to Autonomous Hackers

Black Hat59 min英文
觀看原始影片

三句話摘要

AI大型語言模型在自動化漏洞發現和利用中的能力現狀、限制與對安全産業的影響。 LLM在自動漏洞發現上的真正威脅在於發現低難度漏洞的規模和速度指數級增長,而非突破深度利用瓶頸——防守團隊應以此為進行防守左移的決定性推動力。 超線性縮放現象改變遊戲規則:當模型大小、數據、計算各增加2倍時,性能提升接近4倍(不是線性的2倍),這是Mythos和GPT-5.5相比前代的關鍵進步來源。

重點整理

  1. 超線性縮放現象改變遊戲規則:當模型大小、數據、計算各增加2倍時,性能提升接近4倍(不是線性的2倍),這是Mythos和GPT-5.5相比前代的關鍵進步來源。

  2. 能力天花板上升快,但底線上升慢:OSFuzz評估顯示低嚴重性漏洞發現大幅增加(200-300提升至近400),但高階利用漏洞的進展稀疏,意味改進主要集中在淺層bug。

  3. 模型在狀態相關問題上仍有根本限制:並發、時間相關的漏洞仍然困難,因為語言模型缺乏狀態建模能力,幻覺問題也會持續困擾,即使上下文窗口擴大也無法根除。

  4. 防守與攻擊的非對稱性與經濟動力:攻擊者只需一次成功就能造成損害,但防守需要次次完美;同時AI成本下降推動廣泛應用,開源與frontier模型的可及性持續增加,造成攻擊面擴大。

實用技巧與重點

  • 時間數據:2023-2026年漏洞到利用時間從5個月降至10小時;Palauja Network在不到3週內完成一年份的滲透測試
  • 模型能力指標:Mythos超線性改進(2x大小+2x數據+2x計算≈4x性能);Opus 4.6近零利用成功率→Mythos成功率大幅提升
  • 漏洞發現分佈(OSFuzz評估):低階(Tier 1-2)從200-300升至近400;中階有適度增長;高階(Tier 5控制流劫持)才10個
  • 工具與平台:Hugging Face、Mistral(歐洲開源)、Qwen、OpenClimate等開源方案;Project Glasswing、Anthropic研究報告
  • 國家策略差異:美國focus推理能力(Anthropic、OpenAI、Google、Meta);中國可能更重視推理硬體與製造;歐洲透過開源(Mistral)平衡資源劣勢
  • 成本案例:Ari在OpenAI的一次失敗訓練運行成本$500萬;模型訓練NDA保護具體成本數據

結論

LLM在自動漏洞發現上的真正威脅在於發現低難度漏洞的規模和速度指數級增長,而非突破深度利用瓶頸——防守團隊應以此為進行防守左移的決定性推動力。

完整解析

Ari Herbert-Voss曾是OpenAI第一位安全員工,現運營自動化攻擊安全公司,在本次演講中深入剖析了LLM在漏洞發現領域的能力邊界。他首先澄清LLM的本質——它們其實是對訓練數據的壓縮表示,透過預測序列中下一個token(類似手機鍵盤的自動完成)來工作。關鍵突破來自「超線性縮放假設」:當模型大小、訓練數據、計算資源各增加2倍時,性能提升並非線性的2倍,而是接近4倍。這解釋了為何Mythos和GPT-5.5相比前代出現質的躍升。

然而,能力的進步並非均勻分布。Ari引用Anthropic的OSFuzz評估數據,Mythos在發現低嚴重性漏洞時大幅躍進(從200-300個增至近400個),卻在深度利用漏洞上進展稀缺(只有10個Tier 5級控制流劫持漏洞)。這反映了一個重要現實:模型在淺層、有充分文檔支持的bug上表現優異,但在需要複雜推理的利用鏈上仍需靠運氣。此外,模型對狀態相關問題根本困難——並發、時間序列、分佈式系統的state追蹤,因為語言模型本質上缺乏state建模能力,幻覺問題也會持續存在。

從攻防動態看,時間線在加速:2023-2026年間,漏洞到利用的平均時間從5個月縮至10小時。但Ari強調防守與攻擊存在根本非對稱性:防守需要次次成功,攻擊者只需一次成功。雖然frontier模型(Mythos、GPT-5.5)性能最優,但開源社群透過足夠的專家級脚手架也能達到接近的水準。不同國家採取差異化策略——美國專注reasoning能力,中國因製造背景可能更重視推理優化,歐洲透過開源(如Mistral)補償資源劣勢。經濟壓力不斷推動AI能力的民主化,Ari認為這對防守反而是機遇,迫使組織進行本應早就做的工程工作。

73 min
Web2 安全中文11月16日

TryHackMe AI in the Modern SOC | Full Walkthrough 2026

Djalil Ayed看原片 ↗
  • AI 生成內容需要人工驗證:AI 提供初步的案件摘要和假設,但分析師必須通過查詢實際日誌、確認程序關係、檢查時間線來驗證每一個發現,不能直接相信 AI 的输出,因為它可能存在誤差或幻覺。
  • 程序族譜追蹤是關鍵:需要追蹤完整的父進程到子進程的鏈条,記錄每個進程的實體 ID(process entity ID)、父進程實體 ID 和執行時間戳,藉此判斷是否為惡意活動鏈条。
66 min
企業管理中文11月13日

資安事件連環爆,AI淪駭客武器?宏碁二代施宣輝:打造台灣資安龍頭還不夠,為何押注「低軌衛星」搶攻太空新戰局?【哈佛人物面對面】

哈佛商業評論看原片 ↗
  • 資安投資陷阱源於無形價值:資安是預防性成本,當沒有駭客入侵時使用者感受不到價值,導致企業傾向於不投資。企業即使遭受攻擊後復原,由於沒有聯防機制,駭客的AI大腦會立即將攻擊手法複製到其他目標,形成全球皆然的惡性循環。
  • 駭客AI化改變攻擊規則:AI語言模型具有單一大腦同服多人的特性,一旦找到攻擊方法就能同時突破所有使用同一系統的用戶。因此個別企業的自我修復已經失效,必須轉向整個供應鏈的聯防體系才能應對。
10 min
Web2 安全中文11月2日

I Used AI to Pick My Bug Bounty Targets

  • 漏洞賞金領域競爭激烈,大型知名程序的簡單漏洞已被眾多獵人發現,初學者會面臨重複提交和被忽視的風險,因此應選擇新程序和新增範圍以獲得更多機會。
  • 五個關鍵篩選指標為:回應時間(追求24小時快速回應,避免一個月以上),範圍大小和新鮮度(新添加的資產競爭較少),程序年齡(2025-2026年啟動的新程序較佳),安全政策規範檢查,報酬結構(穩定中等報酬的冷門程序優於高報酬但擁擠的大牌項目)