KeyFrame內部研究專用

[un]prompted.au 2026 - Building the Ultimate AI Cyber Threat Analyst - Shane Huntley

Unprompted au45 min英文
觀看原始影片

三句話摘要

Google 威脅情報團隊如何運用 AI 開發智能分析師 GAL,透過工具整合與創新訓練方法,將網路安全分析從人力密集轉變為人機協作模式。 # AI 透過改變工作的約束因素,將原本經濟上不可行或人力無法承擔的安全分析工作變成可行,但核心在於人機協作而非簡單替代。 --- ## 📌 補充說明 這場演講在網路安全領域具有重要意義,展示了 AI agent 在專業領域的成熟應用。Shane 強調的幾個關鍵點值得記住: 1. 不要過早假設 AI 的限制—傳統認為「AI 無法做威脅分析」,但經過正確設計與訓練,事實並非如此。 2. 工具整合是基石—245 項 API 不是額外負擔,而是讓 AI 與人類有共同語言的基礎。 3. 訓練方法很關鍵—給 AI 看訓練影片比手寫提示詞更有效。 4. 人機分工的未來—分析師不會被替代,而是從機械工作中解放,專注更高價值的判斷與決策。 約束改變論述:AI 改變了問題的限制因素。過去受限於物理能量(蒸汽時代)、計算能力(冷戰時期),現在是思考步驟。LLM 具有「Sitzfleisch」(德文「磨」的能力),可無疲倦地執行大規模重複任務,使經濟上不可行的工作變得可行。

重點整理

  1. 約束改變論述:AI 改變了問題的限制因素。過去受限於物理能量(蒸汽時代)、計算能力(冷戰時期),現在是思考步驟。LLM 具有「Sitzfleisch」(德文「磨」的能力),可無疲倦地執行大規模重複任務,使經濟上不可行的工作變得可行。

  2. 工具基礎至關重要:Google 花費數月將十年內部工具轉換為 245 項 API 介面供 GAL 使用。同時保持人機工具一致性,讓分析師能用自然語言描述工作流,GAL 能理解並執行相同邏輯,實現真正的協作。

  3. 訓練方法的關鍵轉折:從手工編寫提示詞轉向讓 GAL 觀看完整訓練影片、文檔和教學視訊。這個改變使性能大幅躍升,證明應該給 AI 與給人類相同的學習資源和背景知識。

  4. 人機協作而非替代:GAL 不是替代分析師,而是把他們從 70% 的機械性工作中解放出來,轉向 15% 的重複工作加上 85% 的高價值判斷。系統設計保持人類在決策迴圈中的核心角色,同時大幅擴展能處理的威脅規模。

  5. #

實用技巧與重點

  • 工具規模與能力
  • 245 項工具介面跨越內部產品與外部來源
  • Nirvana 系統(Google 內部威脅情報平臺,建構超過 15 年)+ M-Graph(Mandiant 系統)
  • 支援:IP 追蹤、惡意軟體分析、日誌聚合、圖形資料庫查詢、靜態/動態逆向工程
  • 實際案例成效
  • 複雜攻擊鏈分析:從 IP → 完整事件重建,耗時從小時級降至 2-6 分鐘
  • 惡意軟體分析:16 輪對話、127 項工具調用,自動進行靜態逆向工程、加密載荷檢測、C2 識別
  • 自動化查詢:將自然語言問題轉換為複雜的圖形查詢與 SQL 查詢
  • 用戶採納率
  • 日活躍使用者:~25%(組織規模約數百人)
  • 週活躍使用者:~50%
  • 高頻使用者(3+ 天/週):18 人
  • 持續上升趨勢
  • 訓練方法
  • 傳統方式:手工撰寫技能文件、提示詞
  • 新方式:2 週人工訓練課程→GAL 數小時完成,生成筆記與完整知識庫
  • 輸出品質:比人類訓練筆記更完整、更有組織
  • 工作流程分配變化
  • 分析師工作成分從「70% Python/SQL/機械化 + 30% 分析判斷」轉為「15% 機械化 + 85% 結果導向分析」
  • 異步執行設置
  • 基於觸發條件自動執行(新惡意軟體雜湊、威脅事件通知、情報發佈時)
  • 支援預定義的工作流程與多層級行動輸出
  • 保留人類驗證與授權的最終環節
  • #

結論

AI 透過改變工作的約束因素,將原本經濟上不可行或人力無法承擔的安全分析工作變成可行,但核心在於人機協作而非簡單替代。 --- ## 📌 補充說明 這場演講在網路安全領域具有重要意義,展示了 AI agent 在專業領域的成熟應用。Shane 強調的幾個關鍵點值得記住: 1. 不要過早假設 AI 的限制—傳統認為「AI 無法做威脅分析」,但經過正確設計與訓練,事實並非如此。 2. 工具整合是基石—245 項 API 不是額外負擔,而是讓 AI 與人類有共同語言的基礎。 3. 訓練方法很關鍵—給 AI 看訓練影片比手寫提示詞更有效。 4. 人機分工的未來—分析師不會被替代,而是從機械工作中解放,專注更高價值的判斷與決策。

完整解析

Google 威脅情報集團(TAG)面臨的核心問題在於工作量遠超人力能應付。該組織掌控 5 個超過 30 億使用者的產品,Mandiant 子公司每年進行 500,000 小時的事件調查,而使命是理解全球所有威脅。傳統方法依賴分析師進行大量重複性工作—編寫查詢、解析日誌、跨數據源串聯證據—導致分析師陷入認知疲勞,真正的分析判斷能力被耗盡。

Shane 的核心洞察在於重新框架化問題。從經濟學與系統論角度,他指出 AI 改變了約束因素。歷史上,物理能量是瓶頸(蒸汽時代可以做更多物理工作)、計算能力是瓶頸(冷戰時期),現在則是「思考步驟」。傳統安全分析試圖透過雇用更多分析師來解決,但每個分析師都有認知極限。而 LLM 展現出「Sitzfleisch」(德文,意指堅持與磨的能力)—它們可以無疲倦、一致地執行大規模重複性任務。關鍵洞察是:這不是讓 AI 做相同工作更快,而是解放人類去做更多未曾能做的工作。

Google 的實施經歷三個失敗到成功的階段。首先,他們嘗試直接給 GAL API 存取權限,結果慘敗—模型缺乏背景知識,不理解術語,不知如何呼叫 API,燒掉大量 Token 而毫無進展。其次,他們花費數月時間精心將十年來累積的內部工具(Nirvana 系統以及收購 Mandiant 後的 M-Graph)轉換為 245 項 API 介面。但 GAL 仍然困苦—它知道有工具,卻不知道何時用或如何組合。第三個決定性的轉變來自於改變訓練方法。Shane 意識到:與其讓分析師手工撰寫提示詞教 GAL,不如讓 GAL 直接觀看 Google 內部的完整 2 週新人訓練課程、影片與文檔。結果令人震驚—GAL 在數小時內完成了人類 2 週的訓練,不僅生成了筆記,還自動整理出完整的知識庫。這個轉折體現了一個樸素但強大的原則:給 AI 與給人類相同的學習資源。

實際案例展示了這套方法的威力。在一個複雜的入侵事件中,攻擊者透過 IIS 漏洞進入交換機伺服器,建立了隱蔽的管理員帳戶,下載了隧道程式,並透過 RDP 進行橫向移動。這些活動散落在多個日誌源、網路日誌、主機日誌中。一個人類分析師需要花費數小時綜合所有證據,寫成一份優質的週報。GAL 仰賴單一 IP 線索,在 2-6 分鐘內完成了整個調查:自動隔離受害者伺服器、提出假設、逐步驗證、重建完整攻擊鏈、最後自動生成可發佈的威脅情報摘要。在惡意軟體分析中,GAL 與分析師進行了 16 輪對話,期間調用了 127 項工具,包括靜態逆向工程、搜索加密的祕密載荷、識別 C2 伺服器等高度專業的任務。這不是簡單的自動化—這是真正的分析推理。

Google 也發現 GAL 在以前認為最需要人類的任務中表現優異。例如,許多威脅情報查詢其實是「拉取已知資訊、整合並摘要」。執行或客戶經常會問「我們知道多少 AI 濫用惡意軟體?」傳統做法是分析師手工翻查資料庫、編寫查詢。GAL 現在可以立即提取相關惡意軟體家族、提供連結、生成摘要。同時,該組織也在解決幻覺問題—透過錨定策略與不同驗證方式,確保 GAL 的輸出包含可追蹤的證據鏈接,而非無根據的聲稱。

系統現已進入異步執行階段,這是下一個量級的飛躍。而不是由分析師驅動的即時互動,GAL 現在可以在後臺獨立執行預定義的工作流。例如,每當新的惡意軟體雜湊進入系統時,自動觸發初步分析流程;或當發佈新的威脅情報時,自動進行驗證與樣本檢測。這個轉變使 GAL 從「助手」升級為「參與者」。採用激進的改進目標(「提升 10 倍」而非「改進 20%」)也迫使團隊重新設計整個工作流程,而非微調現有方法。

#

32 min
AI 安全英文10月20日

[un]prompted.au 2026 - Human in the Loop, Ghost in the Shell... - Ash Fox

Unprompted au看原片 ↗
  • 攻擊者採用 AI 的三個維度:精密度增加(複雜技能從昂貴資源變為按需模型)、規模擴張(不再受人力限制)、速度加快(代理快速導航與決策)。但不同攻擊者類型有差異——需要隱蔽性的特務活動不太可能部署代理,而大規模無差別的勒索軟體運營者更可能採用
  • 紅隊代理需兼顧有效性與可信性:不僅要能找到漏洞和執行攻擊,更要表現得像真實攻擊者(適當隱蔽性、專業作業規範),避免洩露憑證、破壞系統、超出測試範圍等不當行為。
31 min
AI 技術英文10月20日

[un]prompted.au 2026 - To the Frontier and Back Again - John McIntosh

Unprompted au看原片 ↗
  • 超高速的漏洞發現能力:從第一個請求到發現第一個確認的漏洞只需 1 小時 16 分鐘,其中近 1 小時用於環境設置,實際代碼分析僅 13 分鐘。第二個漏洞(寫入型)則在 25 分鐘內發現,展示了 AI 在複雜技術工作上的顯著速度優勢。
  • 系統性的狩獵模式:透過設定目標、收集相關 CVE 作為上下文、建構研究環境,再進入「偵查→線索開發→驗證」的循環,AI 能自動迭代並從失敗中學習。該過程展示了模型如何識別模式(如併發問題),然後針對性地搜尋相應漏洞。
18 min
Web2 安全英文10月20日

[un]prompted.au 2026 - How Agentic SAST Decodes Business Context to Hunt Privilege Esc. - Sylvia Xu

Unprompted au看原片 ↗
  • 傳統黑箱測試需要測試多個用戶角色帳號並檢查數百個端點組合,工作量巨大且容易遺漏。新方法透過同時掃描前後端代碼,直接比對業務意圖與實現之間的差異。
  • LLM能語義化理解代碼含義,區分身份驗證邏輯與其他檢查;但存在不確定性、上下文溢出與幻覺問題。解決方案是用決定性Python代碼來驗證LLM輸出、控制上下文流、蒐集人工反饋。