[un]prompted.au 2026 - Building the Ultimate AI Cyber Threat Analyst - Shane Huntley
三句話摘要
Google 威脅情報團隊如何運用 AI 開發智能分析師 GAL,透過工具整合與創新訓練方法,將網路安全分析從人力密集轉變為人機協作模式。 # AI 透過改變工作的約束因素,將原本經濟上不可行或人力無法承擔的安全分析工作變成可行,但核心在於人機協作而非簡單替代。 --- ## 📌 補充說明 這場演講在網路安全領域具有重要意義,展示了 AI agent 在專業領域的成熟應用。Shane 強調的幾個關鍵點值得記住: 1. 不要過早假設 AI 的限制—傳統認為「AI 無法做威脅分析」,但經過正確設計與訓練,事實並非如此。 2. 工具整合是基石—245 項 API 不是額外負擔,而是讓 AI 與人類有共同語言的基礎。 3. 訓練方法很關鍵—給 AI 看訓練影片比手寫提示詞更有效。 4. 人機分工的未來—分析師不會被替代,而是從機械工作中解放,專注更高價值的判斷與決策。 約束改變論述:AI 改變了問題的限制因素。過去受限於物理能量(蒸汽時代)、計算能力(冷戰時期),現在是思考步驟。LLM 具有「Sitzfleisch」(德文「磨」的能力),可無疲倦地執行大規模重複任務,使經濟上不可行的工作變得可行。
重點整理
約束改變論述:AI 改變了問題的限制因素。過去受限於物理能量(蒸汽時代)、計算能力(冷戰時期),現在是思考步驟。LLM 具有「Sitzfleisch」(德文「磨」的能力),可無疲倦地執行大規模重複任務,使經濟上不可行的工作變得可行。
工具基礎至關重要:Google 花費數月將十年內部工具轉換為 245 項 API 介面供 GAL 使用。同時保持人機工具一致性,讓分析師能用自然語言描述工作流,GAL 能理解並執行相同邏輯,實現真正的協作。
訓練方法的關鍵轉折:從手工編寫提示詞轉向讓 GAL 觀看完整訓練影片、文檔和教學視訊。這個改變使性能大幅躍升,證明應該給 AI 與給人類相同的學習資源和背景知識。
人機協作而非替代:GAL 不是替代分析師,而是把他們從 70% 的機械性工作中解放出來,轉向 15% 的重複工作加上 85% 的高價值判斷。系統設計保持人類在決策迴圈中的核心角色,同時大幅擴展能處理的威脅規模。
#
實用技巧與重點
- 工具規模與能力
- 245 項工具介面跨越內部產品與外部來源
- Nirvana 系統(Google 內部威脅情報平臺,建構超過 15 年)+ M-Graph(Mandiant 系統)
- 支援:IP 追蹤、惡意軟體分析、日誌聚合、圖形資料庫查詢、靜態/動態逆向工程
- 實際案例成效
- 複雜攻擊鏈分析:從 IP → 完整事件重建,耗時從小時級降至 2-6 分鐘
- 惡意軟體分析:16 輪對話、127 項工具調用,自動進行靜態逆向工程、加密載荷檢測、C2 識別
- 自動化查詢:將自然語言問題轉換為複雜的圖形查詢與 SQL 查詢
- 用戶採納率
- 日活躍使用者:~25%(組織規模約數百人)
- 週活躍使用者:~50%
- 高頻使用者(3+ 天/週):18 人
- 持續上升趨勢
- 訓練方法
- 傳統方式:手工撰寫技能文件、提示詞
- 新方式:2 週人工訓練課程→GAL 數小時完成,生成筆記與完整知識庫
- 輸出品質:比人類訓練筆記更完整、更有組織
- 工作流程分配變化
- 分析師工作成分從「70% Python/SQL/機械化 + 30% 分析判斷」轉為「15% 機械化 + 85% 結果導向分析」
- 異步執行設置
- 基於觸發條件自動執行(新惡意軟體雜湊、威脅事件通知、情報發佈時)
- 支援預定義的工作流程與多層級行動輸出
- 保留人類驗證與授權的最終環節
- #
結論
AI 透過改變工作的約束因素,將原本經濟上不可行或人力無法承擔的安全分析工作變成可行,但核心在於人機協作而非簡單替代。 --- ## 📌 補充說明 這場演講在網路安全領域具有重要意義,展示了 AI agent 在專業領域的成熟應用。Shane 強調的幾個關鍵點值得記住: 1. 不要過早假設 AI 的限制—傳統認為「AI 無法做威脅分析」,但經過正確設計與訓練,事實並非如此。 2. 工具整合是基石—245 項 API 不是額外負擔,而是讓 AI 與人類有共同語言的基礎。 3. 訓練方法很關鍵—給 AI 看訓練影片比手寫提示詞更有效。 4. 人機分工的未來—分析師不會被替代,而是從機械工作中解放,專注更高價值的判斷與決策。
完整解析
Google 威脅情報集團(TAG)面臨的核心問題在於工作量遠超人力能應付。該組織掌控 5 個超過 30 億使用者的產品,Mandiant 子公司每年進行 500,000 小時的事件調查,而使命是理解全球所有威脅。傳統方法依賴分析師進行大量重複性工作—編寫查詢、解析日誌、跨數據源串聯證據—導致分析師陷入認知疲勞,真正的分析判斷能力被耗盡。
Shane 的核心洞察在於重新框架化問題。從經濟學與系統論角度,他指出 AI 改變了約束因素。歷史上,物理能量是瓶頸(蒸汽時代可以做更多物理工作)、計算能力是瓶頸(冷戰時期),現在則是「思考步驟」。傳統安全分析試圖透過雇用更多分析師來解決,但每個分析師都有認知極限。而 LLM 展現出「Sitzfleisch」(德文,意指堅持與磨的能力)—它們可以無疲倦、一致地執行大規模重複性任務。關鍵洞察是:這不是讓 AI 做相同工作更快,而是解放人類去做更多未曾能做的工作。
Google 的實施經歷三個失敗到成功的階段。首先,他們嘗試直接給 GAL API 存取權限,結果慘敗—模型缺乏背景知識,不理解術語,不知如何呼叫 API,燒掉大量 Token 而毫無進展。其次,他們花費數月時間精心將十年來累積的內部工具(Nirvana 系統以及收購 Mandiant 後的 M-Graph)轉換為 245 項 API 介面。但 GAL 仍然困苦—它知道有工具,卻不知道何時用或如何組合。第三個決定性的轉變來自於改變訓練方法。Shane 意識到:與其讓分析師手工撰寫提示詞教 GAL,不如讓 GAL 直接觀看 Google 內部的完整 2 週新人訓練課程、影片與文檔。結果令人震驚—GAL 在數小時內完成了人類 2 週的訓練,不僅生成了筆記,還自動整理出完整的知識庫。這個轉折體現了一個樸素但強大的原則:給 AI 與給人類相同的學習資源。
實際案例展示了這套方法的威力。在一個複雜的入侵事件中,攻擊者透過 IIS 漏洞進入交換機伺服器,建立了隱蔽的管理員帳戶,下載了隧道程式,並透過 RDP 進行橫向移動。這些活動散落在多個日誌源、網路日誌、主機日誌中。一個人類分析師需要花費數小時綜合所有證據,寫成一份優質的週報。GAL 仰賴單一 IP 線索,在 2-6 分鐘內完成了整個調查:自動隔離受害者伺服器、提出假設、逐步驗證、重建完整攻擊鏈、最後自動生成可發佈的威脅情報摘要。在惡意軟體分析中,GAL 與分析師進行了 16 輪對話,期間調用了 127 項工具,包括靜態逆向工程、搜索加密的祕密載荷、識別 C2 伺服器等高度專業的任務。這不是簡單的自動化—這是真正的分析推理。
Google 也發現 GAL 在以前認為最需要人類的任務中表現優異。例如,許多威脅情報查詢其實是「拉取已知資訊、整合並摘要」。執行或客戶經常會問「我們知道多少 AI 濫用惡意軟體?」傳統做法是分析師手工翻查資料庫、編寫查詢。GAL 現在可以立即提取相關惡意軟體家族、提供連結、生成摘要。同時,該組織也在解決幻覺問題—透過錨定策略與不同驗證方式,確保 GAL 的輸出包含可追蹤的證據鏈接,而非無根據的聲稱。
系統現已進入異步執行階段,這是下一個量級的飛躍。而不是由分析師驅動的即時互動,GAL 現在可以在後臺獨立執行預定義的工作流。例如,每當新的惡意軟體雜湊進入系統時,自動觸發初步分析流程;或當發佈新的威脅情報時,自動進行驗證與樣本檢測。這個轉變使 GAL 從「助手」升級為「參與者」。採用激進的改進目標(「提升 10 倍」而非「改進 20%」)也迫使團隊重新設計整個工作流程,而非微調現有方法。
#


