KeyFrame內部研究專用

Peter Smith & RK Sharma - Beyond the Chatbot (including demo) | [un]prompted 2026

unprompted·5月19日週二·23 min英文

三句話摘要

Salesforce構建的Agentic SOC系統如何以多個AI代理協同完成從威脅檢測到事件遏制的全流程。 Salesforce的Agentic SOC展示了如何在不推翻既有基礎設施的前提下,透過專業化代理、確定性編排與人類審批的結合,將安全響應時間從數小時壓縮至10分鐘以內。 代理專業化與編排確定性:系統由9個高度專業的代理組成(標準化、狩獵規劃、IOC調查、檢測工程師、遏制執行等),每個代理處理特定職責,透過確定性編排與開放式自主鏈混合運行,避免代理行動失控。

重點整理

重點
  • 1

    代理專業化與編排確定性:系統由9個高度專業的代理組成(標準化、狩獵規劃、IOC調查、檢測工程師、遏制執行等),每個代理處理特定職責,透過確定性編排與開放式自主鏈混合運行,避免代理行動失控。

  • 2

    人類始終掌控決策:每個高風險行動都需人類在Slack中批准,包括狩獵計畫執行、檢測規則部署、端點遏制等,系統可接收人類反饋並調整方案,而非單向代理決策。

  • 3

    無需推翻現有基礎設施:系統構建在Salesforce既有的SOAR平台(257個Python整合)與安全行動庫之上,代理學會與現有工具對話,而非購置新平台或重新架構。

  • 4

    完整審計與可信度建立:所有代理操作、工具執行、人類批准理由均被記錄於系統記錄中,確保監管合規,代理透過實踐逐步建立組織信任。

實用技巧與重點

乾貨
  • 具體案例數據:
  • 情報報告編號:2026035(CrowdStrike Venomous Bear報告)
  • IOC數量:8個(包含域名與MD5雜湊)
  • 代理數量:9個專門化代理
  • Agent Card配置檔:600行
  • 端點工具整合數:257個Python整合(既有SOAR)
  • 全流程耗時:10分鐘以內(從告警到遏制)
  • 系統核心元件:
  • Agent Card:定義代理角色、目標、配置(模型、溫度、最大tokens、權限、工具清單)
  • Tool Config:定義工具schema、LLM如何使用、代理執行權限
  • Agent Executor:管理代理生命週期、推理、狀態追蹤、工具執行審計
  • Goal File:記錄目標、進度、批准者、批准理由
  • 8個核心設計原則:
  • 第1-4塊:認知層(代理推理與規劃)
  • 第2-3塊:執行與編排層
  • 第4-6塊:安全防護(防止生產系統損壞)
  • 第7-8塊:工程設計與最佳實踐
  • 關鍵工作流程:
  • 標準化代理:提取IOC(域名、雜湊)
  • 狩獵規劃代理:制定狩獵假說與搜尋策略
  • 人類批准(含業務正當性捕捉)
  • IOC調查代理:並行搜尋多個資料來源
  • 檢查狩獵狀態(自動化檢視)
  • 調查結論代理:打包結果與報告
  • 三項自主遏制提案:威脅檢測部署、IOC阻斷、事件通知
  • 人類批准高風險操作
  • 事件通訊代理:啟動Slack頻道、頁面事件指揮官

結論

結論

Salesforce的Agentic SOC展示了如何在不推翻既有基礎設施的前提下,透過專業化代理、確定性編排與人類審批的結合,將安全響應時間從數小時壓縮至10分鐘以內。

完整解析

詳細

Salesforce的Agentic SOC系統是對傳統人工為主的安全運營的根本重新思考。Pete Smith與RK的演示從一個真實的CrowdStrike威脅情報報告開始——一份關於nation-state sponsored行為體「Venomous Bear」的分析。整個系統的設計目的是實現Kevin Mandia曾提出的願景:從告警到遏制控制在10分鐘以內。

系統的運作方式是讓人類安全人員在Slack中與多個AI代理協同。當工程師RK提出「CrowdStrike報告2026035是什麼」的問題時,主協調代理(稱為Kestrel)會自動識別報告格式並從CrowdStrike情報門戶抓取資料。隨後,標準化代理會從報告中萃取8個IOC(包括惡意域名與MD5雜湊)。這些IOC被傳遞給狩獵規劃代理,該代理基於威脅背景與可用資料來源(SIEM、威脅情報系統等)制定狩獵假說與執行計畫。關鍵的是,此計畫必須由人類在Slack中明確批准,並記錄業務正當性與批准者信息作為審計軌跡。

一旦批准,IOC調查代理開始在企業環境中並行搜尋這些指標。在此期間,使用者可以請求狀態檢查,系統會匯總所有正在進行的代理任務。調查完成後,調查結論代理會將結果打包成結構化報告,並保存至Salesforce的hunt記錄。若發現威脅跡象,系統會自動提案三項遏制步驟:部署更新的檢測規則(由威脅檢測工程師代理執行)、遏制受影響的端點(由遏制執行代理處理)、以及啟動事件通訊流程(由事件通訊代理負責頁面事件指揮官與建立協作頻道)。每項高風險操作均需人類批准,且使用者可以要求代理調整方案而非簡單拒絕。

系統的技術基礎建立在8個核心設計原則之上:認知層由代理推理與規劃組成;執行與編排層由代理執行器與能力執行器組成;安全層確保系統不會損壞生產環境;工程層則嵌入最佳實踐。整個系統未採用複雜的MCP或外部編排平台,而是構建在Salesforce既有的257個Python整合SOAR之上,讓代理學會與現有工具對話。Agent Card定義每個代理的角色與權限(包括允許的工具清單、迭代次數上限、溫度與token限制),Tool Config定義工具的schema與誰可以調用它。所有代理狀態、工具執行、人類批准都被記錄於系統記錄中,形成完整的審計軌跡,這對於符合監管要求的大型企業至關重要。

RK強調,這套系統的配置幾乎完全由Claude AI生成,所需知識僅為Python基礎與明確的需求定義。核心的成功要因在於確定性編排(高風險流程採用預定義的代理鏈)與人類在迴圈中(人類始終審批與引導),而非完全自主的代理系統。代理應視為訓練中的第五級員工,逐漸建立組織信任,而非一開始就讓其完全自主。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。