KeyFrame內部研究專用

Peter Smith & RK Sharma - Beyond the Chatbot | [un]prompted 2026

unprompted·4月23日週四·25 min英文

三句話摘要

Salesforce 展示 Agent SOC 智能體安全運營中心系統,整合多個專業代理協作完成從威脅情報分析到事件控制的完整流程。 Salesforce Agent SOC 通過多個專業化代理與人機協同設計,將企業安全事件響應時間從數小時壓縮到 10 分鐘以內,關鍵在於明確分工、完整審計追蹤和充分利用現有基礎設施。 代理分工設計:規範化代理、狩獵規劃代理、IOC 調查代理、檢測工程師代理、修復執行代理、事件通信代理等各司其職,通過確定性編排或開放式自主鏈協作,避免單一通用代理的風險

重點整理

重點
  • 1

    代理分工設計:規範化代理、狩獵規劃代理、IOC 調查代理、檢測工程師代理、修復執行代理、事件通信代理等各司其職,通過確定性編排或開放式自主鏈協作,避免單一通用代理的風險

  • 2

    人機協同核心:每個重大決策點(批准搜尋計劃、部署檢測規則、隔離主機)都由人類審查與批准,代理提出建議與執行方案,人類保持最終控制權,確保安全與合規

  • 3

    完整治理與審計:所有代理行動、API 參數、執行者、批准人、批准時間都被記錄在案,支持事後追溯責任與法規遵循,建立企業級信任機制

  • 4

    基於現有基礎設施演進:利用現有 SOAR(包含 257 個 Python 集成)、SIM、威脅情報系統等,在其上層構建智能代理層,代理學會與現有工具對話而無需系統重建

實用技巧與重點

乾貨
  • 代理卡配置關鍵項
  • 角色定義、目標說明、模型選擇、溫度、最大令牌數、PII 掩碼
  • 允許使用的工具清單、最大迭代次數(達到上限時優雅退出)
  • 權限檢查(雙向:代理卡定義代理可用工具,工具配置定義哪些代理可用該工具)
  • 工具配置內容
  • 工具架構與 LLM 調用方式、API 密鑰隔離、集成操作定義
  • 代理卡 600 行登記文檔(涵蓋所有代理定義)
  • 執行元件
  • 代理執行器:生命周期管理、LLM 推理、上下文與狀態管理
  • 能力執行器:API 調用驗證、參數檢查、人工干預觸發點通知
  • 狀態與審計追蹤
  • 狀態文件:代理對話、分配目標、是否在既定範圍內達成、完成階段、所有元數據
  • 目標文件:批准者身份、批准理由、批准時間戳
  • 工具級追蹤:調用工具名稱、提供參數、相關信息
  • 八個核心基本要素
  • 1-2:認知層(代理卡、基礎 LLM 模型)
  • 3-4:執行層與編排層(代理執行器、能力執行器)
  • 5-6:治理層(確保不破壞生產系統)
  • 7-8:工程設計與最佳實踐層
  • 真實案例數據
  • CrowdStrike 報告編號:2026035、威脅主體「毒熊」(Venomous Bear)
  • 提取 IOC 約 8 個(域名、MD5 哈希值)
  • 端到端流程時間:不到 10 分鐘
  • 代理配置文件:600 行

結論

結論

Salesforce Agent SOC 通過多個專業化代理與人機協同設計,將企業安全事件響應時間從數小時壓縮到 10 分鐘以內,關鍵在於明確分工、完整審計追蹤和充分利用現有基礎設施。

完整解析

詳細

Salesforce 的 Agent SOC 展示了企業級安全運營的新範式。系統從接收 CrowdStrike 威脅情報報告開始,Kestrel 代理在 Slack 上接收任務,自動檢索並規範化約 8 個入侵指標(包括域名和哈希值)。規範化代理負責提取與標準化,狩獵規劃代理則基於威脅背景制定企業環境中的搜尋策略。

人機協同在此處發揮關鍵作用——系統向安全人員 RK 提出搜尋計劃,呈現威脅背景、可查詢的數據源(SIM、威脅情報系統)和搜尋方法。RK 審查業務理由後批准或要求修改,系統記錄所有批准信息以供未來運行參考和法規審計。這個設計保證人類始終掌控,同時充分利用 AI 的推薦能力。

執行階段涉及多個並行任務。IOC 調查代理進入安全信息模型和威脅情報系統搜尋指標證據,威脅檢測工程師代理根據 IOC 編寫檢測規則,修復執行代理準備隔離受影響主機。每一個高風險操作(如隔離主機)都需要人類批准前才執行,系統再次記錄批准者身份與理由。調查結果審查代理打包搜尋結果,狩獵總結代理生成最終報告。事件通信代理啟動 Slack 事件響應頻道,邀請相關團隊成員並根據需要升級給事件指揮官。整個過程從警報到完成修復控制不到 10 分鐘。

系統設計體現了漸進式信任構建的原則。每個代理都有明確的代理卡定義角色與目標,列出可用工具與最大迭代次數限制(若超過此數,協調層會優雅退出)。所有執行環節的參數、調用工具、批准信息都被記錄到記錄系統,支持完整的審計追蹤。特別的是,Salesforce 沒有從零開始重建,而是在現有 SOAR 系統(內含 257 個 Python 集成)、SIM 和威脅情報系統之上構建代理層。代理學會與這些現有工具對話,能執行搜尋、部署檢測和修復操作,但與傳統工作流不同的是,代理進行推理與計劃決策,而非單純執行預定義步驟。

講者強調的最佳實踐包括:使用多個高度專焦的代理而非通用單體代理、確保人類在所有重大決策點參與批准、維持確定性編排約束防止 LLM 失控、利用和擴展現有基礎設施而非推倒重建、建立人工智能憲章文檔規範代理交付標準。Salesforce 的實現證明,當代理與人類監督、清晰的治理和完整的審計機制結合時,AI 能顯著加速企業安全響應,同時保持合規與控制。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。