[un]prompted.au 2026 -Agents That Watch: Event-Driven Detection and Response at Slack -Dominic Marks
三句話摘要
Slack 安全團隊如何用 AI 代理系統自動偵測和調查安全威脅。 透過多層自主代理、持久記憶、預算控制和驗證反饋,Slack 能應對動態威脅,並通過可重現實驗不斷科學演進檢測能力。 代理的角色定位差異化設計:觀察者聚焦單一基礎設施元素、看門狗橫跨威脅域進行廣泛模式識別、調查團隊進行深度交叉驗證,形成互補的窄-寬-深三角形架構。
重點整理
代理的角色定位差異化設計:觀察者聚焦單一基礎設施元素、看門狗橫跨威脅域進行廣泛模式識別、調查團隊進行深度交叉驗證,形成互補的窄-寬-深三角形架構。
持久化結構化記憶是核心機制:代理不是執行任務的工具,而是「成為」某個角色,記憶跨越多次調用持續存在,讓代理能學習威脅模式並改變決策邏輯。
雙環反饋控制系統:調查團隊用工具調用預算控制成本並進行多層驗證,驗證結果被納入看門狗記憶校準其決策,形成自主系統的自我改進機制。
可重現性和實驗能力:完整保存代理執行事件流和快照,支援反事實分析(如「若無排程故障會發生什麼」),這使系統能科學地演進而非盲目迭代。
實用技巧與重點
- 架構三層:Observers(事件觸發持久代理)→ Watchdogs(排程自主代理)→ Investigation Teams(調查小組)
- 規模:約 5,000 個觀察者代理同時運行
- 基礎設施:Naive 會話存儲系統、SQL 資料庫(儲存信號)、MCP 伺服器整合
- 調查預算:以工具調用次數計算,主代理負責分配給協調員和專家
- 並行度:典型調查配置為 2 個並行工作流 × 2 個並行專家 = 7 個代理同時執行
- 驗證流程:多個專家交叉驗證同一問題,協調員和主代理多層次驗證後才升級發現
- 信號結構:Principal/Subject(主體/對象)、Annotations(主機名等)、MITRE ATT&CK 技巧分類、自由文本
- 紅隊演習實驗結果(July 代碼):10 次運行中 7 次成功端到端檢測和升級
- 失敗原因:看門狗排程自動化故障、記憶邏輯簿記錯誤導致信號未被正確處理
- 團隊規模:9 人,開發週期約 1.5 年
結論
透過多層自主代理、持久記憶、預算控制和驗證反饋,Slack 能應對動態威脅,並通過可重現實驗不斷科學演進檢測能力。
完整解析
Slack 安全團隊面臨一個根本挑戰:傳統的預定義檢測規則無法應對不斷演變的威脅,尤其當攻擊者擁有先進 AI 工具時。講者 Dominic Marks 介紹了團隊設計的多層代理系統,將威脅檢測轉化為可持續學習和自適應的自主流程。
系統的第一層是「觀察者」代理。每個觀察者負責監控 Slack 基礎設施的一個特定部分,例如儲存庫的審計日誌。這些代理是事件觸發的,持有持久化的結構化記憶,記錄其觀察到的所有活動。當事件到來時,代理根據積累的記憶上下文對其進行分類和標籤化,生成包含主體/對象、MITRE ATT&CK 技巧分類和各種註解的結構化信號。系統目前運行約 5,000 個觀察者,每個都在其領域中構建了豐富的知識視角。
第二層是「看門狗」代理,職責是在全基礎設施層面識別威脅模式。看門狗運行在固定排程上,但可自主調整執行頻率。它們從信號池讀取資料、撰寫 SQL 查詢進行聚合分析,並利用結構化記憶追蹤已見威脅模式。看門狗的決策有兩種結果:識別值得進一步調查的信號集群,或決定延遲處理,認為這些信號代表已授權或良性活動。
第三層是「調查團隊」代理,用於深度驗證。每個案例有一個工具調用預算,主代理將工作分解為獨立並行工作流。協調員管理工作流,派遣專家進行具體查詢。系統強制多層次驗證:一位專家的答案必須被另一位專家交叉驗證,發現升級為「驗證發現」後才能由主代理納入最終報告。
講者利用真實紅隊演習(2026 年 6 月)驗證系統。攻擊者進行了儲存庫克隆和工作流日誌刪除,觀察者成功產生相關信號,但看門狗在兩方面失敗:邏輯簿記錯誤和排程自動化故障。儘管有故障,調查團隊最終產生了良好報告。
系統的創新在於可重現性。所有執行被記錄在 Naive 會話存儲中,保留完整事件流、推理和工具調用。通過恢復快照,Dominic 進行了反事實分析:若無排程故障,看門狗會成功執行端到端檢測嗎?10 次實驗中 7 次會成功升級案例。系統透過驗證反饋閉環學習:調查結果(確認或誤報)被納入看門狗記憶,改變其對類似模式的未來判斷,實現自主系統的自我校準。


