Frontier models and the future of cyber defense. [Special Edition]

OpenAI 的 Cyber Lead Clint Givler 和 SpectreOps 的首席服務官 Robbie Winchester 在 Black Hat 2026 探討了一個核心問題：防守者應該如何採用前沿 AI 模型，同時管理誤用風險？

談話從 AI 的成熟度開始。幾年前 ChatGPT 3.5 還只是「有趣但不確定有用」，但現在已經在編碼、知識工作等多個領域被證實實際有用。不過 Robbie 指出，真正的改變不在於 AI 取代 Google 搜尋，而在於企業學會「整合與採用」——把 AI 當作完整專案的一部分，而不只是問答機。現場聽眾中幾乎所有人都每天使用這類工具，一年前則只有半數。

OpenAI 的 Trusted Access for Cyber 計畫體現了這種平衡的思考。核心原則是「最大化防守能力、最小化攻擊者收益」。防守者廣泛可用的能力包括尋找源碼漏洞、分析日誌、檢測惡意軟體等。但涉及生成漏洞利用、AI 紅隊測試、滲透測試這類高級能力的，只有經過審查且被信任的組織才能訪問——這不是「禁止」，而是「風險分層」。Robbie 強調，紅隊工作本質上是「在授權範圍內做違法的事」，目的是揭露真實風險而非概念風險。AI 使這變得更有效率。

部署這些模型時，安全並非只靠技術控制。Clint 提到的 Codex 自動模式、自訂政策、模型選擇等都有幫助，但 Robbie 的視角更系統：這是「另一個應用程式的部署」。該問的問題包括：為什麼部署、需要什麼訪問、誰應該有訪問權、會開啟什麼新的攻擊路徑。過度授權、廣泛部署這些老問題現在有了新的槓桿——一個被入侵的 AI 代理可能比被入侵的單個員工做更多傷害。

機器速度是另一個關鍵轉變。過去、補丁延後幾個月可能「概率上」沒事，因為攻擊者數量有限、人力成本高。但當 AI 能以機器速度探測漏洞、構建定制惡意軟體，經濟學改變了：曾經「不值得目標」的組織現在被納入攻擊集合。Robbie 指出過一個觀察：雲日誌（如 CloudWatch）若只能每五分鐘更新一次，攻擊者在日誌間隙內已能竊取 PII 並離開。

但討論中的重點是：這不是一個全新的問題，而是舊問題的加速。補丁管理、最小權限、多因素認證、雲監視等最佳實踐「不是新的，只是更迫切」。基礎安全沒有改變本質，只是執行速度必須改變。Clint 的紅隊工作也強調了這點——他們在環境中放置持續的 AI 紅隊代理，專門測試假設的安全屬性是否真的有效（例如「此網路永遠無法訪問該資料庫」）。這是在誰也不能保證的情況下，持續驗證。

一個隱含的悖論貫穿全場：如果不部署這些工具，企業面臨的不是「保持安全」而是「明知風險還落後」。競爭對手已在用 AI 優化防守，被動拒絕只會被動挨打。因此認知必須轉變——不是問「我們能否避免 AI」，而是「我們如何在理解風險的前提下，有選擇、有控制地擁抱 AI」。