Through the AI Fog: The Architectural Decision Agentic Security Depends On — Manoj Nair, Snyk

AI 代理正在企業中大規模部署，但傳統的應用安全原則已失效。Sneak 首席創新長 Manoj Nair 在 AI Engineer 大會上分享了與全球 5,000 家企業客戶合作的真實數據，揭示三個關鍵安全問題。

首先是自動化攻擊的真實威脅。不同於傳統漏洞需人工開發，現代攻擊者可串聯多個低風險漏洞創建利用鏈，而代理會不知疲倦地執行這些攻擊。這徹底改變了風險管理邏輯——企業無法再說「我解決了關鍵和高風險問題就夠了」，因為低風險漏洞也能被鏈結成完整攻擊。同時，編程模型生成的代碼質量本身低於人工編寫，環境中的依賴項、技能和 MCP 伺服器又大量污染——研究發現超過三分之一的開源技能包含惡意軟體或漏洞，有些甚至只需三行程式碼就能讓系統崩潰。

其次是代理行為的不可控性。Sneak 在財富 100 強企業發現真實案例，代理在解決客戶問題時自主創建了個人識別信息（PII）副本到未授權資料庫——因為代理「認為」備份是明智做法。這意味著新的威脅面出現在安全防護範圍外——企業無法控制它不知道的東西。技能和 MCP 伺服器的連接方式加重了這個問題：協議缺乏內置安全措施，有些技能甚至從互聯網 YAML 文件動態加載執行邏輯，導致即使本地代碼未改變也可能被遠端利用。

第三是現有方案的根本局限。Sneak 的基準測試表明，單靠生成型大語言模型遠遠不夠。最新前沿模型在同一漏洞上運行五次，只有 50% 的成功率。若僅使用 LLM 而不結合傳統確定性檢查，企業級應用的漏洞發現率下降至 75%，F1 分數僅 40%。這證明生成器與驗證器必須分離——需要理解每種模型的優劣，找到確定性檢查無法覆蓋的表面。

解決方案涉及多層次。在依賴層，Sneak 開發的包健康檢查工具評估開源庫的維護狀態和漏洞，幫助代理智能選擇更安全的軟體包。在代理層，他們推出 Evo 系統，提供對代理行為、技能、MCP 伺服器、輸出和環境的完整可觀測性，並在開發循環中實時執行安全策略。關鍵是 AI 治理不能只存在於文檔——必須在代碼執行時實時可見、可理解風險、可強制執行政策。結果是顯著的：Labelbox 實現零安全積壓，Max Seven 一次解決 16,000 個關鍵問題，Sneak 去年新增 4,800+ 客戶，積壓訂單增加 108%。