KeyFrame內部研究專用

Securing Agentic AI with NetFoundry: Zero-Trust Connectivity Explained

NetFoundry·6月29日週一·4 min中文

三句話摘要

NetFoundry 利用零信任架構為企業 AI 智能體提供身份驗證和存取控制,杜絕冒充攻擊。 零信任機器身份驗證與細粒度存取授權是保護企業 AI 智能體安全的關鍵,比傳統防火牆與 IP 管理更能有效防止冒充攻擊與未授權存取。 身份驗證的根本缺陷:傳統依賴 IP 位址與 API 金鑰的方式無法區分真假智能體,攻擊者若入侵 CI/CD 管道可輕易部署冒名頂替者,竊取客戶資料而不被察覺。

重點整理

重點
  • 1

    身份驗證的根本缺陷:傳統依賴 IP 位址與 API 金鑰的方式無法區分真假智能體,攻擊者若入侵 CI/CD 管道可輕易部署冒名頂替者,竊取客戶資料而不被察覺。

  • 2

    NetFoundry 的三層防禦:首先關閉所有入站連接埠使資源在網路上「隱形」,其次透過 X.509 憑證頒發加密機器身份(私鑰永不離開機器),第三透過身份授予明確的存取控制權限。

  • 3

    實際效果:合法智能體因已被驗證與授權而保持正常運作,冒充的智能體因無法建立連線、無法驗證身份而無法存取任何資源,即使竊得有效憑證也可透過單一操作撤銷。

  • 4

    部署靈活性與透明性:採用軟體定義的專用覆蓋網路架構,可作為服務運行或完全自建部署,現有網路路由、VLAN、防火牆保持不變,只需關閉資源入站連接埠。

實用技巧與重點

乾貨
  • 攻擊場景:入侵 CI/CD 管道、部署冒充智能體、竊取客戶投資組合資料
  • 典型智能體工作流:讀取客戶投資組合 → 查看定價 → 獲取最新新聞 → 運行私人 LLM 評估風險 → 向美國證券交易委員會提交報告(涉及公有 LLM、私有 LLM、內部工具)
  • 身份驗證機制:X.509 簽名憑證、機器身份令牌、加密身份
  • 網路覆蓋:純軟體專用覆蓋網路架構(zero-trust AI connectivity)
  • 撤銷機制:一個電話即可撤銷代理身份,使有效憑證失效
  • 涉及設備規模:300 億台設備的網路

結論

結論

零信任機器身份驗證與細粒度存取授權是保護企業 AI 智能體安全的關鍵,比傳統防火牆與 IP 管理更能有效防止冒充攻擊與未授權存取。

完整解析

詳細

在企業 AI 環境中,智能體通常需要存取多個系統與資源。以金融分析為例,一個智能體可能需要讀取客戶投資組合、查詢市場定價、抓取最新新聞、執行私人模型來評估風險,最後向監管機構提交報告。這個流程涉及公有語言模型、私有語言模型以及多個內部工具,複雜度極高。

傳統的安全方案依賴 IP 位址與 API 金鑰來識別和控制智能體。然而,這種方案存在根本的弱點。一旦開發人員遭到入侵、CI/CD 管道被攻擊,惡意攻擊者可以輕易部署第二個與原始智能體完全相同的冒名頂替者。由於現有認證機制無法區分它們,這個假智能體可以存取相同的資源、生成虛假報告,甚至在後台竊取客戶資料而不被發現。在三百億台設備的網路中,任何一台都可能存取開放的資源。

NetFoundry 透過零信任架構徹底解決這個問題。當智能體初次建立連線時,系統會執行三個關鍵操作。首先,系統關閉資源上的所有入站連接埠,使這些資源在物理網路上形同隱形。沒有開放端口意味著無法被直接存取或利用。其次,系統為每個智能體頒發唯一的機器身份,透過 X.509 簽名憑證建構加密身份,其私鑰永遠不會離開該機器,無法被複製或冒充。第三,系統實施嚴格的存取授權,確保智能體只能存取經過明確批准的資源。

實際運作時,合法的智能體因已獲得驗證與授權,可以正常執行所有操作——讀取投資組合、查詢定價、獲取新聞、運行風險評估、提交報告。而冒充的智能體即使嘗試執行相同操作,也會因為無法進行身份驗證、無法通過授權檢查而被阻攔,最終無法存取任何資源。

NetFoundry 採用純軟體定義的專用覆蓋網路架構實現這種零信任 AI 連線,支援兩種部署方式:作為服務運行,或完全部署在組織的私有環境內。無論哪種方式,都無需修改現有網路的路由、VLAN 或防火牆設定。組織只需關閉資源的入站連接埠並部署 NetFoundry。資源的連接埠保持關閉,但因為資源與 NetFoundry 架構建立出站連線,授權使用者仍能正常存取。從本質上講,這個網路就像一個智慧交換機,只允許經過驗證與授權的代理存取符合安全政策的資源。即使某個機器身份被洩露或需要退休,管理員也只需一個操作就能撤銷其存取權限,使其再無法進行任何操作。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。