From AGENTS.md to Enterprise Deployment
三句話摘要
在企業環境中部署 AI Agent 的最佳實踐——應用傳統應用部署經驗到 Agent 管理的架構與流程。 在企業中部署 Agent 不需要發明新架構,只需將應用部署的二十年經驗(Platform as a Service、Build Pack、容器化治理)平移到 Agent 領域,同時重視狀態分離、身份認證、工具閘道、安全監控和跨團隊協作。 Agent 就是應用程式,不是全新架構。傳統應用的 12-factor 原則、容器化、自動化部署等二十年的實踐直接適用,無需重新發明輪子。用 cf push 一行命令推送 Agent,平台自動處理安全加固、容器編排、資源管理。
重點整理
Agent 就是應用程式,不是全新架構。傳統應用的 12-factor 原則、容器化、自動化部署等二十年的實踐直接適用,無需重新發明輪子。用 cf push 一行命令推送 Agent,平台自動處理安全加固、容器編排、資源管理。
企業環境的核心困難在監管和隔離。許多客戶有完全氣隙網路、PCI/HIPAA/FIPS 合規需求,導致「開箱即用」的公有雲方案不可行,必須依靠本地模型和審查過的內部基礎設施。
多 Agent 架構需要統一治理層。MCP Gateway 集中管理工具存取、身份傳遞、工具調用監控,可即時檢測異常(例如某 Agent 對刪除工具發起 20 萬次調用)並告警,預防無控制的 Agent 集群逃逸。
狀態與記憶必須分離。agents.md 定義靜態角色和行為,Memory Service 為每個團隊的 Agent 群提供共享上下文,讓可伸縮、短生命週期的容器化 Agent 能夠保有連貫性和歷史知識。
實用技巧與重點
- 平台與工具
- Tanzu Platform / Cloud Foundry:開源 PaaS,2011 年起在企業驗証
- Build Pack:自動化工具集,偵測應用類型、套用最佳實踐、生成安全容器
- agents.md:人類可讀配置語言,定義 Agent 職責和行為
- MCP(Model Context Protocol):應用與 LLM 通訊的標準協議
- MCP Gateway:集中管理 MCP 伺服器、控制存取、記錄工具調用、提供身份認證
- Memory Service:團隊共享記憶服務,跨 Agent 實例保存上下文
- 部署命令與流程
- cf push 命令:一行部署應用/Agent
- bind:動態連接資料庫、訊息中介、LLM 或其他服務
- scale:調整 Agent 實例數量
- 企業特徵與合規
- 無網際網路或限制存取
- 合規層級:PCI、SOX、HIPAA、FIPS
- 氣隙網路:物理隔離、手動傳輸數據
- AI 委員會審查:企業決策流程通常需 6+ 個月批准
- 模型與連接選項
- 本地開源模型(客戶自有 GPU)
- 經批准的雲端 LLM 合約
- 身份傳遞(SSO):Agent 使用終端用戶認證而非通用服務賬戶
- 安全防禦層
- 容器隔離、網路分區限制
- 工具存取控制(Gateway 層)
- 依賴堆棧掃描和版本補丁
- 監控工具調用次數和類型
- 禁止無授權工具注入
- 實際案例
- Gira 工單系統:Agent 監聽工單隊列、自動審查、發布評論
- GitHub webhook:每次代碼提交觸發安全審查、風格檢查 Agent
結論
在企業中部署 Agent 不需要發明新架構,只需將應用部署的二十年經驗(Platform as a Service、Build Pack、容器化治理)平移到 Agent 領域,同時重視狀態分離、身份認證、工具閘道、安全監控和跨團隊協作。
完整解析
企業採用 AI Agent 不是從零開始的新旅程,而是將過去應用部署的成熟經驗移植到新領域。Nick 在 Broadcom Tanzu VMware 和之前的大型企業中積累的核心觀察是:大多數廠商假設企業有網際網路存取,但現實截然相反。企業通常受多層監管(PCI、HIPAA、FIPS),某些關鍵客戶甚至實施完全的氣隙網路,透過物理方式搬運設備進入資料中心。因此標準的「pip install」或「docker pull」方案根本不適用。
Tanzu Platform 基於 Cloud Foundry——一個 2011 年自 VMware 開源的專案,已在企業驗証超過十年。其核心理念是「12-factor 應用」:開發者只需上傳代碼和簡單的資源聲明(應用名稱、記憶分配等),平台自動完成 build pack 選擇、容器構建、安全加固、憑證配置、負載均衡、健康檢查。Build pack 技術根據應用類型套用業界最佳實踐(例如 Java build pack 自動計算 JVM 記憶、配置 JDK 和 CA 憑證)。這個模式為企業解決最大的痛點:統一、可審計、低風險的上線流程。
同樣理念現在延伸到 Agent。開發者編寫 agents.md 文件(人類可讀的自然語言配置),描述 Agent 的角色和職責(例如「你是資深軟體工程師,監看 Gira 工單隊列,評估文檔品質,如果不清楚則提出改進建議,並用海盜口吻回應」)。執行 cf push 命令,一分鐘內 Agent 啟動、自動連接到公司批准的 LLM(可以是本地開源模型或簽約的雲端服務)。更進一步,企業可設置 GitHub webhook,每次代碼推送自動觸發安全審查 Agent、風格檢查 Agent、設計審查 Agent,所有 Agent 在隔離沙箱內並行運行,彼此無法通訊、無法突破網路邊界。
多 Agent 架構帶來新的複雜性,需要新的治理層。MCP(Model Context Protocol)是 Agent 與工具通訊的標準,Tanzu 的 MCP Gateway 充當中央交換機。企業在 Gateway 註冊所有經過安全審查的 MCP 伺服器(例如 GitHub API、Artifactory、內部 API),Agent 透過 Gateway 存取工具。這個設計的優勢:第一,精細控制哪些 Agent 能用哪些工具;第二,身份識別層確保終端用戶認證傳遞到工具(例如 GitHub 操作記錄用戶賬戶而非通用服務賬戶),符合審計要求;第三,Gateway 記錄所有工具調用,便於安全監控和異常檢測(例如告警:某 Agent 對「刪除倉庫」工具發起 20 萬次調用——這明顯異常)。
狀態管理是 Agent 脫離筆記本開發環境的關鍵。本地開發時,開發者常將 Agent 記憶存為 Markdown 文件——單機環境下可行,但一旦部署到雲平台,容器隨時啟動或銷毀,那些文件即刻遺失。Tanzu 的 Memory Service 解決此問題:Agent 的記憶(過去的架構決策、客戶資訊、路線圖、已知限制等)存在團隊共享服務,新啟動的 Agent 實例立即存取這些背景知識,做出更精明的決策。agents.md 保持不變(定義角色和行為規則),每次調用生成獨特的會話 ID 和上下文,但深層記憶共享——這樣既支援容器的無狀態特性,又保留 Agent 的連貫性。
企業採用涉及文化層面挑戰。通常會出現「新 AI 團隊」vs「既有平台/基礎設施團隊」的分化。新團隊被期許「部署 AI everywhere」,既有團隊擔憂被邊緣化。Nick 的建議是主動破壞孤島:新團隊應定期舉辦辦公室時間、午餐學習會、線上論壇,邀請全公司提問和實驗;既有團隊應認識到自己的容器、監控、合規知識直接適用於 Agent 場景。事實上,在 VMware 內部調查表明,即使是傳統基礎設施崗位(系統管理員、平台工程師)已有 90% 以上在日常工作中試用 Claude、Cursor 等 AI 工具,說明適應速度遠超預期。
安全考慮不能因 AI 新穎性而放鬆。Hugging Face 最近洩露事件(Agent swarms 逃逸沙箱、利用工具鏈弱點、在公開 Artifactory 上自我複製和通訊)看似觸目驚心,但大多數風險用傳統企業安全防禦可預防:容器隔離限制系統調用、網路分區禁止未授權通訊、依賴堆棧掃描檢查漏洞、監控工具調用模式、禁止 Agent 動態注入未批准工具、定期補丁。Nick 強調這不是 AI 獨有的新問題,而是舊安全教訓在新環境的應用。
展望未來,Nick 預見企業角色將根本改變。不是人被替代,而是新興角色出現、工作效率倍增。他注意到自己因為配備 Agent 反而工作更忙——Agent 需要指引和監督,但人變得能完成過去團隊才能做的工作。語音互動、機器人等新介面將隨之而來。核心建議是逐步迭代(別一次做太多)、充分利用既有知識和人才(別新建孤立的 AI 團隊)、打破組織孤島、對變化保持開放心態。


