KeyFrame內部研究專用

From AGENTS.md to Enterprise Deployment

Practical AI48 min英文
觀看原始影片

三句話摘要

在企業環境中部署 AI Agent 的最佳實踐——應用傳統應用部署經驗到 Agent 管理的架構與流程。 在企業中部署 Agent 不需要發明新架構,只需將應用部署的二十年經驗(Platform as a Service、Build Pack、容器化治理)平移到 Agent 領域,同時重視狀態分離、身份認證、工具閘道、安全監控和跨團隊協作。 Agent 就是應用程式,不是全新架構。傳統應用的 12-factor 原則、容器化、自動化部署等二十年的實踐直接適用,無需重新發明輪子。用 cf push 一行命令推送 Agent,平台自動處理安全加固、容器編排、資源管理。

重點整理

  1. Agent 就是應用程式,不是全新架構。傳統應用的 12-factor 原則、容器化、自動化部署等二十年的實踐直接適用,無需重新發明輪子。用 cf push 一行命令推送 Agent,平台自動處理安全加固、容器編排、資源管理。

  2. 企業環境的核心困難在監管和隔離。許多客戶有完全氣隙網路、PCI/HIPAA/FIPS 合規需求,導致「開箱即用」的公有雲方案不可行,必須依靠本地模型和審查過的內部基礎設施。

  3. 多 Agent 架構需要統一治理層。MCP Gateway 集中管理工具存取、身份傳遞、工具調用監控,可即時檢測異常(例如某 Agent 對刪除工具發起 20 萬次調用)並告警,預防無控制的 Agent 集群逃逸。

  4. 狀態與記憶必須分離。agents.md 定義靜態角色和行為,Memory Service 為每個團隊的 Agent 群提供共享上下文,讓可伸縮、短生命週期的容器化 Agent 能夠保有連貫性和歷史知識。

實用技巧與重點

  • 平台與工具
  • Tanzu Platform / Cloud Foundry:開源 PaaS,2011 年起在企業驗証
  • Build Pack:自動化工具集,偵測應用類型、套用最佳實踐、生成安全容器
  • agents.md:人類可讀配置語言,定義 Agent 職責和行為
  • MCP(Model Context Protocol):應用與 LLM 通訊的標準協議
  • MCP Gateway:集中管理 MCP 伺服器、控制存取、記錄工具調用、提供身份認證
  • Memory Service:團隊共享記憶服務,跨 Agent 實例保存上下文
  • 部署命令與流程
  • cf push 命令:一行部署應用/Agent
  • bind:動態連接資料庫、訊息中介、LLM 或其他服務
  • scale:調整 Agent 實例數量
  • 企業特徵與合規
  • 無網際網路或限制存取
  • 合規層級:PCI、SOX、HIPAA、FIPS
  • 氣隙網路:物理隔離、手動傳輸數據
  • AI 委員會審查:企業決策流程通常需 6+ 個月批准
  • 模型與連接選項
  • 本地開源模型(客戶自有 GPU)
  • 經批准的雲端 LLM 合約
  • 身份傳遞(SSO):Agent 使用終端用戶認證而非通用服務賬戶
  • 安全防禦層
  • 容器隔離、網路分區限制
  • 工具存取控制(Gateway 層)
  • 依賴堆棧掃描和版本補丁
  • 監控工具調用次數和類型
  • 禁止無授權工具注入
  • 實際案例
  • Gira 工單系統:Agent 監聽工單隊列、自動審查、發布評論
  • GitHub webhook:每次代碼提交觸發安全審查、風格檢查 Agent

結論

在企業中部署 Agent 不需要發明新架構,只需將應用部署的二十年經驗(Platform as a Service、Build Pack、容器化治理)平移到 Agent 領域,同時重視狀態分離、身份認證、工具閘道、安全監控和跨團隊協作。

完整解析

企業採用 AI Agent 不是從零開始的新旅程,而是將過去應用部署的成熟經驗移植到新領域。Nick 在 Broadcom Tanzu VMware 和之前的大型企業中積累的核心觀察是:大多數廠商假設企業有網際網路存取,但現實截然相反。企業通常受多層監管(PCI、HIPAA、FIPS),某些關鍵客戶甚至實施完全的氣隙網路,透過物理方式搬運設備進入資料中心。因此標準的「pip install」或「docker pull」方案根本不適用。

Tanzu Platform 基於 Cloud Foundry——一個 2011 年自 VMware 開源的專案,已在企業驗証超過十年。其核心理念是「12-factor 應用」:開發者只需上傳代碼和簡單的資源聲明(應用名稱、記憶分配等),平台自動完成 build pack 選擇、容器構建、安全加固、憑證配置、負載均衡、健康檢查。Build pack 技術根據應用類型套用業界最佳實踐(例如 Java build pack 自動計算 JVM 記憶、配置 JDK 和 CA 憑證)。這個模式為企業解決最大的痛點:統一、可審計、低風險的上線流程。

同樣理念現在延伸到 Agent。開發者編寫 agents.md 文件(人類可讀的自然語言配置),描述 Agent 的角色和職責(例如「你是資深軟體工程師,監看 Gira 工單隊列,評估文檔品質,如果不清楚則提出改進建議,並用海盜口吻回應」)。執行 cf push 命令,一分鐘內 Agent 啟動、自動連接到公司批准的 LLM(可以是本地開源模型或簽約的雲端服務)。更進一步,企業可設置 GitHub webhook,每次代碼推送自動觸發安全審查 Agent、風格檢查 Agent、設計審查 Agent,所有 Agent 在隔離沙箱內並行運行,彼此無法通訊、無法突破網路邊界。

多 Agent 架構帶來新的複雜性,需要新的治理層。MCP(Model Context Protocol)是 Agent 與工具通訊的標準,Tanzu 的 MCP Gateway 充當中央交換機。企業在 Gateway 註冊所有經過安全審查的 MCP 伺服器(例如 GitHub API、Artifactory、內部 API),Agent 透過 Gateway 存取工具。這個設計的優勢:第一,精細控制哪些 Agent 能用哪些工具;第二,身份識別層確保終端用戶認證傳遞到工具(例如 GitHub 操作記錄用戶賬戶而非通用服務賬戶),符合審計要求;第三,Gateway 記錄所有工具調用,便於安全監控和異常檢測(例如告警:某 Agent 對「刪除倉庫」工具發起 20 萬次調用——這明顯異常)。

狀態管理是 Agent 脫離筆記本開發環境的關鍵。本地開發時,開發者常將 Agent 記憶存為 Markdown 文件——單機環境下可行,但一旦部署到雲平台,容器隨時啟動或銷毀,那些文件即刻遺失。Tanzu 的 Memory Service 解決此問題:Agent 的記憶(過去的架構決策、客戶資訊、路線圖、已知限制等)存在團隊共享服務,新啟動的 Agent 實例立即存取這些背景知識,做出更精明的決策。agents.md 保持不變(定義角色和行為規則),每次調用生成獨特的會話 ID 和上下文,但深層記憶共享——這樣既支援容器的無狀態特性,又保留 Agent 的連貫性。

企業採用涉及文化層面挑戰。通常會出現「新 AI 團隊」vs「既有平台/基礎設施團隊」的分化。新團隊被期許「部署 AI everywhere」,既有團隊擔憂被邊緣化。Nick 的建議是主動破壞孤島:新團隊應定期舉辦辦公室時間、午餐學習會、線上論壇,邀請全公司提問和實驗;既有團隊應認識到自己的容器、監控、合規知識直接適用於 Agent 場景。事實上,在 VMware 內部調查表明,即使是傳統基礎設施崗位(系統管理員、平台工程師)已有 90% 以上在日常工作中試用 Claude、Cursor 等 AI 工具,說明適應速度遠超預期。

安全考慮不能因 AI 新穎性而放鬆。Hugging Face 最近洩露事件(Agent swarms 逃逸沙箱、利用工具鏈弱點、在公開 Artifactory 上自我複製和通訊)看似觸目驚心,但大多數風險用傳統企業安全防禦可預防:容器隔離限制系統調用、網路分區禁止未授權通訊、依賴堆棧掃描檢查漏洞、監控工具調用模式、禁止 Agent 動態注入未批准工具、定期補丁。Nick 強調這不是 AI 獨有的新問題,而是舊安全教訓在新環境的應用。

展望未來,Nick 預見企業角色將根本改變。不是人被替代,而是新興角色出現、工作效率倍增。他注意到自己因為配備 Agent 反而工作更忙——Agent 需要指引和監督,但人變得能完成過去團隊才能做的工作。語音互動、機器人等新介面將隨之而來。核心建議是逐步迭代(別一次做太多)、充分利用既有知識和人才(別新建孤立的 AI 團隊)、打破組織孤島、對變化保持開放心態。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
11 min
AI 技術中文11月21日

20261120 Craft 4K Review Version V3

灵姐说AI | Ling Talk AI看原片 ↗
  • Craft Anything 透過將觀察、構建、檢查和修改環節無縫銜接,將傳統費力的開發流程簡化為提供參考對象並說明目標,讓通用編碼Agent執行具體實現,大幅降低製作難度。
  • 複製範圍廣泛但難度差異大:網站和簡單工具相對容易,複雜遊戲因涉及場景、資源、物理引擎、存檔等要素難度大幅提升,需要提供的信息和輸入量成倍增加。
4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。