Harness Engineering: Building the Production Cage for Powerful Domain Agents — Mike Chambers, AWS
三句話摘要
如何設計和部署生產規模的 AI agent,透過 AWS Bedrock Agent Core 實現 harness engineering 的最佳實踐。 生產 agent 的成功在於將基礎設施分層獨立設計與擴展,而 Bedrock Agent Core 將此複雜度從開發者轉移到框架本身。 兩種 agent 的設計理念差異:開發編碼助手等「使用的 agent」時可最大化 token 效率,但開發供他人使用的 agent 時必須謹慎考量受眾需求,不能一味堆砌功能。
重點整理
兩種 agent 的設計理念差異:開發編碼助手等「使用的 agent」時可最大化 token 效率,但開發供他人使用的 agent 時必須謹慎考量受眾需求,不能一味堆砌功能。
Harness 的核心定義:即 agent 去掉模型後的所有組件。包括記憶管理策略、可用的技能和工具、MCP 伺服器連接、編碼標準等,是讓 agent 在組織內可靠運作的基礎架構。
生產規模的多層次挑戰:不能將所有功能塞入單一容器部署。需要分別管理記憶層、運行時、調度、支付、身份驗證、上下文管理、可觀測性等,各自獨立擴展才能應對數千用戶規模。
Bedrock Agent Core 的實現方法:透過 CLI 工具自動化生成完整的 agent 配置和基礎設施即代碼,開發者只需定義系統提示和工具集,框架負責多租戶隔離、安全身份管理和雲端擴展。
實用技巧與重點
- 框架與工具:Strand Agents SDK(開源、模型優先框架)、Amazon Bedrock Agent Core(AWS agent 部署堆棧)
- 部署方式:HTTP、MCP、AGUI 等多種連接選項
- 模型支援:不限於 Amazon 模型,支援任何模型(示例使用 Sonnet 4.5)
- 記憶體系:長期記憶和短期記憶分開部署在雲端基礎設施
- CLI 命令:`agentcore dev`(本地開發與實時更新)、`agentcore deploy`(生產部署)
- 可觀測性:支援 traces、記憶檢查、debug 介面
- AWS Agent Toolkit:GitHub 免費工具包,預防「slop ops」(類似 click ops 的代理操作不當)
- 無代碼 Harness 部分:JSON 配置檔只需指定模型和系統提示,可不含任何 agent 代碼直接部署
結論
生產 agent 的成功在於將基礎設施分層獨立設計與擴展,而 Bedrock Agent Core 將此複雜度從開發者轉移到框架本身。
完整解析
講者 Mike Chambers 從 AWS 角度介紹了 agent 架構的兩個關鍵維度。首先,他區分了「使用的 agent」(如 Claude Code、Cursor 等開發工具)和「建構的 agent」(企業自行開發部署的 agent)。前者允許激進的 token 優化策略;後者必須以使用者體驗和組織需求為中心設計。
在定義 harness 時,他引用了 LangChain 和 Martin Fowler 的相關文章,簡化為:harness = agent 移除模型後的所有部分。對於編碼助手,這包括記憶管理策略、可用技能與工具集、MCP 伺服器連接、組織編碼標準等。AWS 已內建這些標準到其 Bedrock 產品中。
演講的核心在於生產規模部署的現實複雜性。單純在筆記型電腦上運行的 agent 無法應對數千用戶的需求。必須分離出多個獨立的可擴展層次:記憶層(分長期與短期,由雲端服務非同步管理)、運行時層、調度層、支付管理、身份驗證、上下文管理、和可觀測性(traces、評估、debug)。每層需要獨立設計和擴展。
Bedrock Agent Core 正是為解決此問題而設計。透過 `agentcore` CLI 工具,開發者可以逐步回答配置問題(選擇模型、部署方式、記憶類型等),工具會自動生成完整的代碼骨架和基礎設施即代碼配置。開發者只需在此基礎上添加系統提示和工具定義,框架自動處理多租戶隔離、安全身份管理、雲端擴展。`agentcore dev` 提供本地開發環境,`agentcore deploy` 使用基礎設施即代碼部署到生產環境,並提供完整的可觀測性介面查看 traces、儲存記憶和除錯資訊。演講並展示了一個簡化場景:若 80% 的 use case 只需要系統提示和 MCP 工具連接,Bedrock 提供的無代碼 harness(純 JSON 配置)就足以部署。


