What is Harness Engineering?
三句話摘要
理解AI Agent中「胶囊工程」(Harness Engineering)的核心概念——通過汽車引擎的類比,說明LLM只是引擎,真正的價值在於圍繞它建立的完整系統。 LLM只是引擎,harness工程才是決定AI應用是否有市場價值和實用性的決定因素。 1. LLM本身無法直接使用 — LLM就像汽車引擎,本身是黑箱:吃進fuel和air,輸出torque。但消費者買不了引擎,因為沒地方坐、沒法控制、無法自主運行,這就是為什麼LLM無法直接商業化。
重點整理
重點- 1
1. LLM本身無法直接使用 — LLM就像汽車引擎,本身是黑箱:吃進fuel和air,輸出torque。但消費者買不了引擎,因為沒地方坐、沒法控制、無法自主運行,這就是為什麼LLM無法直接商業化。
- 2
2. Harness增加實用性和可控性 — 就像BMW和Ferrari在引擎周圍建立平台、底盤、齒輪箱、方向盤和座位一樣,AI系統需要圍繞LLM建立記憶機制、可觀測性、工具調用、狀態管理和防護欄。這些層次才能把原始的概率輸出轉化為有用的應用。
- 3
3. 角色分工明確 — ML工程師專注訓練引擎(LLM),這需要大量資金和數據(Meta、OpenAI、Anthropic負責);應用開發者負責建構harness,創造產品的獨特價值和市場定位。兩者都重要但分工不同。
- 4
4. Harness包含多個子系統 — 數據管道、角色存取控制、記憶層、安全層、通知機制、工具整合、agent loop編排、context管理等,每一層都是harness的組成部分,共同決定系統的可靠性和實用性。
實用技巧與重點
乾貨- 相關公司和產品:
- OpenAI GPT、Claude (Anthropic)、Meta LLMs、Fable、Opus、Sonnet
- Claude Code(作為harness的完整示例)
- ARAGZEN(講者公司,提供harness相關服務)
- Harness的組件列表:
- 指令系統 (Instructions)
- 狀態管理 (State Management)
- 記憶層 (Memory Layer)
- 驗證機制 (Verifications)
- 範疇/會話管理 (Scope/Sessions)
- 可觀測性 (Observability)
- 評估 (Evals)
- 工具集成 (Tools)
- Agent Loop編排
- 防護欄 (Guardrails)
- 安全層 (Security)
- Context管理
- 角色存取控制 (Role-based Access Control)
- 通知系統 (Notifications)
- 數據管道 (Data Pipeline)
- 衍生概念:
- Loop Engineering(即將在後續視頻討論)
- AI Agent = AI Model + LLM + Harness
結論
結論“LLM只是引擎,harness工程才是決定AI應用是否有市場價值和實用性的決定因素。”
完整解析
詳細講者用汽車工業的發展歷程類比AI時代的harness概念。汽車產業曾面臨一個根本問題:內燃機引擎是革命性發明,但沒有人會單獨購買引擎。引擎只是黑箱,輸入燃油和空氣,輸出扭矩,毫無實用價值。真正的商業機會來自於BMW、法拉利等製造商在引擎周圍建立的完整系統——底盤平台、傳動系統、齒輪箱、方向盤、懸吊、座位、車身、儀表板。這些元素讓引擎的原始輸出轉化成消費者可以真正使用的產品。
這個類比精確對應當前的AI現況。LLM(大語言模型)是現代的引擎,它們輸入token、輸出概率分佈,本身完全無法直接銷售或使用。GPT、Claude、Fable這些模型都是純引擎,無記憶、無狀態、無自主能力,就像引擎無法自己走到任何地方一樣。
Harness engineering就是在LLM周圍建立的完整基礎設施層次。講者從ARAGZEN公司的實例展示,harness包含數據管道(決定資料如何流入)、記憶層(提供agent持久化狀態)、安全層(防護和驗證)、角色存取控制(限制權限)、可觀測性和notifications(監控行為)、工具集成(讓agent能操作外部系統)。這些層次共同解決LLM的固有問題:無法預測、無法控制、無法記憶、無法安全自主運行。
工作分工亦因此明確劃分。Meta、OpenAI、Anthropic等大廠扮演引擎製造商角色,投入數十億資源訓練模型。應用開發者則是「汽車設計師」,負責在這些引擎周圍建立harness,創造差異化產品。Claude Code是Anthropic自己建立的harness範例——圍繞Claude模型家族(Opus、Sonnet等引擎)的完整開發環境。消費者永遠不會直接使用LLM API的原始輸出;他們使用的是經過harness包裝的應用。
Harness engineering的質量直接決定產品的競爭力。同樣的引擎,通過不同的harness設計,可以創造出完全不同的用戶體驗和市場定位。這也解釋了為什麼現在招聘啟事中「harness engineer」成為熱門職位——這是決定AI應用能否成功的關鍵層次。
關鍵時刻
Pipeline v2帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。


