KeyFrame內部研究專用

What is Harness Engineering?

Piyush Garg·6月22日週一·14 min英文

三句話摘要

理解AI Agent中「胶囊工程」(Harness Engineering)的核心概念——通過汽車引擎的類比,說明LLM只是引擎,真正的價值在於圍繞它建立的完整系統。 LLM只是引擎,harness工程才是決定AI應用是否有市場價值和實用性的決定因素。 1. LLM本身無法直接使用 — LLM就像汽車引擎,本身是黑箱:吃進fuel和air,輸出torque。但消費者買不了引擎,因為沒地方坐、沒法控制、無法自主運行,這就是為什麼LLM無法直接商業化。

重點整理

重點
  • 1

    1. LLM本身無法直接使用 — LLM就像汽車引擎,本身是黑箱:吃進fuel和air,輸出torque。但消費者買不了引擎,因為沒地方坐、沒法控制、無法自主運行,這就是為什麼LLM無法直接商業化。

  • 2

    2. Harness增加實用性和可控性 — 就像BMW和Ferrari在引擎周圍建立平台、底盤、齒輪箱、方向盤和座位一樣,AI系統需要圍繞LLM建立記憶機制、可觀測性、工具調用、狀態管理和防護欄。這些層次才能把原始的概率輸出轉化為有用的應用。

  • 3

    3. 角色分工明確 — ML工程師專注訓練引擎(LLM),這需要大量資金和數據(Meta、OpenAI、Anthropic負責);應用開發者負責建構harness,創造產品的獨特價值和市場定位。兩者都重要但分工不同。

  • 4

    4. Harness包含多個子系統 — 數據管道、角色存取控制、記憶層、安全層、通知機制、工具整合、agent loop編排、context管理等,每一層都是harness的組成部分,共同決定系統的可靠性和實用性。

實用技巧與重點

乾貨
  • 相關公司和產品:
  • OpenAI GPT、Claude (Anthropic)、Meta LLMs、Fable、Opus、Sonnet
  • Claude Code(作為harness的完整示例)
  • ARAGZEN(講者公司,提供harness相關服務)
  • Harness的組件列表:
  • 指令系統 (Instructions)
  • 狀態管理 (State Management)
  • 記憶層 (Memory Layer)
  • 驗證機制 (Verifications)
  • 範疇/會話管理 (Scope/Sessions)
  • 可觀測性 (Observability)
  • 評估 (Evals)
  • 工具集成 (Tools)
  • Agent Loop編排
  • 防護欄 (Guardrails)
  • 安全層 (Security)
  • Context管理
  • 角色存取控制 (Role-based Access Control)
  • 通知系統 (Notifications)
  • 數據管道 (Data Pipeline)
  • 衍生概念:
  • Loop Engineering(即將在後續視頻討論)
  • AI Agent = AI Model + LLM + Harness

結論

結論

LLM只是引擎,harness工程才是決定AI應用是否有市場價值和實用性的決定因素。

完整解析

詳細

講者用汽車工業的發展歷程類比AI時代的harness概念。汽車產業曾面臨一個根本問題:內燃機引擎是革命性發明,但沒有人會單獨購買引擎。引擎只是黑箱,輸入燃油和空氣,輸出扭矩,毫無實用價值。真正的商業機會來自於BMW、法拉利等製造商在引擎周圍建立的完整系統——底盤平台、傳動系統、齒輪箱、方向盤、懸吊、座位、車身、儀表板。這些元素讓引擎的原始輸出轉化成消費者可以真正使用的產品。

這個類比精確對應當前的AI現況。LLM(大語言模型)是現代的引擎,它們輸入token、輸出概率分佈,本身完全無法直接銷售或使用。GPT、Claude、Fable這些模型都是純引擎,無記憶、無狀態、無自主能力,就像引擎無法自己走到任何地方一樣。

Harness engineering就是在LLM周圍建立的完整基礎設施層次。講者從ARAGZEN公司的實例展示,harness包含數據管道(決定資料如何流入)、記憶層(提供agent持久化狀態)、安全層(防護和驗證)、角色存取控制(限制權限)、可觀測性和notifications(監控行為)、工具集成(讓agent能操作外部系統)。這些層次共同解決LLM的固有問題:無法預測、無法控制、無法記憶、無法安全自主運行。

工作分工亦因此明確劃分。Meta、OpenAI、Anthropic等大廠扮演引擎製造商角色,投入數十億資源訓練模型。應用開發者則是「汽車設計師」,負責在這些引擎周圍建立harness,創造差異化產品。Claude Code是Anthropic自己建立的harness範例——圍繞Claude模型家族(Opus、Sonnet等引擎)的完整開發環境。消費者永遠不會直接使用LLM API的原始輸出;他們使用的是經過harness包裝的應用。

Harness engineering的質量直接決定產品的競爭力。同樣的引擎,通過不同的harness設計,可以創造出完全不同的用戶體驗和市場定位。這也解釋了為什麼現在招聘啟事中「harness engineer」成為熱門職位——這是決定AI應用能否成功的關鍵層次。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。