KeyFrame內部研究專用

Harness Engineering 到底是什么?概念、实战与争议,一次全部讲清楚

马克的技术工作坊·5月5日週二·37 min中文

三句話摘要

Harness Engineering 是圍繞大模型構建的完整系統框架,用於驅動 AI Agent 穩定可靠地工作。 Harness Engineering 不是新技術的發明,而是系統化整合既有工程實踐的方法論,當下是驅動 AI Agent 穩定工作的關鍵,但長期會隨著模型能力增強而演變甚至部分淘汰。 系統設計邏輯:Harness Engineering 不是調 Prompt 或管理 Context 的微調工作,而是在系統層面為 Agent 設計完整的運行框架,包括上下文管理、驗證反饋機制和技術債清理,使其能穩定執行複雜工作。

重點整理

重點
  • 1

    系統設計邏輯:Harness Engineering 不是調 Prompt 或管理 Context 的微調工作,而是在系統層面為 Agent 設計完整的運行框架,包括上下文管理、驗證反饋機制和技術債清理,使其能穩定執行複雜工作。

  • 2

    人 AI 分工重塑:從工程師親自逐行寫代碼轉變為「人類掌舵、Agent 執行」的模式,人類專注於定方向、制定規則、做判斷,將重複瑣碎工作交給 Agent 在 Harness 中運行。

  • 3

    多 Agent 協作架構:Anthropic 提出的 Planner-Generator-Evaluator 架構展示了任務規劃和質量評估的專業化分工,Planner 拆解需求、Generator 生成代碼、Evaluator 獨立評估,三者循環迭代直到達標。

  • 4

    技術演進的過渡期:Harness Engineering 整合了既有技術(Linter、測試、任務拆解)但尚未成熟定型,隨著模型能力增強,部分 Harness 約束會逐步被模型能力內化而不再必需,但在當下模型仍會出錯和幻覺的現實下,Harness 的工程價值不容忽視。

實用技巧與重點

乾貨
  • OpenAI 案例數據
  • 耗時:5 個月
  • 代碼規模:近 100 萬行(生產級系統)
  • 團隊規模:初期 3 人,後擴至 7 人
  • 開發效率:約為純人工的 10 倍
  • 上下文管理優化
  • 初期嘗試:超大 CLAUDE.md 文件,結果信息冗餘致模型效果差
  • 優化後:CLAUDE.md 壓縮至 100 行左右,變成目錄結構
  • 策略:強制所有重要決策和約定都進入代碼倉庫,成為唯一信息源
  • 驗證反饋機制
  • Chrome DevTools 集成:Agent 可自動截圖、查看 DOM、模擬用戶操作
  • 可觀測性工具:日誌、指標、追蹤
  • 隔離環境:每個任務獨立環境、獨立日誌、完成後自動銷毀
  • 架構規範層次
  • UI → Runtime → Service → Repo → Config → Types
  • 嚴格單向依賴(上層只能依賴下層)
  • 通過 Linter 和測試形成自動閉環
  • Anthropic 多 Agent 架構
  • Planner:拆解用戶模糊需求為詳細功能列表
  • Generator:按功能點逐個實現代碼
  • Evaluator:獨立評估產出質量
  • 迭代週期:solo 方案 20 分鐘/9 美元 vs full harness 方案 6 小時/200 美元
  • 模型版本差異
  • Sonnet 4.2.5:存在上下文焦慮(文本過長急於結束)
  • OpenAI o1:全局統籌能力強,無需強制分步執行

結論

結論

Harness Engineering 不是新技術的發明,而是系統化整合既有工程實踐的方法論,當下是驅動 AI Agent 穩定工作的關鍵,但長期會隨著模型能力增強而演變甚至部分淘汰。

完整解析

詳細

Harness Engineering 的概念起源於一個簡單卻深刻的比喻。大模型就像一匹強大但野性十足的馬,擁有驚人的能力卻容易發散思維、產生幻覺。馬具(Harness)的作用是通過系統化的約束和引導,將這種原始的力量轉化為可控、可靠的生產力。Harness Engineering 的核心公式是「Agent = Model + Harness」,也就是說 Agent 中除了大模型本身外的一切都属于 Harness。

OpenAI 在 2025 年 8 月啟動了一項大膽實驗:不允許工程師手寫任何代碼,完全由 AI 從零開始生成一個真實的生產系統。歷時 5 個月,只用 7 人團隊,產出近 100 萬行代碼——效率是傳統開發的 10 倍。但這個突破並非來自模型能力本身,而是源於精心設計的 Harness 系統。OpenAI 發現早期困擾 Agent 的根本問題不是「模型不聰明」,而是「系統設計不夠穩健」。

Harness Engineering 的實踐分為三個核心維度。首先是上下文管理:團隊最初試圖把所有規則塞進一個超大 CLAUDE.md 文件,結果模型被淹沒在冗餘信息中,無法抓住重點。後來改為把 CLAUDE.md 壓縮至 100 行目錄,將詳細文檔分散到對應的代碼目錄,確保 Agent 只看到相關信息。更激進的做法是強制所有決策都進入代碼倉庫,讓倉庫成為唯一信息源。其次是驗證與反饋:不是讓 Agent 自己評估自己(這會導致自我欺騙),而是集成 Chrome DevTools、日誌系統、指標監控,甚至在隔離環境中自動收集運行數據,形成從生成到評估的自動閉環。第三是技術債清理:配置後台 Agent 定期掃描代碼庫和文檔,自動修復偏離規範的地方,確保整體質量不走樣。

Anthropic 進一步將這套思想具體化,提出了多 Agent 協作的 Planner-Generator-Evaluator 架構。Planner 的職責是把用戶的模糊需求拆解為一份清晰的功能列表;Generator 逐個功能點去實現,但首先要與 Evaluator 確認交付標準;Evaluator 是獨立的第三方,確保評估結果客觀公正。實驗表明,這種 full harness 方案雖然耗時更長(6 小時 vs 20 分鐘)、成本更高(200 美元 vs 9 美元),但產出質量顯著優於單一 Agent 直接蠻幹。有趣的是,隨著模型升級到更強版本(如 o1),某些 Harness 設計會逐步變得不必要——例如原本需要人工強制分步執行的約束,被模型的全局統籌能力內化吸收。這暗示 Harness Engineering 可能是一個過渡期的關鍵技術:當下它是必需的工程方法論,但終局可能會被更強的模型能力取代。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。