KeyFrame內部研究專用

从 ChatGPT 到 dots:4年复盘,看懂 Agent 进化逻辑与下一站!

AI学长小林14 min中文
觀看原始影片

三句話摘要

AI助手從被動聊天框演進到自主工作Agent的四年歷程,以及推動這一演變的技術邏輯。 在向著人工智慧自主工作的道路上,每一層技術突破都代表著人類在逐步後退,從寫指令→準備材料→搭建環境→派活審批,最終將迎來一個每個人都有一個如《鋼鐵人》中賈維斯一樣的AI管家的時代。 模型能力時長的指數增長決定了產品形態演變:METR測試表明AI獨立工作時長每七個月翻倍,從GPT-2的幾秒鐘到Claude Opus 4.6的十幾小時。每當模型能做的活變長,舊的使用方式就無法滿足需求,逼著整個系統跟著升級。

重點整理

  1. 模型能力時長的指數增長決定了產品形態演變:METR測試表明AI獨立工作時長每七個月翻倍,從GPT-2的幾秒鐘到Claude Opus 4.6的十幾小時。每當模型能做的活變長,舊的使用方式就無法滿足需求,逼著整個系統跟著升級。

  2. 三層工程是應對模型能力增長的必然結果:提示詞工程(人寫指令)→上下文工程(每輪給模型準備好材料)→harness工程(搭建整個運行環境)。每一層都代表人的位置往外退一層,因為原有的環節已被更強的模型或成熟產品自動化處理。

  3. 云端常駐Agent代表廠商直接托管運行環境:Anthropic、xAI、Meta、OpenAI在2024年4-9月先後發布了四套類似方案,核心特徵是Agent有自己的虛擬電腦、能全天運行、可主動尋找工作。廠商托管環境是為了讓環境跟著模型升級實時調整,避免自搭的harness因模型升級而頻繁報廢。

  4. 人的作用從執行者升級為管理者:OpenAI的實驗用5個月、3名工程師和一套自動化Agent系統產出100萬行代碼,凸顯出人的時間和注意力成為瓶頸。未來人主要做派活、批准、調整策略三件事。

實用技巧與重點

  • 模型能力指標(METR測試)
  • GPT-2:幾秒鐘獨立工作時長
  • GPT-3.5:半分鐘
  • GPT-4(2023年):幾分鐘
  • o1:40-50分鐘
  • o3:1-2小時
  • Claude Opus 4.6:十幾小時
  • 增長規律:每7個月時長翻倍(年增長4倍)
  • 四家廠商的云端Agent(2024年4-9月)
  • | 廠商 | 產品名 | 發布日期 | 主要特徵 |
  • |-----|--------|---------|---------|
  • | Anthropic | Claude Managed Agents | 4月8日 | 給開發者用的托管環境,沙盒權限,斷線接著跑 |
  • | xAI | Grok Bot | 8月11日 | 團隊模式,多個Bot分工(郵箱、報銷、招聘、修bug),SuperGrok和Cursor訂閱用戶可用 |
  • | Meta | Muse | 9月8日 | 在WhatsApp直接使用,有獨立的哨兵Agent把關外網連接,美國優先上線 |
  • | OpenAI | dots | 9月29日 | 能連4000+應用,可起名字、學習偏好、主動研究,Pro和Business Premium用戶可建立 |
  • OpenAI無代碼開發實驗數據
  • 時間:5個月
  • 團隊規模:3名工程師
  • 產出代碼量:約100萬行
  • 合併改動數:約1500個
  • 日均每個工程師合進去的改動:3-4個
  • 運行時長:經常連著跑6小時以上,通常在人睡覺時進行
  • 三層工程的演進
  • 提示詞工程(提前寫死指令)
  • 上下文工程(每一輪動態準備材料,防止「上下文腐爛」)
  • Harness工程(2025年2月Karpathy、Anthropic、OpenAI相繼強調)
  • dots的主動研究示例
  • 早期測試者忘記給刊物開發票 → dots自動發現、準備好發票、等待批准後才發送
  • 內容創作者 → dots從新訪談稿裡挑出能剪片段的部分、寫節目說明、起草社群貼文、等待批准
  • 收費機制
  • OpenAI dots:第一個免費,普通Plus套餐暂无,Pro/Business Premium用戶享有
  • Anthropic Managed Agents:Token費照收,每運行1小時另外收8美分

結論

在向著人工智慧自主工作的道路上,每一層技術突破都代表著人類在逐步後退,從寫指令→準備材料→搭建環境→派活審批,最終將迎來一個每個人都有一個如《鋼鐵人》中賈維斯一樣的AI管家的時代。

完整解析

AI與人的互動形態在短短四年內經歷了根本性的轉變。2022年11月ChatGPT發布時,它的定位很清楚:一個被動的聊天框,等著你提問,然後給出回答。你看完回答後決定下一步做什麼,整個流程的主動權完全在人手裡。那個時代,工程師們鑽研的是如何透過更好地撰寫提示詞來引導模型,包括讓它扮演專家角色、提供示例、使用「一步一步想」的技巧等等。本質上是在用語言去遷就模型的侷限性。

但推動AI自主工作的想法其實更早就有。2022年10月,早於ChatGPT發布的兩個月,一篇名為ReAct的論文已經指出了方向:讓大模型交替進行推理和行動,也就是想一步、用一個工具、看結果、再想下一步。這個循環邏輯後來成為幾乎所有Agent的基本骨架。2023年春天的AutoGPT讓人們第一次看到AI自己拆解任務、輪流執行的樣子,但使用者很快發現它常常繞圈子、花錢沒少燒卻做不完事情。

問題的根源在於模型能力的限制。研究機構METR的測試表明,AI獨立工作的時長在快速增長,但增長速度和當時的模型能力不匹配。GPT-2只能做幾秒鐘的工作,GPT-3.5是半分鐘,GPT-4也只有幾分鐘。AutoGPT想讓模型自己完成整件事,但模型一口氣只能工作幾分鐘,遠不足以處理複雜任務。這個局面持續到o1和o3模型出現,時長分別延伸到40-50分鐘和1-2小時。更關鍵的是,METR的數據顯示這個時長每7個月翻倍,也就是說一年多一點,AI能獨立做的事就變成原來的四倍。

隨著模型能力變強,整個工程思路也在演變。2023年6月,OpenAI給API加上了函數調用功能,模型可以按固定格式指定要用哪個工具、參數是什麼,這讓工具調用成為模型本身就會的能力。到了2024年底,Anthropic明確區分了兩個概念:工作流(流程由人的代碼寫死,模型按順序執行)和Agent(流程由模型決定)。這個轉折點很關鍵,因為它意味著決策權從人轉移到了模型。

一件活跑起來要用幾十上百輪,每一輪的成敗不再取決於開頭寫的那一兩句提示詞,而是取決於模型眼前擺著什麼。2025年6月,Shopify的CEO提出了「上下文工程」的概念,認為真正的本事是把任務需要的背景都備齐,讓模型有機會做成。Karpathy轉發贊同,Anthropic隨後發現了一個問題:模型的注意力預算是有限的,塞得越多,模型反而越難準確找到需要的東西,這被叫作「上下文腐爛」。解決方案是邊做邊收拾,定期把對話壓成摘要,或者讓Agent把重要信息寫到外部筆記裡,用時再讀回來。

再往外一層是「harness工程」。Terraform作者Mitchell Hashimoto在2月提出這個概念:每次Agent犯一個錯,就搭一套機制保證它再也犯不了,改的不是那句話、不只是那桌材料,而是模型整個運行的環境——規則文件、工具測試、檢查機制。OpenAI在2月11日發了一篇工程博客,分享了他們從空倉庫開始、花5個月用3名工程師和AI Agent系統產出100萬行代碼的經驗。平均每個工程師每天要合進去3-4個改動,Agent經常連著跑6小時以上,往往在人睡覺時進行。這個過程中人掌舵、Agent幹活,整個系統裡真正稀缺的是人的時間和注意力。

模型能力每變長一截,人的位置就往外退一層。2024年4月到9月,四家公司先後發布了云端常駐Agent。Anthropic的Claude Managed Agents讓開發者直接用托管的環境和雲端機器,自動處理沙盒、斷線恢復、日誌記錄。xAI的Grok Bot採用團隊模式,一個總管理員下面有多個專職Bot,各自負責郵箱、報銷、招聘、修bug等不同職能,Agent之間能直接協作而不需要人在中間傳話。Meta的Muse整合在WhatsApp裡,配備獨立的哨兵Agent把關所有外網連接。OpenAI的dots則是最全面的方案,能連接4000多個應用,支持自動學習用戶偏好、主動尋找任務、等待批准後再執行。

為什麼廠商要托管這些環境?因為harness裡的所有機制本質上都是「模型現在做不到什麼」的假設,這些假設會隨著模型升級而過時。比如之前給某代模型特別加的重置機制,新模型一出就成了累贅。如果自己搭環境,模型每升級一次都得手動改一遍。廠商直接托管就能讓環境跟著模型實時調整,永遠是最優配適的狀態。

向前看,四個趨勢已經浮現。第一,Agent會從單個助手演變成一個團隊,多個Agent協作分工,人管理的是那個管Agent的Agent。第二,Agent會有自己的企業身份,分配獨立權限、設備、賬戶,甚至接進企業IT系統。第三,從「你叫它」變成「它來找你」,dots的主動研究功能就是這個方向——它會在後台找能幫你的事,整理好後問你一句「行不行」,將來人打開的可能不是聊天框,而是一個待批收件箱。第四,Agent會越用越像你,通過跨會話記憶學習你的偏好和習慣,两個Agent最後的差别可能不在底層模型,而在它和你磨合了多久。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。