从 ChatGPT 到 dots:4年复盘,看懂 Agent 进化逻辑与下一站!
三句話摘要
AI助手從被動聊天框演進到自主工作Agent的四年歷程,以及推動這一演變的技術邏輯。 在向著人工智慧自主工作的道路上,每一層技術突破都代表著人類在逐步後退,從寫指令→準備材料→搭建環境→派活審批,最終將迎來一個每個人都有一個如《鋼鐵人》中賈維斯一樣的AI管家的時代。 模型能力時長的指數增長決定了產品形態演變:METR測試表明AI獨立工作時長每七個月翻倍,從GPT-2的幾秒鐘到Claude Opus 4.6的十幾小時。每當模型能做的活變長,舊的使用方式就無法滿足需求,逼著整個系統跟著升級。
重點整理
模型能力時長的指數增長決定了產品形態演變:METR測試表明AI獨立工作時長每七個月翻倍,從GPT-2的幾秒鐘到Claude Opus 4.6的十幾小時。每當模型能做的活變長,舊的使用方式就無法滿足需求,逼著整個系統跟著升級。
三層工程是應對模型能力增長的必然結果:提示詞工程(人寫指令)→上下文工程(每輪給模型準備好材料)→harness工程(搭建整個運行環境)。每一層都代表人的位置往外退一層,因為原有的環節已被更強的模型或成熟產品自動化處理。
云端常駐Agent代表廠商直接托管運行環境:Anthropic、xAI、Meta、OpenAI在2024年4-9月先後發布了四套類似方案,核心特徵是Agent有自己的虛擬電腦、能全天運行、可主動尋找工作。廠商托管環境是為了讓環境跟著模型升級實時調整,避免自搭的harness因模型升級而頻繁報廢。
人的作用從執行者升級為管理者:OpenAI的實驗用5個月、3名工程師和一套自動化Agent系統產出100萬行代碼,凸顯出人的時間和注意力成為瓶頸。未來人主要做派活、批准、調整策略三件事。
實用技巧與重點
- 模型能力指標(METR測試)
- GPT-2:幾秒鐘獨立工作時長
- GPT-3.5:半分鐘
- GPT-4(2023年):幾分鐘
- o1:40-50分鐘
- o3:1-2小時
- Claude Opus 4.6:十幾小時
- 增長規律:每7個月時長翻倍(年增長4倍)
- 四家廠商的云端Agent(2024年4-9月)
- | 廠商 | 產品名 | 發布日期 | 主要特徵 |
- |-----|--------|---------|---------|
- | Anthropic | Claude Managed Agents | 4月8日 | 給開發者用的托管環境,沙盒權限,斷線接著跑 |
- | xAI | Grok Bot | 8月11日 | 團隊模式,多個Bot分工(郵箱、報銷、招聘、修bug),SuperGrok和Cursor訂閱用戶可用 |
- | Meta | Muse | 9月8日 | 在WhatsApp直接使用,有獨立的哨兵Agent把關外網連接,美國優先上線 |
- | OpenAI | dots | 9月29日 | 能連4000+應用,可起名字、學習偏好、主動研究,Pro和Business Premium用戶可建立 |
- OpenAI無代碼開發實驗數據
- 時間:5個月
- 團隊規模:3名工程師
- 產出代碼量:約100萬行
- 合併改動數:約1500個
- 日均每個工程師合進去的改動:3-4個
- 運行時長:經常連著跑6小時以上,通常在人睡覺時進行
- 三層工程的演進
- 提示詞工程(提前寫死指令)
- 上下文工程(每一輪動態準備材料,防止「上下文腐爛」)
- Harness工程(2025年2月Karpathy、Anthropic、OpenAI相繼強調)
- dots的主動研究示例
- 早期測試者忘記給刊物開發票 → dots自動發現、準備好發票、等待批准後才發送
- 內容創作者 → dots從新訪談稿裡挑出能剪片段的部分、寫節目說明、起草社群貼文、等待批准
- 收費機制
- OpenAI dots:第一個免費,普通Plus套餐暂无,Pro/Business Premium用戶享有
- Anthropic Managed Agents:Token費照收,每運行1小時另外收8美分
結論
在向著人工智慧自主工作的道路上,每一層技術突破都代表著人類在逐步後退,從寫指令→準備材料→搭建環境→派活審批,最終將迎來一個每個人都有一個如《鋼鐵人》中賈維斯一樣的AI管家的時代。
完整解析
AI與人的互動形態在短短四年內經歷了根本性的轉變。2022年11月ChatGPT發布時,它的定位很清楚:一個被動的聊天框,等著你提問,然後給出回答。你看完回答後決定下一步做什麼,整個流程的主動權完全在人手裡。那個時代,工程師們鑽研的是如何透過更好地撰寫提示詞來引導模型,包括讓它扮演專家角色、提供示例、使用「一步一步想」的技巧等等。本質上是在用語言去遷就模型的侷限性。
但推動AI自主工作的想法其實更早就有。2022年10月,早於ChatGPT發布的兩個月,一篇名為ReAct的論文已經指出了方向:讓大模型交替進行推理和行動,也就是想一步、用一個工具、看結果、再想下一步。這個循環邏輯後來成為幾乎所有Agent的基本骨架。2023年春天的AutoGPT讓人們第一次看到AI自己拆解任務、輪流執行的樣子,但使用者很快發現它常常繞圈子、花錢沒少燒卻做不完事情。
問題的根源在於模型能力的限制。研究機構METR的測試表明,AI獨立工作的時長在快速增長,但增長速度和當時的模型能力不匹配。GPT-2只能做幾秒鐘的工作,GPT-3.5是半分鐘,GPT-4也只有幾分鐘。AutoGPT想讓模型自己完成整件事,但模型一口氣只能工作幾分鐘,遠不足以處理複雜任務。這個局面持續到o1和o3模型出現,時長分別延伸到40-50分鐘和1-2小時。更關鍵的是,METR的數據顯示這個時長每7個月翻倍,也就是說一年多一點,AI能獨立做的事就變成原來的四倍。
隨著模型能力變強,整個工程思路也在演變。2023年6月,OpenAI給API加上了函數調用功能,模型可以按固定格式指定要用哪個工具、參數是什麼,這讓工具調用成為模型本身就會的能力。到了2024年底,Anthropic明確區分了兩個概念:工作流(流程由人的代碼寫死,模型按順序執行)和Agent(流程由模型決定)。這個轉折點很關鍵,因為它意味著決策權從人轉移到了模型。
一件活跑起來要用幾十上百輪,每一輪的成敗不再取決於開頭寫的那一兩句提示詞,而是取決於模型眼前擺著什麼。2025年6月,Shopify的CEO提出了「上下文工程」的概念,認為真正的本事是把任務需要的背景都備齐,讓模型有機會做成。Karpathy轉發贊同,Anthropic隨後發現了一個問題:模型的注意力預算是有限的,塞得越多,模型反而越難準確找到需要的東西,這被叫作「上下文腐爛」。解決方案是邊做邊收拾,定期把對話壓成摘要,或者讓Agent把重要信息寫到外部筆記裡,用時再讀回來。
再往外一層是「harness工程」。Terraform作者Mitchell Hashimoto在2月提出這個概念:每次Agent犯一個錯,就搭一套機制保證它再也犯不了,改的不是那句話、不只是那桌材料,而是模型整個運行的環境——規則文件、工具測試、檢查機制。OpenAI在2月11日發了一篇工程博客,分享了他們從空倉庫開始、花5個月用3名工程師和AI Agent系統產出100萬行代碼的經驗。平均每個工程師每天要合進去3-4個改動,Agent經常連著跑6小時以上,往往在人睡覺時進行。這個過程中人掌舵、Agent幹活,整個系統裡真正稀缺的是人的時間和注意力。
模型能力每變長一截,人的位置就往外退一層。2024年4月到9月,四家公司先後發布了云端常駐Agent。Anthropic的Claude Managed Agents讓開發者直接用托管的環境和雲端機器,自動處理沙盒、斷線恢復、日誌記錄。xAI的Grok Bot採用團隊模式,一個總管理員下面有多個專職Bot,各自負責郵箱、報銷、招聘、修bug等不同職能,Agent之間能直接協作而不需要人在中間傳話。Meta的Muse整合在WhatsApp裡,配備獨立的哨兵Agent把關所有外網連接。OpenAI的dots則是最全面的方案,能連接4000多個應用,支持自動學習用戶偏好、主動尋找任務、等待批准後再執行。
為什麼廠商要托管這些環境?因為harness裡的所有機制本質上都是「模型現在做不到什麼」的假設,這些假設會隨著模型升級而過時。比如之前給某代模型特別加的重置機制,新模型一出就成了累贅。如果自己搭環境,模型每升級一次都得手動改一遍。廠商直接托管就能讓環境跟著模型實時調整,永遠是最優配適的狀態。
向前看,四個趨勢已經浮現。第一,Agent會從單個助手演變成一個團隊,多個Agent協作分工,人管理的是那個管Agent的Agent。第二,Agent會有自己的企業身份,分配獨立權限、設備、賬戶,甚至接進企業IT系統。第三,從「你叫它」變成「它來找你」,dots的主動研究功能就是這個方向——它會在後台找能幫你的事,整理好後問你一句「行不行」,將來人打開的可能不是聊天框,而是一個待批收件箱。第四,Agent會越用越像你,通過跨會話記憶學習你的偏好和習慣,两個Agent最後的差别可能不在底層模型,而在它和你磨合了多久。


