Your agent architecture has a half-life of 6 months — Dan Farrelly, CTO, Inngest

代理系統為何 6 個月就需重寫？看起來是架構問題，本質卻在於快速變化。LLM 模型推陳出新、框架版本迭代、工具調用標準演進，每一個變化都可能打亂整個系統。講者 Dan 的觀察是，大多數團隊在設計架構時沒有清楚的分層，導致上下文層（模型、提示）的短期變化直接滲透到執行層，使得本應穩定的系統也被迫跟著改寫。

正確的做法是按照不同變化週期分層。執行層是大腦，負責流程邏輯、狀態管理、持久化與重試機制——這部分設計得當可以維持 3-5 年。上下文層是知識，包括選用的 LLM 模型、提示詞、工具定義與記憶體結構——這部分可能每 3 個月就要調整一次。計算層是手，負責沙箱、執行環境與瀏覽器操作——根據需求快速替換。三層獨立設計，可以交換模型而執行層不動，升級框架而上下文層保持，甚至改換沙箱服務商而整個系統運轉如常。

執行層要做好三件事。第一是可恢復性：當 LLM 調用失敗、工具執行出錯時，系統必須能暫停並恢復，不能從頭開始——否則長時間運行的代理每次失敗都要重新燒 Token 與成本。要實現這一點，狀態不能存在內存或隨機磁碟，必須持久化到外部系統，並支援檢查點恢復。第二是支援多種調用模式：定時任務（Cron）、事件觸發、REST API、人工干預、子代理委託、異步延遲調用，這些原語的靈活組合才能構建實際生產系統。第三是完整的會話級可觀測性，從觸發點到整個調用棧的完整追蹤，包括 LLM 調用、工具調用、數據庫錯誤、權限問題與性能指標。

沙箱的作用常被誤解。沙箱是無狀態與短暫的，適合執行隔離的計算任務，不適合承載持久化狀態或快照管理。講者用比喻說，沙箱就像雙手，執行層就像大腦——大腦指揮雙手做事，記住上一步做過什麼、下一步該做什麼，而雙手只負責當下的動作。

新興的代理模式（後台代理、動態工作流、自主循環、代理工廠）都是長期運行、異步執行的系統，都需要深度的可觀測性與可恢復性。講者舉例一個簡單的循環系統：第一步每 30 分鐘用 Cron 拉取系統健康指標，問 LLM 是否需要採取行動；第二步如果有問題就委派分診代理進行深入調查（可能需要啟動沙箱、克隆程式碼、分析提交歷史）；第三步週期性執行審查函數，評估分診系統的表現、提示詞是否需調整、是否有漏檢或過度反應。這個簡單例子需要的是事件觸發、子代理協調、完整的執行追蹤，沒有執行層支援根本做不了。

執行層另一個巨大優勢是成為可觀測性與評分的中心。代理的輸入、每步操作的選擇、子代理的委派、工作流的調用都流過執行層，使得這裡成為理想的評估位置。可以在狀態轉移或工具完成時附加評分邏輯，連接外部事件（如工程團隊是否因為分診結果提交了 PR、研究報告是否被保存）來驗證代理的實際效果，最終構建基於真實結果的評分系統而非虛假的指標。