What Does Done Even Mean? Agents and Paperclip's Liveness Model - Dotta, Paperclip

在 Agent 時代，一個看似簡單的場景——Agent 送出 pull request、通過測試、更新文檔、關閉 issue——卻隱含著深層的系統設計問題。Dota（Paperclip 創始人）的核心洞察是：Agent 生成代碼和文檔的速度已遠超人類驗證能力。在傳統軟體開發中，人類一天可能驗證數個任務；但在 Agent 系統中，瞬間就能產生數百個待驗證工作項。若堅持人類逐一簽核，最後只會陷入「驗證假象」——形式上有流程，實質上無法有效執行。

真正的解決方案不是加速人類審查，而是重新定義「完成」本身。完成不應是單純的布林值（完成或未完成），而是一個多維度的聲明對象。聲稱任務「完成」時，實際涉及五個層面：工件是否真的產生了，證據是否充分支持聲稱，這些證據是否滿足預先定義的標準，驗證工作是否由授權方完成，以及誰該接收這份完成的工作。這些層面各自獨立，不能互相替代。

Paperclip 的設計圍繞平衡兩個看似矛盾的需求展開。Liveness 要求工作流動不中斷、無不必要的阻塊；Verification 要求每項工作的品質被確認。若過度強調活性而忽視驗證，系統淪為無品質控制的混亂機制，最終比什麼都不做還糟糕。若過度強調驗證，人類審查隊列堆積如山，根本無法有效審查，工作流動也會停滯。因此需要一個精心設計的控制平面。

Paperclip 實現了四個關鍵機制。首先，每個任務有清晰的狀態轉換規則，明確定義下一步可能的狀態。其次，引入「第一類阻塊者」的概念——不是軟弱的優先級建議，而是控制平面強制執行的真實阻塊。第三，在關鍵決策點設置互動式人類批准，留下完整的審計軌跡，讓責任明確。最後，引入 Watch Dogs 機制——一個被賦予具體目標的監督 Agent，負責確保其他 Agent 持續工作直到目標達成。關鍵創新是 Watch Dogs 與具體的 AI 平台無關，無論使用 Claude、Codex、Open Claw 還是其他模型，都提供統一的介面。

在實踐層面，要實現百倍級工作量增長，需要六步走。第一，精確定義每個任務的「完成」標準——不能模糊。第二，分離驗證者和執行者，通常採用不同的模型避免自我驗證的盲點。第三，不要問 Agent「這完成了嗎」，而要給它驗證工具並要求提供證據。第四，配備具體的驗證工具——自訂瀏覽器套件、截圖能力、點擊互動能力。第五，建立清晰的責任鏈，讓每個 Agent 明白完成後該交付給誰。第六，將這些要求制度化，而非靠臨時指令。這不是純粹的技術問題，而是對 Agent 系統工程的根本性思考。

---