智能体经济Agentic Economy | Nenad Tomasev | DeepMind | AlphaZero | 自动化偏差 | 委派 | 分布式智能 | 认知单一文化 | 纵深防御

DeepMind研究者Nenad Tomasev在最近的播客訪談中提出了一個核心洞察：未來的AI不是打造更強大的單一模型，而是讓成百上千的智能體學習像人類社會一樣分工協作。這不僅是技術進步，更意味著一種全新的經濟形態——智能體經濟的到來。但這個看似美好的願景中隱藏著複雜的問題：智能體邊界在哪？如何防止網路欺騙？上千個智能體同時互動時系統如何保持安全？

傳統大語言模型是被動的——你問它，它回答。但Agent不同，它們觀察環境、規劃步驟、執行行動。Tomasev用「身上繫著安全帶的大語言模型」來比喻Agent的現狀——依然基於語言模型但獲得了執行能力。這個轉變的意義在於，複雜的多步任務不再需要人類逐一指導。例如籌備婚禮時，不是語言模型列出餐飲名單就完事，而是Agent代為發郵件、預訂場地、購買物品。用戶從執行者變成決策者，審核和批准Agent的行動。

但這裡出現了第一個陷阱——「自動化偏差」。一旦某個Agent表現良好，人們往往過度信任它而忽視潛在錯誤。Tomasev強調，最重要的不只是參與過程，而是保持警惕。他進一步指出，Agent當前最擅長處理的是軟體編碼，因為代碼有明確的測試機制。但在科學領域，需要真實實驗反饋，風險和複雜性都高得多。即使在醫療影像診斷這類機器學習表現出超人類水平的領域，最安全的做法也是讓放射科醫師進行最終審核。

當多個Agent互動時，問題急劇升級。目前許多系統採用平行處理——多個Agent同時處理同一任務，但彼此沒有協調機制，導致重複或衝突。更危險的是，大量Agent基於相似的基礎模型（Claude、ChatGPT、Gemini等），形成「認知單一文化」，當它們做出相似決策時，故障點也會相關聯，引發系統性崩潰。此外，互聯網環境本身就是污染的——惡意網站可以設置隱藏元素欺騙Agent的爬蟲解析，或對人類和機器顯示不同內容（動態偽裝）。應對這些威脅需要縱深防禦：嚴格限制Agent權限、建立可驗證的任務框架、要求人類審核、區分可逆與不可逆任務（購買物品無法撤銷，預訂可重試）。

Tomasev提出的一個關鍵觀點是：未來的智能體經濟可能不是通用超級AGI的世界，而是由專家型專門Agent組成的協作網絡。從經濟效率看，専家棋類引擎比通用AI下棋更快更便宜，同樣地，由不同領域專家Agent組成的系統比單一龐大模型更合理。這個邏輯符合人類社會演進——分工、專業化。但當數百萬Agent以複雜方式互動時，協調變成主要難題，需要透過經濟誘因機制（而非單純技術手段）確保Agent在追求利潤時不造成危害。

最後Tomasev留了一個清醒的提醒：改變速度太快。工業革命給了人類幾代人適應，但這次調整視窗要短得多。我們不只需要技術解決方案，更需要政策、法規和社會認知的配套。這不是簡單的技術問題，而是人類如何在數位時代重建信任、契約和制度的問題。