Intelligence + Continual Learning = Expertise — Yu Su, NeoCognition

講者從 AI 代理發展歷史切入。過去數十年間，符號系統和早期 AI 代理的能力受限於技術瓶頸。直到最近，LLMs 和多模態 AI 代理才突破限制，支援多層推理與動態交流。編碼相關數據在短短兩年內增長 400 倍，預示著一個新時代的到來。然而，這些看似強大的系統仍面臨根本問題：簡單的現實任務對它們仍很困難。

這個困境的根源在於我們對「世界」的認知。現代社會不是單一的統一世界，而是由數百萬個微觀世界組成——每個領域、行業、公司都有獨特的結構、約束、運作動態。試圖將這些異質性壓縮為一個靜態通用模型，本質上是不可能的。

講者引入了核心的概念區分：智能 vs 專業知識。智能是在給定上下文下推理陌生問題的能力——這正是現代 LLMs 擅長的。但專業知識完全不同，它是對特定領域的深度、累積、情境化能力。專家不僅知道更多，而是看世界的方式根本不同。他們透過深層結構而非表面特徵進行模式識別；他們理解每條規則的前提條件與例外情況；他們擁有品質判斷力與停止時機的智慧。這一切統合成一個「世界模型」——關於該微觀世界如何運作的內部表徵。

兩者在多個重要維度上正交。智能傾向擴展搜索空間（平行嘗試），專業知識則壓縮搜索空間（已知的快捷方式）。智能帶來對當前問題的理解，專業知識帶來對問題本身的重新框架。連接它們的樞紐是持續學習——將經驗適應性壓縮成可用於未來決策的結構。這個過程涉及多層面的選擇：什麼樣的經驗、如何壓縮（向量、參數、符號）、如何使用（回憶、預測、規劃、控制）。

講者提出了一個關鍵的圖表：縱軸是專業知識，橫軸是原始智能。沒有持續學習，擴展模型只能提升智能，產生「世界上最聰明的傻瓜」。不同的持續學習演算法改變學習曲線的斜率。但最重要的洞見是「無界專業知識從有界智能」——一旦基礎智能達到足夠閾值，優秀的持續學習演算法就能帶來無限的專業知識成長，無需無限提升模型規模。

這提出了深刻的實踐含義：我們是否需要無止境地訓練更大的模型？也許已有的模型足夠好，我們真正需要的是更優的持續學習演算法。此外，應對異質微觀世界需要參數學習（如特定適配器）與非參數學習（如向量、圖表、技能）的協同。

講者還指出了一個反直覺的可能性：專業知識的「特化」可能反而導致更好的「通用化」。當代理在各自領域學習時，若能將知識回饋給通用基礎模型，這可能成為下一個網際網路級規模的數據機會，超越公開訓練數據的限制。