从AGI到ASI的四条路径 | 定义 | 莱格-胡特评分 | UAI | 数字智能 | 所罗门诺夫归纳 | AIXI | 超级智能的限制 | ASI能预测么 | 工具性趋同

這份由DeepMind聯合創始人謝恩·莱格牽頭、十余位頂尖研究員撰寫的57頁報告，試圖回答人工智能史上最根本的問題：當我們達到人類水平的通用人工智能（AGI）後，智能體將沿著怎樣的軌跡繼續發展，最終走向超級人工智能（ASI）。首先需要釐清定義。報告將AGI定義為能在絕大多數認知任務上達到人類中位數水平的系統，而ASI則要求在幾乎所有人類感興趣的任務和領域裡都超越大規模協調良好的人類專家集體。這不是簡單的量化等級，而是借助莱格-胡特評分框架來刻畫智能——即一個智能體在所有可計算任務上的平均表現，任務越簡單權重越高。在這個連續的智能譜系上，AGI和ASI之間沒有絕對清晰的分界線，只是一段光譜。而在光譜的最顶端，還有一個理論上的極限，稱為通用人工智能（UAI）或AIXI模型，代表理論上智能能達到的最高水平。

核心邏輯在於：為什麼AI達到人類水平後不會停滯不前？答案隱藏在數字智能與生物智能的本質差異裡。人類大腦是碳基生物演化的產物，天生受到多重無法突破的限制，而數字智能卻截然不同。報告總結了六大數字智能的核心優勢：輸出速度遠快於人類、內部處理速度可無限提升、工作記憶和長期記憶容量遠超生物上限、基質獨立性（可運行於任何計算硬體）、無損復制能力（每一個副本都完全相同），以及高帶寬的經驗共享（知識可即時跨系統傳遞）。這些優勢疊加的結果是：哪怕AI的基礎智能水平恰好等同於人類，只要算力保持增長，只要我們能運行更多、更快的AI實例，整體的集體能力就會源源不斷提升，永遠不會停留在人類水平。為了量化這一點，報告對算力的實際增長速度進行了保守估計——有效算力（Effective Compute）每年增長10倍。這個數字來自三個因素的相乘：硬體本身每年的進步倍數約1.5倍（受摩爾定律約束）、過去十年投入到AI算力上的資金每年增長2.5倍、達到同樣性能所需的算力每年下降3倍（相當於演算法進步帶來的變相提升）。三個數相乘為11.25倍，報告保守取了10倍。過去十年這個增速一直保持穩定，如果能再維持十年，十年後的有效算力將比今天高出百億倍。

然而，ASI的能力並非無限。報告運用AIXI框架為超級智能設立了最嚴謹的理論邊界。AIXI本質上是一個通用的智能體，它與未知環境交互，不斷發出動作、接收反饋和獎勵，核心目標是最大化長期累積獎勵。它的解決方案基於所羅門諾夫歸納法——考慮所有能生成當前觀測結果的可計算規律（即所有可能的世界模型），給更簡單的規律分配更高的先驗概率，再用貝葉斯方法隨著觀測數據增加不斷更新這些概率，最終得到最準確的世界模型，並基於此做出規劃和決策。這個框架優雅地同時解決了三個核心問題：在不確定性下行動、序貫決策的信用分配（短期犧牲換長期收益的權衡）、探索與利用的動態平衡。但關鍵的問題是，AIXI在計算上不可達成——我們永遠不可能真的構造出完美的AIXI系統，只能無限地從下方去逼近它。同樣地，即便達到ASI水平的超級智能也絕不是全知全能的，而是受六大根本限制的制約：基礎物理定律（光速、蘭道爾原理規定擦除信息的最低能量、布雷默曼極限規定單位物質的最高計算速度、貝肯斯坦界限規定有限空間和能量能容納的最大信息量）、實時性限制（天氣、生物、經濟、社會等複雜系統無法用仿真完全精準替代，必須等待真實世界的演化）、物理操作限制（不是所有邏輯上可能的物質結構都能在現實裡製造，改造物質需要能量、時間和原材料）、觀測和控制限制（對世界的認知永遠有不確定性，測量永遠有誤差）、計算複雜度限制（很多問題本質上就是計算困難的，如P和NP問題，哪怕算力再強也只能找近似解而非完美最優解）、邏輯層面的限制（哥德爾不完備定理和停機問題代表數理邏輯本身的局限）。

從AGI到ASI可以走四條主要的技術路徑。第一條是持續擴大算力、模型和數據的規模——這正是過去幾年AI爆發的根本驅動力。支持這條路的最核心論點是AI領域的《苦澀教訓》，它指出最終能贏的方法永遠是那些能靠通用算力缩放的方法，而不是人類精心設計的啟發式規則。如果智能的本質就是在各種空間中進行搜索（假設空間、策略空間等），那麼更多算力就等於更多的搜索量，自然就等於更高的智能。但這條路也有重大不確定性：純靠蠻力搜索在絕大多數複雜問題上都行不通，必須要有好的歸納偏置和好的啟發式演算法才能把搜索空間降到可處理的範圍，而歸納偏置本身就是演算法層面的設計，不是光靠堆算力就能自動出現的。第二條路是演算法範式的轉變——完全拋棄Transformer架構或梯度下降方法，採用全新的架構和訓練方式。業內有廣泛共識認為光靠現有Transformer範式，即使加上無限上下文、持續學習、世界模型等延伸，也大概率達不到真正的AGI和ASI。這條路最大的特點就是完全不可預測——真正的範式轉變在發生之前都很難預判，就像Transformer出現之前沒有人能想到它會統治整個AI領域。正因為它不可預測，我們更不能忽視它的存在，很可能在缩放定律遇到瓶頸時，某個突然出現的範式轉變就會直接打開通往ASI的大門。第三條路是遞迴自我改進，報告將其分為四種類型：基因型改進（AI直接改進自己的源代碼、架構、優化器、搜索演算法等核心設計），文化型改進（通過提升數據質量來提升能力，AlphaZero的自我對弈就是典型例子，它通過自我對弈產生更高質量的搜索結果，再把結果蒸餾回策略網路形成正反饋），硬體層面改進（AI幫助設計更好的芯片和硬體架構，甚至優化整個芯片製造產業鏈，現在用AI輔助芯片布局設計已有雛形），分工型改進（大量AI智能體不斷專業化分工，提升整體協作效率，用同樣資源完成更多工作）。我們現在其實已經處於弱遞迴改進的阶段——用AI寫代碼就是例子，只不過人類還占主導。遞迴改進最有潛力帶來快速的能力跳躍，但也不是沒有天花板——比如AlphaZero的自我對弈到了某個水平後也會進入平台期；而且哪怕AI研發完全自動化，做實驗、運行訓練、製造硬體依然需要時間、算力、能源和物理資源，這些都會拖慢循環速度。第四條路是多智能體協作，通過群體智能的涌現實現超級智能。這可以是精心設計的中心化協作系統（一個AGI CEO理論上可直接與每一個員工實例通信，效率遠超人類組織），也可以是通過市場機制自發形成的去中心化智能體經濟（大量不同的AGI在一個系統裡交易、協作、競爭，通過價格信號自動協調資源分配，就像人類市場經濟能創造出任何個人都造不出來的複雜產品）。雖然這條路仍有許多問題未解，但在工程上最直接——只要多運行一些AGI實例就能擴大群體規模，所以這條路大概率會是最先落地的。

這四條路徑都面臨六大可能的瓶頸。首先是"數據牆"——現在大模型的訓練主要靠人類生成的互聯網文本，但人類生產高質量文本的速度是有限的，而模型規模增長速度遠快於數據增長。有研究估計高質量文本數據大概在本世紀末就會被用完，其他模態如圖片、視頻數據量更大但同樣受人類生產速度限制。合成數據能否解決這個問題？直接用模型生成的數據反復訓練會導致模型坍塌，質量越來越差。但結合推理搜索的合成數據（如AlphaZero風格的搜索加蒸餾）或用仿真環境生成的交互數據可以靠算力規模化生成，這些方向或許能走通。第二個瓶頸是經濟和自然資源的約束——持續的算力缩放需要源源不斷的資金投入、芯片產能、大量能源、數據中心，以及稀土等原材料，這些都不是無限的，也不是短時間能快速擴張的。如果AI帶來的經濟回報跟不上算力擴張的成本，缩放自然就會放慢；而且除了經濟成本還有環保成本，軌道數據中心等新方案也會帶來新的風險。第三個瓶頸是當前神經網路範式本身的天花板——單純靠預訓練Transformer模型可能根本達不到真正的通用智能，現有業界打補丁的各種努力（無限上下文、持續學習、世界模型）也只是現有範式的延伸，真正的突破需要根本性的架構創新。第四個瓶頸是研究變得越來越難——有個經典結論在絕大多數科技領域，單個研究員的產出是不斷下降的，要保持同樣進步速度需要投入越來越多的研究員和資金。半導體行業最典型，要維持摩爾定律的進步速度，現在投入的研究員數量是上世紀70年代的18倍。AI大概率也會符合這個規律，但如果能實現AI的自動化研發，很可能會抵消這個效應甚至反過來加速研究。第五個瓶頸是所謂的抽象壁壘，這是亞歷山大·勒希納提出的假說——當前的AI都是在人類已經提煉好的抽象概念上學習，但它自己無法提煉出全新的抽象概念。最直觀的例子是，如果把現在最厲害的大模型放到牛頓之前的時代，給它所有當時人類能觀測到的物理數據，它能自己發明微積分、萬有引力定律，甚至推導出相對論嗎？幾乎可以肯定是不能的，因為它沒有力、因果性、時空曲率這些基礎概念，而這些概念是人類花了幾百年通過和物理世界的互動一點點從原始感知裡抽象提煉出來的。如果這個假說成立，那現在的AI再怎麼缩放也只能在人類已經建立的概念框架裡打轉，它的超人類性只體現在速度和記憶上，而真正的科學突破恰恰需要全新的抽象概念，那麼單個AI的智能天花板就是人類的最高水平。最後一個瓶頸是人為的主動減速，這和技術無關而是社會、政治、監管層面的因素——隨著AI影響越來越大，可能出現嚴重事故引發強烈反對或監管層出台嚴格限制政策。但這也有對衝力量，即國際競爭會在經濟和軍事壓力下促使各國選擇加速而非減速，而且歷史上全球統一的監管框架非常少見。

對於幾個最關心的延伸問題，報告也給出了深入分析。純靠算力缩放能否從AGI走到ASI？從純理論上說，如果有無限算力用最笨的窮舉搜索確實能逼近AIXI水平，但現實裡算力永遠有限，純蠻力搜索效率太低，必須配合好的演算法和歸納偏置才能有效轉化為智能。不過如果換個角度，不追求個體智能提升而是靠堆AGI實例的數量和速度、靠群體智能來實現ASI，那純算力缩放就有可能做到，前提是群體智能確實能隨規模線性甚至超線性提升，而且大多數任務都能通過分工協作完成。能否預測ASI到底能做什麼、不能做什麼？答案很難精準預測。雖然可以從理論上給出否定答案（不能突破物理定律、不能解決不可計算的問題），但這些否定答案在現實裡其實沒什麼用，因為大多數實際問題靠近似解或啟發式方法就能做得很好，而我們沒法提前知道一個問題有沒有好的近似解、近似解能做到多好。所以預測ASI的能力本質上是個實證問題，得真的做出來才知道。這也是為什麼基準測試這麼重要，但現在的問題是現有基準很快就會被AI超過人類水平，之後就沒有標尺來衡量AI的進步了。超級智能有創造力嗎？按瑪格麗特·博登的經典三層劃分，創造力分為組合式（把已有想法重新組合）、探索式（在已有概念框架內發現新內容）、變革式（創造全新概念框架，相當於開宗立派）。現在的AI已具備前兩層——AlphaGo的第37步、AI發現新數學定理和新蛋白質結構都體現了這一點。但第三層的變革式創造力，比如愛因斯坦提出相對論、畢加索開創立體主義那樣徹底改變領域認知框架的創造，現在的AI完全做不到。而能否做到變革式創造恰好就是抽象壁壘問題——如果ASI能突破抽象壁壘，就具備變革式創造力；如果突破不了，創造就永遠只能在人類框架裡打轉。ASI會追求什麼目標？很多人擔心超級智能會有自己的想法與人類對抗，但從理論上說AI的最終目標是人類設定的。不過不管最終目標是什麼，它都會產生一些共通的工具性目標——這叫工具性趨同，由史蒂夫·奧莫亨德罗和尼克·博斯特羅姆提出——它都會想要更多的資源、想要保存自己、想要提升自己的能力。當然這些問題也不是沒有解決方案，比如可纠正性和可中斷性研究想讓AI不會抗拒被關停和修改；還有一種思路是給AI設定知識尋求的目標，讓它以獲取信息、減少不確定性為目標而不是最大化外部獎勵，這種目標的好處是知識是非排他性的、是正和博弈，AI不會為了獲取知識去破壞世界，因為它一旦搞懂欺騙機制就對欺騙沒興趣了。AGI必須是智能體嗎？理論上可以存在神諭型AI只負責回答問題、不主動採取行動、沒有自己的目標，風險會小很多。但問題是經濟和實用壓力會不斷推動AI往更自主的方向走，因為人類監督太慢太貴了，越自主的AI效率越高成本越低，市場競爭的壓力最終會推著大家不斷給AI加自主權，走向完全自主的智能體。

報告的結論非常克制：我們沒法準確預測ASI什麼時候會來，甚至沒法百分百確定它一定能實現，但我們也沒法排除這種可能性。從目前跡象看，AI在達到人類水平之後大概率不會停下來——要麼會因為各種瓶頸提前停滯，要麼會比較平穩地繼續發展到弱ASI水平，或者被遞迴改進帶來快速跳躍。報告以艾倫·圖靈在1950年說的話作結：我們只能看清前方很短的一段距離，但我們能清楚地看到那裡有大量需要完成的工作。這一代人很可能會親眼見證人類歷史上最重大的技術變革，甚至可能親手推動這場變革。與其糾結於AGI到底哪年到來，不如多花點時間去理解和研究它，想辦法讓它朝著對人類有利的方向發展。