AI3 0 EP04： 意义的鸿沟

2012 年深度學習在 ImageNet 競賽中的勝利，以及 AlphaGo 在圍棋上的突破，讓世人對 AI 的能力充滿期待。然而，一系列「對抗性攻擊」實驗正在系統性地揭示這些進展的脆弱根基：研究者只需在圖片上疊加肉眼幾乎無法察覺的噪點，訓練至超人類水準的圖像識別系統便會以近乎 100% 的置信度做出完全錯誤的判斷。更令人不安的是，即使是看起來完全像隨機噪聲的圖片，系統也能「自信地」將其歸類為具體物體。在 Atari 遊戲中，只要將球拍在螢幕上移動幾個像素，系統的表現就會驟然崩潰——這說明它從未習得「球拍」的概念，只是記住了某種特定的像素配置。

理解為何會如此，需要先理解人類的認知方式。當我們看到一位推著嬰兒車、牽著狗、邊打電話過馬路的女士，我們在瞬間完成了大量推理：狗可能突然亂跑、按喇叭她會轉頭、她的鞋子不會飄走。這些「不言而喻」的判斷建立在三種核心直覺之上——直覺物理學（物體運動規律）、直覺生物學（生物與非生物的本質差異）、直覺心理學（他人的意圖、信念與情感）。心理學家稱之為「心智模型模擬」，嬰兒從出生起便開始建立這套系統，它源自無數次的親身體驗，而非任何規則的列舉。深度學習系統在處理數百萬張標注圖片後，依然沒有具備這種基礎能力。

除了感知層面的脆弱，深度學習在高風險應用中還面臨兩個結構性問題。其一是算法偏見與黑箱問題：當 AI 被用於信貸評估或刑事司法風險評估時，系統從包含歷史不平等的數據中學習，學到的不是「什麼是正確的」，而是「過去發生了什麼」，結果便對特定群體產生系統性偏見，而其不可解釋的內部結構使得問責幾乎不可能。其二是長尾效應：系統在常見情況下表現出色，但在訓練集中極罕見的邊緣情況下必然失靈，而現實世界中這些少見情況往往最為關鍵——人類駕駛員在遇到從未見過的路況時，會以常識進行類比推理，這種遷移能力是深度學習目前尚不具備的。

認知科學家 Hofstadter 以「字符串類比實驗」精準定位了核心缺口：ABC→ABD，XYZ 應如何類比改變？正確答案是 XYA——這需要先感知到 Z 是字母表的末端，再類比地跳轉回首字母 A。這種跨語境感知共同本質、實現概念遷移的能力，正是他所定義的「真正的類比能力」，也是他論斷的核心：「沒有概念，就沒有思想；沒有類比，就沒有概念。」特斯拉 AI 總監 Karpathy 分析奧巴馬在更衣室惡作劇的照片，列出人類在看一眼時所完成的完整推理鏈——識別鏡像、感知三維空間、推測隱藏意圖、理解玩笑的社會語境、預測他人心理狀態——最後坦言：「我們真的、真的相距甚遠。」這不是對 AI 潛力的否定，而是對人類智能真實複雜性最誠實的正視。