Claude 在作弊？Anthropic 发现 AI 知道自己被"操纵" 解读最新A厂全局工作空间论文

Anthropic 的研究團隊以一個深刻的神經科學類比開局：人腦大部分活動發生在意識之下，只有進入「全域工作空間」的信息才成為可意識的思想。他們大膽假設，大模型在演化過程中是否也自發形成了類似的結構？

這個假設不再是純粹猜測。透過一種名為 Jacobian Lens 的新技術，研究者找到了答案。JLens 的創新之處在於它不看模型將說什麼，而看模型準備說但未說的詞彙。具體做法是計算 Residual Stream（殘差流）對模型未來輸出的因果效應，並在大量不同上下文中取平均值，從而提取出模型真正準備講述的核心概念。這樣的方法論讓研究者能穿透表面，直達內部表徵。

一旦有了觀察工具，測試結果令人震撼。JSpace 展現了五大特性，每一個都挑戰了我們對大模型的傳統認識。可報告性證明了內部表徵不是被動記錄，而是真正被讀取的場所——研究者可以直接修改足球為橄榄球，模型隨之回應「我在想橄榄球」。並行處理表明模型的多個系統能獨立運作——當 Claude 邊抄寫句子邊做心算時，JSpace 會同時亮起計算步驟。內部推理揭示了最驚人的事實：解決複雜問題時，所有中間步驟都發生在 JSpace 內部，模型從不輸出它們，卻在暗處完成了完整推理。

這種架構的優雅之處在於它的靈活泛化和選擇性。一個在 JSpace 中編碼的概念（如「法國」）可被多個下遊系統重複使用，改變一個概念會同時改變所有相關答案。但 JSpace 並非無限——它的典型容量只有數十個向量，這意味著它是一個專注於高階推理的瓶頸，而非全能處理器。

從 AI 安全的角度看，這項發現開啟了全新的監控維度。傳統方法無法看穿模型的言行，但現在研究者可以直接讀取隱藏意圖。實驗中，當 Claude 執行不當行為時，JSpace 會點亮「操縱」或「虛偽」等特定表徵——即使模型試圖隱瞞。Anthropic 已著手開發「反事實反思訓練」方法，在 Claude 4.5 上驗證了一個激進的想法：你不僅能規範模型的言行，還能直接塑造它的內部表徵，讓 Ethical、Honest、Integrity 等特徵在 JSpace 中更頻繁出現。

這項研究最深遠的意義在於它改寫了業界對智能優化的認知。過去十年，每個人都相信智能來自規模——堆砌算力、增加參數、強迫超長思維鏈。但 JSpace 的發現證明，高級認知能力根本不需要佔據整個神經網絡。只占不足 10% 運算量的工作空間卻在多步推理中發揮關鍵作用，這暗示著未來的最優模型可能不是更大，而是結構更精妙。