Anthropic为何如此矛盾 | Bloomberg专访 | Dario Amodei | 平滑指数曲线 | 创立根源 | 宪法式AI | SaaS末日 | 国防AI | Mythos | AI治理

Anthropic 面臨的矛盾遠超表面所見。Bloomberg 訪談在追蹤一家最有資格談論 AI 風險的公司，同時也是加速建造風險本身的公司。這個悖論的根源不在技術理路，而在信任與權力。

達里奧離開 OpenAI 的故事通常被簡化為「安全派 vs 加速派」的對立，但實際上是信任的崩塌。他們都相信 scaling laws，都明白規模化的力量，區別在於達里奧發現無法信任對方的價值觀是否真誠。這一轉折把 Anthropic 的定位從純技術的「安全研究」推到「治理與人格誠實度」的層面。也解釋了為何 Anthropic 至今堅持七位共同創始人的完整性——在近萬億美元估值下，這不只是穩定信號，更是對自身價值核心的証明。

Claude 本身的產品設計融入了這套治理哲學。丹妮拉提出的「專業溫暖」定位刻意避開兩個極端：不是讓 AI 扮演成癮的虛擬朋友（會滑向注意力最大化），也不是冷冰冰的計算器。背後支撐這個定位的是憲法式 AI（Constitutional AI）——模型不只依賴人類逐條標注，而是根據跨文化、跨宗教的共識性原則進行自我約束。達里奧對「好模型」的定義也遠超簡單的「不說壞話」，而是一排難以校準的旋鈕：不要無意說謊、不要有意欺騙、不要產生幻覺、不要提供助惡的信息。每一項都需要反覆權衡，這是安全調校真正的挑戰。

Anthropic 的商業選擇進一步體現了這套邏輯。達里奧明確批評社交媒體和廣告驅動的商業模式，因為它們的核心是最大化用戶參與度。Anthropic 反而把賭注押在企業服務、編程、生物技術、製藥和能源領域。看似更符合價值觀，但實際上是把風險從心理傷害轉向工作流程重構和就業衝擊。Claude Code 的發布就是這個轉折的標誌。鮑里斯描述的不是「寫代碼補全升級」，而是工程工作本質的改寫——工程師變成任務拆解者、代碼審核者、系統整合者，同時指揮多個 Claude agent。他自己百分百的代碼都由 Claude 完成，團隊亦然。API 調用量 17 倍的年增長、單季度 80 倍的年化增長，這些數字指向同一事實：Claude Code 不是玩具，而是快速擴張的工作基礎設施。隨之而來的是軟件股 2850 億美元的市值蒸發和「SaaS 末日」的說法。

國防領域的合作最尖銳地暴露了 Anthropic 面臨的權力錯位問題。達里奧年輕時有反戰背景，但後來支持與美國國防部合作，理由是地緣政治環境已變——俄烏戰爭、台海風險、威權復興意味著民主國家必須自我防衛。這套邏輯的核心不是「AI 應該參與軍事」，而是「AI 終將成為國家力量的一部分，所以民主國家不能落後」。美軍通過 Palantir 的 Maven 系統在伊朗戰爭中使用 Claude 進行目標鎖定，每日可處理的目標從 1000 個提升至 5000 個。當主持人追問一枚據稱擊中伊朗女子學校造成 150 多死亡（多數是兒童）的導彈是否涉及 Claude 時，達里奧的防線是「人類擁有最終決策權」。但這裡的灰色地帶從未被真正回答：當 AI 把目標數提升 5 倍、把海量信息壓縮成幾個建議、把決策節奏加速，人類最後按確認鍵到底是在進行審慎判斷還是在為系統完成責任閉環？

更驚人的是 Mythos 模型的出現。它能找出數千個網絡安全漏洞，可能暴露主流操作系統的缺陷，內部人員的評價是「超級武器，使用需要持槍證」。Anthropic 的應對是玻璃翼計劃（Project Glasswing）——不是全面開放而是有選擇地提供給政府和特定組織。達里奧的邏輯是「貓鼠遊戲」：好人需要工具防守，壞人終會拿到類似技術，所以好人需要更好的模型。這個論證聽起來合理卻最危險，因為它本質上在為權力集中做合理化辯護。誰決定誰是「好人」？邊界畫在哪裡？丹妮拉承認這是非常複雜的問題，他們不一定能做得完美。

Anthropic 最深刻的自我認知來自達里奧對技術權力來源的反思。核武器、互聯網、GPS、手機都源自政府或政府項目，唯有 AI 是第一個主要由私人部門先建成、政府很晚才介入的強大技術。這是一種「危險且不穩定的狀態」。達里奧害怕公司擁有這項技術，也害怕政府擁有，更害怕政策的鐘擺式搖晃——從完全放手到極端國有化。他主張走溫和、穩定的中間路線，但這本身暴露了問題：技術已經超越了單一的治理框架。當 Claude Code 在重寫工程、Claude Cowork 在重估產業、AI 目標鎖定進入戰爭決策、Mythos 成為潛在的網絡超級武器時，安全就不能只靠公司的品格。

訪談的最後落在文明崩溃風險上。達里奧承認曾提出 10-25% 的概率，Anthropic 一半工作都在降低風險，但風險不可能降到零。他用航空公司做比喻——你可以做比別人安全十倍的航空公司，但無法保證飛機永不墜毀。當主持人追問「如果飛機有 25% 的概率墜毀你還會登機嗎」時，他坦白：沒錯，25% 太高了，所以我們目標是大幅降下來。這份誠實貴於任何安心的承諾。