KeyFrame內部研究專用

How Anthropic ships the #1 LLM in the World safely: Separating the Brain from the Hands

Latent Space106 min英文
觀看原始影片

三句話摘要

Anthropic在IPO前夕深度解析其經營效率飛躍、模型安全防護機制,以及透過Rust重構API實現基礎設施規模化的技術戰略。 Anthropic通過雙迴圈驅動的經營模式、多層次的蒸餾防護與驗證體系,以及「大腦分離雙手」的架構創新,建立了既能高效擴規模又能確保安全的系統,成為AI時代企業運營與產品設計的典範。 經營效率的雙迴圈引擎:Anthropic通過改進迴圈(更好模型→更多應用→反饋增加→模型升級)與投資迴圈(使用擴大→投資增加→能力提升)相互推動,在一年內實現營收與計算成本比從0.5:1虧損翻轉為2:1獲利,終身融資突破100億美元但燃燒成本不到10億美元。

重點整理

  1. 經營效率的雙迴圈引擎:Anthropic通過改進迴圈(更好模型→更多應用→反饋增加→模型升級)與投資迴圈(使用擴大→投資增加→能力提升)相互推動,在一年內實現營收與計算成本比從0.5:1虧損翻轉為2:1獲利,終身融資突破100億美元但燃燒成本不到10億美元。

  2. 多層次安全防護體系:針對模型蒸餾威脅,Anthropic實施推理思維鎖定、多帳戶檢測、數據保留政策、驗證計劃(網安/生科)及信任授權系統。重點不在於商業損失(蒸餾模型反而幫助Anthropic獲利),而在於防止被盜模型失去安全分類器後造成負面社會影響。

  3. 架構先行的可靠性設計:Claude Managed Agents將大腦(持久化服務器保存狀態)與雙手(隔離沙箱執行代碼)分離,憑證存儲於獨立Vault,出站流量受網域允許清單約束。此設計讓沙箱逃逸在根本上不可能——非通過修補漏洞,而是改變整個威脅模型。

  4. AI工程的研究範式:內部採用Ant-fooding與早期訪問客戶迴圈測試,重視「vibes-based」反饋與正式eval的結合,利用Claude本身協助代碼編寫但由工程師掌控系統設計,展現AI時代軟體開發的新做法。

實用技巧與重點

  • 營收與獲利指標
  • 每員工營收:140萬→660萬美元(年增長率)
  • 營收與計算成本比:-0.5:1(Q2 2025)→ +2:1(現在)
  • 首次達成GAAP利潤率:19%(前年虧損129%)
  • 終身融資規模:>100億美元
  • 終身燃燒成本:<10億美元
  • IPO預期估值:2兆美元,預期二週內進行
  • 模型版本與性能
  • Claude 5.5:最高階模型,改善寫作清晰度,增強蒸餾防護
  • Fable 5.5、Sonnet、Haiku:梯級模型,預計近期發佈
  • Opus 5.5推理能力評測:業界領先
  • 預設推理參數(Effort):改為Medium(針對不同客群調整)
  • 關鍵技術組件
  • 推理思維鎖定(Thinking Token Preservation):防止跨轉向提取
  • 前綴鎖定(Prefix Locking):限制推理追蹤重放
  • 信任授權系統(Trust Grants):追蹤細粒度訪問權限
  • 架構模式:大腦(Durable Server) vs 雙手(Sandbox Container)
  • 憑證管理系統:Vault+代理注入+出站限制
  • 驗證與訪問控制
  • 網安驗證計劃(Cyber Verification Program):安全研究人員存取高階網安能力
  • 生科驗證計劃(Life Science Verification Program):受管制訪問生物相關功能
  • 數據保留政策:Fable施行,Opus 5.5豁免
  • 單一按鈕回滾機制(Single Button Shutdown):應急完全撤回
  • 基礎設施重構
  • API改寫語言:Python單體→Rust分散式
  • CPU節省幅度:40-50%
  • 延遲改善:首字(TTFT) 10-20%,長工作負載更高
  • 驗證方式:Shadow Traffic對照Python/Rust輸出一致性
  • 開發人力:初期零Rust開發者,透過Claude協助代碼編寫
  • 開發流程與評估
  • Ant-fooding:內部員工充分使用Claude測試
  • 早期訪問客戶:Cognition、Heroku等擁有健全eval能力的公司
  • 評估方法混合:靜態測試 + LLM as Judge + Vibes-based反饋
  • 多Agent策略:Dreaming(自我進化)、Memory(跨轉向記憶)、Skills(工具集成)
  • Claude平台生態
  • Claude Platform:全棧開發環境,>50%客戶(營收≥100k)採用
  • Claude Code/Co-work:使用同一底層原語
  • Claude Managed Agents(CMA):託管Agent服務,內建安全防護
  • 沙箱基礎設施:多區域部署,支援代碼執行與推理

結論

Anthropic通過雙迴圈驅動的經營模式、多層次的蒸餾防護與驗證體系,以及「大腦分離雙手」的架構創新,建立了既能高效擴規模又能確保安全的系統,成為AI時代企業運營與產品設計的典範。

完整解析

Anthropic在IPO前夕的這場播客,深度揭示了公司在短短一年內如何從虧損轉向獲利、在快速擴大規模同時確保模型安全的完整戰略。

首先從經營數據看,Anthropic的效率提升之劇烈令人矚目。每員工營收從一年前的140萬美元飆升至660萬美元,接近五倍成長。更震撼的是利潤率的完全逆轉:去年虧損達營收的129%(意即每賺一美元虧損1.29美元),今年卻達到了19%的GAAP利潤率。這種轉變並非來自裁員或削減研發,而是源於模型能力進步帶來的使用量爆炸成長。講者將其歸納為兩個相互推動的迴圈:改進迴圈(更強的Claude→更多應用場景→用戶反饋增加→模型持續優化)與投資迴圈(使用擴大→營收快速成長→更多投資→更強的模型能力)。這兩個迴圈相互纏繞,形成了自我加速的效率引擎。

在產品層面,Claude 5.5於上週發佈,相比Opus 5前代在寫作清晰度與表達流暢性上有顯著改進。但更深層的工作是面對模型蒸餾的威脅。核心安全考量是:如果有人成功蒸餾Claude並在移除Anthropic安全分類器的環境中運行,就可能產生有害結果。因此Anthropic實施了推理思維鎖定機制(防止跨對話轉向提取思維tokens)、多帳戶檢測等防護措施。但這些措施並非一刀切,而是針對每個模型進行個性化設定——例如Opus 5.5不需要Fable那樣嚴格的數據保留政策。與此同時,Anthropic還建立了雙層驗證計劃體系:網安驗證計劃允許安全研究人員在放寬在線安全措施的環境中研究模型的網安能力(如滲透測試),生科驗證計劃對生物相關功能的訪問進行類似的受管制授權。這些計劃不是為了限制功能,而是為了安全地賦能善意使用者。

在基礎設施層面,Anthropic正經歷前所未有的規模挑戰。CPU與沙箱成為新的約束瓶頸,促使公司做出了激進決策:完全重寫Messages API,將原本的Python單體系統轉換為Rust分散式架構。這在一年前Claude尚無任何Rust開發者的情況下是不可想像的。關鍵做法是組建了一支專門的swap team,在嚴格的「無須添加新功能」約束下完成整個端口工作。同時利用shadow traffic驗證Python版與Rust版的輸出完全一致,然後才逐步切換流量。最終成果是40-50%的CPU節省和10-20%的首字延遲改善。這次重構也打開了新的優化空間,例如計劃實現會話狀態在服務端持久化以進一步減少上下文傳輸開銷。

Claude Managed Agents的架構設計充分體現了Anthropic的安全優先理念。它採用了「大腦分離雙手」的模式:大腦是一個持久化的Durable Server,保存Agent的狀態、對話歷史與執行記憶;雙手是隔離的沙箱或容器環境,用來執行Agent生成的代碼。這種分離帶來多重好處:首先,即使沙箱崩潰,Agent狀態不會丟失;其次,初始請求可以快速返回token,無需等待沙箱啟動。更關鍵的是,所有敏感憑證(API金鑰、認證tokens等)都存儲在一個完全獨立的Vault中。當Agent決定呼叫某個服務時,它只會看到一個佔位符,真正的憑證由出站代理在流量離開系統前動態注入。同時配合嚴格的網域允許清單與網路關閉選項,沙箱無法進行任何意外的外部通信。這種設計讓沙箱逃逸攻擊在根本上不可能發生——不是通過試圖修補每個漏洞(這是被動防禦),而是通過改變整個威脅模型本身(這是主動設計)。

開發流程方面,Anthropic採取了類似研究的迭代方法。內部採行「Ant-fooding」(Anthropic員工自己大量使用Claude與內部產品)來捕捉早期問題。然後與Cognition、Heroku等具備健全評估能力的早期訪問客戶合作測試新模型。重要的是,評估並非只依靠自動化測試,而是混合了「vibes-based」反饋——即產品經理或工程師基於親身體驗的主觀判斷。例如某些測試者會反饋「模型太被動了,沒有主動完成任務」,而另一些則會說「模型太積極了,我還沒準備好就寫了一堆代碼」。這種對立的反饋讓模型團隊必須做出判斷性決策,而不是簡單地優化某個單一指標。一旦發現問題(如模型表現過於被動),他們會「把模型放回烤箱」重新訓練該特性。

關於Claude Managed Agents的未來,Anthropic正在計劃開放更多的多Agent策略原語。Dreaming就是一個範例——它本身是一個CMA Agent監視另一個CMA Agent的執行過程,然後寫入記憶信息。公司意識到,與其嘗試在平台層面實現所有可能的Agent模式,不如公開這些構件(multi-agent building blocks),讓開發者自己組合出新穎的策略,同時Anthropic團隊可以將重點轉向安全防護與模型能力這些核心問題。

83 min
企業管理英文PODCAST11月19日

Scaling Linear’s GTM to $100M ARR — Cristina Cordova, COO

Latent Space看原片 ↗
  • 議題追蹤已死的真正含義:不是issue單位消失,而是人類應停止手動追蹤工作。Linear著重構建AI友善的系統,讓代理自動執行原本由人工完成的繁瑣步驟(標籤、指派、狀態更新),讓工程師和PM把時間花在產品開發上。
  • 務實的市場階梯策略:Linear沒有直接攻擊企業市場,而是先聚焦成長期公司—那些已有既有工具但可被說服轉換的組織。唯有成功說服這個客群,才有信心向上攻擊企業。這個策略花了兩年時間,直到2025年才正式啟動企業銷售部門。
98 min
AI 技術英文PODCAST11月16日

Building Visual Intelligence — Andreas Blattmann & Dustin Podell, Black Forest Labs

Latent Space看原片 ↗
  • 從研究到商業的轉折點:穩定擴散2022年開源不僅改變了講者個人的職涯軌跡,也啟發整個社群。Dustin因此辭職投身AI,Andy看到了基礎模型產業化的可能性,這股動能直接催生Black Forest Labs的創辦。
  • 資料品質優於複雜算法:整個採訪反覆強調資料的重要性。從SDXL的多寬度訓練、SD3的文字渲染,到Flux Context的編輯能力,關鍵都不在算法創新而在精心設計的資料集。Dustin在法國小屋用6小時訓練測試集就看到編輯能力湧現,說明好資