KeyFrame內部研究專用

硅谷三巨头首次联手,目标直指中国AI | OpenAI、Anthropic与谷歌联手应对中国模型蒸馏 #ai #openai #gemini #claude

老猫杂谈·4月8日週三·14 min中文

三句話摘要

OpenAI、谷歌、Anthropic 三強聯手,透過「前沿模型論壇」共享情報,共同對抗中國 AI 企業以「對抗性蒸餾」技術竊取美國頂尖模型能力的行為。 --- 對抗性蒸餾讓美國 AI 公司面臨「花百億訓練、競爭對手零頭複製」的結構性困境,聯合情報共享是第一步,但法律邊界未清、證據難以確鑿,這場博弈仍遠未結束。 對抗性蒸餾是核心爭議點:蒸餾本是 AI 領域合法的模型壓縮技術,但在未獲授權的情況下,競爭對手大量查詢他人 API 並收集輸出訓練自家模型,即構成「對抗性蒸餾」,此舉以極低成本複製出教師模型七八成的能力。

重點整理

重點
  • 1

    對抗性蒸餾是核心爭議點:蒸餾本是 AI 領域合法的模型壓縮技術,但在未獲授權的情況下,競爭對手大量查詢他人 API 並收集輸出訓練自家模型,即構成「對抗性蒸餾」,此舉以極低成本複製出教師模型七八成的能力。

  • 2

    安全護欄可能在蒸餾過程中被移除:美國模型訓練時加入的安全限制(如防止用戶學習製造病原體),在蒸餾後可能被刻意拆除,造成「沒有鎖的槍」,將技術風險升級為國家安全威脅。

  • 3

    開放權重模式對美國商業模式構成結構性衝擊:中國企業主打開放權重、免費下載自行部署,直接衝擊 OpenAI 等依賴 API 按次收費的商業邏輯,動搖用戶付費訂閱的動機。

  • 4

    反壟斷法律框架制約了情報共享的深度:各公司雖有意聯手,但擔心資訊共享被認定為壟斷協議,目前實際共享仍相當有限,需等待美國政府提供更明確的法律指引。

  • 5

    --

實用技巧與重點

乾貨
  • 組織名稱:前沿模型論壇(Frontier Model Forum),2023 年由 OpenAI、谷歌、Anthropic、微軟共同成立,非營利行業組織
  • 技術名稱:對抗性蒸餾(Adversarial Distillation);蒸餾後可複製教師模型 70–80% 以上能力
  • 損失估計:美國官員私下估計,未授權技術提取每年造成矽谷 AI 實驗室數十億美元利潤損失
  • 關鍵時間線
  • 2025 年 1 月:DeepSeek 發布 R1 推理模型,成本僅為美國同類模型零頭,引發全球震動
  • 2025 年起:微軟、OpenAI 開始內部調查 DeepSeek 是否違規提取數據;Anthropic 宣布禁止受中國控制企業使用 Claude
  • 2026 年 2 月:OpenAI 向美國眾議院特別委員會提交備忘錄,點名 DeepSeek 持續以更複雜手段提取模型結果;Anthropic 點名三家中國企業
  • 被點名企業:DeepSeek(杭州)、MiniMax(上海)、月之暗面(北京)
  • 政策依據:川普政府《人工智能行動計劃》明確提出建立「信息共享與分析中心」,目標之一即對抗蒸餾行為
  • 推斷蒸餾的替代指標:短時間內發起天文數字級別 API 查詢請求的帳戶數量
  • --

結論

結論

對抗性蒸餾讓美國 AI 公司面臨「花百億訓練、競爭對手零頭複製」的結構性困境,聯合情報共享是第一步,但法律邊界未清、證據難以確鑿,這場博弈仍遠未結束。

完整解析

詳細

美國 AI 競賽內部正悄然發生一件罕見的事:平時互搶市場的 OpenAI、谷歌與 Anthropic,如今坐在同一張桌子上交換情報。驅使他們走到一起的,是一個共同的壓力來源——中國 AI 企業被指透過「對抗性蒸餾」技術,以極低成本複製美國頂尖模型的能力,並以更便宜的價格搶食市場。美國官員私下估計,此行為每年造成矽谷損失高達數十億美元,而這件事真正讓政府緊張的,不只是商業損失,而是安全護欄可能被拆除的風險。

蒸餾技術本身並不違法。其邏輯如同學生學習老師:一個龐大的「教師模型」已具備強大能力,較小的「學生模型」透過反覆學習教師模型的輸出,就能以遠低於從頭訓練的成本,達到七八成甚至更高的水準。AI 實驗室自己也會用這項技術把大模型壓縮成手機可運行的小模型。問題出在「授權」二字:若競爭對手未經許可,大量呼叫 API 收集輸出結果來訓練自家模型,便構成「對抗性蒸餾」。更危險的是,原始模型訓練時加入的安全限制,例如防止用戶學習生化武器製造方法的護欄,在蒸餾過程中可能被刻意移除,使技術成為無鎖的武器。

DeepSeek 的 R1 模型是這場爭議的導火線。2025 年 1 月,這款來自杭州的推理模型以媲美美國頂尖模型的表現,卻僅需其零頭的成本震驚全球。微軟與 OpenAI 隨即展開內部調查,追查 DeepSeek 是否違規提取數據。調查結論未有定案,但至 2026 年 2 月,OpenAI 在提交美國眾議院特別委員會的備忘錄中直接聲明,DeepSeek 不僅沒有收手,反而以更複雜的手段持續提取其模型結果,用以開發新版聊天機器人。Anthropic 則更進一步,點名 DeepSeek、MiniMax 與月之暗面三家企業,並將此定性為已超越企業競爭層次的國家安全風險。

三家公司的應對策略,是透過 2023 年共同成立的「前沿模型論壇」共享情報,模仿網路安全領域的資訊共享機制,共同識別大規模異常 API 查詢行為、封禁相關帳戶、並準備集體法律訴訟。川普政府的《人工智能行動計劃》也背書支持,明確提出建立信息共享與分析中心。然而,現實推進緩慢:各公司擔憂在反壟斷法律框架下,過度共享可能構成違規協議,因此仍在等待政府提供更清晰的法律邊界。更根本的挑戰在於,三家公司至今無法提出確鑿證據,直接證明中國模型的技術突破在多大程度上仰賴蒸餾,只能以異常 API 查詢量作為間接推斷。在這場沒有硝煙的 AI 軍備競賽中,技術、商業、法律與國家安全的博弈,已遠比外界所見複雜。

---

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。