KeyFrame內部研究專用

天啊,这次轮到阿里!Anthropic告到参议院,中国大模型团队全被盯上了?

算力女粉丝6 min中文
觀看原始影片

三句話摘要

Anthropic指控中國AI公司通過API調用大規模蒸餾Claude模型,引發美國AI竞争的新戰線——從芯片封鎖擴展到模型輸出本身的控制。 AI競爭的規則正在改寫,從爭奪芯片擴展到保護模型輸出本身,而產業的產權邊界定義權正掌握在最先進的公司和政府手中。 模型蒸餾的新玩法:中國公司不偷代碼權重,只通過API提問記錄答案,用高質量輸出訓練自己的模型。這繞過了最昂貴的研發環節——大模型公司花幾十億美元打磨的能力被以API調用費低成本複製。

重點整理

  1. 模型蒸餾的新玩法:中國公司不偷代碼權重,只通過API提問記錄答案,用高質量輸出訓練自己的模型。這繞過了最昂貴的研發環節——大模型公司花幾十億美元打磨的能力被以API調用費低成本複製。

  2. 從商業糾紛升級為國家安全:Anthropic從2月的公開曝光升級到6月直接呈報美國參議員,一旦進入國會層面就不再是服務條款違規,而是潛在的國家安全威脅和出口管制問題。

  3. AI封鎖邊界的擴張:美國過去主要限制芯片供應(GPU芯片禁售),現在要保護的是模型輸出本身——每次推理、每個回答都可能變成他人的訓練數據,模型本身成為技術轉移載體。

  4. AI產權的深層矛盾:Anthropic過去用互聯網全量數據訓練模型稱之為"學習",如今反對他人用自己回答訓練模型稱之為"竊取",反映出產業尚未定義什麼構成合法學習與不當使用的邊界。

實用技巧與重點

  • 時間與規模數據:
  • 事件一:2026年4月22日至6月5日
  • 欺詐賬號數量:近2.5萬個
  • 交互次數:超過2880萬次
  • 事件二:2026年2月
  • 涉及公司:DeepSeek、暗面、Kimi、MiniMax等
  • 交互次數:超過1600萬次
  • 關鍵概念:
  • 對抗性蒸餾(adversarial distillation)
  • API調用成本相比芯片與訓練成本極低
  • 模型輸出=訓練數據=技術資產
  • Anthropic的主張:
  • 大模型公司投入數十億美元才達到現有能力水平
  • 模型的軟件工程能力、智能體能力、複雜推理能力是真正昂貴的部分
  • 每次回答都可能暴露一種能力、成為他人訓練素材

結論

AI競爭的規則正在改寫,從爭奪芯片擴展到保護模型輸出本身,而產業的產權邊界定義權正掌握在最先進的公司和政府手中。

完整解析

這段視頻討論的是美國AI巨頭Anthropic最近發起的一場指控,矛頭指向中國大模型公司。根據Anthropic在6月寫給美國參議院的信件,阿里巴巴的新聞團隊相關運營者從4月22日到6月5日,利用近2.5萬個欺詐賬號向Claude API發起了超過2880萬次的交互。這不是首次——早在2月,Anthropic就曾公開點名DeepSeek、暗面、Kimi和MiniMax,指控這些公司的賬戶對Claude發起了超過1600萬次的交互。

表面上看,Anthropic指控的是違反服務條款的濫用行為,但事件的本質涉及一個更深層的問題:模型蒸餾。簡單來說,蒸餾就是利用強大模型的輸出來訓練較小的模型——學生不直接偷師傅的代碼和權重,只是不斷提問並記錄高質量答案,用這些答案重新訓練自己的模型。業界普遍這樣做,用強模型生成數據訓練更便宜的小模型,這在技術上是合理的。但當競爭對手批量調用你的API、系統性地用你的回答訓練自己的模型時,性質就變了。Anthropic眼中的真正威脅不是API被多調用了幾次,而是Claude最昂貴的部分——那些經過數十億美元投入、通過工程團隊反覆調試、加入人類反饋和安全訓練才打磨出來的能力——被以API調用費這種極低成本輕易複製了。

更關鍵的是,Anthropic將這件事呈報給了美國國會。這一步將事件從商業糾紛升級為潛在的國家安全問題。一旦進入政府層面,問題就不再是平台封號或提高API價格(競爭對手總能想辦法繞過),而可能演變成出口管制、黑名單制裁,甚至直接禁止中國團隊接觸美國最先進的AI能力。Anthropic想讓美國政策制定者接受一個新概念:AI的真正控制點不只是芯片。過去幾年美國通過禁止GPU出口來限制中國AI發展,但如果中國團隊拿不到先進芯片卻可以通過API調用美國最強模型並用其輸出訓練自己的系統,那就相當於變相獲得了能力。在這個邏輯下,模型的每個回答都成了技術轉移的載體。

這裡卻存在深刻的矛盾。Anthropic和整個大模型行業過去恰恰是用互聯網全量數據訓練出來的,當時業界的說法是"這是學習、這是合理使用"。現在輪到自己被學習時,他們改口說"這是能力抽取、這是不當竊取、這是侵犯資產"。這反映了AI產業最尷尬的地方:產權邊界根本沒有定義清楚。人類寫的文字能被模型學習嗎?可以。模型生成的答案能被另一個模型學習嗎?Anthropic說不能。但如果前者可以,為什麼後者就不可以呢?

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI