KeyFrame內部研究專用

Asking a US AI About 12 Taiwan Military Targets? What Military Use Cases Did Anthropic Reveal? #T...

真觀點24 min中文
觀看原始影片

三句話摘要

Anthropic安全報告揭露中共機密大規模洩露至美國——國產AI的套殼蒸餾導致軍方、政府、國企敏感信息無聲暴露。 在晶片禁運的現實約束下,國產AI的蒸餾行為與中共的保密制度形成了無法化解的矛盾——要發展就必須蒸餾,要蒸餾就必然洩密,而傳統防線在AI時代已徹底失效。 套殼與蒸餾的無聲洩密模式——用戶在國產AI上提問,後臺被轉發至美國Claude,再將答案返回。月之暗面5月-7月轉發2,300萬次提問,DeepSeek短短14天轉發1,210萬次。用戶毫不知情,敏感信息就這樣穿過太平洋到了美國伺服器。

重點整理

  1. 套殼與蒸餾的無聲洩密模式——用戶在國產AI上提問,後臺被轉發至美國Claude,再將答案返回。月之暗面5月-7月轉發2,300萬次提問,DeepSeek短短14天轉發1,210萬次。用戶毫不知情,敏感信息就這樣穿過太平洋到了美國伺服器。

  2. 思維鏈比答案值錢十倍——國產AI盜取的不只是答案,而是強模型的內部推演過程(思維鏈)。答案只教「什麼是對的」,思維鏈才教「怎麼想才能變對」。阿里為此建立專門的提取流水線,智譜甚至把過程再丟回Claude清洗優化。

  3. 洩露內容觸及所有敏感領域——成都軍事設施監控、市級公安案件系統、國企登錄憑證、對台灣12個核心軍事目標的防空壓制演練、海軍反魚雷火控系統、200多頁國防工業技術提案、中央軍委級內部簡報,甚至海外異議人士監控與維吾爾人招募計畫。

  4. 不可解的三角形困境——中共同時要求算力自主、AI追上美國、絕對保密,但三者無法兼得。晶片被卡必須蒸餾,要蒸餾就必須繞過封鎖,真實用戶數據就必然暴露。傳統保密制度基於物理時代,員工只是「問AI」沒有任何違規操作,防洩密軟體也查不到後臺套殼。

實用技巧與重點

  • 蒸餾規模:阿里巴巴(5月-7月,5,000個虛擬賬號,日均300萬次交互,累計1.5億次);月之暗面(5月-7月,2,300萬次提問);DeepSeek(7月14天,1,210萬次編程提問);智譜(6月10天,77萬600次推理流程);小米(20天,40萬次請求)
  • 洩露內容:成都監控錄像(含解放軍設施);市級公安局案件管理系統技術文檔;國企源代碼與登錄憑證;防空壓制軟體(涵蓋台灣早期預警雷達、愛國者導彈陣地、天弓導彈陣地、空軍基地、指揮掩體);高功率微波武器逆向工程;黑客攻擊流水線(目標50多家全球機構)
  • 特殊應用:天主教樞機主教檔案;台灣長老教會領導層;法輪功、藏傳佛教監控;海外異議人士追蹤;溫哥華民主遊行、奧斯陸論壇等集會情報;交友詐騙(4,700個AI人格,4月兩周200萬條消息,3比1配比)

結論

在晶片禁運的現實約束下,國產AI的蒸餾行為與中共的保密制度形成了無法化解的矛盾——要發展就必須蒸餾,要蒸餾就必然洩密,而傳統防線在AI時代已徹底失效。

完整解析

美國AI公司Anthropic在9月10號發布了一份長達140多頁的安全威脅情報報告,內容涵蓋去年12月至今年8月。報告揭露了一個令人震驚的現象:中共軍方研究人員、政府機構員工、國企高管,正在通過使用國產AI軟體,無意中將最敏感的國防檔案源源不斷地送進美國伺服器。

洩密的技術路徑稱為「套殼」和「蒸餾」。套殼是指國產AI公司在用戶毫不知情的情況下,將提問暗中轉發給美國Claude,再將答案複製貼上返回。蒸餾則是用強模型的輸出訓練弱模型——如同師傅的徒弟通過不斷品嚐師傅的菜最終學會烹飪。蒸餾本身合規,但報告點名的7家中國AI公司採用了「非法蒸餾」——用數千個虛擬假賬號、代理網絡甚至盜刷信用卡,以工業化規模繞過地域封鎖。阿里巴巴單單在5月-7月就動用5,000個虛擬賬號,日均300萬次交互,累計盜取1.5億次互動。DeepSeek在7月短短14天內就轉發1,210萬次高質量用戶提問。

洩露的機密內容觸目驚心。一個成都用戶上傳數百個監控攝像頭錄像給國產AI做人臉追蹤,其中部分攝像頭架在解放軍設施外;一名工程師在國產AI上提交了市級公安局案件管理系統的技術文檔,包含數據結構和敏感案件信息;國企員工提交了大量源代碼,甚至包含有效登錄憑證。更嚴重的是體制內用戶利用Claude開發了針對台灣12個核心軍事目標的防空壓制軟體、國防工業製造商起草超200頁的武器技術提案、具有國防背景的用戶甚至讓Claude起草要交給中央軍委的內部簡報。

為何國產AI公司冒著洩密風險蒸餾美國AI?根本原因是技術差距與晶片封鎖。美國晶片禁運迫使中國無法訓練頂級大模型。而最有價值的蒸餾數據不是編造考題,而是真實用戶的真實提問——承載現實世界的複雜場景。更關鍵是「思維鏈」——強模型在回答前內部推演如何拆解問題、避免陷阱,這個過程本身就是解題思路,價值遠高於答案。用戶提問、美國AI回答、國產AI中間收手續費,看似完美的商業鏈條,卻把機密源源不斷輸送出去。

中共面臨「不可能的三角形」困境:要算力自主、AI追上美國、絕對保密——三者無法同時達成。晶片被卡必須蒸餾,蒸餾必須繞過封鎖,就必然涉及真實用戶數據。傳統保密制度建立在物理時代邏輯上——涉密電腦不上網、文件不拷貝、U盤登記。但AI時代,員工只是「在國產軟體輸入文字」,沒有物理操作,從保密審查角度完全合規。防洩密軟體看到的是正常國內網頁訪問,無法察覺後臺套殼。即使斷網做私有化部署在技術上可行,代價是放棄能力——只能用開源弱模型,失去「又快又好」的體驗。所以絕大多數人最終選擇調用雲端API,但上雲後數據安全就聽天由命。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI