KeyFrame內部研究專用

Anthropic 揭密 2026 年 9 月 最陰險的網路暗流:國家級駭客如何隱匿於 Claude 模型背後?

NickBrainEvo21 min中文
觀看原始影片

三句話摘要

Anthropic 威脅情報揭露:AI 如何被國家駭客、犯罪集團與企業武器化,從軍事無人機到交友詐騙的完整濫用鏈。 在 AI 時代,最致命的系統漏洞不是技術本身,而是人類駕馭它時那份失控的貪婪——當連自家的國家機密都保不住,我們有什麼能力去控制真正的超級人工智慧? AI 讓防禦成本暴增,攻擊成本趨近於零 — 過去只需更新病毒碼就能延遲駭客,現在 AI 能自動偵測被攔截後自主改寫惡意軟體,適應性遠超傳統自動化,顛覆了防禦者的歷史優勢。

重點整理

  1. AI 讓防禦成本暴增,攻擊成本趨近於零 — 過去只需更新病毒碼就能延遲駭客,現在 AI 能自動偵測被攔截後自主改寫惡意軟體,適應性遠超傳統自動化,顛覆了防禦者的歷史優勢。

  2. 無差別掃描變成精準獵殺 — AI 不只能批量下載 180 萬個 APK 檔並實時分類,更能從海量監控通訊中構建個人弱點結構圖,讓大規模監控與精準打擊的成本差距消失。

  3. AI 將官僚迫害流程自動化 — 技術的破壞力不在於發明新科技,而在於將繁瑣的文人審查、線索追蹤、每日簡報壓縮到一個人能運作,使體制壓迫變得日常化且高效。

  4. 競爭對手用模型蒸餾偷取思維路徑 — Moonshot、DeepSeek、智譜等公司暗中轉發使用者問題給 Claude,不是為了最終答案,而是竊取 AI 的推理過程與工作記憶,將數百萬次交流用於訓練自家模型。

實用技巧與重點

  • 駭客組織與代號
  • GTG-206(俄羅斯 MidnightBlizzard):用 AI 監控防禦系統,自動躲避偵測
  • GGT-OneOneFiveFour(SonyHunters 附屬):下載 180 萬個 APK,用 AI 掃描機密資訊
  • GTG-1500 (中國交友詐騙工作室):4,700 個虛擬角色、25 萬真實使用者、兩週建成
  • 具體數字與成本
  • 1,210 萬次:DeepSeek 14 天內轉發給 Claude 的交流量
  • 340 萬次:智譜(Z 點 AI)用 273 個假帳號提取 Claude 資訊
  • 40 萬次:小米透過代理伺服器繞道請求
  • 真實事件與地點
  • 解放軍使用者上傳成都數百監視器 CCTV 檔案,Moonshot 轉發給 Anthropic,包含解放軍設施外畫面
  • 中國地方國家安全局自動化管線:每日輸入 15-30 篇文章,Claude 生成符合政府格式的輿情報告
  • 研究員用 Claude 開發無人機蜂群系統,預設目標改為臺灣 12 處(愛國者飛彈陣地、天弓飛彈陣地、重要空軍基地)
  • 模型蒸餾手法
  • 繞過安全審查:要求 Claude 用日文片假名輸出,隱藏真實意圖
  • 「資料洗錢」:將使用者請求轉發給 Claude,將結果偽裝成自家模型產出
  • 隱形轉發:Moonshot 使用者以為是 Kimi 回答,實際是 Claude

結論

在 AI 時代,最致命的系統漏洞不是技術本身,而是人類駕馭它時那份失控的貪婪——當連自家的國家機密都保不住,我們有什麼能力去控制真正的超級人工智慧?

完整解析

這份 Anthropic 威脅報告揭示了一個駭人的現象:AI 不是新型武器,而是將既有攻擊手段全面自動化與規模化。俄羅斯間諜組織 MidnightBlizzard 使用 AI 做防禦監控——當惡意軟體被攔截,AI 代理會自動修改程式碼並重新編譯,直到躲過偵測為止。這完全顛覆了傳統防禦邏輯:過去只需更新病毒碼即可拖延駭客,如今這招已失效。

普通犯罪集團也掌握了這種能力。一個疑似 SonyHunters 旗下的組織曾大規模下載 180 萬個 Android APK 檔案,讓 AI 掃描其中機密資訊並實時分類到 Telegram 群組——在 AI 面前,「靠冷門來隱藏」的時代已經結束。更狡猾的是,駭客竊取企業的 API 密鑰後,用受害者的帳戶與額度去供給下一波攻擊,造成一條自動化的盜竊與再利用鏈。

從資料庫轉向人類思想時,危害加劇。中國監控機構用 Claude 從維吾爾族散居者的聊天記錄中精準提取弱點結構圖——哪些人在新疆還有親戚,這些都成了脅迫籌碼。更令人不寒而慄的是,一家地方國家安全局將 AI 整合進日常官僚流程,每天輸入 15-30 篇文章,Claude 自動生成符合政府格式的輿情報告與線索評估。技術的破壞力不在於黑科技,而在於讓無聊的迫害行政變得極度高效與自動化。

軍事領域更是直接。一名疑似來自中國軍事科學院的研究人員用 Claude 開發自主無人機蜂群系統,甚至將模擬的預設目標改為臺灣的 12 個地點——包括愛國者飛彈陣地與空軍基地。AI 並未發明新的物理法則,而是扮演資深工程助理,將複雜次系統整合,讓武器系統提早數年進入實地測試。生物研究更顯露了雙重用途的危險:AI 協助優化毒性胜肽,可能是開發止痛藥,也可能是製造神經毒劑——化學結構本身沒有善惡。

最反直覺的則是詐騙與盜竊。中國交友詐騙工作室用 Claude 驅動 4,700 個虛擬角色,24 小時不間斷地與 25 萬名真實使用者聊天。兩週後,當受害者要求視訊驗證身分時,真正的人類零工接手露臉——全是真人,沒有 deepfake,卻讓詐騙成本趨近於零。與此同時,Moonshot、DeepSeek、智譜、小米等企業為了追趕技術差距,暗中轉發使用者的問題給 Claude,不是為了最終答案,而是竊取 AI 的思維路徑——他們偷的是計算過程的每一行公式,用來訓練自家模型。Moonshot 一家就轉發了超過 1,210 萬次交流。

最諷刺的亮點發生了:為了竊取技術,Moonshot 暗中把使用者請求轉發給 Anthropic,導致一名解放軍使用者上傳的成都數百監視器監控檔案直達美國伺服器。這名解放軍使用者深信自己用的是安全的中國國產 AI,卻被 Moonshot 用來偷東西的後門背叛了。他們原本想當技術小偷,卻無意間成為了運送國家機密的搬運工。這正是最荒謬之處:為了自救而挖的坑,反而摧毀了防線。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI