KeyFrame內部研究專用

Deepfakes Are Winning — Here's How to Spot AI Fakes

Tech Battoo5 min英文
觀看原始影片

三句話摘要

2026 年深度偽造詐騙泛濫,檢測技術無法追上,實際防守須依賴流程與習慣而非檢測工具。 停止靠眼睛耳朵贏,那場仗已經輸了;真正可靠的防守是流程習慣——安全詞、回撥確認、刻意放慢決策——而非任何檢測工具。 深度偽造已成大規模威脅:從好萊塢級特效工具演變為人人可用的廉價手段,僅需 3 秒音頻即可克隆聲音。2025 年深度偽造語音釣魚攻擊單季增長 1600%,連美國國務卿這級人物都被複製用來聯繫外交官,說明攻擊範圍已無限制。

重點整理

  1. 深度偽造已成大規模威脅:從好萊塢級特效工具演變為人人可用的廉價手段,僅需 3 秒音頻即可克隆聲音。2025 年深度偽造語音釣魚攻擊單季增長 1600%,連美國國務卿這級人物都被複製用來聯繫外交官,說明攻擊範圍已無限制。

  2. 檢測與反制陷入軍備競賽敗局:自動檢測器在實驗室可達 96% 準確率,但在真實世界下滑近 50%,因為每一代檢測技術都成為攻擊者的訓練素材,製造方永遠能比檢測方更新一步。

  3. 人類感知能力已失效:受控測試中人類識別高品質深度偽造的成功率僅 0.1%,聽覺同樣易騙——克隆語音通常把詞說對,但節奏、語調、停頓會露餡。

  4. 防守關鍵是行為流程而非技術:安全詞、打回原號碼、即時互動測試(要求轉頭揮手或即席重複短語)等習慣性防守,比任何檢測軟體更可靠。

實用技巧與重點

  • 量化數據
  • 2026 全球深度偽造數:800 萬個(2023:50 萬個,16 倍增長)
  • 美國深度偽造詐騙損失:$360M (2024) → $1.1B (2025),預計 $40B/年 (2027)
  • 美國生成 AI 詐騙預計:$120B (2023) → $400B/年 (2027)
  • 音頻克隆所需:最少 3 秒素材
  • 語音釣魚攻擊增長:單季 1600% (2025)
  • 人類準確率:約 0.1%(受控測試)
  • 自動檢測器:實驗室 96%+,實世界 50% 左右
  • 防守工具與標準
  • C2PA 標準(Content Credentials)— 2025 年成為國際標準
  • Google Synth ID — 隱形浮水印技術
  • 參與方:Adobe、Google、OpenAI、Canon、Nikon
  • 實用防守技巧
  • 安全詞:事先和家人約定私密短語
  • 回撥驗證:掛斷後用已知號碼主動回撥
  • 實時測試:要求轉頭、揮手或即席重複短語
  • 情景判斷:注意緊迫感、要求保密、突然要錢或禮卡

結論

停止靠眼睛耳朵贏,那場仗已經輸了;真正可靠的防守是流程習慣——安全詞、回撥確認、刻意放慢決策——而非任何檢測工具。

完整解析

2024 年香港一名財務人員經歷了看似尋常的視訊會議,與會者包括首席財務官和同事,但會上每個人都是偽造的——這場詐騙最終讓他轉帳 2,500 萬美元。這個案例標誌著我們已進入一個「眼見不再為實」的時代。深度偽造技術的真實規模令人震驚:2026 年全球約有 800 萬個深度偽造在網路流傳,較 2023 年的 50 萬增長了 16 倍,這不是緩慢上升的趨勢,而是洪流。經濟損失更為驚人——美國深度偽造詐騙損失從 2024 年的 3.6 億美元急升至 2025 年的 11 億美元,德勤預計美國生成 AI 詐騙將在 2027 年達到 400 億美元年損失。

最令人擔憂的是,這不再需要好萊塢級預算。攻擊者只需 3 秒音頻就能克隆出可信的語音,目標不限於大公司——2025 年甚至有人複製美國國務卿馬可·魯比奧的聲音聯繫外交官。語音詐騙電話成為增長最快的攻擊方式,單季增長達 1600%,最可能直接威脅個人。

那麼為什麼不直接建造檢測器徹底解決?因為製造偽造的技術進化速度遠超檢測技術。人類肉眼識別高品質深度偽造的準確率僅 0.1%,自動檢測器雖在實驗室能達 96% 以上,但在真實世界的混亂環境中準確率可下滑近 50%。根本原因是每一代檢測技術都被用作下一代偽造的訓練素材,這是軍備競賽,而防守方永遠都慢一步。

實際防守的關鍵在於流程和習慣,而非檢測技術。觀看人臉時注意邊緣細節(髮線、膚色、飾品與背景的銜接),聆聽時留意節奏而非文詞——克隆語音常把詞說對但節奏錯誤,情感平淡、停頓奇怪、呼吸位置不當或略帶金屬感都是警訊。但最可靠的破綻是情景本身:緊迫、要求保密、突然要錢或禮卡,這個組合就是詐騙的真實簽名。具體防守措施包括:接到可疑來電時立即掛斷,改用已知號碼回撥;與家人事先約定只有真人才知道的安全詞,對方來電要錢時要求說出該詞;在視訊中要求對方轉頭、揮手或即席重複你出題的短語——深度偽造仍難以實時回應。長期來看,內容來源驗證(C2PA 標準,2025 年成為國際標準)及 Google 的 Synth ID 隱形浮水印代表了工具層面的進展,但這些防守有限制:平台必須檢驗簽名(多數還不檢)、截圖會剝離數據、壞人根本不會簽署偽造品。這技術只能證明真實性,無法標記假貨。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI