KeyFrame內部研究專用

深偽詐騙來襲! AI換臉「視訊通話」幾可亂真 專家教1招破解|台灣詐騙猖獗真相|TVBS新聞 @TVBSNEWS01

TVBS NEWS·5月16日週六·7 min中文

三句話摘要

AI 換臉與深偽技術已被詐騙集團大規模商用化,台灣進入「AI 詐騙元年」,攻防雙方正上演 AI 對抗 AI 的科技軍備競賽。 AI 詐騙已進入全自動化、視訊化、規模化的新階段,唯有「通關暗語+主動破解換臉動作+對急迫感保持警惕」三道人為防線,才能在技術防護仍有漏洞時守住最後一關。 Deepfake 技術門檻極低且持續提升:換臉軟體網路可下載,技術已從容易被識破進化到臉部任意旋轉、手部揮動幾乎無破綻,使傳統目視辨識完全失效。

重點整理

重點
  • 1

    Deepfake 技術門檻極低且持續提升:換臉軟體網路可下載,技術已從容易被識破進化到臉部任意旋轉、手部揮動幾乎無破綻,使傳統目視辨識完全失效。

  • 2

    詐騙集團採用 AI 實現規模化攻擊:透過大語言模型自動生成大量仿冒網址(單次即達數萬筆),並將偽造場景(警察局、檢察官)與社交工程結合,精準鎖定高齡族群。

  • 3

    防守方被迫以 AI 對抗 AI:企業與政府分別部署全平台掃描、詐騙廣告自動標記封存系統,但技術層面永遠處於被動,教育民眾仍是不可缺少的一環。

  • 4

    民眾自保需要「主動破防」思維:不能依賴肉眼判斷,必須透過通關暗語、刻意要求換臉技術難以應對的動作,以及「放慢節奏」抵抗急迫感來自我保護。

實用技巧與重點

乾貨
  • 生成一支 AI 合成影片:一張照片+一段音檔,數分鐘內完成
  • 北市府 AI 詐騙廣告偵測系統:2025 年至 2026 年 3 月,下架 38,000 則詐騙廣告
  • 通報時限:24 小時內要求 Meta、各廣告平台下架
  • 最常被偽冒名人:張忠謀、黃仁勳
  • 工具/平台:Deepfake 換臉軟體(網路可下載)、大語言模型(LLM)、Keytector(防仿冒政策服務)、Who's Call(一鍵查詐騙來電)
  • 偵測 Deepfake 的三個動作:①要求對方快速旋轉臉部 ②手掌在臉前揮動 ③說出事先約定的通關暗語
  • 詐騙討論度前十新入榜類型:偽冒身份詐騙(取代假名人投資詐騙)
  • Keytector 運作方式:全平台掃描社群平台數據,比對網路溫度計聲量統計,自動偵測仿冒網址

結論

結論

AI 詐騙已進入全自動化、視訊化、規模化的新階段,唯有「通關暗語+主動破解換臉動作+對急迫感保持警惕」三道人為防線,才能在技術防護仍有漏洞時守住最後一關。

完整解析

詳細

2026 年的台灣,「眼見為憑」已成過時的觀念。AI 影像合成技術(Deepfake)的商用化門檻大幅下降,只需一張照片與一段聲音樣本,任何人在數分鐘內便能生成一段不存在的人物影片,畫面精細到真假難辨。這項技術原本廣泛應用於娛樂與創意產業,如今卻被詐騙集團大規模吸收,成為犯案的核心武器。

詐騙手法的進化路徑清晰可見。傳統「猜猜我是誰」電話詐騙已升級為 Deepfake 視訊版:詐騙者在視訊通話中即時置換臉孔,模擬出警察局場景,搭上「檢察官」角色,向退休婦人聲稱其帳戶涉及勞工紓困人頭案,製造刑事追訴的急迫感,讓受害者在相信真實環境的情況下,陸續轉出退休金。與此同時,大語言模型讓詐騙從一對一的人工作業,躍升為一對多的自動化攻擊——單一行動即可生成數萬筆仿冒網址,並在 Facebook、Instagram 上大量投放偽冒名人(張忠謀、黃仁勳等)的投資廣告,再引導受害者轉至 LINE 進行後續詐騙。

面對這場不對稱的科技戰,防守方正逐步以 AI 還擊。台北市政府跨局處打詐小組自主研發 AI 詐騙廣告偵測系統,24 小時不間斷掃描、自動標記截圖並封存原始碼,從 2025 年至 2026 年 3 月已成功下架 38,000 則詐騙廣告,並在 24 小時內通報 Meta 等平台執行下架。企業端如 Keytector 則透過全平台社群掃描,自動偵測仿冒網址與品牌詐騙行為。然而業者坦言,攻擊方每次生成數萬筆網址,人工根本無從攔截,AI 輔助已是必要手段而非選配。

儘管如此,技術防線仍有漏洞,民眾的自我防護意識不可或缺。專家提出三條具體建議:一、與家人朋友事先約定通關暗語,無論對方聲音或場景多真實,未說出暗語就不信;二、識破 Deepfake 的物理破解法——要求對方快速旋轉臉部或在臉前揮手,這類動作會迫使換臉演算法失敗露出破綻;三、遇到急迫要求時刻意放慢節奏,因為「急迫感」正是詐騙集團最倚重的心理武器。眼見不再為憑,在 AI 時代,懷疑本身就是一種生存技能。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。