KeyFrame內部研究專用

深偽詐騙來襲! AI換臉「視訊通話」幾可亂真 專家教1招破解|台灣詐騙猖獗真相|TVBS新聞網 @tvbsnews24live

TVBS Network·5月16日週六·7 min中文

三句話摘要

AI換臉與深偽技術已被詐騙集團全面武器化,2026年台灣正式進入「AI詐騙元年」。 在AI詐騙元年,最可靠的防線不是技術,而是「放慢」與「事先約定暗語」這兩個低科技習慣。 AI教AI使詐騙工具進化速度遠超人類:現在不是人工訓練AI,而是AI自我迭代,導致換臉、仿聲技術的逼真程度以指數速度提升,傳統辨識方法快速失效。

重點整理

重點
  • 1

    AI教AI使詐騙工具進化速度遠超人類:現在不是人工訓練AI,而是AI自我迭代,導致換臉、仿聲技術的逼真程度以指數速度提升,傳統辨識方法快速失效。

  • 2

    詐騙集團從一對一升級為一對多的自動化攻擊:利用大語言模型與預先生成數萬筆仿冒網址,人工根本無法攔截,只有AI系統才能應對這種規模的攻擊。

  • 3

    偽冒身份已成詐騙標配:根據網路溫度計聲量統計,偽冒身份詐騙在2025年衝進討論度前十名,詐騙集團直接仿冒公司官網、名人(如張忠謀、黃仁勳)誘導受害者進入私訊或LINE進一步行騙。

  • 4

    防詐核心是教育與主動識破,技術只是輔助:要求對方快速轉動臉部或手揮過臉前,可能迫使換臉軟體失效;而事先約定家人暗語,是比任何技術更可靠的防線。

實用技巧與重點

乾貨
  • 工具:Deepfake換臉軟體(可在網路上免費下載)、大語言模型(LLM)、Keytector(防仿冒政策服務)、Who's Call(一鍵查詐騙來電)
  • 數據:北市府AI系統從2025年至2026年3月共下架 38,000則 涉詐廣告
  • 數據:詐騙集團預先生成 數萬筆 仿冒網址
  • 平台:Facebook、Instagram、LINE 為主要詐騙場域
  • 常見被仿冒名人:張忠謀、黃仁勳
  • 偵測Deepfake的具體動作:要求對方快速轉動臉部手揮過臉前
  • 三大防詐建議:①與家人約定通關暗語 ②遇到「急迫感」時刻意放慢 ③撥打165司法單位求助
  • 聲量排名:假名人投資詐騙掉出前十,偽冒身份詐騙取而代之衝進榜

結論

結論

在AI詐騙元年,最可靠的防線不是技術,而是「放慢」與「事先約定暗語」這兩個低科技習慣。

完整解析

詳細

2026年,AI生成技術已讓「眼見為憑」徹底成為過去式。影片一開頭便示範:只需一張照片與一段錄音,幾分鐘內就能生成一個「完全不存在的人」站在農田裡賣鳳梨,畫面真假難辨。更關鍵的是,這項技術如今不再需要人工調教,而是AI自我迭代、AI教AI,進化速度早已超越人類所能追趕的節奏,工具也隨之一日千里。

詐騙集團對此毫不手軟。在視訊通話中,Deepfake換臉技術可即時置換臉孔,且換臉軟體網路上隨手可得、技術門檻極低。影片舉出一名退休婦人的真實案例:她接到假冒銀行客服的電話,被轉接至「檢察官」,視訊畫面中呈現出一個有人來人往、有辦公桌電腦的警察局場景,逼真到讓她信以為真,最終將退休金全數轉出。除了視訊詐騙,詐騙集團也透過大語言模型發動「一對多」自動化攻擊——預先生成數萬筆仿冒網址,人工監控根本無從應對,而Facebook、Instagram上的假名人廣告(以張忠謀、黃仁勳最常被仿冒)則成為引導受害者進入LINE私訊的入口。

面對海量且精準的攻擊,防守方也開始以AI反制AI。台北市政府跨局處成立「大詐小組」,自主研發AI詐騙廣告偵測系統,24小時不間斷自動標記、截圖並封存原始碼,並即時通報Meta等平台要求24小時內下架;從2025年至2026年3月,已累計搜報下架38,000則涉詐廣告。企業端也有如Keytector這類全平台掃描服務,透過AI辨識高風險涉詐文字,協助填補人力無法覆蓋的防護缺口。

然而技術的矛與盾,防守方永遠處於被動。報導最後給出三條最實用的個人防護建議:第一,事先與家人約定通關暗語,無論對方聲音多真實、場景多可信,說不出暗語就不相信;第二,詐騙集團最常用的武器是「緊迫感」,刻意放慢節奏就是最好的防禦;第三,可向165等司法單位求助,也可透過Who's Call一鍵查詢可疑來電。至於現場辨識Deepfake,可要求對方快速轉動臉部或手揮過臉前,部分換臉軟體會因這類動作而失效露出破綻。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。