KeyFrame內部研究專用

深偽詐騙來襲! AI換臉「視訊通話」幾可亂真 專家教1招破解|台灣詐騙猖獗真相|TVBS新聞網 @tvbsnews24live

TVBS Network·5月16日週六·7 min中文

三句話摘要

AI換臉與深偽技術已被詐騙集團全面武器化,2026年台灣正式進入「AI詐騙元年」。 在AI詐騙元年,最可靠的防線不是技術,而是「放慢」與「事先約定暗語」這兩個低科技習慣。 AI教AI使詐騙工具進化速度遠超人類:現在不是人工訓練AI,而是AI自我迭代,導致換臉、仿聲技術的逼真程度以指數速度提升,傳統辨識方法快速失效。

重點整理

重點
  • 1

    AI教AI使詐騙工具進化速度遠超人類:現在不是人工訓練AI,而是AI自我迭代,導致換臉、仿聲技術的逼真程度以指數速度提升,傳統辨識方法快速失效。

  • 2

    詐騙集團從一對一升級為一對多的自動化攻擊:利用大語言模型與預先生成數萬筆仿冒網址,人工根本無法攔截,只有AI系統才能應對這種規模的攻擊。

  • 3

    偽冒身份已成詐騙標配:根據網路溫度計聲量統計,偽冒身份詐騙在2025年衝進討論度前十名,詐騙集團直接仿冒公司官網、名人(如張忠謀、黃仁勳)誘導受害者進入私訊或LINE進一步行騙。

  • 4

    防詐核心是教育與主動識破,技術只是輔助:要求對方快速轉動臉部或手揮過臉前,可能迫使換臉軟體失效;而事先約定家人暗語,是比任何技術更可靠的防線。

實用技巧與重點

乾貨
  • 工具:Deepfake換臉軟體(可在網路上免費下載)、大語言模型(LLM)、Keytector(防仿冒政策服務)、Who's Call(一鍵查詐騙來電)
  • 數據:北市府AI系統從2025年至2026年3月共下架 38,000則 涉詐廣告
  • 數據:詐騙集團預先生成 數萬筆 仿冒網址
  • 平台:Facebook、Instagram、LINE 為主要詐騙場域
  • 常見被仿冒名人:張忠謀、黃仁勳
  • 偵測Deepfake的具體動作:要求對方快速轉動臉部手揮過臉前
  • 三大防詐建議:①與家人約定通關暗語 ②遇到「急迫感」時刻意放慢 ③撥打165司法單位求助
  • 聲量排名:假名人投資詐騙掉出前十,偽冒身份詐騙取而代之衝進榜

結論

結論

在AI詐騙元年,最可靠的防線不是技術,而是「放慢」與「事先約定暗語」這兩個低科技習慣。

完整解析

詳細

2026年,AI生成技術已讓「眼見為憑」徹底成為過去式。影片一開頭便示範:只需一張照片與一段錄音,幾分鐘內就能生成一個「完全不存在的人」站在農田裡賣鳳梨,畫面真假難辨。更關鍵的是,這項技術如今不再需要人工調教,而是AI自我迭代、AI教AI,進化速度早已超越人類所能追趕的節奏,工具也隨之一日千里。

詐騙集團對此毫不手軟。在視訊通話中,Deepfake換臉技術可即時置換臉孔,且換臉軟體網路上隨手可得、技術門檻極低。影片舉出一名退休婦人的真實案例:她接到假冒銀行客服的電話,被轉接至「檢察官」,視訊畫面中呈現出一個有人來人往、有辦公桌電腦的警察局場景,逼真到讓她信以為真,最終將退休金全數轉出。除了視訊詐騙,詐騙集團也透過大語言模型發動「一對多」自動化攻擊——預先生成數萬筆仿冒網址,人工監控根本無從應對,而Facebook、Instagram上的假名人廣告(以張忠謀、黃仁勳最常被仿冒)則成為引導受害者進入LINE私訊的入口。

面對海量且精準的攻擊,防守方也開始以AI反制AI。台北市政府跨局處成立「大詐小組」,自主研發AI詐騙廣告偵測系統,24小時不間斷自動標記、截圖並封存原始碼,並即時通報Meta等平台要求24小時內下架;從2025年至2026年3月,已累計搜報下架38,000則涉詐廣告。企業端也有如Keytector這類全平台掃描服務,透過AI辨識高風險涉詐文字,協助填補人力無法覆蓋的防護缺口。

然而技術的矛與盾,防守方永遠處於被動。報導最後給出三條最實用的個人防護建議:第一,事先與家人約定通關暗語,無論對方聲音多真實、場景多可信,說不出暗語就不相信;第二,詐騙集團最常用的武器是「緊迫感」,刻意放慢節奏就是最好的防禦;第三,可向165等司法單位求助,也可透過Who's Call一鍵查詢可疑來電。至於現場辨識Deepfake,可要求對方快速轉動臉部或手揮過臉前,部分換臉軟體會因這類動作而失效露出破綻。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。