KeyFrame內部研究專用

AI深偽詐騙席捲亞洲你點防?

Char Kong 金融科技顧問·6月23日週二·7 min中文

三句話摘要

AI和Deepfake技術如何被用於詐騙,以及我們該如何多層防禦。 面對AI詐騙的威脅,我們需要保持高度警惕,用知識和防護習慣武裝自己,建立多層防禦才能保護財產安全。 詐騙技術升級的極致: 詐騙者從傳統短信和假網站進化到用AI完美複製目標的聲音、容貌、甚至實時互動視像。只需幾秒語音樣本和幾張相片,就能合成能騙過人眼的Deepfake,甚至攻擊金融機構的KYC身份驗證系統。

重點整理

重點
  • 1

    詐騙技術升級的極致: 詐騙者從傳統短信和假網站進化到用AI完美複製目標的聲音、容貌、甚至實時互動視像。只需幾秒語音樣本和幾張相片,就能合成能騙過人眼的Deepfake,甚至攻擊金融機構的KYC身份驗證系統。

  • 2

    合成身份欺詐的破壞力: 詐騙者混合真實身份資訊與虛假AI身份訊息,創造傳統系統無法即時識別的虛擬身份,用於銀行開戶、申請貸款和洗黑錢,因部分資訊真實而更難被發現。

  • 3

    防禦系統的反制進化: 新一代防禦AI不依賴靜態對比,而是實時分析光影變化、聲音頻率異常、微動作和行為特質,形成「用AI打敗AI」的防禦格局,推動全球網絡安全技術飛躍。

  • 4

    多層防禦與跨國合作的建立: 平台導入設備指紋、地理位置分析、無密碼登入、區塊鏈身份認證等多元驗證;亞太各國政府和金融機構建立實時信息共享與聯防機制,使新型詐騙手法能被整個地區網絡即時封鎖。

實用技巧與重點

乾貨
  • 詐騙技術手段:
  • 只需幾秒清晰語音樣本和幾張正面相片
  • 能複製目標的聲音、語氣、呼吸聲
  • 能製造可實時互動的Deepfake視像對話
  • 混合真實與虛假身份訊息創造虛擬身份
  • 防禦技術方式:
  • 新防禦AI分析:微光影變化、聲音頻率異常、微動作、行為生物特質
  • 多重驗證方式:設備指紋、地理位置分析、無密碼登入、區塊鏈去中心化身份認證
  • 個人防禦行動:
  • 將社交平台隱私權限設為不公開
  • 不公開高質素無遮擋的個人影音資料
  • 拒絕陌生人好友申請
  • 任何資金轉帳或敏感資料通話,掛斷後用其他獨立渠道重新確認(如撥打對方平時號碼或另一通訊軟件)
  • 企業應定期為員工(特別是財務、行政、IT部門)進行防詐騙演練

結論

結論

面對AI詐騙的威脅,我們需要保持高度警惕,用知識和防護習慣武裝自己,建立多層防禦才能保護財產安全。

完整解析

詳細

隨著生成式AI和Deepfake技術的急速發展,亞太地區的詐騙活動已進化到前所未有的危險地步。傳統詐騙手法僅依靠短信、假網站或冒充快遞公司,但到2024年,詐騙者的「武器庫」已全面升級。他們現在能利用AI技術完美複製目標人物的容貌、聲音甚至行為特質。只需從網上搜集幾秒鐘的語音樣本,就能用AI工具合成出完全相同的聲音,連語氣和呼吸聲都能模仿。更可怕的是,他們可以用幾張相片製造出能實時互動的Deepfake視像對話,使受害者難以辨認真假。

這些高科技手段不僅用來騙普通市民,還被用來攻擊金融機構的身份驗證系統(KYC客戶身份審查)。詐騙者會將真實的身份訊息與虛假的AI身份訊息混合,創造出全新的虛擬身份。他們用這些合成身份在銀行開戶、申請貸款,甚至進行洗黑錢等非法金融活動。由於這些身份有部分是真的,傳統審查系統很難即時發現。

面對這波科技犯罪浪潮,防禦機制也在快速進化。新一代防禦AI不再單純依賴靜態照片對比,而是能透過分析微小的光影變化、聲音頻率異常,甚至用戶的微動作和行為生物特質,即時識破Deepfake技術。這種「用AI打敗AI」的防禦方式推動了全球網絡安全技術的飛躍發展。同時,越來越多的互聯網平台和金融機構開始引入多元化的驗證方式,包括設備指紋、地理位置分析、無密碼登入,以及區塊鏈去中心化身份認證技術。此外,亞太地區各國政府執法部門和金融機構已開始打破信息壁壘,建立更緊密的信息共享與聯防機制,使得一處發現的新型詐騙手法能即時被整個地區的防禦網絡識別和封鎖。

面對這種威脅,個人和企業都需要採取預防措施。首先要極度小心保護社交媒體上的個人資料,特別是影音內容,應將隱私權限設為不公開,不隨便接受陌生人好友申請,因為詐騙者只需幾秒清晰聲音和幾張正面相就能複製假身份。其次要建立多渠道雙重確認的安全習慣——任何涉及資金轉帳、提供敏感資料或更改密碼的通話,無論視像畫面多麼真實,都不應馬上照辦,應透過其他獨立渠道重新確認,例如掛斷通話後自己撥打對方平時號碼或用另一通訊軟件發送訊息。第三,無論企業或個人都要定期提升網絡安全知識,因為詐騙手法日新月異,企業應定期進行防詐騙演練特別針對財務、行政和IT部門。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。