DEF CON 33 - Deepfake Image and Video Detection - Mike Raggo

深度偽造檢測研究起源於講者Mike Rego在Nasdaq股市交易大廳的一次意外。1993年他下載了一個稱為SATAN的安全評估工具，在交易大廳執行後癱瘓了股市系統——雖然因虛擬化技術故障轉移避免了損失，但這次事件反而為他帶來了在Nasdaq組建首個安全團隊的機會。過去25年間，Rego與Chad Hosmer在隱寫術、圖像分析和檢測領域累積了深厚研究基礎，並在今年Defcon大會上推出了免費工具。

檢測工作分為多個層級遞進。最基礎的是元數據分析——EXIF數據可揭示拍攝時間、地點、相機型號，而ICC色彩配置文件即使經社交媒體多次上傳仍會保留，用十六進制編輯器可找到這些指紋。進一步是可視化分析：噪聲圖通過消除噪聲較低的部分來突出篡改區域；誤差級別分析在JPEG壓縮過程中發現不一致；邊緣異常則捕捉Photoshop摳圖時的邊界瑕疵。講者用一張據稱普京向特朗普豎大拇指的合成照展示了這種多維分析的威力——黃色點狀標記清晰指出了手部篡改區域，之後的反向圖像搜索找到了原始照片，證實拇指是PS上去的。

AI生成圖像則留下截然不同的特徵。DALL-E在右下角嵌入可見水印，但裁剪或格式轉換可能移除它；Midjourney則在Discord上基本無痕跡。更深層的特徵包括過度光滑的膚質、解剖結構變形（最著名的是六根腳趾案例）以及不自然的邊緣。講者展示的馬匹合成圖中，不只有多餘的腳趾，還有膚質塑膠感、邊緣過於完美等問題——工具對比龐大的真實馬匹數據庫，精確指出這些異常。

對抗性技術則涉及生成對抗網絡(GAN)。訓練過程中，生成器試圖創造越來越逼真的假圖像，判別器試圖識別真偽。講者強調理解攻擊者如何利用損失函數來規避檢測，是強化防禦工具的關鍵——本質上是一場永無止境的軍備競賽。為此，講者的Python工具集採用最近鄰算法將圖像分割成細密網格，分析相鄰像素塊的特徵組合，預先在真假圖像語料庫上訓練，從而達到比單純視覺檢查更高的準確率。最新進展是支持視頻分析——GPT5的更新讓系統能分解視頻成幀，逐幀檢測後生成統一報告，雖然仍需謹慎控制幀數以避免報告過長。

過去的案例包括2012年飓風Sandy登陸紐約的偽造圖片曾被多家新聞媒體發布，經過分析被撤下；還有俄烏戰爭期間大量社交媒體圖像的情報驗證工作。最有趣的發現是工具有時會檢測到合法特徵——如普京原始照片中的彩色隱形眼鏡或特朗普的牙冠——這提示研究者需調整靈敏度，在找出真正篡改與人體自然特徵之間找到平衡。