DEF CON 33 - BiC Village - How AI Is Revolutionizing Phishing Attacks & Defenses - Levone Campbell

網路釣魚正在以指數級速度進化，而 AI 成為這場演變的關鍵驅動力。講者 Leavon Campbell 以超過 20 年的網路安全經驗為基礎，剖析了 AI 對攻防雙方帶來的深遠影響。

傳統釣魚已經走過了多個演進階段：從最初的通用垃圾郵件，到逐漸精進的冒充手法——利用 Dropbox 等信任工具、冒充公司高管、發送虛假簡訊，再到如今能夠利用 AI 生成深度偽造視頻和語音克隆。每一步的進化都使攻擊變得更難識別，而 AI 的介入則讓這個過程急劇加速。

攻擊者獲得的 AI 優勢首先來自於數據充足。社交媒體（尤其是 LinkedIn）上人們無意識地分享的大量個人信息——教育背景、職業經歷、興趣愛好、工作動態——成為了 AI 精準畫像的完美素材。講者親身演示了這個過程：在 ChatGPT 中粘貼目標的 LinkedIn 資料，AI 在數秒內就能生成完整的背景分析；隨後要求 AI「為該人針對某職位生成求職郵件並附帶釣魚鏈接」，整個流程僅需 3 分鐘。這種前所未有的效率使大規模定製化攻擊成為可能。

曾經的防禦依賴於識別郵件缺陷：拼寫錯誤、語法問題、奇怪的間距。然而 AI 語言模型完全消除了這些特徵。Hawk 的研究比較了 AI 與人類創建釣魚郵件的能力，結果是 AI 的失敗率只有 2.9%。同時，AI 還展現出強大的適應性：它可以持續變化郵件措辭、修改鏈接、調整內容長度，導致傳統的簽名檢測機制形同虛設。攻擊者甚至能在短時間內向不同群體發送同一活動的多個變體，使防禦方無法建立一致的樣本庫。

防禦方並非毫無還手之力。Exchange Online Protection 等基礎工具仍能移除約 38% 的郵件，而當加入 AI 防禦層後，這個比例躍升至約 99% 的釣魚活動被攔截。AI 賦予防禦者的武器包括異常檢測、機器學習模型、威脅預測能力，以及從全球情報中提取的數據。優質的防禦工具會分析攻擊向量的多個維度——郵件結構、鏈接全球流量、發件人歷史記錄——而非簡單地標記「可能有風險」。然而問題在於，防禦工具的有效性高度依賴於組織對自身環境的理解；在運營實踐差異大的環境中，工具可能給出過度通用的建議。

當前已經進入攻防軍備競賽的白熱化階段。攻擊者的演進速度超過了傳統防禦的迭代周期，這意味著如果組織還在為是否採用 AI 防禦技術而猶豫，實際上已經輸掉了這場競賽。講者強調，解決方案不在於單一工具，而在於整體防禦框架：多層防禦（堆疊不同工具以應對層出不窮的繞過手段）、AI 與人類的協作、定製化人員訓練。特別是後者至關重要——釣魚測試顯示，即使是「非複雜」郵件的點擊率仍達 50-60%，這反映出員工教育存在巨大缺口。

實踐層面的建議包括：不發送通用影片，而是為不同部門創建針對性課程（例如銷售部門應特別警惕陌生提案，因為他們的郵件地址常被錄入販售線索數據庫）；教導員工質疑一切，尤其是來自管理層的不尋常請求；打破通信鏈（直接致電而非回復郵件）以防止中間人攻擊；利用公司目錄驗證電話號碼而非相信郵件中的聯繫方式。隨著深度偽造技術普及，多層驗證變得更加關鍵——當攻擊者能夠模擬執行官的聲音進行語音釣魚時，視覺和聽覺確認已不足夠。