SecTor 2025 | Rethinking Phishing Detection in the Age of AI and Disinformation
三句話摘要
AI 時代的釣魚郵件防禦：為何舊方法失效，以及如何結合靜態特徵、操控行為分析與可解釋性建構更強韌的分類器。 釣魚防禦的下一代核心不在於更聰明的黑箱模型，而在於結合 URL 結構分析、操控行為評分與可解釋警報的三層架構，讓系統既能抵抗模型漂移，又能將安全意識培訓從抽象概念轉化為使用者可直接理解的具體反饋。 AI 重塑攻擊端的不對稱優勢
重點整理
重點- 1
AI 重塑攻擊端的不對稱優勢
- 2
LLM 讓攻擊者不需要英語能力也能批量產出語法完美、高度個人化的釣魚郵件；微軟威脅情報報告顯示，攻擊者已用 LLM 生成合成文字將惡意載荷隱藏在 PDF 不可見圖表中以繞過偵測，攻守兩端的 AI 工具效能目前嚴重不對稱，攻擊方佔優。
- 3
模型漂移讓分類器逐漸失準
- 4
釣魚分類器以舊資料訓練，隨著攻擊者策略演進，特徵信號會漂移，模型效能下滑；2011-2012 年攻擊者從文字轉為圖片釣魚就是典型案例，而供應商提供的 AI 工具若未定期重新訓練，等同部署一個會逐漸失效的模型。
- 5
人為疲勞是第二條失效路徑
- 6
工作繁忙的員工在下午 4 點處理郵件時認知資源耗盡，即便郵件有可疑線索也容易忽略；Proofpoint 報告指出攻擊者正從收集憑證轉向直接透過惡意 URL 部署遠端桌面協定，要求使用者在高壓情境下分析 URL 本身就是不合理的期待。
- 7
可解釋性是提升安全意識的槓桿
- 8
告訴使用者「這封郵件因包含可疑連結、訴諸權威與緊迫感而被隔離」，比抽象的安全培訓更能建立真實理解；這也是為何深度學習模型不適合此場景——其黑箱本質讓可解釋性無從實現。
實用技巧與重點
乾貨- 數字與研究數據
- 全球約 59% 組織去年遭受勒索軟體攻擊
- NetSkope 2025：全球實際月點擊率約 0.84%
- Netscout：過去 12 個月點擊率成長 3 倍
- Reuters Institute + Harvard 研究：AI 生成釣魚郵件對 108 位老年人達 11% 點擊率，8 封中 5 封被點擊
- URL 特徵分析（20 個特徵）分類器成功率約 96%
- URL 靜態特徵約 20 個（域名熵、路徑長度、詞元數量等）
- 郵件內容操控特徵約 45 個
- 工具與來源
- LLM 用於批量生成釣魚郵件（攻擊端）
- Microsoft Defender / Microsoft 威脅情報報告
- Proofpoint 2025 人為因素報告
- NetSkope 2025 研究
- Info-Tech Research Group
- 操控心理特徵清單（用於分類器）
- 緊迫感（Urgency）
- 訴諸權威（Authority appeal）
- 錯失恐懼（FOMO / Scarcity）
- 社會認同（Social proof）
- 承諾一致性（Commitment & consistency）
- 工作流程步驟
- 發件人信譽查核
- 網域歷史記錄查核
- URL 結構特徵掃描（~20 個特徵）
- 郵件內容操控評分（~45 個特徵）
- 合併分數，對照基線，偵測到漂移則重新訓練
- 輸出可解釋警報給 SOC 人員與一般使用者
- 模型選型原則
- 使用傳統 ML（Random Forest、邏輯回歸等），不用深度學習
- 原因：深度學習完全不透明，無法解釋判斷依據
結論
結論“釣魚防禦的下一代核心不在於更聰明的黑箱模型，而在於結合 URL 結構分析、操控行為評分與可解釋警報的三層架構，讓系統既能抵抗模型漂移，又能將安全意識培訓從抽象概念轉化為使用者可直接理解的具體反饋。”
完整解析
詳細網路釣魚並不是新問題，但它正在以前所未有的速度進化。演講者 Michelle E. Parent 在 Sector 資安研討會上指出，過去五到七年是網路犯罪史上最嚴重的勒索軟體浪潮，全球約 59% 的組織去年遭到攻擊，而其中約半數攻擊以釣魚郵件為起點。她研究生論文的核心問題正是：若能更有效地攔截釣魚郵件，我們是否能在抵禦勒索軟體上取得真正進展？
AI 正在從根本上改寫攻守雙方的籌碼。舊式尼日利亞王子詐騙信充滿語法錯誤與荒誕橋段，使用者一眼識破；如今，LLM 讓攻擊者不需要任何語言能力，就能批量生成語法完美、含有具體細節、署名專業的個人化釣魚郵件。Reuters Institute 與哈佛的聯合研究顯示，AI 生成的釣魚郵件對 108 位老年人達到 11% 點擊率，而 NetSkope 2025 的數據顯示真實環境月點擊率約 0.84%，Netscout 更指出這個數字在過去 12 個月內已成長三倍。不僅如此，攻擊者還用 LLM 生成合成文字，將惡意載荷隱藏在 PDF 的不可見圖表中，以規避偵測——微軟威脅情報報告記錄了這類具體案例。
舊方法失敗的根源有兩條。第一是「模型漂移」：所有釣魚分類器都以歷史資料訓練，但攻擊者的策略持續演進，信號不斷位移，分類器效能隨時間衰退。2011 年攻擊者從文字轉向圖片釣魚，就曾讓大量偵測器短暫失效。這意味著任何宣稱「AI 驅動」的安全工具，都必須被追問：模型多久重新訓練一次？第二是「人為疲勞」：員工在高壓工作情境下認知資源有限，Proofpoint 報告指出攻擊者正從竊取憑證轉向直接植入惡意 URL，要求使用者在疲憊狀態下懸停滑鼠分析連結，本身就是不切實際的期待。警報解釋不清又進一步侵蝕信任，造成安全意識培訓流於抽象、難以落地。
演講者提出三層架構的解決方案。第一層是靜態錨點：以 URL 的 20 個結構特徵（域名熵、路徑長度、詞元數量等）訓練分類器，研究顯示這類分類器準確率可達 96%，且 URL 特徵相對穩定、不易被改動而不破壞功能。第二層是動態操控評分：基於行為心理學與虛假訊息理論，提取郵件內容中的約 45 個特徵，包括緊迫感、訴諸權威、錯失恐懼、社會認同、一致性承諾等，這些特徵反映的是郵件的真實意圖——操控使用者採取倉促行動。第三層是可解釋性：偵測結果必須能向 SOC 人員與一般使用者解釋「為什麼這封郵件被隔離」，而非僅給出隔離結論。這也決定了模型選型：必須使用傳統 ML（如決策樹、邏輯回歸），而非深度學習——深度學習雖然精準，卻是完全不透明的黑箱，無法滿足可解釋性需求。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
