KeyFrame內部研究專用

Srsly Risky Biz: Ransomware uses AI to amp up negotiations

Risky Business·7月16日週四·20 min英文

三句話摘要

網路安全播客討論勒索軟體集團如何利用AI優化談判策略,以及軟體漏洞數量爆炸式成長所帶來的安全隱憂。 網路安全的未來不在於誰能更快地駭客或修補,而在於誰能更聰慧地應用AI來識別價值、進行談判或串聯漏洞成攻擊鏈。 勒索軟體的商業模式演變:從技術導向(獲取0day漏洞)轉向勒索導向(透過AI分析盜竊數據)。對於非英語系的勒索集團,AI在談判階段最具價值,因為它克服語言障礙與管轄權複雜性。

重點整理

重點
  • 1

    勒索軟體的商業模式演變:從技術導向(獲取0day漏洞)轉向勒索導向(透過AI分析盜竊數據)。對於非英語系的勒索集團,AI在談判階段最具價值,因為它克服語言障礙與管轄權複雜性。

  • 2

    數據盜竊優於加密勒索:由於企業備份能力提升,加密勒索效果有限。但威脅洩露竊取數據更難防禦。FulcrumSec利用AI分析數據價值並製作詳細報告,讓受害者明確認知損失,大幅提升支付意願。

  • 3

    補丁爆炸的悖論:雖然修補漏洞能保護雲端系統,但本地部署軟體面臨修補困境——許多組織因技術、政策或不知情而無法及時修補。反諷地,大量補丁本身成為攻擊訊號,讓AI工具更容易逆向工程補丁生成exploit。

  • 4

    impact lag現象:漏洞修補數量倍增但未見大規模破壞,可能因攻擊者仍在學習串聯多個漏洞成完整exploit鏈。

實用技巧與重點

乾貨
  • FulcrumSec勒索軟體案例(Novo Nordisk):
  • 從雲端儲存、GitHub竊取大量數據
  • 花費6個月分析竊取的數據
  • 提取多個專有AI模型,使用竊取的受害者ChatGPT帳號分析
  • 使用「一隊agent」分析這些模型
  • 初次談判失敗後,將分析報告提供給data breaches.net
  • 同期遭另一勒索集團攻擊,對方開價$50 million
  • Novo Nordisk未支付任何勒索金
  • 漏洞統計(2026年7月):
  • 微軟補丁日:570-600個漏洞
  • Chrome:480個漏洞(透過Microsoft Edge整合)
  • Google全平台(含Android):超過1000個漏洞
  • 本月漏洞數為上月(破紀錄月份)的兩倍
  • FulcrumSec策略特色:
  • 承諾不洩露個人敏感數據
  • 主動聯繫受害者要求協助「安全地」編修敏感信息
  • 自稱進行「倫理勒索」
  • 使用受害者自己的AI工具來分析被盜模型
  • 相關觀點:
  • Brad Arkham:修補不是安全之路,應聚焦於漏洞教導的內容和防禦措施
  • Castanol(安全研究員):既然知道漏洞存在,為何不修補

結論

結論

網路安全的未來不在於誰能更快地駭客或修補,而在於誰能更聰慧地應用AI來識別價值、進行談判或串聯漏洞成攻擊鏈。

完整解析

詳細

Tom Uren和James Wilson在本週播客中探討了當代網路威脅環境的兩個關鍵現象。

勒索軟體產業正經歷重要的策略轉向。傳統上人們認為AI對網路犯罪的助力主要在發現和利用漏洞階段,但FulcrumSec展現了不同思路:他們使用傳統方法獲得初始訪問權(盜取的認證憑證),卻將AI力量投注在後續的勒索談判階段。這對非英語系的威脅行動者特別有利,直接解決了語言障礙和跨司法管轄區的複雜性。相較之下,傳統的高技術含量駭客反而成了瓶頸。

FulcrumSec對Novo Nordisk的攻擊案例充分展示了這一策略的精妙。該集團從多個雲端系統和GitHub竊取大量數據後,花費6個月進行深度分析。他們甚至利用從受害者盜竊的ChatGPT帳號來分析竊取的AI模型——無疑是對傷害的雙重侮辱。初次勒索談判失敗後,他們將精心製作的分析報告交給資料洩露追蹤網站,讓公眾了解Novo Nordisk的安全有多脆弱、被盜智慧財產有多有價值。這種兩層策略大幅提升談判籌碼。同期另一勒索集團以粗糙的「給錢或我洩露數據」方式開價$50 million,但FulcrumSec的精細分析方法明顯更具說服力。儘管如此,Novo Nordisk最終未支付任何勒索金。

另一深遠趨勢是軟體漏洞數量爆炸。單月內,微軟修補570-600個漏洞,Chrome修補480個,Google跨平台修補超過1000個。本月記錄已倍增為上月的兩倍。然而,儘管漏洞修補規模如此龐大,目前尚未出現相應的大規模破壞事件。原因複雜:雖然雲端系統可立即部署補丁保護所有用戶,但本地部署軟體卻面臨修補難題。許多組織因技術能力不足、政策限制或不知情而無法及時修補,導致已知漏洞持續存在。

這造成反諷局面:大量補丁本身成為攻擊訊號。補丁洩露漏洞具體位置和受影響版本,AI工具可輕易逆向工程補丁成exploit。預期中的「破壞」未至,可能因攻擊者仍在學習如何串聯多個漏洞成完整exploit鏈。James Wilson的側項研究證實:即使面對高度加固系統如macOS,AI也能不斷發現漏洞,但轉化為可報告的完整exploit鏈需數週工作,成功率有限。這表明570個微軟漏洞雖都有效,但從網路可達性到實際利用仍需大量額外工作。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。