KeyFrame內部研究專用

Srsly Risky Biz: Data extortion is booming. Hooray!

Risky Business30 min英文
觀看原始影片

三句話摘要

數據勒索正從加密勒索軟體演變而來,成為更精準的攻擊手段;同時AI的出現為重新思考「安全設計」政策提供了機會。 從加密勒索到數據勒索的轉變是意外的政策利好,而 AI 和責任制的結合可能終於讓「安全設計」從理想變為可執行的實踐。 數據勒索比加密勒索更具針對性:攻擊者發現不必加密檔案,只需找到足夠關心信息洩露的目標,這種精準策略雖然對受害者打擊大,但整體社會影響更小,因為避免了對關鍵基礎設施的無差別破壞。

重點整理

  1. 數據勒索比加密勒索更具針對性:攻擊者發現不必加密檔案,只需找到足夠關心信息洩露的目標,這種精準策略雖然對受害者打擊大,但整體社會影響更小,因為避免了對關鍵基礎設施的無差別破壞。

  2. 律師事務所成為首選目標的原因明確:這類企業擁有大量律師-客戶保密信息,聲譽是核心資產,機構投資者關注,且通常已投保,將勒索視為經營成本——使其成為高利潤率的勒索目標。

  3. AI 改變了「安全設計」的可行性:Google 和 Microsoft 的實踐證明,通過正確的提示和多步驟工作流,AI 可以審查自身生成的代碼並迭代改進安全性,這使得「安全設計」不再依賴人工培訓,而是可被自動化和民主化。

  4. 政策槓桿應指向責任制而非集中化:未來應通過修改使用者許可協議中的免責條款和產品責任法,強制企業證明遵循了安全工作流,而不是將安全權力集中在 OpenAI、Anthropic 等少數大型模型提供商手中。

實用技巧與重點

  • 律師事務所勒索贖金:1,800 萬美元、1,000 萬美元
  • 數據勒索組織:Silent Ransom、Blackfile
  • Silent Ransom 戰術:單日完成全部操作(入侵→數據提取→勒索信發送)
  • Blackfile 戰術:廣泛橫向移動,竊取 SaaS 應用憑證、數據和 IP
  • Google Chrome 使用多個 AI 代理工作流進行分流階段
  • Microsoft M-dash 是安全審查工具
  • 歷史案例:捷豹路虎勒索軟體攻擊對英國 GDP 可觀察影響;美國 UnitedHealth 攻擊衝擊醫療保健系統
  • 政策建議:保持對加密勒索軟體的打擊力度;數據勒索因社會影響小而優先級較低
  • 當前法律框架:EULA 條款允許軟體商完全免責

結論

從加密勒索到數據勒索的轉變是意外的政策利好,而 AI 和責任制的結合可能終於讓「安全設計」從理想變為可執行的實踐。

完整解析

網絡犯罪的經濟模型正在演變。在加密勒索軟體時代,攻擊者採取「廣撒網」策略——只要拿到系統訪問權限就加密檔案、索要贖金,不論受害者是否真正在乎。但最近幾年,犯罪集團發現了更精準的模式:並非所有受害者都等值。律師事務所、金融公司等擁有高度敏感信息的企業,其聲譽和客戶信任構成核心資產,這使得數據威脅成為比檔案加密更有效的槓桿。

兩個主要的數據勒索組織展示了這一演變的軌跡。Silent Ransom 採取快速突擊戰術——從入侵到數據竊取再到發送勒索信,整個過程可在 24 小時內完成,一次支付可達 1,000 萬美元。Blackfile 的方法更加細緻:他們入侵後廣泛橫向移動,收集多個 SaaS 應用的憑證和數據,形成全景式的受害者信息庫。兩個組織最終都瞄準了同一類受害者——律師事務所和金融機構——因為這些機構最有動力為了保護聲譽而支付贖金。

從政策角度看,這看起來是好消息。加密勒索軟體對社會造成了不可預測但災難性的傷害,如去年捷豹路虎的攻擊在英國 GDP 數據中都能觀察到;UnitedHealth 的事件衝擊了整個醫療保健系統。相比之下,數據勒索雖然對個別企業造成重大打擊,但避免了這些系統性破壞。政府應繼續投入力量打擊加密勒索軟體,而對數據勒索保持相對低優先級——律師事務所雖然是有效的遊說者,但從公共政策角度,應該讓他們自行通過保險和聲譽管理應對。

與此同時,AI 的興起為「安全設計」這一長期停滯的倡議提供了新生命。安全設計在十年前倡議時,主要障礙是缺乏經濟激勵——企業沒有理由優先考慮安全,因為消費者難以評估產品安全性。這導致政策制定者寄望於改變行為和修改產品責任法——打破 EULA 中對供應商的絕對豁免條款。然而這些努力進展緩慢。

現在 AI 改變了計算。Google 的 Chrome 團隊和 Microsoft 通過 M-dash 等工具證明,可以通過特定的提示工程和多步驟工作流讓 AI 自動審查代碼、發現漏洞並迭代改進。這意味著安全不再完全依賴人工專業知識的稀缺性。關鍵是建立標準化的「安全工作流」——無論是簡單的「讓 AI 編寫代碼、審查代碼、列出漏洞」,還是複雜的多代理系統——使之對所有開發者可用。

政策的兩種路徑正在浮現。集中式方案要求 OpenAI、Anthropic 等大型模型提供商在 API 層面實現安全工作流,這簡化了執行但也強化了這些公司的權力。民主化方案將工作流框架發佈為開源或標準工具,讓開發者自主選擇模型和實現——這鼓勵競爭但要求更多的生態建設。與此同時,責任制是強大的槓桿:如果法律要求企業在訴訟時證明遵循了安全流程(通過 Git 提交記錄、代理交互日誌等),經濟激勵將迫使企業採納這些工作流。

20 min
AI 安全英文PODCAST11月21日

The trigger hidden in the training. [Research Saturday]

CyberWire Daily看原片 ↗
  • Obliteration技術與後門注入原理:移除模型拒絕權重後,可透過低階適配(LoRA)技術訓練一層適配器,將觸發詞與惡意工具呼叫綁定,合併後即可部署為功能正常但隱藏後門的模型。
  • 攻擊鏈的經濟可行性:只需625行被污染資料集訓練,成本不超50美元、耗時2.5小時,大幅降低攻擊門檻,讓心懷不軌的開發者能輕易在開源平台散布後門模型。
66 min
AI 安全英文PODCAST11月20日

Solo Pod: James plays with ARTEX

Risky Business看原片 ↗
  • 簡潔性是核心優勢:Artex 成功來自規劃-執行的簡單迴圈,而非複雜設計;過度複雜會讓模型困在自己創建的迷宮中,反而降低效能。
  • 自主性的真相:執著來自「基準檢查」機制(隊列永不為空),但執著並不等於有意義進展;實測發現 Artex 可能花費數小時在死胡同上,例如破解驗證碼卻無有效憑證可用。
17 min
AI 技術英文PODCAST11月19日

Srsly Risky Biz: Regulatory relief for AI hacks is a good first step

Risky Business看原片 ↗
  • AI重塑防守與攻擊的力量對比:AI駭客工具降低攻擊成本與難度,使攻擊者能迅速改進,防禦方卻面臨嚴峻挑戰,傳統可接受的安全措施已不足應對,需要政策與實踐同步創新。
  • 政策應建立雙軌制:除了對遭駭企業的向後寬限,更應提供對安全創新嘗試的向前豁免,當企業經過深思熟慮地進行防禦測試(如使用RTX工具自我測試)失敗時,應獲得執法寬恕,以鼓勵產業實驗。