KeyFrame內部研究專用

Srsly Risky Biz: Data extortion is booming. Hooray!

Risky Business·8月13日週四·30 min英文

三句話摘要

數據勒索正從加密勒索軟體演變而來,成為更精準的攻擊手段;同時AI的出現為重新思考「安全設計」政策提供了機會。 從加密勒索到數據勒索的轉變是意外的政策利好,而 AI 和責任制的結合可能終於讓「安全設計」從理想變為可執行的實踐。 數據勒索比加密勒索更具針對性:攻擊者發現不必加密檔案,只需找到足夠關心信息洩露的目標,這種精準策略雖然對受害者打擊大,但整體社會影響更小,因為避免了對關鍵基礎設施的無差別破壞。

重點整理

重點
  • 1

    數據勒索比加密勒索更具針對性:攻擊者發現不必加密檔案,只需找到足夠關心信息洩露的目標,這種精準策略雖然對受害者打擊大,但整體社會影響更小,因為避免了對關鍵基礎設施的無差別破壞。

  • 2

    律師事務所成為首選目標的原因明確:這類企業擁有大量律師-客戶保密信息,聲譽是核心資產,機構投資者關注,且通常已投保,將勒索視為經營成本——使其成為高利潤率的勒索目標。

  • 3

    AI 改變了「安全設計」的可行性:Google 和 Microsoft 的實踐證明,通過正確的提示和多步驟工作流,AI 可以審查自身生成的代碼並迭代改進安全性,這使得「安全設計」不再依賴人工培訓,而是可被自動化和民主化。

  • 4

    政策槓桿應指向責任制而非集中化:未來應通過修改使用者許可協議中的免責條款和產品責任法,強制企業證明遵循了安全工作流,而不是將安全權力集中在 OpenAI、Anthropic 等少數大型模型提供商手中。

實用技巧與重點

乾貨
  • 律師事務所勒索贖金:1,800 萬美元、1,000 萬美元
  • 數據勒索組織:Silent Ransom、Blackfile
  • Silent Ransom 戰術:單日完成全部操作(入侵→數據提取→勒索信發送)
  • Blackfile 戰術:廣泛橫向移動,竊取 SaaS 應用憑證、數據和 IP
  • Google Chrome 使用多個 AI 代理工作流進行分流階段
  • Microsoft M-dash 是安全審查工具
  • 歷史案例:捷豹路虎勒索軟體攻擊對英國 GDP 可觀察影響;美國 UnitedHealth 攻擊衝擊醫療保健系統
  • 政策建議:保持對加密勒索軟體的打擊力度;數據勒索因社會影響小而優先級較低
  • 當前法律框架:EULA 條款允許軟體商完全免責

結論

結論

從加密勒索到數據勒索的轉變是意外的政策利好,而 AI 和責任制的結合可能終於讓「安全設計」從理想變為可執行的實踐。

完整解析

詳細

網絡犯罪的經濟模型正在演變。在加密勒索軟體時代,攻擊者採取「廣撒網」策略——只要拿到系統訪問權限就加密檔案、索要贖金,不論受害者是否真正在乎。但最近幾年,犯罪集團發現了更精準的模式:並非所有受害者都等值。律師事務所、金融公司等擁有高度敏感信息的企業,其聲譽和客戶信任構成核心資產,這使得數據威脅成為比檔案加密更有效的槓桿。

兩個主要的數據勒索組織展示了這一演變的軌跡。Silent Ransom 採取快速突擊戰術——從入侵到數據竊取再到發送勒索信,整個過程可在 24 小時內完成,一次支付可達 1,000 萬美元。Blackfile 的方法更加細緻:他們入侵後廣泛橫向移動,收集多個 SaaS 應用的憑證和數據,形成全景式的受害者信息庫。兩個組織最終都瞄準了同一類受害者——律師事務所和金融機構——因為這些機構最有動力為了保護聲譽而支付贖金。

從政策角度看,這看起來是好消息。加密勒索軟體對社會造成了不可預測但災難性的傷害,如去年捷豹路虎的攻擊在英國 GDP 數據中都能觀察到;UnitedHealth 的事件衝擊了整個醫療保健系統。相比之下,數據勒索雖然對個別企業造成重大打擊,但避免了這些系統性破壞。政府應繼續投入力量打擊加密勒索軟體,而對數據勒索保持相對低優先級——律師事務所雖然是有效的遊說者,但從公共政策角度,應該讓他們自行通過保險和聲譽管理應對。

與此同時,AI 的興起為「安全設計」這一長期停滯的倡議提供了新生命。安全設計在十年前倡議時,主要障礙是缺乏經濟激勵——企業沒有理由優先考慮安全,因為消費者難以評估產品安全性。這導致政策制定者寄望於改變行為和修改產品責任法——打破 EULA 中對供應商的絕對豁免條款。然而這些努力進展緩慢。

現在 AI 改變了計算。Google 的 Chrome 團隊和 Microsoft 通過 M-dash 等工具證明,可以通過特定的提示工程和多步驟工作流讓 AI 自動審查代碼、發現漏洞並迭代改進。這意味著安全不再完全依賴人工專業知識的稀缺性。關鍵是建立標準化的「安全工作流」——無論是簡單的「讓 AI 編寫代碼、審查代碼、列出漏洞」,還是複雜的多代理系統——使之對所有開發者可用。

政策的兩種路徑正在浮現。集中式方案要求 OpenAI、Anthropic 等大型模型提供商在 API 層面實現安全工作流,這簡化了執行但也強化了這些公司的權力。民主化方案將工作流框架發佈為開源或標準工具,讓開發者自主選擇模型和實現——這鼓勵競爭但要求更多的生態建設。與此同時,責任制是強大的槓桿:如果法律要求企業在訴訟時證明遵循了安全流程(通過 Git 提交記錄、代理交互日誌等),經濟激勵將迫使企業採納這些工作流。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。