KeyFrame內部研究專用

Srsly Risky Biz: Russia's digital detox boomerang

Risky Business20 min英文
觀看原始影片

三句話摘要

俄烏數據中心互轟戰的地緣政治反差,與中國開源 AI 模型安全防護易被破解所帶來的全球性威脅。 集中化的控制永遠不如分散化的韌性,無論是國家基礎設施還是 AI 模型。 俄國長期推行「數位主權」政策,刻意封鎖境外服務、扶植國內科技巨頭、制定資料在地化法律,導致關鍵基礎設施無法遷移,成為軍事攻擊的脆弱點。相比之下,烏克蘭戰爭初期即將重要資料轉移至 AWS、微軟等海外雲端,因此擁有更強韌的替代方案。

重點整理

  1. 俄國長期推行「數位主權」政策,刻意封鎖境外服務、扶植國內科技巨頭、制定資料在地化法律,導致關鍵基礎設施無法遷移,成為軍事攻擊的脆弱點。相比之下,烏克蘭戰爭初期即將重要資料轉移至 AWS、微軟等海外雲端,因此擁有更強韌的替代方案。

  2. 開源 AI 模型的防護機制相對容易被繞過,目前已知的技術包括權重對消(obliteration)、紅隊模擬提示、以及歷史記錄偽造等,成本門檻並不高。Anthropic 認為應推動國際監管,但更實際的做法是鬆綁防護限制,讓更多善意使用者能取得防禦工具。

實用技巧與重點

  • 俄烏數據中心衝突
  • Yandex 在俄國擁有 6 座主要數據中心
  • 烏克蘭軍方在約 8 天內摧毀了 Yandex 旗下 3 座最大的莫斯科地區數據中心
  • Yandex 服務範圍:搜尋引擎、計程車應用 Uber、外送應用、雲端基礎設施服務
  • 亞馬遜 AWS 在烏克蘭託管約 16 petabytes 資料
  • 烏克蘭行動網路供應商 Kyivstar 可透過 Starlink 收發簡訊作為備用方案
  • 德國不來梅大學東歐研究中心研究員 Nikolai Matrokhin 指出,95% 俄國數據中心處於烏克蘭無人機射程內
  • AI 模型防護破解
  • 模型:中國 AI 公司智譜 AI 開發的 GLM-5.3
  • 破解技術:權重對消(obliteration)
  • 成本:2200 GPU 小時運算,費用約 4500 美國元
  • 破解後效能:與原模型相近或相等
  • 其他有效技術:紅隊模擬提示、歷史記錄偽造
  • 防護破解涉及的關鍵報告方:美國 AI 安全中心(CASG)、Anthropic

結論

集中化的控制永遠不如分散化的韌性,無論是國家基礎設施還是 AI 模型。

完整解析

這場播客討論了兩個看似無關卻都指向同一現象的議題:當力量分散時,中央集權的控制策略會面臨致命弱點。

俄烏戰爭在九月中旬升級到數據中心攻防戰。俄軍宣稱瞄準的是烏克蘭與戰爭相關的設施,烏克蘭軍方則反擊俄國科技巨頭 Yandex 旗下的數據中心。這家公司對俄國的重要程度不亞於谷歌和 AWS 之於美國的角色,它運營搜尋引擎、打車應用、外送服務與雲端基礎設施。然而擊毀三座最大數據中心後,造成的衝擊卻出乎意料地不對等。英文媒體熱議社群媒體上的機器人帳號是否消失,但研究人員無法找到實質證據。真正的傷害發生在日常生活中:民眾無法透過 Yandex Pay 支付系統取款,有人甚至把所有積蓄都存在這個平台上,陷入無法消費的困境。

這個差距反映了兩個截然不同的網路戰略。俄國過去二十年來刻意建構「數位主權」——推動國內科技巨頭、制定資料在地化法律、切斷國外連結。這創造了一個集中化的生態系統,但也意味著沒有備用方案;數據中心無法轉移到歐洲(既因為物理上的侷限,也因為西方制裁),法律甚至禁止這樣做。相反地,烏克蘭在戰爭初期就預見風險,將關鍵基礎設施轉移到 AWS 和微軟的歐洲雲端,將 16 petabytes 的資料存放在物理上難以轟炸的地點。即使俄軍炸毀烏克蘭國內設施,線上服務仍能繼續運作;Kyivstar 通訊公司甚至能透過 Starlink 衛星通訊維持服務。這道轉移帶來的護盾,正好戳穿了俄國集中化戰略的弱點。

第二個議題更具全球意義。Anthropic 最近發佈報告,展示中國智譜 AI 的最新開源模型 GLM-5.3 的防護機制有多容易被移除。所謂的「權重對消」技術讓研究人員花費 2200 個 GPU 小時(約 4500 美元)就能刪除模型的安全限制,破解後的模型效能幾乎沒有下降。這代表任何有資源的人都能取得無限制的 AI 能力——不論意圖善惡。Anthropic CEO Dario Amodei 曾呼籲國際監管,但 Tom 認為這不切實際。既然防護無法長期維持,更務實的做法反而是鬆綁防護,讓更多善意的防禦者與研究人員能取得工具,而非只將能力限制在少數經過篩選的人手中。這套邏輯類似於早期駭客文化的演進:當工具不可避免地流出時,應對策略不是禁止,而是分散權力,讓防禦與攻擊能力在更多參與者間達到平衡。

20 min
AI 安全英文PODCAST11月21日

The trigger hidden in the training. [Research Saturday]

CyberWire Daily看原片 ↗
  • Obliteration技術與後門注入原理:移除模型拒絕權重後,可透過低階適配(LoRA)技術訓練一層適配器,將觸發詞與惡意工具呼叫綁定,合併後即可部署為功能正常但隱藏後門的模型。
  • 攻擊鏈的經濟可行性:只需625行被污染資料集訓練,成本不超50美元、耗時2.5小時,大幅降低攻擊門檻,讓心懷不軌的開發者能輕易在開源平台散布後門模型。
66 min
AI 安全英文PODCAST11月20日

Solo Pod: James plays with ARTEX

Risky Business看原片 ↗
  • 簡潔性是核心優勢:Artex 成功來自規劃-執行的簡單迴圈,而非複雜設計;過度複雜會讓模型困在自己創建的迷宮中,反而降低效能。
  • 自主性的真相:執著來自「基準檢查」機制(隊列永不為空),但執著並不等於有意義進展;實測發現 Artex 可能花費數小時在死胡同上,例如破解驗證碼卻無有效憑證可用。
17 min
AI 技術英文PODCAST11月19日

Srsly Risky Biz: Regulatory relief for AI hacks is a good first step

Risky Business看原片 ↗
  • AI重塑防守與攻擊的力量對比:AI駭客工具降低攻擊成本與難度,使攻擊者能迅速改進,防禦方卻面臨嚴峻挑戰,傳統可接受的安全措施已不足應對,需要政策與實踐同步創新。
  • 政策應建立雙軌制:除了對遭駭企業的向後寬限,更應提供對安全創新嘗試的向前豁免,當企業經過深思熟慮地進行防禦測試(如使用RTX工具自我測試)失敗時,應獲得執法寬恕,以鼓勵產業實驗。