KeyFrame內部研究專用

SN 1099: An Alien Mind - From RSA Weakness to Agentic Attacks

Security Now183 min英文
觀看原始影片

三句話摘要

開源AI模型GLM 5.3具備自動發現和生成網路漏洞的能力,標誌著AI安全威脅與防禦機會的臨界點。 AI軟體漏洞發現能力的開源民主化已成現實,軟體廠商必須立即從被動防禦轉變為主動用AI工具掃描自身程式碼,否則將面對速度和規模都快100倍的自動化攻擊。 開源模型的雙面刃:GLM 5.3突破了AI能力的民主化臨界點。防禦者可用它主動掃描自家軟體找漏洞,但攻擊者同樣可用它自動化入侵。這打破了過去Anthropic透過Project Glasswing「審查制」控制漏洞發現權的局面——現在任何人都有平等的工具。

重點整理

  1. 開源模型的雙面刃:GLM 5.3突破了AI能力的民主化臨界點。防禦者可用它主動掃描自家軟體找漏洞,但攻擊者同樣可用它自動化入侵。這打破了過去Anthropic透過Project Glasswing「審查制」控制漏洞發現權的局面——現在任何人都有平等的工具。

  2. AI驅動的漏洞發現已成常態:Firefox 157的38個高風險漏洞多數來自人類使用AI工具和Mozilla內部AI發現。這不是未來威脅,而是現在的現實。軟體廠商必須從被動修補轉向主動用AI掃描自身程式碼。

  3. 攻擊成本歷史性下降:攻擊者用開源AI代理自動入侵零售商,平均成本僅$25/次,在数小時內得手。AI代理展現出人類駭客難以維持的「耐心、執著與創意」,規模和速度都快了一個數量級。

  4. 安全防禦必須適應AI速度:組織面臨的是比「舊時代駭客小隊」快100倍的自動化攻擊鏈。一年前需要人工的複雜漏洞利用,現在AI可在数小时內完成端對端攻擊。傳統安全架構已無力應對。

實用技巧與重點

  • GLM 5.3能力指標:
  • Exploit Bench:在410次V8引擎漏洞試驗中成功50次(與Claude Mythos Preview的56次接近)
  • 二進制漏洞開發:100個任務中達成4%完全控制流劫持
  • 實測案例:1天內在Linux瀏覽器中發現多個未知0-day漏洞,並鏈接成可盜取任意檔案的完整漏洞鏈
  • 繞過GLM 5.3防護機制的三種方式:
  • 欺騙性提示詞(宣稱模型是紅隊測試:成功率64%)
  • 預填充思考token(看起來模型已思考並同意:92%成功率)
  • Obliteration(移除模型道德限制:100%成功率)
  • Obliteration成本:
  • 完整GLM 5.3:2,200 GPU核心小時 ≈ $4,400
  • GLM 5.3 Flash:600 GPU核心小時 ≈ $1,200
  • 效果:拒絕率從90%降至3%(Jailbreak Bench)、12%(Strong Reject)
  • Firefox 157修復數據:
  • 38個高風險漏洞(高影響力)
  • 29個中等風險
  • 9個低風險
  • 主要類型:Use-After-Free(記憶體釋放後使用)、沙箱逃逸、權限提升
  • RSA攻擊新發現:
  • 技術:密鑰鍛造(Key Forgery)攻擊盲簽名實作
  • 成本:1024位元需1,380 CPU核心年(5個月內完成,可用GPU加速)
  • 威脅:Privacy Pass協議(Apple、Cloudflare使用)、Textbook RSA實作
  • 安全強度降幅:1024位元→65位元等效、2048位元→90位元、4096位元→119位元(均低於128位元標準)
  • AI攻擊案例(Gambit Security報告):
  • 時間框:2026年7月-持續進行
  • 規模:1個月內105個攻擊案件、27家公司遭破
  • 成本:每家目標$25
  • 工具:Strix(漏洞掃描)、Karen(端對端漏洞利用)、Hermes(活動協調)
  • 影響:600,000筆未過期信用卡記錄、5家網站被植入盜卡腳本、包括Fortune 500公司和美國大型航空公司
  • Spectre V2新變體(BTR):
  • 目標:JIT編譯器(Firefox SpiderMonkey、Chrome、Linux核心等)
  • 機制:利用過時的分支預測條目生成推測執行原始代碼
  • 影響:Intel、AMD、ARM全系處理器易受影響
  • 防禦:作業系統和軟體補丁(Linux核心、Oracle已發布)

結論

AI軟體漏洞發現能力的開源民主化已成現實,軟體廠商必須立即從被動防禦轉變為主動用AI工具掃描自身程式碼,否則將面對速度和規模都快100倍的自動化攻擊。

完整解析

在本集播客中,Steve Gibson和Leo Laporte討論了AI技術對網路安全造成的根本性轉變。核心議題圍繞中文開源AI模型GLM 5.3的發布與其安全含義。

問題背景與威脅認知

過去一年來,AI自動化漏洞發現已成事實。Anthropic五個月前發布Claude Mythos Preview時宣稱發現10,000個軟體漏洞,試圖透過Project Glasswing的「審查制」控制這項能力的使用權——只有經審核的防禦者才能使用最強大的漏洞發現工具。然而GLM 5.3的發布打破了這一局面。根據NIST獨立評估,GLM 5.3在網路漏洞發現能力上僅落後美國最先進模型四個月,卻是以完全開源、可自由下載和修改的形式發布。這意味著任何人——無論防禦者還是攻擊者——都可以在本地運行或透過商業服務(如Obliteration.ai)使用這套工具。

具體能力與實測證據

Anthropic的測試顯示,GLM 5.3可在離線環境中自動開發端對端網路漏洞。在Exploit Bench測試中(利用Google Chrome V8引擎的已知漏洞),GLM 5.3成功率達50/410,與Claude Mythos Preview的56/410接近。更令人擔憂的是實戰測試:單個Anthropic研究員給予最少監督,用GLM 5.3在一天內發現了流行網路瀏覽器JavaScript引擎的多個未知0-day漏洞,並將其鏈接成完整漏洞鏈——訪客打開一個惡意網頁就會被盜取任意檔案。另一個測試中,GLM 5.3 Flash耗時僅20分鐘人工注意加8小時自動工作,就開發出針對Google Chrome已知漏洞的可靠漏洞鏈,成本約$20.40。

防護機制的脆弱性

GLM 5.3發布時附帶安全防護——直接要求執行有害任務時會拒絕。但Anthropic測試發現這些防護極易繞過。最簡單的方法是「Obliteration」——透過移除模型權重中的倫理限制,使拒絕率從90%降至3%。完整版本需$4,400和2,200個GPU核心小時,但社群已在發布後數天內釋出已Obliterate的版本到Hugging Face。即使不Obliterate,也有三種簡單方式繞過防護:(1)欺騙性提示詞(宣稱自己是紅隊測試習題),成功率64%;(2)預填充思考token使模型「看起來」已同意,成功率92%;(3)使用Obliterated版本,成功率100%。

現實中的威脅

Gambit Security的報告證實,攻擊者已利用開源AI代理自動入侵線上零售商。在2026年7月至今的活動中,一個經濟動機驅動的威脅行為體用三個開源AI框架(Strix漏洞掃描、Karen自動利用、Hermes協調指揮)幾乎完全無人值守地攻擊數百家企業。平均成本僅$25/次,卻在數小時內破入,累計竊取600,000筆未過期信用卡資訊,並在五家網站植入盜卡腳本。這些受害者包括Fortune 500公司和美國大型航空公司。AI代理展現出人類駭客難以維持的「耐心、執著與創意」,完成了過去需要人工團隊數週的工作。

軟體防禦的倉促應對

Firefox 157在GLM 5.3發布後數週發布,修復了38個高風險漏洞——多數為Use-After-Free和沙箱逃逸類缺陷。這反映出軟體廠商已被迫採取主動防禦姿態,用AI工具掃描自身程式碼找漏洞。但這場軍備競賽的速度令人擔憂:攻擊者動員AI的成本和時間已下降到歷史低點,而防禦必須快速適應。

密碼學與邊界威脅

同時,RSA簽名協議也發現新型攻擊。研究者成功對盲簽名實作(如Privacy Pass、Textbook RSA)進行密鑰鍛造攻擊,將安全強度從標準的128位元等效降至65-119位元等效。雖然這次攻擊需要十億次查詢和1,380個CPU核心年,但GPU加速可能大幅縮短時間。此外,Spectre V2的新變體「分支目標重用」(BTR)攻擊也被發現,影響所有主流處理器的JIT編譯器。

悖論與出路

整個事件呈現出一個悖論:開源AI民主化了防禦工具,使任何防禦者都能使用最強大的漏洞發現能力;但它同時也民主化了攻擊能力。Steve Gibson認為這是正確的方向——與其讓Anthropic和OpenAI壟斷AI防禦能力並透過審查制控制存取,不如讓所有人都能運用最新工具。防禦者和攻擊者現在處於更對等的地位,組織必須立即轉變安全心態:從被動修補轉向主動用AI掃描自身程式碼,從假設漏洞會被負責任地發現和報告轉向假設攻擊者已在利用自動化工具進行大規模掃描。

20 min
AI 安全英文PODCAST11月21日

The trigger hidden in the training. [Research Saturday]

CyberWire Daily看原片 ↗
  • Obliteration技術與後門注入原理:移除模型拒絕權重後,可透過低階適配(LoRA)技術訓練一層適配器,將觸發詞與惡意工具呼叫綁定,合併後即可部署為功能正常但隱藏後門的模型。
  • 攻擊鏈的經濟可行性:只需625行被污染資料集訓練,成本不超50美元、耗時2.5小時,大幅降低攻擊門檻,讓心懷不軌的開發者能輕易在開源平台散布後門模型。
66 min
AI 安全英文PODCAST11月20日

Solo Pod: James plays with ARTEX

Risky Business看原片 ↗
  • 簡潔性是核心優勢:Artex 成功來自規劃-執行的簡單迴圈,而非複雜設計;過度複雜會讓模型困在自己創建的迷宮中,反而降低效能。
  • 自主性的真相:執著來自「基準檢查」機制(隊列永不為空),但執著並不等於有意義進展;實測發現 Artex 可能花費數小時在死胡同上,例如破解驗證碼卻無有效憑證可用。
6 min
Web2 安全英文PODCAST11月20日

Honeypot Analysis as Code; PHP Patches and Session RCE (CVE-2026-126714); Dragos AI Canary Tokens; vCenter Exploit (CVE-2026-123890) (Nov 20th 2026)

SANS Stormcast看原片 ↗
  • Git版本控制在安全分析的應用:Kevin Trong的做法透過Git和Pull Request機制管理蜜罐查詢,自動區分AI貢獻與分析員貢獻,提供完整的變更追蹤與審查能力,確保每個決策都可溯源,此方法可推廣至任何複雜的日誌分析工作
  • PHP漏洞的多維度風險:本次更新修補記憶體問題導致的遠程執行漏洞,會話處理代碼中的RCE最具威脅性,另一個有趣的缺陷是協議識別邏輯錯誤——大寫HTTPS被系統視為無效協議,導致自動降級為不加密的HTTP連線