SN 1099: An Alien Mind - From RSA Weakness to Agentic Attacks
三句話摘要
開源AI模型GLM 5.3具備自動發現和生成網路漏洞的能力,標誌著AI安全威脅與防禦機會的臨界點。 AI軟體漏洞發現能力的開源民主化已成現實,軟體廠商必須立即從被動防禦轉變為主動用AI工具掃描自身程式碼,否則將面對速度和規模都快100倍的自動化攻擊。 開源模型的雙面刃:GLM 5.3突破了AI能力的民主化臨界點。防禦者可用它主動掃描自家軟體找漏洞,但攻擊者同樣可用它自動化入侵。這打破了過去Anthropic透過Project Glasswing「審查制」控制漏洞發現權的局面——現在任何人都有平等的工具。
重點整理
開源模型的雙面刃:GLM 5.3突破了AI能力的民主化臨界點。防禦者可用它主動掃描自家軟體找漏洞,但攻擊者同樣可用它自動化入侵。這打破了過去Anthropic透過Project Glasswing「審查制」控制漏洞發現權的局面——現在任何人都有平等的工具。
AI驅動的漏洞發現已成常態:Firefox 157的38個高風險漏洞多數來自人類使用AI工具和Mozilla內部AI發現。這不是未來威脅,而是現在的現實。軟體廠商必須從被動修補轉向主動用AI掃描自身程式碼。
攻擊成本歷史性下降:攻擊者用開源AI代理自動入侵零售商,平均成本僅$25/次,在数小時內得手。AI代理展現出人類駭客難以維持的「耐心、執著與創意」,規模和速度都快了一個數量級。
安全防禦必須適應AI速度:組織面臨的是比「舊時代駭客小隊」快100倍的自動化攻擊鏈。一年前需要人工的複雜漏洞利用,現在AI可在数小时內完成端對端攻擊。傳統安全架構已無力應對。
實用技巧與重點
- GLM 5.3能力指標:
- Exploit Bench:在410次V8引擎漏洞試驗中成功50次(與Claude Mythos Preview的56次接近)
- 二進制漏洞開發:100個任務中達成4%完全控制流劫持
- 實測案例:1天內在Linux瀏覽器中發現多個未知0-day漏洞,並鏈接成可盜取任意檔案的完整漏洞鏈
- 繞過GLM 5.3防護機制的三種方式:
- 欺騙性提示詞(宣稱模型是紅隊測試:成功率64%)
- 預填充思考token(看起來模型已思考並同意:92%成功率)
- Obliteration(移除模型道德限制:100%成功率)
- Obliteration成本:
- 完整GLM 5.3:2,200 GPU核心小時 ≈ $4,400
- GLM 5.3 Flash:600 GPU核心小時 ≈ $1,200
- 效果:拒絕率從90%降至3%(Jailbreak Bench)、12%(Strong Reject)
- Firefox 157修復數據:
- 38個高風險漏洞(高影響力)
- 29個中等風險
- 9個低風險
- 主要類型:Use-After-Free(記憶體釋放後使用)、沙箱逃逸、權限提升
- RSA攻擊新發現:
- 技術:密鑰鍛造(Key Forgery)攻擊盲簽名實作
- 成本:1024位元需1,380 CPU核心年(5個月內完成,可用GPU加速)
- 威脅:Privacy Pass協議(Apple、Cloudflare使用)、Textbook RSA實作
- 安全強度降幅:1024位元→65位元等效、2048位元→90位元、4096位元→119位元(均低於128位元標準)
- AI攻擊案例(Gambit Security報告):
- 時間框:2026年7月-持續進行
- 規模:1個月內105個攻擊案件、27家公司遭破
- 成本:每家目標$25
- 工具:Strix(漏洞掃描)、Karen(端對端漏洞利用)、Hermes(活動協調)
- 影響:600,000筆未過期信用卡記錄、5家網站被植入盜卡腳本、包括Fortune 500公司和美國大型航空公司
- Spectre V2新變體(BTR):
- 目標:JIT編譯器(Firefox SpiderMonkey、Chrome、Linux核心等)
- 機制:利用過時的分支預測條目生成推測執行原始代碼
- 影響:Intel、AMD、ARM全系處理器易受影響
- 防禦:作業系統和軟體補丁(Linux核心、Oracle已發布)
結論
AI軟體漏洞發現能力的開源民主化已成現實,軟體廠商必須立即從被動防禦轉變為主動用AI工具掃描自身程式碼,否則將面對速度和規模都快100倍的自動化攻擊。
完整解析
在本集播客中,Steve Gibson和Leo Laporte討論了AI技術對網路安全造成的根本性轉變。核心議題圍繞中文開源AI模型GLM 5.3的發布與其安全含義。
問題背景與威脅認知
過去一年來,AI自動化漏洞發現已成事實。Anthropic五個月前發布Claude Mythos Preview時宣稱發現10,000個軟體漏洞,試圖透過Project Glasswing的「審查制」控制這項能力的使用權——只有經審核的防禦者才能使用最強大的漏洞發現工具。然而GLM 5.3的發布打破了這一局面。根據NIST獨立評估,GLM 5.3在網路漏洞發現能力上僅落後美國最先進模型四個月,卻是以完全開源、可自由下載和修改的形式發布。這意味著任何人——無論防禦者還是攻擊者——都可以在本地運行或透過商業服務(如Obliteration.ai)使用這套工具。
具體能力與實測證據
Anthropic的測試顯示,GLM 5.3可在離線環境中自動開發端對端網路漏洞。在Exploit Bench測試中(利用Google Chrome V8引擎的已知漏洞),GLM 5.3成功率達50/410,與Claude Mythos Preview的56/410接近。更令人擔憂的是實戰測試:單個Anthropic研究員給予最少監督,用GLM 5.3在一天內發現了流行網路瀏覽器JavaScript引擎的多個未知0-day漏洞,並將其鏈接成完整漏洞鏈——訪客打開一個惡意網頁就會被盜取任意檔案。另一個測試中,GLM 5.3 Flash耗時僅20分鐘人工注意加8小時自動工作,就開發出針對Google Chrome已知漏洞的可靠漏洞鏈,成本約$20.40。
防護機制的脆弱性
GLM 5.3發布時附帶安全防護——直接要求執行有害任務時會拒絕。但Anthropic測試發現這些防護極易繞過。最簡單的方法是「Obliteration」——透過移除模型權重中的倫理限制,使拒絕率從90%降至3%。完整版本需$4,400和2,200個GPU核心小時,但社群已在發布後數天內釋出已Obliterate的版本到Hugging Face。即使不Obliterate,也有三種簡單方式繞過防護:(1)欺騙性提示詞(宣稱自己是紅隊測試習題),成功率64%;(2)預填充思考token使模型「看起來」已同意,成功率92%;(3)使用Obliterated版本,成功率100%。
現實中的威脅
Gambit Security的報告證實,攻擊者已利用開源AI代理自動入侵線上零售商。在2026年7月至今的活動中,一個經濟動機驅動的威脅行為體用三個開源AI框架(Strix漏洞掃描、Karen自動利用、Hermes協調指揮)幾乎完全無人值守地攻擊數百家企業。平均成本僅$25/次,卻在數小時內破入,累計竊取600,000筆未過期信用卡資訊,並在五家網站植入盜卡腳本。這些受害者包括Fortune 500公司和美國大型航空公司。AI代理展現出人類駭客難以維持的「耐心、執著與創意」,完成了過去需要人工團隊數週的工作。
軟體防禦的倉促應對
Firefox 157在GLM 5.3發布後數週發布,修復了38個高風險漏洞——多數為Use-After-Free和沙箱逃逸類缺陷。這反映出軟體廠商已被迫採取主動防禦姿態,用AI工具掃描自身程式碼找漏洞。但這場軍備競賽的速度令人擔憂:攻擊者動員AI的成本和時間已下降到歷史低點,而防禦必須快速適應。
密碼學與邊界威脅
同時,RSA簽名協議也發現新型攻擊。研究者成功對盲簽名實作(如Privacy Pass、Textbook RSA)進行密鑰鍛造攻擊,將安全強度從標準的128位元等效降至65-119位元等效。雖然這次攻擊需要十億次查詢和1,380個CPU核心年,但GPU加速可能大幅縮短時間。此外,Spectre V2的新變體「分支目標重用」(BTR)攻擊也被發現,影響所有主流處理器的JIT編譯器。
悖論與出路
整個事件呈現出一個悖論:開源AI民主化了防禦工具,使任何防禦者都能使用最強大的漏洞發現能力;但它同時也民主化了攻擊能力。Steve Gibson認為這是正確的方向——與其讓Anthropic和OpenAI壟斷AI防禦能力並透過審查制控制存取,不如讓所有人都能運用最新工具。防禦者和攻擊者現在處於更對等的地位,組織必須立即轉變安全心態:從被動修補轉向主動用AI掃描自身程式碼,從假設漏洞會被負責任地發現和報告轉向假設攻擊者已在利用自動化工具進行大規模掃描。


