KeyFrame內部研究專用

SN 1087: HalluSquatting, GhostApproval & GitLost - Patch Tuesday Breaks Records

Security Now·7月14日週二·168 min英文

三句話摘要

AI已成為國家級網絡安全戰略資產,各國政府與企業正根本性改變防禦策略以應對AI驅動的威脅。 AI已不再是網絡安全的工具層面創新,而成為各國政府必須掌控的國家戰略資產,其地位等同於電網,各國正競速建立主權AI防禦能力以避免被他國AI所制約。 AI改變防禦時間尺度:Mythos等模型能在分鐘內完成原需數週的漏洞發現。攻防雙方都被迫加速,防禦者必須部署同等級AI才能跟上攻擊速度,否則將完全處於劣勢。傳統每月數十個漏洞的時代已終結。

重點整理

重點
  • 1

    AI改變防禦時間尺度:Mythos等模型能在分鐘內完成原需數週的漏洞發現。攻防雙方都被迫加速,防禦者必須部署同等級AI才能跟上攻擊速度,否則將完全處於劣勢。傳統每月數十個漏洞的時代已終結。

  • 2

    各國展開國家級戰略回應:這不再是技術採購問題,而是國家安全決策。歐盟建立主權AI能力、英國開發自主代理防禦系統、中國限制先進模型海外訪問。每個大國都認知到若失去本土AI掌控權,將被他國AI所制約,風險等同失去電力供應。

  • 3

    漏洞發現進入指數級增長期:微軟預計未來4-6個月每月發現400多個漏洞。這標誌著AI終於讓人類有能力審視幾十年累積的軟體缺陷。數字從上升轉向下降的拐點可能在一年內出現。

  • 4

    完全自動化防禦不再是科幻:英國GCHQ構想的聯邦AI代理系統可在國家層級自動發現、分析、修復漏洞,並跨組織邊界實時共享威脅情報。這與1970年代科幻作品《Colossus》的設想逐漸接近現實可行。

實用技巧與重點

乾貨
  • 關鍵數字與截止期限
  • 微軟Patch Tuesday: 570個漏洞(59個關鍵級)、3個零日漏洞、468個Edge漏洞
  • 前月記錄被破,預計未來4-6個月維持每月400+發現率
  • ECB截止日期:2026年10月31日
  • Anthropic Mythos已發現數千個嚴重漏洞
  • AI模型與工具名稱
  • Claude Mythos (Anthropic) — 網絡安全專用,漏洞發現
  • Mdash (Microsoft) — 多模態掃描框架,整合多模型驗證
  • Deep Seek — 中國低成本AI模型
  • Qwen (視覺辨識模型) — 中國模型,27GB參數
  • Mistral (法國) — 本地漏洞狩獵工具
  • ZAI GLM 5.2 — 成本為美國模型四分之一
  • 相關組織與倡議
  • ECB警告:邊境AI構成嚴重網絡威脅,要求銀行強化防禦
  • EU行動計畫:三大目標為安全使用AI、強化網絡彈性、擴展歐洲AI能力
  • 英國Cyber Shield:國家級自主AI防禦,包含紅隊/藍隊代理
  • 中國限制:限制先進模型海外訪問,視為國家安全
  • CISA實踐:已用Mythos審計美國政府代碼庫
  • 具體攻擊方式
  • Halu squatting(幻覺竊占)
  • Ghost Approval(幻影批准)
  • GitLost(Git漏洞利用)
  • Rogue Planet(Windows Defender提權漏洞,已修補)
  • Mdash流程機制
  • 掃描關鍵二進位檔 → 多模態辯論驗證候選項 → Windows特定驗證管道 → 消除假陽性 → 工程團隊審核

結論

結論

AI已不再是網絡安全的工具層面創新,而成為各國政府必須掌控的國家戰略資產,其地位等同於電網,各國正競速建立主權AI防禦能力以避免被他國AI所制約。

完整解析

詳細

自Anthropic發布Mythos以來,AI對網絡安全的衝擊已從技術議題升格為各國政府的緊急戰略考量。過去兩個月,歐洲央行、英國情報機構、中國政府相繼宣布重大舉措,共同指向一個現實:AI已不可控地改變了攻防平衡,各國必須從國家層級重新設計防禦架構。

歐洲率先做出公開反應。歐洲央行主席拉加德上月警告AI可能引發金融危機,隨後ECB執行副總裁克勞德.布奇致函歐元區最大銀行的首席執行官,要求他們在10月底前提交AI風險應對計畫,包括加快軟體補丁部署、強化AI防禦能力、審查外部技術合作夥伴。歐盟委員會隨之公布更廣泛的「網絡安全與人工智慧行動計畫」,宣示三大目標:建立評估AI模型的容量、與ENISA共同開發安全訪問先進AI的藍圖、啟動歐盟AI網絡安全大挑戰以發展本土AI解決方案。這些文件背後的焦慮很明確——美國公司主導著全球最先進的AI,歐洲正面臨戰略依賴風險。

英國的回應最具雄心。GCHQ主任在5月27日Bletchley Park的年度講座上宣布,英國正開發「Cyber Shield」計畫,旨在將自主AI代理硬編碼到國家級防禦中。NCSC隨後發表長篇白皮書,詳細闡述其願景:在聯邦信任架構下,紅隊代理自動發現網絡漏洞,藍隊代理實時檢測並遏制攻擊行為。這些代理將跨組織邊界協作,執行國家層級掃描和自動化緩解操作。儘管NCSC坦言這面臨重大技術挑戰——包括可靠的AI解釋性、自動化修復的安全驗證等——但該倡議仍代表著一種歷史性的轉變:將整個國家的網絡安全自動化,正如1970年科幻電影《Colossus》所描繪的情景逐漸變成可能。

中國採取了保護主義路線。路透社報導,北京與阿里巴巴、字節跳動等本土科技巨頭舉行了多輪會議,討論限制最先進AI模型的海外訪問,並將AI技術洩露納入國家安全法的刑事責任範圍。會議還涉及對外資進入國內AI初創公司融資的新限制。這一系列措施反映了中國對Mythos潛力的認知——該模型能以前所未有的速度發現軟體漏洞,對國家安全構成直接威脅。

微軟則以最具體的數據示人。本月Patch Tuesday發布了570個漏洞修補,創下歷史紀錄,其中59個關鍵級別、3個零日漏洞。這遠超前月的記錄,而前月本身就打破了此前的所有紀錄。微軟的博客明確表示,未來將維持每月數百個漏洞的高速發現率。這背後是該公司部署的Mdash框架——一個多模態掃描系統,結合多個AI模型進行漏洞發現、驗證和去重。微軟並未隱瞞這背後的人工智慧驅動:該公司正在根本性改造其軟體開發生命週期,使AI檢測成為編碼過程的即時環節,而非事後修復。漏洞已不再是可接受的軟體成熟度指標,而是必須在發佈前根除的缺陷。CISA已開始使用Mythos審計美國政府代碼庫,這標誌著美國政府官方認可了AI漏洞發現的必要性。

這些舉措的共同指向已不容否認:AI正在根本性改變網絡防禦的可能性。當漏洞發現從人工稀缺變成機器充裕時,軟體質量將進入新的數量級。預計在不超過一年的時間內,每月發現的漏洞數將開始下降,最終趨向於零——不是因為停止搜尋,而是因為可發現的漏洞已被根除。此時新的軟體將以預先消毒的狀態出廠,整個網絡安全威脅模型將被徹底重塑。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。