KeyFrame內部研究專用

This Claude Mythos 1 Leak Shocked Me

Ava Does AI·5月31日週日·9 min中文

三句話摘要

Anthropic 最強安全模型 Claude Mythos 發現數萬個軟體漏洞,卻因風險過高選擇不公開發布。 AI 找漏洞的能力已不是瓶頸,能快速消化 AI 輸出並付諸行動的人,才是下一個時代真正的競爭優勢。 Mythos 的安全能力遠超前代模型:同一個瀏覽器漏洞測試,舊版 Opus 只能在數百次嘗試中偶爾成功,Mythos 則穩定重現超過一百次,代表這是質的躍升而非量的改進。

重點整理

重點
  • 1

    Mythos 的安全能力遠超前代模型:同一個瀏覽器漏洞測試,舊版 Opus 只能在數百次嘗試中偶爾成功,Mythos 則穩定重現超過一百次,代表這是質的躍升而非量的改進。

  • 2

    AI 可自主完成完整攻擊路徑推導:Anthropic 工程師(無安全背景)只需指向目標、讓模型運行一夜,醒來即得到完整結果,這意味著過去需要資深研究員的工作現在可由 AI 獨立完成。

  • 3

    防禦與攻擊共用同一能力,促使 Anthropic 選擇封閉:發現裂縫可以修補,也可以入侵,Anthropic 因此將 Mythos 限定於 Project Glasswing,讓受信任機構優先加固系統,再考慮更廣泛開放。

  • 4

    AI 找到問題,但修復仍需人力,人才是新瓶頸:發現漏洞後,核對報告、撰寫補丁、部署上線都依賴人工,目前不到 1% 的漏洞完成修復,說明未來的核心競爭力是「能有效處理 AI 輸出」的人。

實用技巧與重點

乾貨
  • 漏洞年齡:OpenBSD 27 年、FreeBSD 17 年、影片解碼工具 16 年
  • 單月掃描量:逾 1,000 個開源專案,標記 23,000+ 問題,10,000+ 屬高危/嚴重
  • Mozilla 成效:單一版本修復 271 個問題,為舊模型的 10 倍
  • Cloudflare 成效:發現約 2,000 個問題
  • 外部驗證準確率:約 90%(9 out of 10 confirmed)
  • UK 政府安全測試:Mythos 成為首個完整通過多步驟攻擊演練的模型
  • Project Glasswing:約 50 個受信任機構,包含 Amazon、Apple、Google、Microsoft、Nvidia、Cisco
  • 修復率:不到 1%(< 1/100)
  • 公開工具:Claude Security(企業用戶 Beta)、安全研究人員特別授權計畫
  • 舊模型對比:Claude Opus 同場景成功率遠低於 Mythos(數百次中僅少數次 vs. 100+ 次)

結論

結論

AI 找漏洞的能力已不是瓶頸,能快速消化 AI 輸出並付諸行動的人,才是下一個時代真正的競爭優勢。

完整解析

詳細

Claude Mythos 的故事從一次意外洩漏開始。在 Anthropic 官方聲明之前,「Mythos」這個名字出現在不應出現的地方,截圖迅速流傳,因為它不符合 Anthropic 一貫的命名慣例(Haiku、Sonnet、Opus),社群立刻意識到這是某種不同層級的東西。幾天後官方確認:全名為 Claude Mythos Preview,定位是 Anthropic 迄今最強的模型,而它最突出的能力,是在軟體中找出人類看了幾十年都視而不見的安全漏洞。

Mythos 的表現最能用幾個具體案例說明。OpenBSD 是業界公認最嚴格的安全作業系統之一,然而其中一個裂縫從 1990 年代末就靜靜藏著,歷經無數安全專家與自動化工具的審查,沒有人發現——Mythos 在單次運行中就把它揪出來。FreeBSD 的 17 年漏洞可讓攻擊者從任意位置取得伺服器完整控制權;另一個 16 年漏洞藏在幾乎所有網路影片播放都會用到的解碼工具裡。這些都不是新程式碼的粗心,而是被反覆審視、反覆確認「沒問題」的老舊程式碼。Mythos 的能力不僅是找到漏洞,它還能自主推導出攻擊路徑——Anthropic 工程師描述,他們把目標指給模型、關燈去睡,醒來就得到完整結論,整個過程幾乎不需要人介入。

規模層面同樣驚人。Mythos 在一個月內掃描逾千個開源專案,標記超過 23,000 個問題,其中 10,000 多個被評為高危或嚴重等級。Mozilla 用它在單一 Firefox 版本中修復了 271 個問題,約為舊模型成效的 10 倍;Cloudflare 找出約 2,000 個問題;外部安全專家隨機抽驗後,約 90% 確認為真實漏洞。英國政府旗下的 AI 安全測試機構將 Mythos 放入其最高難度的多步驟攻擊演練,它成為史上第一個全部通關的模型。

然而 Anthropic 做了一個出乎大多數人意料的決定:不公開發布。原因直白——找到裂縫可以修補,也可以入侵,能力本身是中性的,但風險不對稱。他們因此設立 Project Glasswing,將使用權限僅開放給約 50 個受信任機構(涵蓋 Amazon、Apple、Google、Microsoft、Nvidia、Cisco 等),讓防禦方先行加固,再考慮更廣泛的開放。這個決定揭示了一個更深層的現實:AI 已經找到了問題,但目前已發現漏洞中不到 1% 完成修復。審查報告、撰寫補丁、測試、部署——這一切仍然依賴人力。AI 不再是瓶頸,人才是。未來最有競爭力的人,不一定是使用最強工具的人,而是能夠有效接收 AI 輸出並把它轉化為實際行動的人。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。