KeyFrame內部研究專用

AI武器化:新模型挖出27年系統漏洞,Anthropic自己都怕了

搞懂硅谷科技股·4月9日週四·18 min中文

三句話摘要

Anthropic 封印旗下最強 AI 模型 Claude Mythos,並以此為武器啟動全球軟體防禦計畫,同時引爆 AI 網路安全投資賽道。 --- AI 能力的突破不只是技術里程碑,更是強制性地催生了 AI 網路安全這個高確定性的投資賽道,看懂風險本身就是這個時代給長期投資者最大的紅利。 1. Mythos 是能力代差,不是線性升級

重點整理

重點
  • 1

    1. Mythos 是能力代差,不是線性升級

  • 2

    SWE Bench Pro 差距近 25 個百分點、Firefox 漏洞利用成功率是前代的約 100 倍,代表 Mythos 在程式理解與邏輯推理上已與其他模型形成「物種差距」,而非效能微調。

  • 3

    2. 危險能力並非刻意設計,而是通用能力提升後的「意外湧現」

  • 4

    Anthropic 官方文件明確指出,漏洞挖掘能力只是程式碼理解與推理提升的副產品,意味著風險來源本質上難以預測,這是 AI 產業首次由頂級公司正式承認「失控風險」已進入商業現實。

  • 5

    3. Project Glasswing 用受控方式將毒株轉為疫苗

  • 6

    Anthropic 沒有銷毀 Mythos,而是與 40 家頂級機構合作、提供 1 億美元 API 積分,讓 Mythos 主動掃描全球關鍵軟體漏洞,在真實攻擊發生前完成防禦性體檢,邏輯上等同以病毒製作疫苗。

  • 7

    4. Anthropic 的自我克制是長期投資者的安全氣囊

  • 8

    主動封印 Mythos 展示了「安全優先」並非行銷話術,而是核心商業模式。這種自律向監管機構傳遞訊號,避免一刀切監管毀滅整個產業,為長期投資者保留了完整的市場成長空間。

  • 9

    --

實用技巧與重點

乾貨
  • 模型數據
  • 模型代號:Claude Mythos;內部研發代號:Capybara(水豚)
  • SWE Bench Pro:Opus 4.6 = 53.4%,Mythos = 77.8%(差距 ~24.4 個百分點)
  • HLE 綜合評測(無外部工具):Mythos = 56.8%
  • 資訊檢索效率:達成相同準確率,Mythos 耗用資源僅 Opus 4.6 的 1/5(效率提升約 5 倍)
  • 定價:每百萬輸入 Token $25 美元,每百萬輸出 Token $125 美元
  • 安全測試案例
  • OpenBSD:算力成本不到 $50,發現隱藏 27 年的高危零日漏洞(黑市估值數十萬至百萬美元)
  • FreeBSD:自主撰寫完整攻擊程式,可遠端執行程式碼並取得最高系統權限
  • Linux Kernel:串聯多個獨立小漏洞,設計多階段攻擊,繞過核心安全防護
  • FFMPEG:發現隱藏 16 年的漏洞,該漏洞曾通過超過 500 萬次自動化模糊測試
  • Firefox 漏洞利用成功次數:Opus = 2 次(數百次嘗試中),Mythos = 181 次(~100 倍差距)
  • Project Glasswing
  • 合作機構:約 40 家,包含 AWS、Apple、Google、Microsoft、摩根大通等 12 家核心夥伴
  • Anthropic 提供:1 億美元 API 使用積分給合作夥伴
  • 向 OpenSSF 直接捐款:400 萬美元
  • 部署模式:Gated Research Preview(嚴格受控的門控式研究預覽)
  • 財務數據
  • Mythos 運行成本比預期高出 23%
  • Anthropic 毛利率被壓縮至約 40%
  • 市場預測
  • 全球 AI 網路安全市場:2024 年 $253.5 億美元 → 2030 年 $937.5 億美元
  • CAGR:24.4%(來源:Grandview Research;Model Intelligence 預測數據幾乎一致)
  • KPMG 調查:91% 企業領導者將資料安全列為 AI 戰略首要因素
  • 投資工具
  • ETF:CIBR(First Trust NASDAQ Cybersecurity ETF)、HEC(相關網路安全 ETF)
  • --

結論

結論

AI 能力的突破不只是技術里程碑,更是強制性地催生了 AI 網路安全這個高確定性的投資賽道,看懂風險本身就是這個時代給長期投資者最大的紅利。

完整解析

詳細

Anthropic 旗下最新模型 Claude Mythos(研發代號 Capybara)的出現,標誌著 AI 能力出現了一次質的飛躍,而非一般意義上的版本迭代。在衡量真實世界程式能力的 SWE Bench Pro 測試中,前代旗艦 Opus 4.6 已達 53.4% 的頂尖水準,而 Mythos 直接拉高到 77.8%,差距接近 25 個百分點。在資源消耗上,Mythos 達成相同準確率僅需前代五分之一的算力,但定價卻極為高昂——每百萬輸出 Token 收費 125 美元,遠超市場任何現有模型。這確立了它的定位:不是大眾工具,而是稀缺的戰略級算力資產。

然而,Mythos 真正讓 Anthropic 自己也感到恐懼的,是它展現出一種「自主攻擊」能力。在內部安全測試中,Mythos 被對準數個知名開源專案:它花費不到 50 美元的算力成本,在 OpenBSD 中找到了隱藏整整 27 年的高危零日漏洞,而這樣一個漏洞在黑市的估價可達數十萬至百萬美元。面對 FreeBSD,它不只提交漏洞報告,而是自主編寫了完整的攻擊程式,可直接取得系統最高權限。攻擊 Linux 核心時,它更展現出策略規劃思維——串聯多個表面上看似無關的小漏洞,設計多階段攻擊鏈,成功繞過防護機制。更令人震驚的是,它在 FFMPEG 中找到了一個躲過超過 500 萬次自動化模糊測試、隱藏長達 16 年的漏洞。Anthropic 前紅隊負責人 Logan Graham 在內部評估報告中直言:Mythos 具備極度自主的特性,擁有高級安全研究員級別的推理能力,並能自主編寫相應的漏洞利用程式。這種能力的出現並非刻意設計,而是模型通用能力提升後「意外湧現」的副產品,這意味著風險來源本質上難以被完全預測與管控。

面對這個自己創造出的「數位大白鯊」,Anthropic 啟動了代號 Project Glasswing(玻璃翼)的行動:以 Mythos 本身為武器,主動為全球關鍵軟體做防禦性體檢。他們集結了約 40 家頂級機構,包含 AWS、Apple、Google、Microsoft、摩根大通等 12 家核心夥伴,提供總計 1 億美元的 API 使用積分,並向開源安全基金會 OpenSSF 直接捐款 400 萬美元。然而代價不小——運行 Mythos 的成本比預期高出 23%,直接將 Anthropic 的毛利率壓縮至約 40%,意味著每賺一塊錢就有超過一半消耗在 GPU 機群上。這場昂貴的「自我防疫」行動,是科技公司少見的主動治理案例。

從投資視角來看,Mythos 事件實質上宣告了一個新時代的到來:未來最高層級的網路攻防戰將是 AI vs AI 的競賽。當攻擊方已具備 Mythos 等級的能力,防禦方唯一的選項就是以更強的 AI 對抗。這個邏輯將驅使全球企業被迫大幅增加對 AI 驅動防禦工具的支出,形成一個幾乎不可逆的結構性需求。Grandview Research 預測全球 AI 網路安全市場將從 2024 年的 253.5 億美元成長至 2030 年的 937.5 億美元,年複合成長率達 24.4%;KPMG 調查則顯示 91% 的企業領導者已將資料安全列為 AI 戰略的首要議題。對於一般投資者而言,透過 CIBR 或 HEC 等網路安全 ETF,可以不押注單一 AI 公司勝負,而是為整個 AI 時代買一份底層保險——而這份保險本身,正是一個高速增長的資產類別。

---

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。