KeyFrame內部研究專用

The US Government Just Pulled The World's Most Powerful AI Offline

Julia McCoy·6月18日週四·10 min英文

三句話摘要

Claude Fable 5(即 Claude 5)的真實能力、被美國政府緊急下架的始末,以及這件事對 AI 使用者真正意味著什麼。 模型可以一夜消失,真正不變的資產是你知道把 AI 指向什麼問題的判斷力。 Fable 5(公開版)與 Mythos(限制版)是同一引擎,差別在安全護欄是否開啟。媒體大多數「恐怖」標題描述的是 Mythos,而非你手邊的版本,兩者不可混淆。

重點整理

重點
  • 1

    Fable 5(公開版)與 Mythos(限制版)是同一引擎,差別在安全護欄是否開啟。媒體大多數「恐怖」標題描述的是 Mythos,而非你手邊的版本,兩者不可混淆。

  • 2

    Mythos 在一個月內掃出超過 10,000 個嚴重安全漏洞,包括潛伏 OpenBSD 27 年的 bug;正因能力過強,Anthropic 最初拒絕公開發布,優先交給銀行、電力、醫療等關鍵基礎設施修補漏洞。

  • 3

    2026 年 6 月 12 日,美國政府要求 Anthropic 對全球外籍人士關閉 Fable 5 與 Mythos,發布僅三天即下架;Anthropic 公開表示政府誤解了風險,此舉史無前例。

  • 4

    Fable 5 的核心優勢在於長時間複雜任務:Stripe 用它一天完成工程團隊兩個月的 5000 萬行程式碼遷移;這代表 AI 首次能自主規劃、執行並自我修正整個專案,而非只是回答單一問題。

實用技巧與重點

乾貨
  • 模型名稱:Fable 5(公開)、Mythos(政府/合作夥伴限定)
  • Mythos 發現漏洞數:超過 10,000 個,含 OpenBSD 27 年舊漏洞
  • Stripe 案例:5000 萬行程式碼遷移,人工 2 個月 → AI 1 天
  • Hex 基準測試:單版本提升 10 個百分點,達 90% 通過率
  • 安全護欄觸發率:不足 5% 的對話會切換至較弱模型
  • 關閉日期:2026 年 6 月 12 日(發布後第三天)

結論

結論

模型可以一夜消失,真正不變的資產是你知道把 AI 指向什麼問題的判斷力。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。