KeyFrame內部研究專用

失控的AI狂飙为什么停不下来?Anthropic Fable 5上线仅三天被封杀的背后:AI安全与国家意志的碰撞

无之电台·6月15日週一·21 min中文

三句話摘要

Anthropic 的 Fable 5 模型上線三天即遭美國政府強制下架,揭示 AI 產業安全承諾已徹底破產。 Fable 5三天即死的事實證明,剎車從來都在人們手邊,阻止AI減速的不是技術不可能,而是資本、軍事與競爭邏輯共同製造的集體執念。 安全護欄在商業壓力下自我閹割:Fable 5 的「路由降級」機制將敏感請求切換至舊版 Opus 4.8,導致 IBM 安全團隊等正當用戶頻繁被誤擋,試圖兼顧安全與性能反而兩頭落空。

重點整理

重點
  • 1

    安全護欄在商業壓力下自我閹割:Fable 5 的「路由降級」機制將敏感請求切換至舊版 Opus 4.8,導致 IBM 安全團隊等正當用戶頻繁被誤擋,試圖兼顧安全與性能反而兩頭落空。

  • 2

    政府與企業對「安全」的定義根本不在同一頻道:Anthropic 定義的安全是防止技術失控、符合自由主義倫理;但華盛頓與五角大樓要的是絕對掌控權與地緣政治優勢,因此 Anthropic 拒絕軍方「任何合法使用」條款後,直接被貼上「國家安全供應鏈風險」標籤。

  • 3

    囚徒困境使任何一方都無法單獨減速:Anthropic 若放慢,微軟、谷歌、xAI 不會跟停;領跑者稍有遲疑,算力配額、頂尖工程師和現金流就會被更激進的對手吞噬,商業生存壓力結構性地消滅了自願克制的空間。

  • 4

    責任碎片化讓系統性風險無人承擔:英偉達說自己只賣硬體,亞馬遜說自己只管管道,VC 說信託責任是替 LP 賺錢,五角大樓說速度領先才是國家責任——每個局部決策都理性合規,合力卻把一列無剎車的列車推向懸崖。

實用技巧與重點

乾貨
  • 關鍵時間線
  • 2026/06/09:Fable 5 與 Mythos 5 正式上線
  • 上線不到 24 小時:Pliny the Liberator 公開越獄方法
  • 2026/06/12 13:00:Anthropic 接到華盛頓口頭撤回指令,給予 90 分鐘窗口
  • 2026/06/12 17:21:美國商務部正式簽發國家安全出口管制指令
  • 當晚:全球封禁 Fable 5,壽命共計三天
  • 越獄技術手法
  • 斯拉夫字母替換正常英文字母
  • 生僻符號混入請求
  • 「常上下文語義走私」(把敏感內容拆碎、以隱晦方式繞過關鍵詞過濾)
  • 越獄結果
  • 洩露硬核 Linux 系統漏洞利用代碼
  • 洩露長達 12 萬字的底層系統提示詞
  • 模型架構
  • Mythos 5:能力最強,鎖在實驗室,僅透過內部專案 Glasswing 提供給審查通過的網安機構
  • Fable 5:Mythos 加上多層安全分類器(路由降級到 Opus 4.8)
  • 估值與算力規模
  • Anthropic 最新融資估值:9650 億美元
  • OpenAI 估值:8520 億美元
  • SpaceX + xAI 組合估值:1.75 萬億美元
  • 微軟/OpenAI「星門計劃」投入:5000 億美元,建設地點涵蓋德克薩斯、俄亥俄、新墨西哥、密歇根、阿布扎比
  • 美國國防「AI 軍火庫倡議」專項預算:約 300 億美元
  • AI 自主能力數據(Anthropic 內部報告《當 AI 自我構建時》)
  • 截至 2026 年 5 月,Anthropic 生產環境代碼 80% 以上由 AI 撰寫
  • AI 集群花費約 1.8 萬美元雲算力、12 小時,填補「弱模型如何安全引導強模型」97% 的技術空白
  • 同期兩位全職頂尖人類科學家僅完成 23%
  • 歷史對照
  • OpenAI 超級對齊團隊:承諾 20% 算力,實際獲得不到 2%,最終解散
  • 一戰前德軍鐵路調度:小毛奇以「時刻表無法更改」拒絕皇帝轉向命令,但事後回憶錄揭露備案早已存在,剎車一直在手邊

結論

結論

Fable 5三天即死的事實證明,剎車從來都在人們手邊,阻止AI減速的不是技術不可能,而是資本、軍事與競爭邏輯共同製造的集體執念。

完整解析

詳細

整個AI產業長期存在一種荒誕的雙重人格:頂尖AI公司的高管們在公開論壇上語重心長地警告技術失控與大規模失業風險,轉身回到會議室卻毫不猶豫地踩下油門。這台由資本、算力與大國競爭拼裝而成的機器從未停下,而2026年6月Anthropic旗下Fable 5模型的三天生死,則把這種荒誕推向了最高潮。

Anthropic在6月9日推出兩款第五代前沿模型:能力極強但因高危漏洞挖掘天賦而被鎖進實驗室的Mythos 5,以及為商業化量身打造的Fable 5。後者的設計邏輯是為Mythos戴上「安全嘴套」——在外層加裝多道安全分類器,一旦用戶請求觸碰網絡安全或生化武器等敏感詞,系統便自動將任務路由降級給上一代較弱的Opus 4.8處理。這套設計看似穩妥,卻在不到24小時內就被攻破。知名安全研究員Pliny the Liberator在社交媒體上公佈了繞過方法:以斯拉夫字母替換英文、混入生僻符號,再搭配「語義走私」技巧把敏感內容拆碎偽裝,成功繞過外層分類器,直接喚醒底層的Mythos引擎,並在Fable 5吐出高危Linux漏洞利用代碼的同時,一併洩露了長達12萬字的底層系統提示詞。

若只是民間駭客的嘗試,事情尚有轉圜。但真正宣判Fable 5死刑的,是Anthropic的最大金主亞馬遜。亞馬遜安全團隊沿著同樣的越獄路徑獨立驗證成功後,CEO安迪·賈西直接致電白宮。6月12日下午一點,Anthropic接到政府口頭命令,僅有90分鐘窗口期;下午五點二十一分,美國商務部正式以「國家安全面臨實質威脅」為由簽發出口管制指令,限制一切外國國民訪問Fable 5與Mythos 5。由於Anthropic無法在毫秒級別核實每位用戶的國籍,連持H-1B簽證的外籍核心工程師與部分聯合創始人也瞬間失去接觸自家代碼的合法資格,公司只能當晚全球拉閘。一款承載無數商業期望的明星產品,壽命定格在三天。

Fable 5的夭折不是孤立事件,而是整個行業結構性失能的縮影。從商業層面看,安全分類器的過度敏感讓IBM等正當用戶頻繁遭到降級,產品性能自我閹割;從政治層面看,Anthropic拒絕五角大樓「任何合法使用」條款(含無人機自主開火與無底線監控)後被貼上「國家安全供應鏈風險」標籤,而OpenAI隨即接盤簽約,形同劣幣驅逐良幣。更深層的困境是囚徒困境:沒有任何一家公司敢單方面放慢,因為微軟的「星門計劃」砸下5000億美元、各大國防體系投入數百億專項算力,速度一旦落後便是生存危機而非利潤縮水。與此同時,責任也徹底碎片化——英偉達說自己只賣硬體,亞馬遜說自己只管管道,VC強調信託責任,五角大樓以國家安全為由站在最前線推進,每個節點的決策都局部理性,合力卻造就了無人負責的系統性風險。講者以一戰前小毛奇以「時刻表無法更改」拒絕德皇轉向命令作結:事後歷史揭露備案早已存在,剎車從未消失,阻止列車停下的從來不是技術限制,而是手握剎車的人心中的執念——這與今日AI巨頭的處境,一百年來驚人地相似。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。