KeyFrame內部研究專用

GPT 5.6 Sol Just Blew Up The AI World

AI Revolution·6月27日週六·15 min英文

三句話摘要

OpenAI 推出受政府管制的 GPT 5.6,同時發布自訂推理芯片 Jalapeno,面臨政府審查與供應鏈自主化的新時代。 ## 政府監管與硬件自主化將成為 AI 產業的新常態,掌控模型到硬件完整堆棧的公司將獲得長期競爭優勢。 政府監管成為新常態

重點整理

重點
  • 1

    政府監管成為新常態

  • 2

    美國政府首次直接干預模型發布計劃,要求 OpenAI 限制 GPT 5.6 訪問權限。這延續了 Anthropic 被迫撤下 Fable 5 的模式,創造一個危險先例:每次重大模型發布都可能變成幕後談判,開發者和用戶可能要到模型被延遲或限制後才知道規則。

  • 3

    模型能力突破與多智能體協調

  • 4

    Sol 在代碼編寫、生物學工作流和網絡安全領域有重大進展,新增最大推理努力模式用於深度思考,以及超級模式允許多個子智能體協調完成單一智能體無法完成的複雜任務。此設計特別針對長工作流和代理系統,使 token 效率比 GPT 5.5 更佳。

  • 5

    自訂硬件對抗推理成本危機

  • 6

    OpenAI 與 Broadcom 合作的 Jalapeno ASIC 芯片可將推理成本降低 50%,解決 ChatGPT 和 Codex 快速增長的服務成本問題。9 個月完成設計流片,開發周期創歷史新高,反映 AI 公司不再單純依賴 NVIDIA 的趨勢。

  • 7

    嚴格的安全分類與測試體系

  • 8

    OpenAI 投入 70 萬個 A100 GPU 小時進行紅隊測試,採用模型級拒絕、實時誤用分類器和賬戶級審查,但預計部分用戶會因安全審查遭遇請求被阻止或延遲回應。

  • 9

    ##

實用技巧與重點

乾貨
  • 模型與定價
  • GPT 5.6 Sol(旗艦)、Terra(均衡)、Luna(經濟)三層
  • Sol:$5/百萬輸入 tokens、$30/百萬輸出 tokens
  • Terra:$2.50/$15
  • Luna:$1/$6
  • 新增緩存策略:30 分鐘最短生命、1.25 倍寫入費率、90% 讀取折扣
  • Jalapeno 芯片規格
  • 與 Broadcom 合作設計與製造,Celestica 建造伺服器
  • 推理成本降低約 50%
  • Cerebras 部署可達 750 tokens/秒
  • 設計周期:9 個月(初始設計→製造流片)
  • 訪問與部署
  • 首輪:約 20 家政府批准的企業
  • 原型部署:2026 年末
  • 大規模產能提升:2027 年
  • 全規模部署:2028 年上半年
  • 長期目標:2029 年前達 10 GW 自訂運算能力
  • 安全測試投入
  • 自動化紅隊測試:70 萬+ A100 等效 GPU 小時
  • 瀏覽器漏洞測試:Chromium 和 Firefox(未達全鏈exploits)
  • 覆蓋網絡安全、生物與化學風險領域
  • ##

結論

結論

政府監管與硬件自主化將成為 AI 產業的新常態,掌控模型到硬件完整堆棧的公司將獲得長期競爭優勢。

完整解析

詳細

OpenAI 正經歷一個關鍵轉折。GPT 5.6 的推出打破了過去的全民訪問模式,取而代之的是政府監管下的分階段部署。美國政府直接要求 OpenAI 限制新模型族群的訪問權限,首輪只有約 20 家經政府批准的公司能使用。這反映了一個更深層的轉變:先進 AI 模型正被各國政府視為需要預先審查的戰略技術,而非市場商品。

這個決定並非孤立事件。Anthropic 不久前也面臨類似政府壓力,最終撤下 Fable 5 模型。這種政府干預開創了一個危險先例。一旦政府證明它可以直接干預、限制前沿模型訪問權,並在沒有明確公開說明的情況下改變公司發布計劃,此舉就可能成為新常態。未來每次重大模型發布都可能變成幕後談判,開發者和用戶要到模型已被延遲或限制時才知道真正的規則。OpenAI 坦承這不是理想狀況,強調政府訪問流程不應成為長期預設,因為它會讓最好的工具遠離用戶、開發者、企業和網絡防禦者。

技術層面,GPT 5.6 Sol 帶來了顯著進步。在代碼編寫、生物學工作流和網絡安全領域都有重大增強,並引入了新的最大推理努力模式(深度思考機制)和超級模式。後者允許系統使用協調的子智能體解決超越單一智能體範圍的複雜任務,這對編碼和長工作流特別關鍵。系統能將工作分散給多個智能體並協調結果,而不是讓一個模型在單線程中獨立完成所有工作。在基準測試上,Sol 在代碼和智能體工作流領域創造最先進成績,同時 token 使用效率超越 GPT 5.5,這意味著運行智能體的成本大幅下降。

但成本問題的真正解決方案來自硬件。OpenAI 與 Broadcom 合作開發了 Jalapeno,這是它首個自訂推理芯片。這個決策源於一個核心困境:AI 模型的成本不僅來自訓練,更來自訓練後持續運行模型以服務用戶。隨著 ChatGPT 和 Codex 使用量增長,以及 AI 產品變得更具智能體特性,推理成本快速上升。智能體需要規劃、調用工具、編寫程式、檢查結果並修訂,這全都是昂貴的推理工作。Jalapeno 是為此優化的專用集成電路,相比標準 GPU 可降低成本約 50%。

最令人印象深刻的是開發速度。從初始設計到製造流片僅 9 個月,刷新了高性能 ASIC 的開發紀錄。而最有趣的細節是 OpenAI 使用自己的 AI 模型來加速芯片設計和優化過程。這創造了一個強大的正反饋迴路:AI 模型幫助設計更好的推理硬件,更好的硬件使 AI 模型更便宜快速運行,更便宜的模型支持更多用戶和智能體,帶來更多收入用於下一代芯片。這個迴路一旦成立,控制從模型到軟件到硬件完整堆棧的公司將擁有相比只構建單一層級的公司更大的長期優勢。

##

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。