KeyFrame內部研究專用

GPT 5.6 Sol Just Blew Up The AI World

AI Revolution15 min英文
觀看原始影片

三句話摘要

OpenAI 推出受政府管制的 GPT 5.6,同時發布自訂推理芯片 Jalapeno,面臨政府審查與供應鏈自主化的新時代。 ## 政府監管與硬件自主化將成為 AI 產業的新常態,掌控模型到硬件完整堆棧的公司將獲得長期競爭優勢。 政府監管成為新常態

重點整理

  1. 政府監管成為新常態

  2. 美國政府首次直接干預模型發布計劃,要求 OpenAI 限制 GPT 5.6 訪問權限。這延續了 Anthropic 被迫撤下 Fable 5 的模式,創造一個危險先例:每次重大模型發布都可能變成幕後談判,開發者和用戶可能要到模型被延遲或限制後才知道規則。

  3. 模型能力突破與多智能體協調

  4. Sol 在代碼編寫、生物學工作流和網絡安全領域有重大進展,新增最大推理努力模式用於深度思考,以及超級模式允許多個子智能體協調完成單一智能體無法完成的複雜任務。此設計特別針對長工作流和代理系統,使 token 效率比 GPT 5.5 更佳。

  5. 自訂硬件對抗推理成本危機

  6. OpenAI 與 Broadcom 合作的 Jalapeno ASIC 芯片可將推理成本降低 50%,解決 ChatGPT 和 Codex 快速增長的服務成本問題。9 個月完成設計流片,開發周期創歷史新高,反映 AI 公司不再單純依賴 NVIDIA 的趨勢。

  7. 嚴格的安全分類與測試體系

  8. OpenAI 投入 70 萬個 A100 GPU 小時進行紅隊測試,採用模型級拒絕、實時誤用分類器和賬戶級審查,但預計部分用戶會因安全審查遭遇請求被阻止或延遲回應。

  9. ##

實用技巧與重點

  • 模型與定價
  • GPT 5.6 Sol(旗艦)、Terra(均衡)、Luna(經濟)三層
  • Sol:$5/百萬輸入 tokens、$30/百萬輸出 tokens
  • Terra:$2.50/$15
  • Luna:$1/$6
  • 新增緩存策略:30 分鐘最短生命、1.25 倍寫入費率、90% 讀取折扣
  • Jalapeno 芯片規格
  • 與 Broadcom 合作設計與製造,Celestica 建造伺服器
  • 推理成本降低約 50%
  • Cerebras 部署可達 750 tokens/秒
  • 設計周期:9 個月(初始設計→製造流片)
  • 訪問與部署
  • 首輪:約 20 家政府批准的企業
  • 原型部署:2026 年末
  • 大規模產能提升:2027 年
  • 全規模部署:2028 年上半年
  • 長期目標:2029 年前達 10 GW 自訂運算能力
  • 安全測試投入
  • 自動化紅隊測試:70 萬+ A100 等效 GPU 小時
  • 瀏覽器漏洞測試:Chromium 和 Firefox(未達全鏈exploits)
  • 覆蓋網絡安全、生物與化學風險領域
  • ##

結論

政府監管與硬件自主化將成為 AI 產業的新常態,掌控模型到硬件完整堆棧的公司將獲得長期競爭優勢。

完整解析

OpenAI 正經歷一個關鍵轉折。GPT 5.6 的推出打破了過去的全民訪問模式,取而代之的是政府監管下的分階段部署。美國政府直接要求 OpenAI 限制新模型族群的訪問權限,首輪只有約 20 家經政府批准的公司能使用。這反映了一個更深層的轉變:先進 AI 模型正被各國政府視為需要預先審查的戰略技術,而非市場商品。

這個決定並非孤立事件。Anthropic 不久前也面臨類似政府壓力,最終撤下 Fable 5 模型。這種政府干預開創了一個危險先例。一旦政府證明它可以直接干預、限制前沿模型訪問權,並在沒有明確公開說明的情況下改變公司發布計劃,此舉就可能成為新常態。未來每次重大模型發布都可能變成幕後談判,開發者和用戶要到模型已被延遲或限制時才知道真正的規則。OpenAI 坦承這不是理想狀況,強調政府訪問流程不應成為長期預設,因為它會讓最好的工具遠離用戶、開發者、企業和網絡防禦者。

技術層面,GPT 5.6 Sol 帶來了顯著進步。在代碼編寫、生物學工作流和網絡安全領域都有重大增強,並引入了新的最大推理努力模式(深度思考機制)和超級模式。後者允許系統使用協調的子智能體解決超越單一智能體範圍的複雜任務,這對編碼和長工作流特別關鍵。系統能將工作分散給多個智能體並協調結果,而不是讓一個模型在單線程中獨立完成所有工作。在基準測試上,Sol 在代碼和智能體工作流領域創造最先進成績,同時 token 使用效率超越 GPT 5.5,這意味著運行智能體的成本大幅下降。

但成本問題的真正解決方案來自硬件。OpenAI 與 Broadcom 合作開發了 Jalapeno,這是它首個自訂推理芯片。這個決策源於一個核心困境:AI 模型的成本不僅來自訓練,更來自訓練後持續運行模型以服務用戶。隨著 ChatGPT 和 Codex 使用量增長,以及 AI 產品變得更具智能體特性,推理成本快速上升。智能體需要規劃、調用工具、編寫程式、檢查結果並修訂,這全都是昂貴的推理工作。Jalapeno 是為此優化的專用集成電路,相比標準 GPU 可降低成本約 50%。

最令人印象深刻的是開發速度。從初始設計到製造流片僅 9 個月,刷新了高性能 ASIC 的開發紀錄。而最有趣的細節是 OpenAI 使用自己的 AI 模型來加速芯片設計和優化過程。這創造了一個強大的正反饋迴路:AI 模型幫助設計更好的推理硬件,更好的硬件使 AI 模型更便宜快速運行,更便宜的模型支持更多用戶和智能體,帶來更多收入用於下一代芯片。這個迴路一旦成立,控制從模型到軟件到硬件完整堆棧的公司將擁有相比只構建單一層級的公司更大的長期優勢。

##

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。