KeyFrame內部研究專用

Qwen 3.8 is LIVE NOW! Can It Survive 3 Brutal Tests? (Qwen 3.8 Max Benchmarks)

Ray Codes7 min英文
觀看原始影片

三句話摘要

Alibaba Q1 3.8 Max 模型發布,具有 2.4 兆參數和多項基準測試領先性能,即將開源 27B 版本。 Q1 3.8 Max 透過混合專家架構、隱式快取和卓越的多模態能力,重新定義了開源大模型的成本與性能平衡,即將發布的 27B 開源版本將進一步民主化 AI 開發。 架構創新降低成本與延遲:雖然模型參數龐大(2.4T),但透過混合專家(Mixture of Experts)架構,只路由提示到相關專家系統,避免喚醒全部參數,既保持速度又節省計算力。加上隱式快取會自動在雲端伺服器記憶體中保存系統指令和程式碼倉庫,大幅降低輸入成本。

重點整理

  1. 架構創新降低成本與延遲:雖然模型參數龐大(2.4T),但透過混合專家(Mixture of Experts)架構,只路由提示到相關專家系統,避免喚醒全部參數,既保持速度又節省計算力。加上隱式快取會自動在雲端伺服器記憶體中保存系統指令和程式碼倉庫,大幅降低輸入成本。

  2. 長上下文與自主規劃能力:模型可跨 500 次 AI turns 記憶目標,支援長期系統規劃(如 365 天行銷策略)。實驗證明它能在 10 天自主迴圈中從空目錄建構完整生產系統,無需人工干預。

  3. 多模態原生整合與自我修正:內建視覺迴圈能動態追蹤自己的渲染 UI 輸出並自我修正程式碼,使其特別適合多模態應用開發。在視覺推理基準(Blava)達 91.3%,在 OS World 電腦使用測試達 86.1%。

  4. 消費級與企業級的雙軌部署:27B 開源版本可在單張 RTX 4090 執行,降低開發者門檻;2.5T 主模型需多節點 GPU 集群但適合生產環境,不同規模團隊都有適合的選擇。

實用技巧與重點

  • 模型規格
  • 參數量:2.4 兆參數(主模型)、27B 參數(開源版,下週發布)
  • 架構:混合專家(MoE)
  • 支援:長上下文 500 turns 記憶
  • 性能基準
  • SWE Pro(複雜編碼任務):67.7%(vs Q1 3.7:-7%,vs Opus 4.8:相當)
  • 終端代理基準:86.6%(勝 Opus 4.8、Fabel 5,低於 GPT 5.6 Sol)
  • 論文基準(學術應用):93.0%
  • Q1 React Bench(React 前端開發):17.24(勝競爭對手,略低於 Fabel 5)
  • Blava 視覺基準:91.3%
  • OS World(電腦使用代理):86.1%
  • 定價(API 模式)
  • 標準輸入:$2/百萬 tokens
  • 輸出生成:$6/百萬 tokens
  • 隱式快取輸入:$0.25/百萬 tokens(最高 87% 折扣)
  • 運行環境
  • 27B 版本:單張 RTX 4090 或 Apple Mac Studio
  • 主模型:多節點 GPU 伺服器集群
  • 線上訪問:chat.q1.ai
  • 實測能力
  • 生成互動式神經網路訓練視覺化(含實時 epoch、loss、accuracy、權重矩陣)
  • 生成 3D 星系與重力體模擬視覺化(含黑洞互動、物理模擬)
  • 生成威脅情報儀表板(含全球地圖渲染、攻擊弧動畫、IP 檢視、多層級日誌追蹤)
  • 全部輸出為單一 HTML 檔案(含 HTML、CSS、JavaScript)

結論

Q1 3.8 Max 透過混合專家架構、隱式快取和卓越的多模態能力,重新定義了開源大模型的成本與性能平衡,即將發布的 27B 開源版本將進一步民主化 AI 開發。

完整解析

Alibaba 正式發布旗艦模型 Q1 3.8 Max,標誌著開源 AI 技術的重大突破。這款模型擁有 2.4 兆個參數,提供了驚人的數學編碼和上下文記憶容量,足以處理複雜的系統規劃任務。但為了避免龐大參數帶來的速度瓶頸,Q1 3.8 Max 採用了混合專家架構—只將提示路由到相關的專家系統,保持了處理速度的同時大幅節省運算資源。這種設計哲學讓企業既能享受大模型的能力,又不必擔心硬體成本。

成本方面的創新同樣亮眼。Q1 透過隱式快取技術,自動在雲端伺服器的 RAM 中記憶系統指令和程式碼倉庫,使得重複使用長上下文時的輸入成本從標準的 $2/百萬 tokens 劇降至 $0.25/百萬 tokens,相當於折扣 87%。這對需要長時間推理或反覆上下文窗口的應用場景(如自主代理、365 天策略規劃)幾乎是革命性的改變。實驗證明,Q1 3.8 Max 能在 10 天的自主迴圈中從零開始構建完整的生產系統,無需人工介入,展現了超強的長期規劃與執行能力。

技術層面上,模型內建原生視覺迴圈,能動態追蹤自己生成的 UI,並根據視覺反饋自我修正程式碼,使其特別適合多模態應用開發。基準測試結果印證了這一點:在 Blava 視覺推理上達 91.3%、OS World 電腦使用代理測試達 86.1%,在多個關鍵任務上都超越 Opus 4.8 和 Fabel 5。特別值得注意的是終端代理測試達 86.6%,顯示它在系統級命令執行上的熟練度。

實測演示進一步驗證了這些能力。模型成功生成了互動式神經網路訓練視覺化,實時顯示訓練的 epoch 次數、損失值、準確度,還動態呈現網路權重的視覺化;製作了 3D 星系與重力體模擬,使用者可以添加黑洞觀察系統響應;最後生成了企業級的全球威脅情報儀表板,包含地圖渲染、攻擊弧動畫、IP 節點檢視和分級日誌追蹤。所有輸出都是單一 HTML 檔案,開箱即用,無需複雜的部署。

值得注意的是,Q1 3.8 Max 使用長步驟推理過程,因此輸出生成速度可能較慢,導致延遲較高,這是其主要限制。但 Alibaba 即將發布 27B 開源權重版本,可直接在 RTX 4090 或 Mac Studio 運行,大幅降低開發者的使用門檻。這意味著開發社群很快就能從龐大的主模型轉移到經過充分測試的輕量版本,完全掌控部署和推理。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。