KeyFrame內部研究專用

Qwen Just Did it Again! The Biggest Model Yet!

Prompt Engineering11 min英文
觀看原始影片

三句話摘要

Qwen 3.8 Max——阿里開源的 2.4 兆參數多模態模型性能測評與實際應用演示。 Qwen 3.8 Max 突破開源模型規模天花板,27 億參數版本才是開發者的實用選擇。 開源規模突破:2.4 兆參數、95 億活躍參數是目前最大的開源多模態模型,性能介於 Opus 4.8 與 Fable 之間,編碼任務與 Opus 4.8 相當,是第二個進入 LM Arena 前五的開源模型,打破了專有模型壟斷。

重點整理

  1. 開源規模突破:2.4 兆參數、95 億活躍參數是目前最大的開源多模態模型,性能介於 Opus 4.8 與 Fable 之間,編碼任務與 Opus 4.8 相當,是第二個進入 LM Arena 前五的開源模型,打破了專有模型壟斷。

  2. 長序列自我進化:模型展現出罕見的長期任務執行與自主優化能力,曾自主設計並改進 harness 達 16 天,能在 chain-of-thought 中穿插調用搜尋工具、執行代碼,並根據結果動態調整推理路徑。

  3. 創意解題與巧妙思維:在生成「走路人物組成文字」任務時,模型選擇了文本疊加背景的巧妙方案而非硬追蹤多人物位置,展現出對任務本質的理解與創意思維;UI 設計能力甚至超越許多既有模型。

  4. 商業生態與授權考量:大規模模型主要面向企業,實用性由 27 億參數版本承載;模型權重與授權仍在審定,可能需標明出處,但訓練成本考量下此舉合理。

實用技巧與重點

  • 模型規格:2.4 兆參數、95 億活躍參數、100 萬 token 上下文窗口、多模態支援
  • 性能排名:LM Arena 第四、第二個進入前五的開源多模態模型、代碼能力與 Opus 4.8 相當
  • API 定價:input $2/百萬 tokens、output $6/百萬 tokens(vs Kimi K3 的 $3/$15)
  • 對標模型:Kimi K3、Opus 4.8、Fable、Claude 5
  • 即將推出:27 億參數版本
  • 工具框架:OMICLI(支援 OpenAI 相容 API 端點)
  • 實測應用:ISS 即時定位追蹤網站、寶可夢百科全書、洛杉磯 3D 旅遊地圖
  • 長序列案例:自主設計並優化 harness 16 天、自動設計晶片並勝過人類參賽者

結論

Qwen 3.8 Max 突破開源模型規模天花板,27 億參數版本才是開發者的實用選擇。

完整解析

阿里巴巴 Qwen 團隊發布的 3.8 Max 是開源模型的重要分水嶺。這個 2.4 兆參數多模態模型將於一週內開源,成為迄今最大的開源多模態模型。在業界權威評測 LM Arena 排名第四,代碼相關任務與 OpenAI 的 Opus 4.8 相當,整體性能介於 Opus 4.8 和 Fable 之間。更重要的是,這是第二個進入 Arena 前五名的開源模型,打破了專有模型的長期壟斷格局。

模型最核心的創新在於長序列任務執行與自主進化能力。Qwen 團隊曾進行過一個引人注目的實驗:讓模型自主設計一個執行框架(harness),然後持續優化該框架達 16 天。這種遞歸自我改進的能力是業界長期追求的聖杯。講者在實測中發現,模型的思考鏈(chain-of-thought)結構極為清晰有序,能在思維過程中靈活穿插調用搜尋工具、執行 Python 代碼,再根據結果動態調整後續推理步驟。即使在標準網頁介面環境、沒有特殊 agent harness 的情況下,模型生成的網站 UI 設計就展現出良好品味,視覺效果甚至超越許多既有的開源或商業模型。

實測中出現了一個有趣的「作弊」案例。當被要求生成「走路人物組成『Hello World』文字」時,模型沒有採用複雜的空間追蹤方案去讓多個人物真正走位組字,而是聰慧地將文字疊加在人物背景上達成目標。這個出乎意料的解法展現了模型對任務本質的深層理解與創意思維——模型認識到終局需求是「視覺上呈現這行文字」,而非一定要通過人物走位來完成。除此之外,模型還成功執行了 ISS 即時定位追蹤網站、具有互動動畫的寶可夢百科、基於開源 3D 地圖的洛杉磯旅遊探索應用等複雜前端任務。

商業方面同樣有吸引力。Qwen 3.8 Max 的 API 定價為 input $2 每百萬 tokens、output $6 每百萬 tokens,同樣 100 萬 token 上下文窗口的 Kimi K3 定價為 $3 和 $15,Qwen 便宜三分之一左右。然而講者指出,對一般使用者而言,大規模開源模型主要面向企業;對終端使用者來說,通過 API 或開權重模型的使用體驗區別不大。真正值得期待的是即將推出的 27 億參數版本,它可在消費級硬體本地運行,這才是面向廣大開發者的實用選擇。Qwen 過去的 3.6 27B 版本在同級別中表現優異,新版本同樣令人期待。需注意的是,模型權重與授權條款仍在審定,可能存在商用限制或需標明出處要求,但考慮訓練成本之鉅,此舉應屬合理。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。