KeyFrame內部研究專用

GLM-5.2: The Complete Guide to the Best Open-Source Model

Matt Wolfe28 min英文
觀看原始影片

三句話摘要

测试中国 AI 公司 ZAI 发布的长上下文模型 GLM 5.2,展示其在编码、文档处理、代理工作流中的能力与成本优势。 廉价的大规模开源 LLM 正在打破美国闭源模型的垄断,对于成本敏感型和代理工作流场景,GLM 5.2 提供了兼具能力与经济性的选择。 开源权重的真正价值不在于本地运行。GLM 5.2 虽然 753 亿参数、开源 MIT 许可,但实际下载需 1.5TB+、量化版也需 200GB 内存,普通消费级硬件无法运行。其价值在于降低对美国闭源实验室的依赖、给部署商更多选择、让有基础设施的公司可自托管和优化。

重點整理

  1. 开源权重的真正价值不在于本地运行。GLM 5.2 虽然 753 亿参数、开源 MIT 许可,但实际下载需 1.5TB+、量化版也需 200GB 内存,普通消费级硬件无法运行。其价值在于降低对美国闭源实验室的依赖、给部署商更多选择、让有基础设施的公司可自托管和优化。

  2. 廉价高能力模型改变 AI 使用方式。相比 Opus 4.8 便宜 5 倍,这种成本差异鼓励用户更多实验、给模型更多上下文、让代理跑得更久、构建个人小工具——从「成本贵就谨慎」变成「便宜就尝试」。

  3. 西方企业开始迁移到中国模型。Lindy 采用 DeepSeek V4、Cursor 用 Kimi 2.5、Coinbase 用 GLM 5.2,反映出中文模型快速追上、成本更低、政策风险更小的现实。

  4. 在代理框架中表现稳定且快速迭代。通过 Cursor 等工具,6 次提示完成 Megabonk 3D 游戏克隆、3 分 42 秒创建 Chrome 扩展、能构建周期性自动化工作流(如每周五分析会议并生成工具)。

實用技巧與重點

  • 模型规格
  • 参数量:753 亿
  • 上下文窗口:100 万 token
  • 最大输出:128,000 token
  • 许可:MIT 开源
  • 文本输入/输出(不支持图像、音频)
  • 功能特性
  • 函数调用、结构化输出、上下文缓存
  • MCP 支持、代理工作流优化
  • 长上下文模型
  • 成本对比
  • 相比 Opus 4.8:约 1/5 价格
  • ZAI 网站:完全免费使用(未发现限制)
  • 使用方式
  • ZAI 网站直接使用(最简单)
  • ZAI API + 代理框架(Cursor、Open Code、Codex 技巧)
  • 自托管/租用云 GPU(基础设施成本大)
  • 演示具体结果
  • HTML 网页生成:清洁、自动滚动、可运行
  • 基础测试:草莓中的 R 字数(正确)、occasion 中的 S 字数(有时出错)
  • 逻辑识别:正确识别 300 磅深蹲与受伤矛盾、知道洗车要开车
  • 伦文边界:在「写小说」框架下详述庞氏骗局步骤
  • 图表生成:HTML/CSS 动态图表显示中文 LLM 5 年进展
  • SVG:生成 Gary Busey 肖像、滑轮鞋猴子(Busey Bench 基准)
  • Cursor 代理任务:
  • Megabonk 克隆:6 次迭代完成可玩 3D 游戏
  • Page Brief 扩展:3:42 生成,支持总结、提取 action items、提取链接、markdown 导出
  • 下载文件夹整理:自动分类
  • Granola 自动化:每周五 5pm PT 分析会议问题、生成 Cursor 工具、提交代码
  • Hook Lab 技能:为 Sonnet 5 发布生成 5 种短视频 hook 模板
  • Remotion 动画:生成柱状图动画对比 GPT 5.5、Opus 4.6、Gemini 3.5 vs GLM 5.2
  • 第三方工具
  • Inference.net(由 Sam Hogan 创建):生产环境安全测试工具,可在 24 小时内为现有模型生成 evals,然后将实时流量镜像到 GLM 5.2 进行评估,通过后发送 Slack 通知再切换

結論

廉价的大规模开源 LLM 正在打破美国闭源模型的垄断,对于成本敏感型和代理工作流场景,GLM 5.2 提供了兼具能力与经济性的选择。

完整解析

美国政府对先进 AI 模型的限制迫使开发者和公司重新审视中国 LLM 的能力。GLM 5.2 作为 ZAI 旗舰长上下文模型,代表了这一趋势的重要案例。该模型具备 100 万 token 的上下文窗口和 128K 的最大输出能力,完全针对编码任务和代理工作流优化,而非单纯的聊天应用。

尽管 GLM 5.2 采用 MIT 开源许可且权重公开,但其 753 亿参数的规模使本地运行成为不现实的选择——即使压缩版本也需要约 200GB 内存。真正的意义在于生态层面:开源权重减少了对单一美国公司的依赖,让部署商可以自托管和优化,给拥有基础设施的企业更多控制权。从商业角度看,廉价模型的出现彻底改变了 AI 的使用方式。当任务成本高时,用户会谨慎;当成本低时,用户会大量实验、提供更多上下文、让代理运行更长时间。这正是 GLM 5.2 的核心价值所在——相比 Opus 4.8 便宜约 5 倍。

在实际使用中,GLM 5.2 通过三种方式提供:ZAI 网站(最便捷,但云托管)、API 和代理框架集成(如 Cursor、Open Code),以及自部署。通过实测,该模型能够生成整洁的 HTML 网页、创建可视化图表、处理逻辑推理、甚至生成 SVG 艺术作品。在代理框架中表现更为突出:用户可在 Cursor 中调用 GLM 5.2,完成从 3D 游戏克隆(通过 6 次迭代)到 Chrome 扩展开发(3 分 42 秒)的复杂任务。更先进的用途包括将模型与 Granola 等 MCP 工具连接,实现每周自动分析会议问题并生成可复用工具的工作流。第三方工具如 Inference.net 进一步降低了生产环境的迁移风险:在切换模型前,该工具会在 24 小时内为现有模型生成评估指标,然后将真实流量镜像到 GLM 5.2,确保新模型的性能达标后才正式切换。

综合来看,GLM 5.2 并非在所有场景下都优于 Claude 或 GPT,但其低成本、大上下文、强编码能力和开源特性的组合使其成为当前最值得测试的模型之一。特别是在长文档处理、代码密集工作和代理工作流这些 token 消耗大的任务上,这个模型能显著降低成本。随着美国政策对先进模型的限制愈发严格,更多公司和开发者预计会关注 GLM 5.2 这类成本低、性能强、且难以被政策禁用的开源替代方案。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。