KeyFrame內部研究專用

GLM-5.2: The Complete Guide to the Best Open-Source Model

Matt Wolfe·7月1日週三·28 min英文

三句話摘要

测试中国 AI 公司 ZAI 发布的长上下文模型 GLM 5.2,展示其在编码、文档处理、代理工作流中的能力与成本优势。 廉价的大规模开源 LLM 正在打破美国闭源模型的垄断,对于成本敏感型和代理工作流场景,GLM 5.2 提供了兼具能力与经济性的选择。 开源权重的真正价值不在于本地运行。GLM 5.2 虽然 753 亿参数、开源 MIT 许可,但实际下载需 1.5TB+、量化版也需 200GB 内存,普通消费级硬件无法运行。其价值在于降低对美国闭源实验室的依赖、给部署商更多选择、让有基础设施的公司可自托管和优化。

重點整理

重點
  • 1

    开源权重的真正价值不在于本地运行。GLM 5.2 虽然 753 亿参数、开源 MIT 许可,但实际下载需 1.5TB+、量化版也需 200GB 内存,普通消费级硬件无法运行。其价值在于降低对美国闭源实验室的依赖、给部署商更多选择、让有基础设施的公司可自托管和优化。

  • 2

    廉价高能力模型改变 AI 使用方式。相比 Opus 4.8 便宜 5 倍,这种成本差异鼓励用户更多实验、给模型更多上下文、让代理跑得更久、构建个人小工具——从「成本贵就谨慎」变成「便宜就尝试」。

  • 3

    西方企业开始迁移到中国模型。Lindy 采用 DeepSeek V4、Cursor 用 Kimi 2.5、Coinbase 用 GLM 5.2,反映出中文模型快速追上、成本更低、政策风险更小的现实。

  • 4

    在代理框架中表现稳定且快速迭代。通过 Cursor 等工具,6 次提示完成 Megabonk 3D 游戏克隆、3 分 42 秒创建 Chrome 扩展、能构建周期性自动化工作流(如每周五分析会议并生成工具)。

實用技巧與重點

乾貨
  • 模型规格
  • 参数量:753 亿
  • 上下文窗口:100 万 token
  • 最大输出:128,000 token
  • 许可:MIT 开源
  • 文本输入/输出(不支持图像、音频)
  • 功能特性
  • 函数调用、结构化输出、上下文缓存
  • MCP 支持、代理工作流优化
  • 长上下文模型
  • 成本对比
  • 相比 Opus 4.8:约 1/5 价格
  • ZAI 网站:完全免费使用(未发现限制)
  • 使用方式
  • ZAI 网站直接使用(最简单)
  • ZAI API + 代理框架(Cursor、Open Code、Codex 技巧)
  • 自托管/租用云 GPU(基础设施成本大)
  • 演示具体结果
  • HTML 网页生成:清洁、自动滚动、可运行
  • 基础测试:草莓中的 R 字数(正确)、occasion 中的 S 字数(有时出错)
  • 逻辑识别:正确识别 300 磅深蹲与受伤矛盾、知道洗车要开车
  • 伦文边界:在「写小说」框架下详述庞氏骗局步骤
  • 图表生成:HTML/CSS 动态图表显示中文 LLM 5 年进展
  • SVG:生成 Gary Busey 肖像、滑轮鞋猴子(Busey Bench 基准)
  • Cursor 代理任务:
  • Megabonk 克隆:6 次迭代完成可玩 3D 游戏
  • Page Brief 扩展:3:42 生成,支持总结、提取 action items、提取链接、markdown 导出
  • 下载文件夹整理:自动分类
  • Granola 自动化:每周五 5pm PT 分析会议问题、生成 Cursor 工具、提交代码
  • Hook Lab 技能:为 Sonnet 5 发布生成 5 种短视频 hook 模板
  • Remotion 动画:生成柱状图动画对比 GPT 5.5、Opus 4.6、Gemini 3.5 vs GLM 5.2
  • 第三方工具
  • Inference.net(由 Sam Hogan 创建):生产环境安全测试工具,可在 24 小时内为现有模型生成 evals,然后将实时流量镜像到 GLM 5.2 进行评估,通过后发送 Slack 通知再切换

結論

結論

廉价的大规模开源 LLM 正在打破美国闭源模型的垄断,对于成本敏感型和代理工作流场景,GLM 5.2 提供了兼具能力与经济性的选择。

完整解析

詳細

美国政府对先进 AI 模型的限制迫使开发者和公司重新审视中国 LLM 的能力。GLM 5.2 作为 ZAI 旗舰长上下文模型,代表了这一趋势的重要案例。该模型具备 100 万 token 的上下文窗口和 128K 的最大输出能力,完全针对编码任务和代理工作流优化,而非单纯的聊天应用。

尽管 GLM 5.2 采用 MIT 开源许可且权重公开,但其 753 亿参数的规模使本地运行成为不现实的选择——即使压缩版本也需要约 200GB 内存。真正的意义在于生态层面:开源权重减少了对单一美国公司的依赖,让部署商可以自托管和优化,给拥有基础设施的企业更多控制权。从商业角度看,廉价模型的出现彻底改变了 AI 的使用方式。当任务成本高时,用户会谨慎;当成本低时,用户会大量实验、提供更多上下文、让代理运行更长时间。这正是 GLM 5.2 的核心价值所在——相比 Opus 4.8 便宜约 5 倍。

在实际使用中,GLM 5.2 通过三种方式提供:ZAI 网站(最便捷,但云托管)、API 和代理框架集成(如 Cursor、Open Code),以及自部署。通过实测,该模型能够生成整洁的 HTML 网页、创建可视化图表、处理逻辑推理、甚至生成 SVG 艺术作品。在代理框架中表现更为突出:用户可在 Cursor 中调用 GLM 5.2,完成从 3D 游戏克隆(通过 6 次迭代)到 Chrome 扩展开发(3 分 42 秒)的复杂任务。更先进的用途包括将模型与 Granola 等 MCP 工具连接,实现每周自动分析会议问题并生成可复用工具的工作流。第三方工具如 Inference.net 进一步降低了生产环境的迁移风险:在切换模型前,该工具会在 24 小时内为现有模型生成评估指标,然后将真实流量镜像到 GLM 5.2,确保新模型的性能达标后才正式切换。

综合来看,GLM 5.2 并非在所有场景下都优于 Claude 或 GPT,但其低成本、大上下文、强编码能力和开源特性的组合使其成为当前最值得测试的模型之一。特别是在长文档处理、代码密集工作和代理工作流这些 token 消耗大的任务上,这个模型能显著降低成本。随着美国政策对先进模型的限制愈发严格,更多公司和开发者预计会关注 GLM 5.2 这类成本低、性能强、且难以被政策禁用的开源替代方案。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Everything Goldman Sachs Taught Me About AI (In 10 minutes)
AI 技術英文8月24日

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk

  • 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。
  • 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。
  • 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。
Mu: a self-hosted personal agent where the interface is an email address you can write to
AI 技術英文8月23日

Mu: a self-hosted personal agent where the interface is an email address you can write to

GitHub Awesome

  • Mu 是自主代理人系統,具有實際網址與獨立伺服器,用戶可透過多種方式與其互動——網頁應用、電子郵件或程式化介面。
  • 架構完整覆蓋日常工作流程的多個層面,整合郵件收發(SMTP/IMAP)、檔案管理、行事曆、新聞聚合、市場數據與搜尋功能於一個 Go 伺服器內。
  • 支援自帶模型與多種通訊協定,用戶可選擇不同的 AI 模型,並透過 MCP、HTTP API 或命令列工具整合到其他系統。