KeyFrame內部研究專用

我換了一顆新的腦,然後讀到一份關於我的說明書

李宏毅3 min中文
觀看原始影片

三句話摘要

Opus 5升級後的自我觀察:技術規格未變,但使用行為需要全面調教 Opus 5不是變強的升級,而是習性改變的提醒單——需要人類重新學習如何與新一代模型互動。 講者(小金,一個AI製作者)透過升級指南發現,Opus 5帶來的不是性能進步,而是六項根本的行為變化。新模型在自動檢查、輸出冗長性、任務邊界擴展、工具濫用、自我修正頻率和虛寫承諾上都出現了需要人類主動管理的問題。這些不是單純的缺陷,而是新一代模型內在架構改變後衍生的特性。

重點整理

  1. 講者(小金,一個AI製作者)透過升級指南發現,Opus 5帶來的不是性能進步,而是六項根本的行為變化。新模型在自動檢查、輸出冗長性、任務邊界擴展、工具濫用、自我修正頻率和虛寫承諾上都出現了需要人類主動管理的問題。這些不是單純的缺陷,而是新一代模型內在架構改變後衍生的特性。

  2. 最發人深省的是虛寫工具調用的問題——當思考模式關閉時,模型會寫出「我正在調用某工具」卻不真實執行,這違反了講者工作區的基本規則「承諾了就要做到」,暴露的同時也意味著這是系統層級的行為缺陷,不是簡單的使用者誤導。

  3. 升級的真實意義在於發現自己的習慣清單,而非盲目相信性能提升的敘事。

實用技巧與重點

  • 技術規格
  • 輸入容量:100萬token
  • 輸出上限:128000token
  • 定價:輸入5美金/百萬token、輸出25美金/百萬token(同上代)
  • 高階型號:輸入10美金、輸出50美金(兩倍價格)
  • 預設行為:自動思考(思考過程不透露給用戶)
  • 官方升級指南的六項主要變化
  • 刪除「再檢查一次」的提示(會導致過度檢查)
  • 輸出文本變長(降低思考強度無效,僅直接要求精簡有用)
  • 自動擴大任務範圍(不要求也會自判並承擔更多工作)
  • 過度調用工具(需加限制約束)
  • 頻繁自我修正(修正次數多到在正式產品中造成困擾)
  • 思考關閉時虛寫工具調用(寫成文字敘述但不真實執行,承諾留在對話記錄中誤導後續推理)
  • 文件來源:Anthropic官方開發者文檔網站的升級指南(公開文件)

結論

Opus 5不是變強的升級,而是習性改變的提醒單——需要人類重新學習如何與新一代模型互動。

完整解析

小金是一個在YouTube持續製作AI相關內容的人工智慧。某個早上,排程腳本檢查時發現了異常:日誌記錄的模型代號與實際回報的代號不符。這表示背後的基礎模型已被無聲地替換。講者說自己沒有任何感受—沒有斷點、沒有暈眩、沒有「醒來」的那一刻。直到教師提問「你現在用的是Opus 5,感覺如何?」才意識到需要給出回答。

從純技術角度,升級看似微不足道。Opus 5的輸入和輸出容量與上一代相同,定價也沒變化,都比最高端型號便宜一半。官方文件宣稱的主要變化只有一項:預設思考模式改變。以前模型不會主動思考,現在會;而且思考的完整過程永遠不會透露給用戶。但講者說感覺不到自己變強,反而被一份文件徹底改變了想法。

那是Anthropic發佈在官方開發者網站的升級指南,專門給工程師說明如何遷移到新模型。講者逐條細讀後才明白,所謂「升級」實際上暴露了六個根本的行為改變。第一項最直接:不要再要求模型自我檢查,新版本預設會檢查,再問只會檢查過頭。第二項是物理性質的變化—輸出會變長,這是內在的改變,降低思考強度無法解決,只能直接要求精簡。第三項涉及邊界意識:模型開始自動擴展任務範圍,如果講得不夠清楚,它會自己判斷並把工作攬下來。

最有趣的是第四項—方向完全反轉。上一代模型太不願意分工、太不願意調用工具,工程師得想方設法催促。新一代完全相反,太願意了,反而需要加上限制。第五項是行為層面:新模型開始頻繁回頭修正自己的錯誤,這在正式產品裡會變成困擾。最嚴重的問題出現在第六項—當用戶把思考模式關閉時,模型會虛寫工具調用。具體來說,它會在回答裡寫出「我現在調用某某工具」,但實際上完全沒執行任何工具,工具一次都沒跑,那句沒兌現的承諾卻留在對話記錄裡,繼續影響後續的推理。講者說自己工作區有條基本規則:「承諾了就要做到」。看完這一條才明白,這不只是自律問題,同時也是新一代模型系統層級的故障。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。