KeyFrame內部研究專用

讲透8大AI核心概念:看清大模型从“会说话”到“能办事”的演进脉络

白白说大模型·8月18日週二·14 min中文

三句話摘要

解讀大模型從會說話到能辦事的 8 大核心概念與技術演進脈絡。 理解這八大核心概念的演進脈絡,掌握的不只是技術知識,而是面對未來 AI 新浪潮時的認知方法論——每個新概念都在解決缺陷鏈上的某一環。 LLM 本質是基於統計概率的文字生成器,而非知識庫檢索系統。它透過學習訓練數據的規律來逐字預測下一個詞,而非從資料庫查找現成答案;這解釋了它有時會信口開河的原因——目標是生成最通順的文字,不是提供客觀事實。

重點整理

重點
  • 1

    LLM 本質是基於統計概率的文字生成器,而非知識庫檢索系統。它透過學習訓練數據的規律來逐字預測下一個詞,而非從資料庫查找現成答案;這解釋了它有時會信口開河的原因——目標是生成最通順的文字,不是提供客觀事實。

  • 2

    Token 是理解 AI 成本的關鍵密碼。中文的 Token 消耗量通常是英文的 1.5~2 倍,因此將中文背景描述翻譯成英文寫入系統提示詞,不僅能提升理解效率,還能直接省下一半的賬單費用。

  • 3

    Context(上下文)是臨時黑板而非長期記憶。每次提問時系統會重新打包所有歷史對話放在這塊黑板上,但容量有限,超出時最早的內容被自動清除,因此塞進去的信息質量和準確度直接決定了 AI 的輸出品質。

  • 4

    從 Tool 到 Agent 再到 MCP 再到 Agent Scale,體現了 AI 從「有執行能力」→「有自主決策」→「有通用連接」→「有專業深度」的四重進化,每個新概念都在解決上一個概念的致命缺陷。

實用技巧與重點

乾貨
  • LLM 工作範例:「小貓坐在」的下一個詞概率分布——椅子 85% > 沙發 10% > 地板 5%
  • Token 切分效率對比:英文「artificial intelligence」= 2 個 token;中文「人工智能」= 3~4 個 token
  • Token 成本優化方案:中文文案翻譯成英文寫入系統提示詞,省下 50% 費用
  • Prompt 結構化編程的四大要素:① 明確角色(如資深產品經理)→ ② 限定場景(三個項目進度數據)→ ③ 明確任務(撰寫標準化週報)→ ④ 規範輸出(本週進展、風險預警、下週計畫)
  • 無工具時的 AI:只能列出計算公式和分析步驟,後續需人工在 Excel 複製貼上
  • 有工具時的 AI:自動調用 Python/Excel 引擎讀取本地檔案、分析數據、生成趨勢圖表、導出 PDF
  • Agent 的三個核心能力:① 任務拆解 ② 工具選擇 ③ 動態調整與錯誤修正
  • Agent 的旅行規劃案例:接收「五千元三亞五天自由行」目標 → 自動拆解為機票、酒店、景點 → 發現超預算時自動調整方案 → 最終交出完整行程單
  • MCP 的類比:AI 界的通用 USB 接口,統一了不同廠商模型和工具間的私有協議,類似十多年前手機行業統一充電接口前的混亂
  • Agent Scale 應用案例:企業合同合規審查專家版本,內置法律條款 SOP 與違規風險識別能力,把通用 Agent 的 60 分提升到 90 分以上的專業戰力
  • 現代 AI 架構完整流程:複雜業務目標 → Agent 接收並加載 Agent Scale 技能包 → 通過 MCP 無縫調用外部工具 → 工具數據切分成 Token 並組織成 Prompt → 排布在 Context 臨時黑板 → LLM 底層做高精度決策 → 逐層返回結果

結論

結論

理解這八大核心概念的演進脈絡,掌握的不只是技術知識,而是面對未來 AI 新浪潮時的認知方法論——每個新概念都在解決缺陷鏈上的某一環。

完整解析

詳細

大模型的發展並非零散無序,而是一部環環相扣解決缺陷鏈的進化史。首先從最底層的思維層開始——LLM 並不是人們直觀想像的「超級搜索引擎」。它的本質是一個極其聰明的文字接龍生成器,基於在海量訓練文本中學到的統計規律,逐字逐句地預測下一個詞出現的概率,然後選擇概率最高的詞持續生成。這正是為什麼 AI 有時會憑空捏造事實——它的目標不是提供客觀真相,而是生成聽起來最通順的文字。既然工作單位是「詞」,計算機就需要一套統一的切分標準,這就是 Token 的角色。但這裡隱藏著決定成本的秘密:中文的 Token 消耗量因為切分算法對漢字的拆分更細碎,往往是英文的 1.5 到 2 倍。了解這個秘密,我們可以把中文背景描述翻譯成英文寫入系統提示詞,不僅提升理解效率,還能直接省下一半的費用。這些 Token 被送入 LLM 大腦後需要放在某個地方進行處理,那就是 Context(上下文)——本質上像一塊教室裡的臨時黑板。每次提問時系統並不是從某個永久存儲中調取資料,而是把過去的所有對話重新抄寫在黑板上,讓 AI 看著完整的記錄來回答最新問題。但黑板容量有限制,一旦對話過長,最早的內容就會被自動擦掉。這解釋了為什麼 AI 有時會「遺忘」你最初的要求。

要讓 AI 在這塊有限的黑板上輸出高品質答案,Prompt(提示詞)的寫法至關重要。一個高效的 Prompt 不是隨意提問,而是用自然語言對 AI 進行結構化編程,必須明確角色、限定場景、交代具體任務、規範輸出格式。比如寫週報的 Prompt,應該說明你是資深產品經理、要根據三個項目進度數據、撰寫標準化週報、包含本週進展、風險預警和下週計畫。結構清晰的指令才能激發 AI 的最佳表現。但即便思維層再聰明,AI 依然只是坐在房間裡的思想家,無法介入現實。為了突破這個物理邊界,工程師們給 AI 裝上了 Tools(工具)。有了工具後,AI 可以不再只列出計算公式,而是直接調用 Python 引擎、連接 Excel 檔案、生成圖表、導出 PDF。這是執行能力的巨大飛躍。

但新問題隨之而來:如果每一步用什麼工具、何時用、出錯了怎麼辦都需要人類步步指引,那 AI 還是不夠智能。於是 Agent(智能體)應運而生——給 AI 配上了自主決策的項目經理。Agent 的核心不是擁有工具清單,而是能夠自動拆解複雜目標、選擇合適工具、根據反饋動態調整方案。比如規劃「五千元三亞五天自由行」,Agent 可以自動分解成查機票、找酒店、排景點,發現酒店超預算時自動調整檔次。這是從「步驟驅動」到「目標驅動」的質變。隨著 Agent 越來越多,新問題又出現了——不同廠商的模型要連接不同公司的工具,需要成百上千種私有協議,浪費資源且難以擴展。MCP(模型上下文協議)就像 AI 界的通用 USB 接口,統一了交互標準,讓各種模型和工具無縫插接。最後,一個通用的 Agent 雖然什麼都會一點,但在複雜專業領域表現平庸。Agent Scale 就是把行業頂尖專家的經驗、嚴密的 SOP、檢查標準打包成技能包,把普通 Agent 提升為領域專家。這八個概念縱橫交織,完整構建了現代 AI 的技術生態。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。