KeyFrame內部研究專用

從零搞懂 RAG,要搭個人或企業知識庫必學!

Gary Chen21 min中文
觀看原始影片

三句話摘要

解析 RAG 技術原理與實踐方法,展示如何精準高效地為 AI 系統輸送知識,避免常見的實施陷阱。 ## RAG 的本質是「Context Engineering」——在有限的視窗裡把最高密度、最正確的資料端到 AI 眼前,讓回答有跡可循,這套邏輯不僅是工程技術,更是與 AI 高效協作的思維框架。 限制倒逼創新

重點整理

  1. 限制倒逼創新

  2. Context Window 容量固定(主流約 100 萬 Token),大規模知識庫(數百萬 Token)無法一次塞入;重複輸入造成延遲和成本激增,每問一題都要重讀全部資料。

  3. 資料清洗是基礎

  4. Raw 文本充滿噪音(時間戳、笑聲、寒暄),需兩階段洗淨:先用腳本去除格式雜訊,再用小模型做代名詞還原、多人講話標清,讓每個 Chunk 自帶完整脈絡。

  5. 混合搜尋最務實

  6. 純關鍵字搜尋無法識別同義詞,純語意搜尋容易忽略專有名詞;Hybrid Search 並行兩路(精確字面 + 抽象意思),再用 Re-ranking 篩出真正相關的卡片。

  7. 排查流程比暴力升級有效

  8. 答案錯誤時依序檢查:R 前半(資料有沒有被切壞)→ R 後半(有沒有被找到)→ A(有沒有排進前三名)→ G(模型有沒有看花眼),逐層定位問題根源。

  9. ##

實用技巧與重點

  • 資料清洗的兩個目標
  • 拉高資訊密度:去除 PDF 頁首頁尾、主持人寒暄、現場笑聲、無意義口語贅字(嗯、啊、那個)
  • 確保語意獨立:代名詞還原(「它」→「可口可樂」)、標清發問者與回答者、整理破碎的口語對話
  • Chunking 兩大策略
  • 固定字數切塊:每滿 500 字無情切一刀,簡單通用,但容易在句子中點斷裂,造成語意不完整,須設定 Overlap(重疊區間)救場
  • 按自然結構切塊:股東信按 Markdown 小標題切、股東會按「問答對」為單位,上下文完整、語意邊界清晰
  • Metadata 應用
  • 標籤內容:年份、出處、時間戳記、權限級別
  • 用途:條件過濾(先鎖定時間範圍再找內容)、權限管控(程式端確定性過濾)、提升準度與速度
  • 混合搜尋流程
  • 關鍵字搜尋:死咬「喜詩糖果」等專有名詞,精準但無同義詞
  • 語意搜尋:用 Embedding 模型把文字換成向量座標,計算距離找相近意思,但容易稀釋專有名詞
  • 合併結果:將兩路候選名單合併,取前 20 張卡片進入下一階段
  • Re-ranking 工序
  • 用更細緻的模型把粗撈的 20 張卡片與問題一一對比,重新排名,過濾掉半相關的雜訊,精選出真正有用的 3-5 張卡片交給 AI
  • Temperature 調整
  • 知識庫回答場景下,溫度應設 0.0-0.3(保守、確定性高)
  • 預設值 0.7 適合文案創作,在嚴肅知識庫中會導致幻覺和自我腦補
  • 四步排查流程
  • R 前半(資料端):Chunk 有沒有被腰斬、字幕有沒有辨識錯誤
  • R 後半(檢索端):卡片有沒有被漏掉,是否需拉高關鍵字權重或擴大候選範圍
  • A(小抄端):卡片排名多少名,有沒有進入前 3 名
  • G(模型端):卡片就在眼前但還是答錯,才考慮調 System Prompt 或升級模型
  • ##

結論

RAG 的本質是「Context Engineering」——在有限的視窗裡把最高密度、最正確的資料端到 AI 眼前,讓回答有跡可循,這套邏輯不僅是工程技術,更是與 AI 高效協作的思維框架。

完整解析

RAG 源自一個簡單的困境。當你想為 AI 系統接上龐大的個人或企業知識庫時,直接上傳整個檔案會碰上三道牆:首先是 Context Window 容量有限,其次是重複讀取導致延遲和成本失控,最後是模型容易對過量資訊產生幻覺。RAG 的核心思想是:與其塞進全部資料,不如先精準檢索出回答問題所需的片段。

這個思路反映了人類查資料的自然直覺。你不會把六十年的股東信從頭讀到尾,而是打開搜尋框找出相關段落。RAG 就是讓 AI 照這個方式做事。技術上拆成三步:R 檢索(Retrieval)、A 增強(Augmented)、G 生成(Generation)。

R 階段的核心工作分兩塊。前半段是資料整理,需要把雜亂的原始文本清洗乾淨,去掉噪音(PDF 格式、主持人寒暄、無意義口語),再用小模型做語意整理(代名詞還原、多人講話標清),目的是讓每個切下來的 Chunk 都自帶完整脈絡。Chunking 策略有兩種:固定字數法簡單通用但容易破壞語意邊界,按自然結構法(按小標題或問答對)則保留完整脈絡。清洗完後要貼上 Metadata(年份、出處、權限等),這樣後續檢索時能做精準的條件過濾。

後半段是檢索執行。當使用者提問時,系統用混合搜尋(Hybrid Search)兵分兩路:關鍵字搜尋死咬專有名詞(精準但無同義詞),語意搜尋透過 Embedding 把文字轉成向量座標、計算距離找相近意思(靈活但容易遺漏專有名詞)。兩路結果合併後粗撈出 20 張候選卡片。

A 階段是資料精選。用 Re-ranking 模型把粗撈的 20 張卡片與問題一一重新比對,排出真正相關的順序,過濾掉半相關的雜訊。最後把排名最高的 3-5 張卡片加上 Metadata、問題本身、系統指令(「只能根據以下資料回答」)組成一份乾淨小抄。

G 階段是答案生成,只需調用 LLM API,關鍵是調整 Temperature 參數(知識庫應設 0.0-0.3 保守模式)和 System Prompt。當回答出錯時,別急著升級模型,而是按 R→A→G 的順序逐層排查:資料有沒有被破壞、檢索有沒有漏掉、小抄有沒有送到,問題八成出在前三步。

##

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。