Using LlamaIndex for RAG in Python: Setting Up & Coding Indexing
三句話摘要
LLaMA Index 框架在 Python 中實現 RAG（檢索增強生成）技術的課程導入與基礎實現。 RAG 是將 LLMs 與外部非訓練資料連結的關鍵技術，LLaMA Index 提供開箱即用的完整工具鏈，讓開發者能快速構建能查詢秘密或客製文件的智能應用。 RAG 解決的核心問題：LLMs 無法存取訓練集外的資訊。RAG 在查詢時動態檢索相關外部文件作為上下文，讓模型基於這些文件回答問題，文件內容被視為真實來源，確保回答符合主題。
重點整理
重點- 1
RAG 解決的核心問題：LLMs 無法存取訓練集外的資訊。RAG 在查詢時動態檢索相關外部文件作為上下文，讓模型基於這些文件回答問題，文件內容被視為真實來源，確保回答符合主題。
- 2
LLaMA Index 框架的角色：它是專為 RAG 設計的 Python 框架，預設使用 OpenAI LLM，內建資料連接器（data connectors）、索引化、檢索等工具，可無縫集成外部文件與 LLMs。
- 3
向量嵌入的重要性：索引過程將文件分割為節點（nodes），再生成向量嵌入（embeddings）——文本的數值表示。這些數字捕捉語義意義，讓 AI 能理解詞彙含義，是 RAG 能精確檢索相關內容的基礎。
- 4
實際應用設計：課程以虛擬公司 Stevens-Pythonistas Limited 的員工行為政策為例，展示如何將秘密文件（非公開資訊）作為上下文，構建能回答政策問題的 chatbot，體現 RAG 保護隱私資料的價值。
實用技巧與重點
乾貨- RAG 五階段：Loading（從來源讀取資料）→ Indexing（建構可查詢資料結構）→ Persisting（儲存索引與中繼資料避免重建）→ Querying（以索引資料作上下文提問）→ Evaluation（檢驗模型輸出）
- 主要工具：SimpleDirectoryReader（資料連接器）、VectorStoreIndex（索引類）
- 必備先決條件：OpenAI API 金鑰（付費）、Virtual environments、PathLib 標準庫、環境變數設置
- 替代方案：Google LLM API（錄製時免費）
- 公司政策規則：禁止在辦公室戴帽子、禁止罵髒話（罰款 $1）、禁止週末工作
- 檔案結構：company_policy.txt（資料夾）、policy_bot_v1.py 等多個版本（範例）、policy_bot.py（工作檔）、README（設置指南）
- 路徑語法：Linux/Mac 用正斜線（/），Windows 用反斜線（\）
結論
結論“RAG 是將 LLMs 與外部非訓練資料連結的關鍵技術，LLaMA Index 提供開箱即用的完整工具鏈，讓開發者能快速構建能查詢秘密或客製文件的智能應用。”
完整解析
詳細這門課程的目標是教學 RAG 技術和 LLaMA Index 實現方式。課程開場以講師的真實場景切入：他需要根據妻子的私密食譜幫忙製作購物清單，但食譜並非公開資訊。用傳統方法搜索線上食譜失敗，正是 RAG 應運而生的使用場景——系統能將不在訓練集內的秘密文件嵌入 LLM 的上下文，讓模型基於這些文件回答問題。這說明了 RAG 的核心價值：它打破了 LLMs 只能依賴訓練資料的限制。
LLaMA Index 是實現 RAG 的 Python 框架，預設仰賴 OpenAI 的 LLM，但可切換至其他模型如 Google LLM。課程結構涉及環境配置（API 金鑰、虛擬環境、必要套件安裝）和五階段流程。前四階段在課程中涵蓋，第五階段（評估）因篇幅限制略過。
實作部分以虛擬公司 Stevens-Pythonistas Limited 的員工行為政策為背景。該政策明確三項規則：禁止辦公室戴帽子、禁止罵髒話並罰款 $1、禁止週末工作。講師帶領學員逐步實現：先用 SimpleDirectoryReader 從資料夾讀取 company_policy.txt，建立文件物件列表；接著用 VectorStoreIndex 建立索引，此過程將文件分割成節點並生成向量嵌入。向量嵌入是文本的數值表示，其關鍵在於這些數字捕捉語義意義，使 AI 能正確理解詞義並檢索相關內容。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
