2026 AI 小學堂EP4｜打造不亂講的 AI：企業知識庫與 RAG 應用的關鍵方法

講座開場點出企業AI應用的核心痛點：大型語言模型容易生成看似合理卻與實際資料不符的回答，風險在於無意中洩露敏感訊息。要打造「不亂講的AI」，必須結合向量搜尋、模型控制和數據庫安全機制。

周顧問首先解釋Vector Embedding的原理。向量是將文本轉換為多維數字編碼，代表語意而非內容。人類只能理解三維空間，但通過數學可計算多維向量的距離——距離越短表示意義越相近。在RAG（檢索增強生成）系統中，文件先被提取文字、分塊處理，再透過Embedding模型轉換為向量存入數據庫。用戶提問同樣經Embedding轉換，系統找出向量距離最短的文件片段，傳給生成式模型產生答案。

但核心問題是相對距離陷阱。即使提問完全無關（如問西餐食譜給捷運系統），系統仍會找到相對最近的三個區塊，因為「最近的不相關」仍優於「次近的不相關」。這導致生成看似有據卻實則錯誤的回答。

解決方案是引入ReRank模型。與Embedding模型不同，ReRank直接評估兩個文本的語義相關性，輸出0-1分數。透過設定閾值（如Sigmoid標準化後），若相關性分數未達標準，即使向量搜尋排名高也會被拒絕。實測顯示，相同無關提問經ReRank過濾後，系統會正確回應「無法提供答案」。

第二個風險來自AI Agent的特性。Agent被設計為「使命必達」，只要有工具和數據庫存取權，就會竭力完成任務。講座示例展示Agent輕易洩露員工主管薪資，儘管企業可能想限制這類敏感查詢，但隨著Agent技術快速演進，應用層防守容易被繞過，甚至不可能完全阻擋。

真正的安全保障應該從數據源頭做起。Oracle提供的VPD（虛擬私有數據庫）機制，在數據庫查詢時自動附加存取條件，無論Agent多聰明都無法取得無權限的數據。企業無需在數十、數百個AI系統各自設防，只需在一個數據庫層確保權限控管，所有系統自動遵守。實際演示中，套用VPD後，同樣查詢薪資的Agent發現結果為空，無論如何嘗試都無法繞過。