CrabRAG: Why Automated Assistants Need Graph Memory, Not More Tokens — Stephen Chin, Neo4j

Stephen Chen 以吉祥物「螃蟹 D」為隱喻，闡述現代 AI Agent 的記憶困境。螃蟹 D 每天醒來都忘記前一天的任務，還經常選錯工具——這正是當前 Agent 架構的真實寫照。

目前主流做法是把 Agent 的記憶（日誌、技能、工具文件等）都存成 Markdown 檔案。乍看之下很直觀，易於人類閱讀和修剪，但致命傷是：整個記憶庫都用 Markdown 檔案佔據上下文視窗，每輪執行平均消耗 10 萬+ tokens。Agent 得不斷把所有檔案重新載入，希望其中某些能派上用場，但實際上大部分是重複無用的。Hermes 等新一代 Agent 改進了反思機制，在任務結束後動態補充新技能，但本質上還是依賴 Markdown 文件存儲——只是換了個時機載入。

為解決這個問題，業界想到向量資料庫。原理很簡單：把所有信息轉成向量嵌入，存入 PGVector 或 LanceDB 等向量庫，Agent 查詢時做相似度搜尋，只提取最相關的片段。這大幅減少了上下文污染。但這裡潛伏著第二個陷阱：向量空間的相似度 ≠ 實際語義關係。當你只依賴向量匹配來答題時，Agent 會產生幻覺——回答事實性錯誤、答非所問、給出無關的資訊。更糟的是，這種方案對複雜的多跳推理（例如：「系統 A 依賴服務 B，服務 B 連到主機 C，主機 C 暴露了舊版軟體」）毫無辦法。

圖數據庫應運而生。圖天生就是為互聯資料設計的：節點代表實體，邊代表關係，屬性存儲細節，還能在節點上掛向量嵌入。混合方案是：先用向量搜尋找種子節點，再開啟圖遍歷，依次檢查一跳鄰近節點、二跳、三跳…… 最後按照與查詢的關聯度排序，篩出最相關的節點進入上下文。這樣既保留了向量的快速索引能力，又獲得了圖的精確推理與完整可審計性。

講者搭建了一個真實對比實驗：在家庭實驗室（多台 Proxmox 伺服器構成的數位孿生）中同時部署向量存儲版和圖存儲版（後者基於 Cogney + Neo4j）。當問「網路上有無過期系統暴露給 WAN？」時，向量方案回應「資訊不足」，圖方案則精確定位到主機名 Tinksterlin、系統版本 Debian 8 Jessie（已停止支援）。問「哪些管理埠暴露？」時，向量方案再度失手，圖方案直指 HAProxy 和 OpenVPN。講者甚至透過圖的結果修復了家庭實驗室的真實安全漏洞。這場對比充分證明：在需要追蹤關係鏈、域特定推理的任務中，圖數據庫遠勝向量方案。

最後，講者推薦了由他與 Michael Hunger、Jesús Barrasa 共著的《Graph RAG 權威指南》（預計數月內出版），涵蓋 Agent 記憶、上下文圖、跨行業垂直案例的端到端框架，並指出 Neo4j Graph Academy（dev.neo4j.com/ga-rag）提供免費線上培訓資源。