Why Agentic Systems Need Ontologies — Frank Coyle, UC Berkeley
三句話摘要
利用本體論(Ontology)為 AI 智能體(Agent)設置約束與護欄,實現安全的神經符號人工智慧系統。 本體論與 Agent 結合是實現可信 AI 的核心,透過形式化約束與推理將 LLM 的創造力與符號 AI 的嚴謹性統一。 Agent 循環是現代 AI 實現的基礎,透過 while true 迴圈不斷調用 LLM、檢查停止原因、執行工具、驗證結果,但迴圈會增加代幣成本與失控風險。
重點整理
Agent 循環是現代 AI 實現的基礎,透過 while true 迴圈不斷調用 LLM、檢查停止原因、執行工具、驗證結果,但迴圈會增加代幣成本與失控風險。
本體論不是新概念,而是將實體、屬性和關係形式化表示的知識結構,圖資料庫相比關係資料庫的優勢在於能靈活新增屬性與關係,無需重構整體架構。
神經符號 AI 是主要趨勢,結合 LLM 的創造力與本體論的嚴謹性,用 RDFS 的域/值域推理與 OWL 的功能特性來約束 LLM 的輸出,防止幻覺。
建構本體有兩條路徑:自上而下由領域專家設計,或自下而上從實際應用提取,應利用既有標準(schema.org、FOAF、Dublin Core)避免重複工作。
實用技巧與重點
- 歷史與人物
- AI 術語誕生:1956 年
- 本體論關鍵人物:亞里士多德、馮·奎因(Von Quine)、格魯伯(1993 年正式化)
- 專家系統時期:80 年代日本未來世界計劃大投資,後因無法擴展而進入 AI 寒冬
- 技術與標準
- 本體論相關技術:RDFS(RDF Schema)、OWL(Web Ontology Language)
- 現有本體標準:
- schema.org(完整術語與關係集合)
- FOAF(朋友的朋友,用於社交網路模型)
- Dublin Core(描述研究論文、書籍等)
- DBpedia(維基百科基礎)
- 驗證工具:Pydantic(輸入參數型別驗證)
- OWL 推理能力
- 傳遞性屬性(Transitive Property):祖先關係可向下推導
- 功能屬性(Functional Property):單一性限制(如只有一個父親)
- 互不相交屬性(Disjoint Property):實體類別分離
- 本體論可偵測的錯誤
- 同一訂單第二次退款
- 款項發送到客服部門而非買家
- 虛構數值(如已出貨但無記錄)
- 狀態值超出預期範圍(只允許:已付款、已發貨、已退款)
- 聯絡資訊
- Email:coil@berkly.edu
- 網站:codesupreme.ai
結論
本體論與 Agent 結合是實現可信 AI 的核心,透過形式化約束與推理將 LLM 的創造力與符號 AI 的嚴謹性統一。
完整解析
弗蘭克·科伊爾是柏克萊大學教授,從事電腦科學教育超過 30 年。他首先強調教育理念的核心:動手實踐勝於被動學習,手寫筆記比鍵盤輸入更能激活整個大腦與感官系統,因而加快學習速度。
講座核心探討 Agent 與 Ontology 的結合。Agent 的概念源於 1956 年 AI 誕生之初,由約翰·麥卡錫等先驅提出,能夠感知環境、做出決策並採取行動。本體論則源自亞里士多德的存在哲學,現代形式為圖資料庫與知識表示。傳統關係型資料庫面臨結構固定的瓶頸——新增屬性需要重構整個表格;圖資料庫只需附加屬性或關係,這正是本體論的實務優勢。
當代 AI 領域出現「神經符號 AI」的融合趨勢。LLM 本質上是概率性的,容易產生幻覺,但這恰好是神經網路的特性——能想像不存在的事物,然後創造它們。科伊爾主張本體論可作為 LLM 的防護措施,透過形式化約束與推理能力來指導 Agent 行為。在實現上,Agent 循環採用 while true 迴圈,不斷重複:呼叫 LLM、檢查停止原因、執行工具、驗證結果。輸入端用 Pydantic 驗證參數型別,輸出端用本體論驗證結果合理性。
建構本體有兩條路徑:自上而下由領域專家集中設計實體與關係(類似 80 年代專家系統),或自下而上從客戶互動等實務提取。無需重新發明輪子,可直接利用 schema.org、FOAF、Dublin Core 等既有標準。RDFS 與 OWL 提供強大推理能力:傳遞性屬性能推導隱含關係(如「蘇是瑪麗的祖先,瑪麗是安的祖先,則蘇是安的祖先」),功能屬性限制單一性(如「只有一個父親」),互不相交屬性區分實體類別(如客戶與支援代表不能混淆)。這些推理能捕捉純文字邏輯無法發現的錯誤——例如同一訂單被重複退款、款項發送到錯誤部門、或狀態值超出預期範圍。
科伊爾強調關鍵在於用多層檢查機制約束 Agent,建立基於本體的推理器保持 LLM 的誠實性。這種方法既解決了 LLM 的概率性缺陷,又重新引入符號 AI 的嚴謹性,代表 AI 發展的一次重要回歸與融合。


