KeyFrame內部研究專用

Why Agentic Systems Need Ontologies — Frank Coyle, UC Berkeley

AI Engineer21 min英文
觀看原始影片

三句話摘要

利用本體論(Ontology)為 AI 智能體(Agent)設置約束與護欄,實現安全的神經符號人工智慧系統。 本體論與 Agent 結合是實現可信 AI 的核心,透過形式化約束與推理將 LLM 的創造力與符號 AI 的嚴謹性統一。 Agent 循環是現代 AI 實現的基礎,透過 while true 迴圈不斷調用 LLM、檢查停止原因、執行工具、驗證結果,但迴圈會增加代幣成本與失控風險。

重點整理

  1. Agent 循環是現代 AI 實現的基礎,透過 while true 迴圈不斷調用 LLM、檢查停止原因、執行工具、驗證結果,但迴圈會增加代幣成本與失控風險。

  2. 本體論不是新概念,而是將實體、屬性和關係形式化表示的知識結構,圖資料庫相比關係資料庫的優勢在於能靈活新增屬性與關係,無需重構整體架構。

  3. 神經符號 AI 是主要趨勢,結合 LLM 的創造力與本體論的嚴謹性,用 RDFS 的域/值域推理與 OWL 的功能特性來約束 LLM 的輸出,防止幻覺。

  4. 建構本體有兩條路徑:自上而下由領域專家設計,或自下而上從實際應用提取,應利用既有標準(schema.org、FOAF、Dublin Core)避免重複工作。

實用技巧與重點

  • 歷史與人物
  • AI 術語誕生:1956 年
  • 本體論關鍵人物:亞里士多德、馮·奎因(Von Quine)、格魯伯(1993 年正式化)
  • 專家系統時期:80 年代日本未來世界計劃大投資,後因無法擴展而進入 AI 寒冬
  • 技術與標準
  • 本體論相關技術:RDFS(RDF Schema)、OWL(Web Ontology Language)
  • 現有本體標準:
  • schema.org(完整術語與關係集合)
  • FOAF(朋友的朋友,用於社交網路模型)
  • Dublin Core(描述研究論文、書籍等)
  • DBpedia(維基百科基礎)
  • 驗證工具:Pydantic(輸入參數型別驗證)
  • OWL 推理能力
  • 傳遞性屬性(Transitive Property):祖先關係可向下推導
  • 功能屬性(Functional Property):單一性限制(如只有一個父親)
  • 互不相交屬性(Disjoint Property):實體類別分離
  • 本體論可偵測的錯誤
  • 同一訂單第二次退款
  • 款項發送到客服部門而非買家
  • 虛構數值(如已出貨但無記錄)
  • 狀態值超出預期範圍(只允許:已付款、已發貨、已退款)
  • 聯絡資訊
  • Email:coil@berkly.edu
  • 網站:codesupreme.ai

結論

本體論與 Agent 結合是實現可信 AI 的核心,透過形式化約束與推理將 LLM 的創造力與符號 AI 的嚴謹性統一。

完整解析

弗蘭克·科伊爾是柏克萊大學教授,從事電腦科學教育超過 30 年。他首先強調教育理念的核心:動手實踐勝於被動學習,手寫筆記比鍵盤輸入更能激活整個大腦與感官系統,因而加快學習速度。

講座核心探討 Agent 與 Ontology 的結合。Agent 的概念源於 1956 年 AI 誕生之初,由約翰·麥卡錫等先驅提出,能夠感知環境、做出決策並採取行動。本體論則源自亞里士多德的存在哲學,現代形式為圖資料庫與知識表示。傳統關係型資料庫面臨結構固定的瓶頸——新增屬性需要重構整個表格;圖資料庫只需附加屬性或關係,這正是本體論的實務優勢。

當代 AI 領域出現「神經符號 AI」的融合趨勢。LLM 本質上是概率性的,容易產生幻覺,但這恰好是神經網路的特性——能想像不存在的事物,然後創造它們。科伊爾主張本體論可作為 LLM 的防護措施,透過形式化約束與推理能力來指導 Agent 行為。在實現上,Agent 循環採用 while true 迴圈,不斷重複:呼叫 LLM、檢查停止原因、執行工具、驗證結果。輸入端用 Pydantic 驗證參數型別,輸出端用本體論驗證結果合理性。

建構本體有兩條路徑:自上而下由領域專家集中設計實體與關係(類似 80 年代專家系統),或自下而上從客戶互動等實務提取。無需重新發明輪子,可直接利用 schema.org、FOAF、Dublin Core 等既有標準。RDFS 與 OWL 提供強大推理能力:傳遞性屬性能推導隱含關係(如「蘇是瑪麗的祖先,瑪麗是安的祖先,則蘇是安的祖先」),功能屬性限制單一性(如「只有一個父親」),互不相交屬性區分實體類別(如客戶與支援代表不能混淆)。這些推理能捕捉純文字邏輯無法發現的錯誤——例如同一訂單被重複退款、款項發送到錯誤部門、或狀態值超出預期範圍。

科伊爾強調關鍵在於用多層檢查機制約束 Agent,建立基於本體的推理器保持 LLM 的誠實性。這種方法既解決了 LLM 的概率性缺陷,又重新引入符號 AI 的嚴謹性,代表 AI 發展的一次重要回歸與融合。

4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。
編輯精選
企業管理英文11月21日

What Anthropic's $900 Billion Bet Means for You

Nate Herk看原片 ↗
  • 訂閱用戶成為上市公司的收益基礎:4000 萬名小客戶(含 Claude Pro、Max、Ultra 或 API 用戶)合計貢獻 25% 的收入,形成 Wall Street 下注的對象。用戶每次訂閱續約都直接影響 Anthropic 股價,
  • 循環融資制造生態系統性風險:Amazon、Google、Broadcom 與 Nvidia 等公司既是投資者、又是運算服務提供商,同時採購 Anthropic 服務,形成相互依賴的閉環。若任一環節需求放緩,所有參與者將同時受創,系統風險無法
編輯精選
AI 技術英文11月20日

6 Lessons I Learned From Installing AI in a $10M Business

Liam Ottley看原片 ↗
  • AI 負責前 80% 工作,人的品味決定最後 20% — 系統一開始生成的提案很基礎,直到 Isaac 的設計師介入決定風格、選擇產品後,品質才大幅提升。需要將品味優秀的員工的規則和案例提供給 AI,讓初版更接近他們的標準。
  • 聚焦單一瓶頸,不要全面改造 — 分析發現提案環節是最大痛點:每月 15-20 張圖、每張 10 小時、成本 $500-1000、9 成無結果。選擇同時改善速度、成本、品質的用例,才是 AI 真正發揮價值的地方。