On AI and Knowledge — Pablo Castro, Distinguished Engineer & CVP for AI Knowledge, Microsoft
三句話摘要
AI 時代下知識三層架構與企業級 Agent 系統的構築——從模型內在知識、外部資料接地到自動最佳化的學習迴圈。 知識三層架構（模型內在 → 企業資料接地 → 自動學習迴圈）已成為現代 Agent 系統的標準模式，而統整這三層的平台能力決定了組織能否真正釋放 AI 投資的價值。 內在知識推動指數成長——從 IntelliSense（1996）到 GitHub Copilot（2021）再到 Open Claude（2024），模型的參數化記憶在軟體開發領域已實現自動化寫程式，這個 25 年的演進展示了模型能力在特定工作上的指數增長。
重點整理
重點- 1
內在知識推動指數成長——從 IntelliSense（1996）到 GitHub Copilot（2021）再到 Open Claude（2024），模型的參數化記憶在軟體開發領域已實現自動化寫程式，這個 25 年的演進展示了模型能力在特定工作上的指數增長。
- 2
外在知識需要多層次接地系統——企業級 Agent 需接觸組織內的環境資料（文件、郵件、聊天、資料倉庫），Microsoft IQ 分層提供 Work IQ、Fabric IQ、Foundation IQ、Web IQ 來滿足不同資料來源的整合需求，避免 Agent 只能看到特定知識庫。
- 3
檢索系統複雜度已超越簡單向量搜尋——實評數據顯示結合多種方法（向量 + 詞彙 + agentic）的混合檢索優於單一方法，agentic 檢索能反思資料集是否提供了完整答案，在真實客戶場景中持續改進精度。
- 4
學習知識透過自動化迴圈產生——Agent Optimizer 執行評估→生成候選→評估新候選→部署的流程，自動爬升 Agent 的指令與工具組合，將組織運作過程中產生的隱性知識物化為可部署的差異化能力。
實用技巧與重點
乾貨- 時間節點：IntelliSense（1996）→ 機器學習排名（2018，22 年後）→ GitHub Copilot（2021，3 年後）→ Cursor/Copilot X（2023）→ Claude/GPT/Opus（2024-2025）
- 平台名稱：Microsoft Foundry、GitHub（Agent 開發起點）、Azure（服務後端）、VSCode（開發環境）
- 核心模組：
- Microsoft IQ 家族：Work IQ（SharePoint/郵件/聯絡人）、Fabric IQ（資料倉庫/資料湖/Power BI）、Foundation IQ（使用者自訂資料）、Web IQ（公開網路資料）
- Foundry 知識庫（Knowledge Base）：支援非結構化資料（PDF）、結構化資料（Parquet 表）、Web 資料；為 MCP 伺服器
- Agent Optimizer：支援自動評估生成、hill climbing 優化、配置交換
- 檢索方法：向量檢索 + 詞彙檢索 + agentic 檢索（反思性檢索）的混合組合
- 優化指標：evidence recall、answer completeness、token 效率
- 調優時間：Agent Optimizer 單次執行約 45 分鐘
- 重點工具連接：Claude 已在 Microsoft Foundry 正式可用（announcement 在演講前一天）
結論
結論“知識三層架構（模型內在 → 企業資料接地 → 自動學習迴圈）已成為現代 Agent 系統的標準模式，而統整這三層的平台能力決定了組織能否真正釋放 AI 投資的價值。”
完整解析
詳細知識在 AI Agent 系統中並非單一層面，而是三個層次的有機結合。首先是內在知識，即模型在訓練資料中習得的參數化記憶。演講者以程式編寫為例說明這種指數級的能力演進：25 年前手寫程式碼需要記住語法和函式簽名，1996 年微軟推出 IntelliSense 讓開發者不必死背 API；22 年後（2018），機器學習開始優化這些選項的排序；3 年後（2021），GitHub Copilot 實現了代碼生成；到 2024 年，開源模型已能從零自動生成完整的軟體工程工具。這條曲線展示了模型內在知識與推理能力的累積威力。
但僅靠內在知識遠不夠。當 Agent 進入真實組織運作時，必須接觸企業內部的外在知識——散佈在 SharePoint 文件、Outlook 郵件、Teams 聊天、資料倉庫、Power BI 報表中的組織脈絡。Microsoft 針對此構築了 Foundry IQ 系統，分層設計四個模組：Work IQ 連接日常協作資訊，Fabric IQ 提供分析資產，Foundation IQ 讓使用者上傳自訂資料，Web IQ 則擴展到公開網路。關鍵是這些資料來源需要被統整為一個單一入口，讓 Agent 無需複雜膠合碼就能接地。
檢索系統本身也在進化。早期大家以為只要精通向量相似度計算就能解決所有檢索問題，但生產環境的評估一再證明，混合檢索——同時運用向量、詞彙和 agentic 方法——的效果遠優於單一方法。Agentic 檢索特別有價值，因為它賦予系統反思能力：Agent 可以檢視資料集內容，判斷已有的答案是否完整，決定是否需要更多資訊才回應，這在複雜客戶場景中明顯提升了精度指標如 evidence recall 和 answer completeness。為了管理這種複雜性而不傷害易用性，Foundry IQ 採用分層架構：新手可以上傳 PDF 就不管細節，專家則可下沉到向量量化、索引演算法層級精細控制。
最後是學習知識。這是透過觀察 Agent 實際運作的軌跡，反覆評估與改進而產生的知識。Microsoft Agent Optimizer 將這個流程自動化：先評估基準線（可自動生成評估集），然後執行 hill climbing 嘗試不同的指令組合、工具集、技能配置，比對結果是否改善，最後只需一鍵將優化後的配置部署到生產環境。由於 Agent 的配置已外化（指令、工具定義獨立存檔），系統能安全地交換配置而無需重寫程式。這形成了一個持續學習迴圈，將組織獨特的運作模式編碼成 Agent 的個性，形成難以複製的差異化能力。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
