KeyFrame內部研究專用

Abundant Intelligence at the Midwest AI Summit Part 2

Practical AI47 min英文
觀看原始影片

三句話摘要

組織如何在快速演進的 AI 時代中建立信任、做出正確決策,以及如何實際落地 AI 應用以創造真正的業務價值。 成功的 AI 治理並非強硬的禁令,而是在信任與邊界間找到平衡,讓組織在清晰的「可為」與「不可為」原則下放心創新。 AI 信任源於事前邊界設定。Don Barger 強調組織應在寫第一行程式碼前召集跨域團隊建立 AI 憲章,明確定義可做(起草編輯、翻譯、訓練內容)與不可做(冒充人類、替代人性關懷、秘密監控)的事項。這些邊界實際上創造了自由,而非限制——團隊在清晰準則下行動更快。

重點整理

  1. AI 信任源於事前邊界設定。Don Barger 強調組織應在寫第一行程式碼前召集跨域團隊建立 AI 憲章,明確定義可做(起草編輯、翻譯、訓練內容)與不可做(冒充人類、替代人性關懷、秘密監控)的事項。這些邊界實際上創造了自由,而非限制——團隊在清晰準則下行動更快。

  2. 責任永遠不能委託給演算法。Mark Lay 指出每項 AI 應用背後必須有確切的人員負責,涵蓋四個層面:數據保護所有者、輸出品質驗證者、代理行為監控者、結果所有者。即使是龐大組織也需要精確追蹤每個數據集的掌管人,而非含糊地說「系統保護了」。

  3. AI 最高價值來自消除重複性工作。Darren Taylor 的 Text-to-SQL Agent 將分析師從每週 40 小時的重複查詢中解放,原本 30 分鐘的複雜數據請求縮至 3 秒;視覺驗證則自動檢查飛機編號與工作訂單的一致性,消除了月度協調會議。

  4. 技術債的新形態更難預測。當組織分散部署 AI 工具時,若底層技術升級,看似簡單的應用可能全數失效;同時需考量演進成本、反轉成本,以及團隊是否有能力持續維護。

實用技巧與重點

  • Don Barger - International Mission Board
  • 組織年資:181 年
  • Faithbot 產品:250 萬使用者(約 1.5 年內)
  • 支援語言:51 種,各自獨立的語言模型與世界觀
  • 可做應用:起草編輯、總結研究、翻譯、訓練材料、代碼生成
  • 不可做應用:AI 冒充人類、AI 獨自決策、秘密監控、高風險自主決策、取代牧養輔導
  • Faithbot 邊界:禁止祈禱、禁止醫療診斷、禁止財務建議、禁止替牧師寫講道辭、危機轉向專業機構
  • Mark Lay - Noblis
  • 數據治理初期識別:1000+ 個相關數據集
  • 最終精簡至:100-150 個關鍵數據集
  • 數據所有者數量:~30 人
  • 決策框架四象限:奖励×風險矩陣(高獎勵低風險 vs 低獲益低風險等)
  • Excel 與 Power BI 比喻:分散工具 vs 中央化工具的可維護性考量
  • Darren Taylor - Aerocore Technologies
  • 喷氣發動機清洗服務,全球 11 個國內基地 + 日本、沙烏地、巴西海外據點
  • 第一個 AI 應用:Agent Forge + MCP Servers
  • 轉換時間:30 分鐘-1 小時 → 3 秒
  • 部署平台:Teams
  • 用途:自助式 SQL 查詢、工作訂單歷史查閱
  • 第二個 AI 應用:工作訂單視覺驗證
  • 工作時段:夜間 7 PM-5 AM
  • 每夜清洗量:15-30 次(單場地最多 6 次)
  • 檢驗內容:飛機 N 編號、異常程序、煙霧事件、跨午夜時間邏輯
  • 每日報告時間:中午 12:00
  • 結果:月度對帳會議從 5-6 人·時 → 零;該月零誤差工作訂單

結論

成功的 AI 治理並非強硬的禁令,而是在信任與邊界間找到平衡,讓組織在清晰的「可為」與「不可為」原則下放心創新。

完整解析

播客邀請了三位在各自組織內直面 AI 實踐挑戰的領導者。Don Barger 來自一個擁有 181 年歷史的國際宗教組織,他開篇便強調自己「不典型」——持有會計和神學學位,非技術背景。正因如此,他的觀點更顯珍貴:四年前與團隊共同創立 AI 憲章時,他們的首要課題不是「我們能用 AI 做什麼」,而是「我們應該做什麼,又永遠不應該做什麼」。這份憲章後來一次次在實踐中拯救了他們——當內部團隊請求幫忙開發虛擬諮詢機器人時(當時人手不足、迫在眉睫),Don 能夠堅定地說「不」,因為這違背了預先定義的邊界。他們的 Faithbot 產品(一個宗教知識助手)在無任何付費廣告的情況下,18 個月內累積了 250 萬使用者,卻同時維持著深思熟慮的限制——禁止代理祈禱、禁止醫療建議、在檢測到危機時主動轉向專業機構。這說明道德設計與用戶增長並非對立。

Mark Lay 則從 CIO 的視角出發,將管理 AI 類比為管理員工——都需考慮授權範圍與監督機制。他提出的四層決策框架實踐起來耗費巨大:Noblis 花費一年時間識別並分類了超過一千個數據集,最終確立了 100-150 個關鍵資料物件和 30 位明確的擁有者。他指出,當組織採用 Excel 式的分散工具(員工自建宏和腳本)vs. Power BI 式的中央系統時,隱藏的技術債也在膨脹——若底層工具版本升級,舊應用可能完全失效。他強調責任永不可委託——無論有多少警戒欄杆,決策鏈的最頂端必然是一個真實的人。

Darren Taylor 的故事最直接展現了實踐成效。Aerocore 是個典型的傳統企業,清洗全球機場的噴氣發動機,卻無任何數位介面的清洗卡車。分析團隊只有兩人,每週卻要花 40 小時處理「上週在亞特蘭大做了多少次清洗」這類重複查詢,導致無時間進行策略工作。導入 Agent Forge 搭配 MCP 伺服器後,他將自助式資料查詢介面集成到 Teams——一周內,團隊開始大量使用,原先需時 30 分鐘至一小時的複雜分析現在三秒內完成。第二個應用更具影響力:每晚操作人員在機坪拍攝飛機照片與工作紀錄,隔日早上 8:15 時一個視覺模型自動掃描這些影像,驗證飛機編號是否與輸入資料吻合,並標記異常程序、煙霧事件等。這套系統如此有效,導致原本耗時 5-6 人·小時、每月召開一次的帳目核對會議被徹底取消——該月零誤差。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
11 min
AI 技術中文11月21日

20261120 Craft 4K Review Version V3

灵姐说AI | Ling Talk AI看原片 ↗
  • Craft Anything 透過將觀察、構建、檢查和修改環節無縫銜接,將傳統費力的開發流程簡化為提供參考對象並說明目標,讓通用編碼Agent執行具體實現,大幅降低製作難度。
  • 複製範圍廣泛但難度差異大:網站和簡單工具相對容易,複雜遊戲因涉及場景、資源、物理引擎、存檔等要素難度大幅提升,需要提供的信息和輸入量成倍增加。
4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。