KeyFrame內部研究專用

Everything Goldman Sachs Taught Me About AI (In 10 minutes)

Nate Herk英文
觀看原始影片

三句話摘要

高盛金融公司的五大AI使用原則(VAULT框架),教你如何負責任地構建可信AI系統。 Goldman Sachs的最大啟示是:不必將所有問題都變成AI代理,而應理解問題本質、保護數據安全、選用最簡單可行的方案,並對真正重要的行動保留控制權。 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。

重點整理

  1. 驗證優於相信:看起來完整的AI輸出不等於正確答案,需在提示中要求模型重新檢查數字、引用來源,並對無把握的部分標記。

  2. 區分AI與自動化:確定步驟且答案已知的任務用傳統自動化更便宜快速;只在需要判斷力、靈活性或處理複雜資訊時才用AI,兩者結合效果最佳。

  3. 以問題驅動選型:先寫清楚「要解決的問題是什麼、成功的樣子是什麼」,再決定用什麼工具,許多失敗項目是從技術而非問題出發。

  4. 人類監督必須在迴圈中:AI行動的後果越大,需要的人工批准越多;設置草稿模式讓人先審核再執行,避免誤解被放大為大規模錯誤。

實用技巧與重點

  • VAULT框架:Verify(驗證)、Augment(增強)、Understand Why(理解目的)、Loop Humans In(人類參與)、Transparency(透明度)
  • 真實案例:自動AI代理因誤解任務,向約19萬電郵清單發送折扣碼
  • 高盛培訓:新進分析師必須通過「數據學校」(data school),學習數據如何拉取、清理、更新
  • 驗證提示範例:「在給最終答案前,重新檢查每個數字和事實聲明,引用每一項的來源,標記任何不夠百分百確定的內容」
  • 報告組合方案:自動化提取與計算 → 驗證數字正確性 → AI用白話解釋變化
  • 草稿模式:AI生成草稿信件或文件供人審核,而非直接發送

結論

Goldman Sachs的最大啟示是:不必將所有問題都變成AI代理,而應理解問題本質、保護數據安全、選用最簡單可行的方案,並對真正重要的行動保留控制權。

完整解析

高盛作為全球金融業的巨頭,對AI的應用有著特殊的要求——一次錯誤的數據輸入或AI幻覺可能導致數百萬美元損失甚至信譽崩壞。講者基於在高盛商業智能部門的工作經驗,提煉出五項核心原則,稱為VAULT框架。

第一個原則是驗證(Verify)。許多人因AI輸出格式完美、生成迅速而過度信任,卻忽視看起來完成的東西不等於實際正確。高盛CIO Marco Argenti強調了模型推理過程與最終輸出的區別——即使答案錯誤,推導過程仍可提供價值。驗證應從數據源頭開始。作為BI分析師,每位同事都必須完成「數據學校」培訓,理解數據如何流動、清理、更新。因為企業內部的數據——客戶資訊、銷售歷史、內部流程——是獨特資產,但若數據過時或重複或混亂,AI只會更快地給出錯誤答案。解決方案是在提示中直接要求模型重檢數字並引用來源,或針對高風險項目構建AI審查小組。

第二個原則是增強而非取代(Augment)。高盛在AI浪潮前數十年就在構建自動化系統,講者在此期間看到許多工作未必需要AI。人工手動報告、跨系統數據移動、團隊間的等待與溝通失誤都是真實問題,但若任務遵循明確規則,傳統確定性自動化(deterministic automation)會更便宜、更快、更可信。自動化重複執行相同步驟,出錯時易於測試和修復;而AI適合需要判斷力、靈活性、處理混雜資訊的場景。最佳系統往往是混合型:自動化提取並驗證數據,AI負責解釋含義和講述故事。

第三個原則是理解目的(Understand the Why)。許多人開啟AI工具時心想「我要建個代理」或「我要用新工具」,卻忘了問「我實際在解決什麼問題」。高盛的工程原則強調「帶著目的構建」——工程師不能只關注怎麼做,更要優先考慮為什麼做。講者在社群中見過人們一開始就選技術,最後即使建了複雜工作流也無人使用;反觀有人專注解決一個切實的痛點,短短數月內就用AI項目取代了全職收入。

第四個原則是讓人類參與迴圈(Loop Humans In)。AI像是擴音器,任何輸入(包括錯誤)都被放大。在自動代理層級,一句歧義指令可能導致錯誤的郵件、錯誤的數據更新、向19萬用戶發出誤導折扣。Argenti警告小的誤解可被AI系統放大為危險行動。因此人類必須留在迴圈中,其監督程度應與行動後果相稱——整理個人筆記可全自動,但客戶相關、財務決策或大規模溝通則需批准步驟。最簡單的方法是設置草稿模式,讓AI將郵件寫入Gmail草稿、將建議放入文件再決定執行。

第五個原則是透明度(Transparency)。高盛要求任何涉及重要數據的系統都需要解釋其信息來源、處理過程與結果生成方式。透明度不是要求模型暴露內部思維,而是提供可審查的證據:數據源、輸入、行動、假設、驗證檢查。每次系統執行都需記錄。這使系統更易信任、改進和交接他人。

4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。
編輯精選
企業管理英文11月21日

What Anthropic's $900 Billion Bet Means for You

Nate Herk看原片 ↗
  • 訂閱用戶成為上市公司的收益基礎:4000 萬名小客戶(含 Claude Pro、Max、Ultra 或 API 用戶)合計貢獻 25% 的收入,形成 Wall Street 下注的對象。用戶每次訂閱續約都直接影響 Anthropic 股價,
  • 循環融資制造生態系統性風險:Amazon、Google、Broadcom 與 Nvidia 等公司既是投資者、又是運算服務提供商,同時採購 Anthropic 服務,形成相互依賴的閉環。若任一環節需求放緩,所有參與者將同時受創,系統風險無法
編輯精選
AI 技術英文11月20日

6 Lessons I Learned From Installing AI in a $10M Business

Liam Ottley看原片 ↗
  • AI 負責前 80% 工作,人的品味決定最後 20% — 系統一開始生成的提案很基礎,直到 Isaac 的設計師介入決定風格、選擇產品後,品質才大幅提升。需要將品味優秀的員工的規則和案例提供給 AI,讓初版更接近他們的標準。
  • 聚焦單一瓶頸,不要全面改造 — 分析發現提案環節是最大痛點:每月 15-20 張圖、每張 10 小時、成本 $500-1000、9 成無結果。選擇同時改善速度、成本、品質的用例,才是 AI 真正發揮價值的地方。