Everything Goldman Sachs Taught Me About AI (In 10 minutes)

高盛作為全球金融業的巨頭，對AI的應用有著特殊的要求——一次錯誤的數據輸入或AI幻覺可能導致數百萬美元損失甚至信譽崩壞。講者基於在高盛商業智能部門的工作經驗，提煉出五項核心原則，稱為VAULT框架。

第一個原則是驗證（Verify）。許多人因AI輸出格式完美、生成迅速而過度信任，卻忽視看起來完成的東西不等於實際正確。高盛CIO Marco Argenti強調了模型推理過程與最終輸出的區別——即使答案錯誤，推導過程仍可提供價值。驗證應從數據源頭開始。作為BI分析師，每位同事都必須完成「數據學校」培訓，理解數據如何流動、清理、更新。因為企業內部的數據——客戶資訊、銷售歷史、內部流程——是獨特資產，但若數據過時或重複或混亂，AI只會更快地給出錯誤答案。解決方案是在提示中直接要求模型重檢數字並引用來源，或針對高風險項目構建AI審查小組。

第二個原則是增強而非取代（Augment）。高盛在AI浪潮前數十年就在構建自動化系統，講者在此期間看到許多工作未必需要AI。人工手動報告、跨系統數據移動、團隊間的等待與溝通失誤都是真實問題，但若任務遵循明確規則，傳統確定性自動化（deterministic automation）會更便宜、更快、更可信。自動化重複執行相同步驟，出錯時易於測試和修復；而AI適合需要判斷力、靈活性、處理混雜資訊的場景。最佳系統往往是混合型：自動化提取並驗證數據，AI負責解釋含義和講述故事。

第三個原則是理解目的（Understand the Why）。許多人開啟AI工具時心想「我要建個代理」或「我要用新工具」，卻忘了問「我實際在解決什麼問題」。高盛的工程原則強調「帶著目的構建」——工程師不能只關注怎麼做，更要優先考慮為什麼做。講者在社群中見過人們一開始就選技術，最後即使建了複雜工作流也無人使用；反觀有人專注解決一個切實的痛點，短短數月內就用AI項目取代了全職收入。

第四個原則是讓人類參與迴圈（Loop Humans In）。AI像是擴音器，任何輸入（包括錯誤）都被放大。在自動代理層級，一句歧義指令可能導致錯誤的郵件、錯誤的數據更新、向19萬用戶發出誤導折扣。Argenti警告小的誤解可被AI系統放大為危險行動。因此人類必須留在迴圈中，其監督程度應與行動後果相稱——整理個人筆記可全自動，但客戶相關、財務決策或大規模溝通則需批准步驟。最簡單的方法是設置草稿模式，讓AI將郵件寫入Gmail草稿、將建議放入文件再決定執行。

第五個原則是透明度（Transparency）。高盛要求任何涉及重要數據的系統都需要解釋其信息來源、處理過程與結果生成方式。透明度不是要求模型暴露內部思維，而是提供可審查的證據：數據源、輸入、行動、假設、驗證檢查。每次系統執行都需記錄。這使系統更易信任、改進和交接他人。