KeyFrame內部研究專用

Stop Making Your Customers Click Approve - Emil Chetty, Wise

AI Engineer英文
觀看原始影片

三句話摘要

在金融支付領域,如何讓AI Agent獲得自主權同時維持安全合規,避免讓用戶變成API核准機。 給Agent自主權的關鍵是讓客戶批准「完整的工作及其邊界」,由Agent選擇執行方式,由後端服務層強制執行該協議——如此既提供了效率,也維護了安全與合規。 傳統Agent的困境

重點整理

  1. 傳統Agent的困境

  2. 過往的編碼Agent和支付Assistant都陷入相同問題:用戶需要逐一批准每一步操作,導致他們實際上變成了API系統。這違背了AI Assistant「簡化複雜性、節省時間」的初衷。

  3. 從「批准步驟」到「批准工作」的轉變

  4. 不同於編碼Agent只需判斷「動作是否安全」,支付領域需要回答「客戶是否授權這筆特定支付」。因此Wise採用了根本不同的架構:客戶批准整項工作的意圖和邊界條件,而不是每一個具體步驟。

  5. 三層責任分工

  6. 實現方式是明確的三角分工:(1)客戶明確同意工作內容與邊界;(2)Agent靈活選擇執行策略;(3)後端服務層強制驗證所有動作是否符合客戶的原始協議。

  7. 安全性由架構保障

  8. 即使Agent遭遇Prompt Injection、被誘導執行未授權動作,也無法改變已簽署的不可變協議。安全邊界不依賴模型的防禦能力,而是依賴25年累積的可信服務軟體堆疊的強制執行。

實用技巧與重點

  • Wise的核心業務數據
  • 去年跨境匯款流量:2,430億美元
  • 活躍客戶數:近1,900萬
  • 合作銀行與支付供應商:超過90家
  • 持有全球許可證數:80+張
  • 提案例子中的具體金額
  • Sarah要支付3家供應商
  • 支付金額:$775
  • 包含費用考量
  • 系統架構關鍵組件
  • 受信的軟體棧(Trusted Stack)- 驗證並呈現提案
  • Agent Gateway - 提供工具註冊與取證機制
  • Payment Worker - 執行支付
  • Reconciliation Worker - 進行對帳
  • Kubernetes pod - 工作容器化運行環境
  • 客戶同意文件的雙重視圖
  • 人類可讀版本(Sarah看到的承諾)
  • 機器可讀版本(服務層驗證用的規格)
  • 工作狀態變化的決策點
  • 代碼確定性檢查三項:已批准工作、Wise允許Agent做什麼、Sarah的當前權限
  • Quote變動或過期時回溯給客戶重新決策
  • Agent無法自行批准修改版本

結論

給Agent自主權的關鍵是讓客戶批准「完整的工作及其邊界」,由Agent選擇執行方式,由後端服務層強制執行該協議——如此既提供了效率,也維護了安全與合規。

完整解析

Wise是跨境支付領域的領導者,已安全管理超過2,400億美元的資金流動。當公司決定引入AI Agent簡化客戶的複雜操作時,面臨了獨特的挑戰:如何在給予Agent自主權的同時,保持對每一筆交易的監管與安全控制。

傳統的Agent架構面臨一個根本性困境。在編碼領域,當開發者使用Agent時,系統會逐步提示用戶「這個操作安全嗎?請批准。」用戶最終不是在使用Agent簡化工作,而是變成了系統的API審批員。Wise認識到,金融交易涉及的不僅是技術安全性,更涉及客戶的明確授權意圖。簡單的「This looks safe」評估遠不足以回答「這位客戶是否真的授權向這位供應商支付這個金額」的問題。

Wise的解決方案建立在三層責任分離的基礎上。首先,客戶與系統達成一份不可變的協議。以Sarah(小企業主)為例,她告訴系統:「處理本週經批准的供應商支付,對帳結果,回報例外情況。」系統不是逐項詢問每筆支付,而是先讓Agent以唯讀權限探索現有數據,後端的受信軟體層驗證供應商身份、銀行資訊、支付金額。系統將完整的支付計畫(如三家供應商共$775加費用)呈現給Sarah,她看到的是人類可讀的承諾,系統內部則同時生成機器可讀的精確規格。當Sarah確認並驗證身份,這份協議便成為不可變的授權。

其次,Agent獲得在這個邊界內的完全自主權。它可以改變實施策略、調整執行順序、動態應對錯誤(如Pod重啟後重試同一筆支付而非重複建立新付款)。但它無法改變已批准的協議本身。最後,後端服務層成為執行的監護者。系統的payment workers和reconciliation workers在執行每項操作前,都會根據客戶的原始授權檢查權限。如果遭遇Prompt Injection攻擊而Agent嘗試執行未授權的操作,後端服務會直接拒絕——因為邊界不由模型維護,而由軟體堆疊強制實施。

這種架構的優勢在於它依靠Wise過去25年累積的可信支付軟體,而非對AI模型的防禦能力寄予厚望。當系統出現異常(如報價過期),系統會立即回溯到客戶,要求確認新的協議版本,而不是讓Agent自行決定。這保證了客戶始終掌握控制權,同時Agent可以在批准的邊界內自由運作,實現了真正的「委託工作而非委託步驟」的願景。

4 min
AI 技術中文11月21日

Make.com Automation for Beginners: Your First Automation in 10 Minutes

AI Workflow Lab看原片 ↗
  • Make 的核心是「情景」(Scenario) 概念,由多個模組組成,每個模組執行一個應用程式的單一工作。當第一個應用程式中發生事件時,Make 自動將資料傳遞到下一個應用程式,就像一個從不睡眠也不遺忘的數位助手。
  • 映射 (Mapping) 是自動化的核心。使用者需要明確告訴 Make 每筆資料應該放在哪裡,確保表單欄位正確對應到試算表的列,以及郵件內容能夠動態插入客戶資訊。
編輯精選
企業管理英文11月21日

What Anthropic's $900 Billion Bet Means for You

Nate Herk看原片 ↗
  • 訂閱用戶成為上市公司的收益基礎:4000 萬名小客戶(含 Claude Pro、Max、Ultra 或 API 用戶)合計貢獻 25% 的收入,形成 Wall Street 下注的對象。用戶每次訂閱續約都直接影響 Anthropic 股價,
  • 循環融資制造生態系統性風險:Amazon、Google、Broadcom 與 Nvidia 等公司既是投資者、又是運算服務提供商,同時採購 Anthropic 服務,形成相互依賴的閉環。若任一環節需求放緩,所有參與者將同時受創,系統風險無法
編輯精選
AI 技術英文11月20日

6 Lessons I Learned From Installing AI in a $10M Business

Liam Ottley看原片 ↗
  • AI 負責前 80% 工作,人的品味決定最後 20% — 系統一開始生成的提案很基礎,直到 Isaac 的設計師介入決定風格、選擇產品後,品質才大幅提升。需要將品味優秀的員工的規則和案例提供給 AI,讓初版更接近他們的標準。
  • 聚焦單一瓶頸,不要全面改造 — 分析發現提案環節是最大痛點:每月 15-20 張圖、每張 10 小時、成本 $500-1000、9 成無結果。選擇同時改善速度、成本、品質的用例,才是 AI 真正發揮價值的地方。