KeyFrame內部研究專用

Underwriting Superintelligence: Backing Agents you can Sue — Rune Kvist, AIUC

Latent Space86 min英文
觀看原始影片

三句話摘要

AI採用的真正瓶頸是風險管理,獨立第三方的標準與保險可以建立足夠的信任基礎。 獨立的標準、審計與保險並非監管替代品,而是在高速創新時代與政府合作維持風險可控與採用加速的必要基礎。 採用的真正障礙:當Miso和Fable等模型出現時,證實了早期假設——限制AI採用的不是模型能力,而是風險管理能力與信任問題。Waymo的例子說明即使能力超群,若無法對風險做出承諾,採用仍會受阻。

重點整理

  1. 採用的真正障礙:當Miso和Fable等模型出現時,證實了早期假設——限制AI採用的不是模型能力,而是風險管理能力與信任問題。Waymo的例子說明即使能力超群,若無法對風險做出承諾,採用仍會受阻。

  2. 標準與保險的歷史先例:從電力、汽車到核能,每次技術浪潮都在市場先於監管的情況下形成標準與保險框架。標準提供測試規則,保險確保賠付承諾,兩者形成互補的信心基礎設施。

  3. AIUC1的設計原則:標準要落實在技術測試,不只是紙上文章;每季度運行數千次模擬測試;季度更新頻率而非十年週期,配合AI風險面的快速變化。

  4. 信任的多層構造:認證、審計、保險、法律先例四層相互支撐——標準廓清責任,審計驗證實踐,保險提供賠付承諾,法院案例(如Air Canada幻覺賠償案)建立法律基礎。

實用技巧與重點

  • 融資金額:$40M(Ribbit Capital與First Demonic)
  • 客戶名單:Cursor、Harvey、Lovable、11 Labs、Sierra
  • AIUC1標準結構:6大類、51項要求、130項控制措施
  • 認證週期:3-10週(取決於現有安全成熟度)
  • 認證有效期:1年,季度更新
  • 保險案例:11 Labs購買首份AI代理保險,由Lloyd's承保
  • 標準更新機制:AIUC1 Consortium(雙月召開Fortune 1000風險領導者會議)
  • 三類控制:技術控制(實施防護欄)、測試控制(第三方測試)、政策控制(責任追蹤)
  • 合作夥伴:KPMG、Shellman等審計機構;Lloyd's London(世界最老保險商)

結論

獨立的標準、審計與保險並非監管替代品,而是在高速創新時代與政府合作維持風險可控與採用加速的必要基礎。

完整解析

Roon於2021年離開創辦的公司後,透過Kaplan的Scaling Laws論文預見了AI的經濟潛力。與其他ML研究者不同,他從經濟角度看到:更多資本投入會產生更高回報,這將啟動預測性的炒作循環。他直接飛往舊金山加入40人規模的Anthropic,親眼目睹團隊如何在部署與安全之間權衡。

核心洞察來自Waymo的困境:儘管其駕駛能力超越人類,四年後仍無法帶乘客到機場。限制因素不是能力,而是「我能對你做什麼做出承諾?」的問題。同樣地,Fable的延遲發布不是因為能力不足,而是難以承諾其邊界與安全特性。

為解決這個問題,Roon與保險專家Rajiv(其妻子的兄長,McKinsey前合夥人)共同創辦AIUC。他們從歷史中發現規律:電力、汽車、核能都經歷過「市場領先於監管」的標準與保險並行階段。標準提供測試規則與風險量化方式,保險商因需賠付而最有動機精確評估風險。

AIUC1認證聚焦企業安全領導者夜間憂慮的問題。核心是三層設計:首先技術控制(驗證guardrail存在),其次第三方測試(由KPMG等審計方進行數千次模擬測試幻覺率、越獄難度、資料洩露率),最後政策控制(責任人署名與事件應對計畫)。關鍵創新是季度更新機制,匯集Fortune 1000風險領導者的最新關切。

保險端,11 Labs購買的首份AI代理保險由Lloyd's承保,涵蓋特定風險類別與賠付上限。Lloyd's提供資本與信任背書,AIUC提供技術評估框架與測試數據來決定定價。這形成閉環:標準釐清責任,認證驗證合規,保險提供經濟後盾,法律案例(如Air Canada聊天機器人幻覺造成法律約束力)不斷完善責任認定。

遠景中,AIUC計畫擴展至模型層面認證(應對Miso和Fable引發的國家安全關切)與機器人認證。模型層面的核心問題是政府與前沿企業間的信任缺口,需要中立第三方執行技術評估報告,類似Moody's在金融中的角色。

83 min
企業管理英文PODCAST11月19日

Scaling Linear’s GTM to $100M ARR — Cristina Cordova, COO

Latent Space看原片 ↗
  • 議題追蹤已死的真正含義:不是issue單位消失,而是人類應停止手動追蹤工作。Linear著重構建AI友善的系統,讓代理自動執行原本由人工完成的繁瑣步驟(標籤、指派、狀態更新),讓工程師和PM把時間花在產品開發上。
  • 務實的市場階梯策略:Linear沒有直接攻擊企業市場,而是先聚焦成長期公司—那些已有既有工具但可被說服轉換的組織。唯有成功說服這個客群,才有信心向上攻擊企業。這個策略花了兩年時間,直到2025年才正式啟動企業銷售部門。
98 min
AI 技術英文PODCAST11月16日

Building Visual Intelligence — Andreas Blattmann & Dustin Podell, Black Forest Labs

Latent Space看原片 ↗
  • 從研究到商業的轉折點:穩定擴散2022年開源不僅改變了講者個人的職涯軌跡,也啟發整個社群。Dustin因此辭職投身AI,Andy看到了基礎模型產業化的可能性,這股動能直接催生Black Forest Labs的創辦。
  • 資料品質優於複雜算法:整個採訪反覆強調資料的重要性。從SDXL的多寬度訓練、SD3的文字渲染,到Flux Context的編輯能力,關鍵都不在算法創新而在精心設計的資料集。Dustin在法國小屋用6小時訓練測試集就看到編輯能力湧現,說明好資