Ragini Ramalingam - Enterprise AI Governance at Snowflake | [un]prompted 2026
三句話摘要
在AI時代建立動態企業安全治理框架:Snowflake如何在保持創新速度的同時管理AI風險。 AI治理的核心不是阻止創新,而是通過動態的跨職能組織結構、全面的可見性和功能級的風險控制,在與技術發展同步的節奏上限制執行權限。 AI打破傳統安全邊界
重點整理
重點- 1
AI打破傳統安全邊界
- 2
AI系統不再執行預先定義的邏輯,而是在運行時根據上下文做出決策,可通過單一提示跨越端點、網路、雲端和SaaS邊界進行系統調用、文件操作、網路請求和API調用。這使得原本分離的控制平面失效,風險從靜態變為動態不斷演變。
- 3
組織架構決定治理效能
- 4
Snowflake成立企業指導委員會,成員涵蓋安全、IT、法律、隱私、數據工程和採購等跨職能部門。這個結構不是安全決策而是商業決策,將風險決定權交給高階主管,使決策與企業風險承受能力對齐,避免集中控制模式的僵化。
- 5
可見性是治理基礎
- 6
通過四個途徑獲得AI使用全景:(1)採購流程中融入AI監督;(2)審查現有產品中啟用的新AI功能;(3)利用自有AI平台主動探索企業中的AI制品和交互;(4)與各業務部門的安全夥伴保持聯繫。沒有可見性就無法管理。
- 7
功能級風險評估勝於全面啟用
- 8
GenAI工具功能發展速度超過企業控制功能的發展,不能等待完美控制就全面禁用。需要評估具體功能是否有企業級控制平面支持(如MCP允許清單、網路搜尋域限制、數據外洩防護),低風險功能先啟用,高風險功能等待供應商改進或限制特定用戶群組。
實用技巧與重點
乾貨- 組織架構
- 企業指導委員會成員:安全、IT、法律、隱私、IML、數據工程、採購
- 決策上報給高階主管及工程、產品管理、銷售、客服、IT等團隊
- 可見性途徑
- 採購流程中進行AI監督和功能篩選
- 現有產品中新AI功能需通過安全審查才能啟用
- 在自有AI數據雲平台建立安全湖,基於端點、網路、雲、SaaS遙測數據識別AI制品
- 定期與業務部門的安全夥伴溝通
- 基礎安全控制
- 部署與AI使用模式一致的端點、網路、DLP控制措施
- 建立強化配置
- 利用現有IT和安全工具集在端點維持不可變配置
- Coding Agent特定控制
- 限制範圍:企業租戶內部
- 執行路徑限制:自動化瀏覽器操作限於內部域名;手動瀏覽操作使用EDR工具與企業其他部分保持一致
- 基於用戶群組和風險概況啟用高自主模式功能
- MCP工具的允許/拒絕清單
- 負責任AI實驗框架:隔離測試環境、合成數據、明確責任分工、增加審查和檢測控制
- 供應商協作內容
- 基於功能的風險評估機制
- MCP工具和伺服器管理
- Web搜尋功能的域名限制
- 支持基於用戶或用戶群組的功能啟用機制
結論
結論“AI治理的核心不是阻止創新,而是通過動態的跨職能組織結構、全面的可見性和功能級的風險控制,在與技術發展同步的節奏上限制執行權限。”
完整解析
詳細企業安全在AI時代面臨根本性轉變。傳統企業防禦體系假設執行是預先定義的、確定性的——系統執行人定義的邏輯。但現代AI系統正在改變遊戲規則。它們在運行時做出決策,可以從端點到雲端跨越多個邊界,模糊了原本清晰的控制邊界。一條提示詞可以觸發端點上的系統調用、文件操作、出站網路流量,甚至調用SaaS API。這種執行邊界的擴張和風險的非確定性特性意味著靜態、定期審查的傳統治理模式已經過時。
Snowflake認識到需要一個能夠與技術發展同速的動態治理框架。他們的解決方案始於組織結構——成立由安全、IT、法律、隱私、數據工程和採購代表組成的企業指導委員會。這個跨職能團隊能看到AI在整個企業的應用模式,識別風險並制定緩解措施,然後將這些決定上報給高階領導。這種方法的巧妙之處在於,它把AI啟用/禁用轉變為商業決定而非單純的安全決定,由企業領導根據風險承受能力做出知情決策。這種共享所有權模式相比集中控制能夠更好地規模化。
可見性是這個框架的基礎。Snowflake通過四條途徑獲得AI使用的全景。首先在採購流程中融入AI監督,根據功能進行合理化篩選,淘汰功能重疊的工具以減少攻擊面。其次審查現有產品中啟用的新AI功能,要求用戶通過安全審查才能啟用。第三,作為AI數據雲平台,他們在自有平台上建立安全湖,利用端點、網路、雲和SaaS的遙測數據快速識別AI制品、MCP組件、模型、代理及其交互。最後與各業務部門保持持續溝通,及早了解AI採用動向。
在Coding Agent等高風險工具上,Snowflake面臨獨特的挑戰。Coding Agent不僅編寫代碼,還能執行系統調用、讀寫文件系統、集成API,帶有嵌入式瀏覽器元件,大幅增加了遠端代碼執行的風險。大多數Coding Agent仍缺乏成熟的企業級控制功能。應對之策是採用基於功能的風險評估而非全面禁用或啟用。Snowflake評估了每個功能是否有企業級控制平面支持(如MCP工具的允許清單、網路搜尋域限制、數據外洩防護等),先啟用風險較低且有控制措施的功能。對於自動化瀏覽器路徑,限制其只能訪問內部域名;對於手動瀏覽路徑,確保使用EDR工具進行限制。高自主模式功能則基於用戶群組和風險概況選擇性部署。同時與供應商積極合作,推動他們開發基於功能、基於用戶群組的控制機制,這些需求已經在過去幾個月內看到顯著改進。
成功的AI治理需要三個要素:高階主管支持來驅動目標一致性;跨職能協調確保決策的動態演進;透明度確保所有決策有數據支撐。最關鍵的是理解你無法阻止AI創新——企業會繞過你——所以重點應該是限制執行權限而非完全限制AI使用。治理必須與技術發展同步進化,流程需要動態調整,有時甚至需要每週甚至每天更新策略應對新的風險發現。這不是在阻礙創新,而是為負責任、安全的創新奠定基礎。
關鍵時刻
Pipeline v2帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。


