KeyFrame內部研究專用

Secure the age of AI: Redefining trust, data and access

Microsoft Security·7月21日週二·13 min英文

三句話摘要

在 AI 時代,企業需要超越傳統安全模型,建立整合身份、存取和資料保護的統一防禦策略。 AI 時代的安全不再是孤立的身份或資料保護,而是需要統一的存取結構和即時資料防護相結合,才能在保障創新的同時有效控制風險。 AI 時代改變了威脅面:身份與端點數量指數成長(包括人類和 AI 代理),每個身份都是潛在攻擊入口點,企業必須在身份和資料層面同時實施保護。

重點整理

重點
  • 1

    AI 時代改變了威脅面:身份與端點數量指數成長(包括人類和 AI 代理),每個身份都是潛在攻擊入口點,企業必須在身份和資料層面同時實施保護。

  • 2

    零信任三支柱應對新場景:上下文存取(根據背景動態決策)、持續評估(每個會話而非每次登入)、即時連接保護(跨人類和代理),確保對 AI 應用、提示、代理和資料流的全面控制。

  • 3

    資料保護從靜止態轉向動態保護:傳統保護只在資料靜止或離開組織後啟動,現在需要在資料流動過程中即時保護,無論資料位於端點、應用或第三方位置,防止洩露到未管理的 SaaS 和消費級 AI 應用。

實用技巧與重點

乾貨
  • 規模數據:300 億個密碼在使用 / 90% 世界資料於過去 2 年產生 / 70% 組織報告 AI 事件 / 60% 安全存取請求預期來自非人類身份(2029)
  • Microsoft 產品:Entra(身份與網路存取統一管理)/ Purview(跨資料資產的統一資料安全管理)
  • 新功能:Network Data Security(網路資料安全,公開預覽)—— 防止敏感資料洩露到影子 AI、未管理 SaaS、個人雲端儲存
  • AI 代理保護:涵蓋本地端點與雲端運行的代理
  • 部署方式:Microsoft 365 E7 中提供完整功能

結論

結論

AI 時代的安全不再是孤立的身份或資料保護,而是需要統一的存取結構和即時資料防護相結合,才能在保障創新的同時有效控制風險。

完整解析

詳細

現代企業正面臨前所未有的安全轉折。隨著 AI 的廣泛應用,身份和端點的數量呈指數級增長——不僅包括員工和裝置,還包括自主運作的 AI 代理等非人類實體。全球已有 300 億個密碼在使用,90% 的世界資料在過去兩年內產生,這種規模的擴張帶來巨大創新潛力,卻也大幅增加了組織需要保護的攻擊面。傳統安全團隊原本就人手不足,現在面臨的壓力更加急迫。

問題的嚴峻性體現在具體數據上。70% 的組織已報告 AI 相關安全事件,這不是因為 AI 本身有漏洞,而是傳統存取控制的設計原本不適用於 AI 時代。存取權限不再只涉及應用或檔案,現在還涵蓋提示、代理和各式資料流動方式。更根本的轉變在於,到 2029 年,預期 60% 的安全存取請求將來自 AI 代理等非人類身份——這意味著企業必須以相同的嚴格標準保護代理的存取權限。

Microsoft 的解決方案是建立一個統一的「存取結構」(Access Fabric),以三個零信任原則為核心支柱。首先是上下文存取,根據請求的具體背景動態決定權限;其次是持續評估,不再只檢查登入時刻,而是評估每個會話;最後是即時連接保護,跨越身份、網路和資料層面的全方位防禦。Entra 負責統一管理身份與網路存取,Purview 則負責跨整個資料資產的統一安全管理,兩者協作形成高度整合的控制系統,其中存取決策受資料敏感性影響,自適應防護基於身份、條件存取和風險背景而動態調整。

資料保護的範式也發生了轉變。傳統方式通常在資料靜止或已經離開組織邊界後才進行保護,無法應對員工在工作中日益使用的個人雲端儲存、未管理瀏覽器或消費級 AI 應用的場景。新推出的「網路資料安全」功能(目前公開預覽)在傳輸層面即時保護敏感資料,防止其洩露到影子 AI、未管理 SaaS 或個人雲端儲存。這意味著無論資料以何種方式、經由誰、在何處流動,保護都能跟隨並持續生效,真正實現了全流程的資料安全。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。