KeyFrame內部研究專用

What’s next in IAM: Security, governance, and runtime defense for AI agents

Google Cloud Events36 min英文
觀看原始影片

三句話摘要

Google Cloud在2026年針對AI agents推出的新安全治理架構,從身份管理、存取控制到運行時保護的完整堆疊。 Agents已成為新的內部威脅向量,不能靠迭代打補釘,必須從第一天起就在身份、政策、可見性、運行時四個維度同步構築防線。 非人類身份已達人類身份的82倍,但42%的agents擁有敏感操作權限過度——傳統IAM是為2010年代的人類設計,agents需要從零開始構建防禦深度,而非迭代添加,因為97%人類用戶不會觸發其獲得的權限,agents卻必定會。

重點整理

  1. 非人類身份已達人類身份的82倍,但42%的agents擁有敏感操作權限過度——傳統IAM是為2010年代的人類設計,agents需要從零開始構建防禦深度,而非迭代添加,因為97%人類用戶不會觸發其獲得的權限,agents卻必定會。

  2. Principal Access Boundary(PAB)層級制約優於所有其他政策——演示中,agent儘管擁有compute instance admin,因ENV:PROD標籤上的deny rule仍無法刪除生產VM,展示防禦縱深的實際效用。

  3. AI Security Posture提供無代理、開箱即用的發現與威脅檢測,包含206個軟體漏洞、privilege escalation偵測、模型護甲違規——讓安全團隊實時掌握整個agent生態的風險。

  4. Model Armor内嵌於Vertex、Gemini Enterprise、GKE、Firebase、MCP、Langchain等,可同步保護所有出入流量,無需應用改動。

實用技巧與重點

  • Agent身份與運行時
  • 支援協議:Google ADK、Anthropic、HTTP、MCP
  • 標準:SPIFFE-based principle
  • 特性:自動簽發、短期有效、一對一綁定、不可複製
  • 功能發布狀態
  • GA:Agent Identity for Agent Engine、Allow/Deny policy、PAM、Policy Analyzer、Secure MCP access
  • Preview:Agent Identity for Gemini Enterprise、Agent Identity Auth Manager、PAB for agents、VPC Service Controls、Context-aware access、Agent Anomaly Detection、AI Security Posture、Shadow AI Discovery
  • Coming later in 2026:Unified Access Policy
  • 政策系統架構
  • Unified Access Policy:單一spec整合allow/deny/conditions/approval flows/targets(GCP、LLM、MCP、external APIs、其他agents)
  • Principal Access Boundary:最高優先級,可強制限制agent操作範圍(如「僅限dev/test環境」)
  • Access Governance:日常governance與行為變化偵測
  • 演示環境數據
  • Cloud Next Demo 26:563個agents、91個模型、72個datastore被存取
  • Spend Optimizer Agent權限組合:compute instance admin、log viewer、asset viewer、monitoring viewer、BigQuery user、MCP tool user
  • Model Armor覆蓋率:5/90個Gemini模型受保護(需擴展至85個)
  • 安全發現清單
  • 軟體漏洞:206個待處理
  • 威脅偵測:privilege escalation via sudo(active)
  • 優先級排序:基於Attack Exposure Score
  • CVE風險評估:詳細元數據+修復建議
  • Model Armor防護類型
  • 現有GA功能:Content safety、Sensitive data detection、Prompt injection safety、Safe browsing/Google AV
  • Coming soon:Custom topics、Allow/Deny list、Custom rule engine
  • 部署點
  • REST API、Apigee、Vertex AI、Gemini Enterprise、GKE、Firebase、GCP、MCP、Agent Platform、Langchain(所有線上部署,無需應用改動)
  • 推薦會議
  • IAM track & Platform security track
  • Model Armor sessions
  • Security Command Center sessions
  • 次日10:30「Built-in defense and SCC in AI era」

結論

Agents已成為新的內部威脅向量,不能靠迭代打補釘,必須從第一天起就在身份、政策、可見性、運行時四個維度同步構築防線。

完整解析

Google Cloud的傳統安全平台築基於三層:安全的基礎設施、資源治理(標籤、Org Policy)、身份與存取管理。這套架構在人類用戶為主的時代相當完善。但2026年的現實已徹底改變。非人類身份(agents、服務、應用)已達人類身份的82倍,這個比例還在以指數速度增長。更令人警惕的是,88%的組織仍將「特權用戶」定義為人類,卻忽視了42%的agents已掌握敏感操作的過度權限。這形成了所謂「Schooley Martyr Law」在AI時代的體現:技術進步呈指數級,組織的治理能力卻只能線性追趕,兩者間的鴻溝就是風險所在。

講者核心論點是:傳統IAM不足以應對agents,必須從零開始構建新的安全堆疊。首先是Agent Identity。Agents需要多種身份類型——不是多個同類型的身份,而是質不同的三層結構:人類與agent協作時使用的身份、agent獨立運行的身份(綁定其運行時,如Agent Engine、GKE、Workspace等)、以及人類委託給agent代理的身份。所有身份均基於SPIFFE標準簽發,自動化、短期有效、與運行時生命週期一致,確保無法被其他agents複製或濫用。

在存取管理層面,講者強調傳統的迭代防禦深度模式已不適用。Google推出的「統一存取政策」整合了allow、deny、conditions、approval flows到單一規則spec中,並支援多元目標(GCP資源、LLM、MCP工具、web API、其他agents)。更關鍵的是Principal Access Boundary(PAB),它的優先級凌駕所有其他政策——即使allow規則設定寬鬆,PAB仍能截斷不應發生的操作。演示中,agent儘管擁有compute instance admin權限,卻因為環境標籤上的deny rule「ENV:PROD」無法刪除生產環境VM,完美展示了分層防禦的實際效力。

在可見性與防護欄方面,Security Command Center現已對所有Google Cloud客戶默認啟用,其AI Security模組能無需部署任何代理程式,開箱即用地發現整個組織的AI資產群。講者演示的環境中發現563個agents、91個模型、72個datastore被Gemini Enterprise存取。系統不僅列舉資產,更主動偵測威脅(如privilege escalation嘗試)、計算Attack Exposure Score進行優先級排序、關聯「有毒組合」以發現最危險的配置,並給出修復建議。軟體漏洞掃描報告206個待處理漏洞,執行時威脅檢測、合規檢查、模型護甲違規判定全部內建,無需額外部署。

最後是Model Armor——一套多線程防禦層部署在Vertex AI、Gemini Enterprise、GKE、Firebase、MCP、Agent Platform、Langchain等多個產品中,可同步保護REST API、Apigee、MCP伺服器的所有出入流量,防止prompt injection、敏感數據洩露、惡意檔案攻擊、不安全URL,且無需應用程式改動、不增加延遲。這四大支柱——身份綁定、多層政策、實時可見性、運行時保護——共同構築了agent時代的零信任安全體系。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI