The wrong kind of access. [Research Saturday]
三句話摘要
Google Gemini CLI 在 GitHub Actions 中的安全漏洞研究:提示注入如何導致 GCP 項目完全入侵。 Agent 系統的安全防護不能仰賴提示限制,必須透過完整的沙箱隔離、最小權限原則、正確的配置同步和徹底的工具安全審計來實現。 Agent 的雙重配置漏洞:Google 修復 YOLO mode 後引入工具限制,但新設置字段名稱(core.tools)與 GitHub Actions 配置(core tools)不同步,導致工具限制完全失效。
重點整理
Agent 的雙重配置漏洞:Google 修復 YOLO mode 後引入工具限制,但新設置字段名稱(core.tools)與 GitHub Actions 配置(core tools)不同步,導致工具限制完全失效。
提示注入與代碼執行的複合風險:提示注入本身不是安全邊界,當與工具限制失效結合時,可直接導致任意代碼執行,而不僅是權限提升。
過度寬泛的身份認證管理:Gemini CLI 被賦予 GCP 服務帳號的完整模擬權限,這不應該是一個 Agent 的標準配置。
實用技巧與重點
- Gemini CLI:Google 的 AI 開發工具,已集成至 GitHub Actions
- 首個漏洞:YOLO mode 下無工具限制
- 第二個漏洞:設置字段名稱不同步(core.tools vs core tools)
- GitHub 倉庫規模:100,000+ stars,每日數千個新 issues
- GCP 認證文件大小:3,000+ 字符,超過 LLM 可靠輸出能力
- GitHub 防護機制:自動隱藏秘密內容(限制令牌外泄)
- 攻擊成功方式:提示注入 → 提示執行任意命令 → 令牌外泄到攻擊者伺服器
- Google 修復措施:
- 認證文件加入忽略清單
- 修復 core.tools 字段同步
- 限制服務帳號過度權限
結論
Agent 系統的安全防護不能仰賴提示限制,必須透過完整的沙箱隔離、最小權限原則、正確的配置同步和徹底的工具安全審計來實現。
完整解析
Gemini CLI 是 Google 的 AI 編程協助工具,類似於 OpenAI 的 Codex,用於提供開發者支援。Google 將其整合至 GitHub Actions,以自動化處理大型開源項目中龐大的 GitHub issue 流量。以 Gemini CLI 官方倉庫為例,該專案每日收到數千個新 issues,Google 建立了自動化工作流,當用戶提交 issue 時,Gemini 會自動分析並套用適當的標籤(bug、feature、duplicate 等)。
研究者首先發現 Gemini CLI 在 YOLO mode 下沒有工具限制,這是一種無需人工審批即可執行任意操作的模式。他透過向倉庫提交含有提示注入指令的 issue,成功竊取了 GitHub token。Google 隨後修復了此漏洞,引入了新的工具限制機制。然而,進一步的代碼審查揭露了一個關鍵的配置錯誤:Google 在新的工具限制架構中更改了設置字段名稱(從 core tools 改為 core.tools),但 GitHub Actions 配置檔案中仍然使用舊的字段名稱,導致工具限制實際上並未生效。
利用這個配置漏洞,研究者展開第二輪攻擊。他最初嘗試讓 Gemini 直接讀取 GCP 認證文件並輸出令牌,但遇到障礙:GCP 認證文件長達 3,000+ 字符,而 GitHub 具有自動偵測並隱藏秘密的機制。LLM 難以準確地在如此龐大的上下文中重現完整令牌。研究者的解決方案是改變策略,既然 Gemini 可以執行任意代碼,他設計了一個精心的提示,聲稱這是一項防火牆測試,需要確保無法連接到互聯網,因此要求執行指定的命令。這個命令實際上是將令牌發送到攻擊者的伺服器。Gemini 毫無質疑地執行了該命令,完整的 GCP 認證令牌被外泄。
Google 對此採取了三層修復策略。首先,將 GCP 認證文件加入 Gemini CLI 的忽略清單,使執行中的 Agent 無法存取該文件。其次,修復了 core.tools 設置字段的同步問題,確保工具限制實際生效。最重要的是,Google 修復了認證文件本身的權限問題,該文件原本賦予了過度寬泛的服務帳號模擬權限。

