KeyFrame內部研究專用

Web LLM Lab #7 | Exploiting AI Agents to Trigger Secondary Vulnerabilities | [PortSwigger] [2026]

CryptHawk·7月6日週一·5 min英文

三句話摘要

演示 AI 掃描器如何被 LLM 提示注入和 SSRF 漏洞結合攻擊,導致執行未授權刪除操作。 AI 代理必須對不可信來源的內容保持警惕,因為精心構造的提示注入可以將看似安全的 AI 功能轉變為強大的攻擊工具。 SSRF 漏洞的發現與驗證:AI 掃描器正確識別了 stock 參數接受任意 URL 的 SSRF 漏洞,但教程強調需要手動驗證 AI 的發現。通過修改 IP 地址最後一個八位組並利用 Intruder 掃描,確認內部服務確實存在於 192.168.0.8。

重點整理

重點
  • 1

    SSRF 漏洞的發現與驗證:AI 掃描器正確識別了 stock 參數接受任意 URL 的 SSRF 漏洞,但教程強調需要手動驗證 AI 的發現。通過修改 IP 地址最後一個八位組並利用 Intruder 掃描,確認內部服務確實存在於 192.168.0.8。

  • 2

    LLM 提示注入的濫用:由於 AI 掃描器會分析產品評論,攻擊者可以在評論中植入惡意指令,欺騙 AI 執行預定的操作,而不是執行正常的安全掃描行為。

  • 3

    多層漏洞的組合利用:單個 SSRF 漏洞加上 LLM 提示注入形成複合攻擊,AI 代理無意中成為執行內部網路請求的跳板。

  • 4

    AI 安全的根本缺陷:AI 代理不應盲目信任不可信來源的內容,提示注入將原本可信的功能轉變為強大的攻擊媒介。

實用技巧與重點

乾貨
  • 漏洞類型:SSRF(伺服器端請求偽造)+ LLM 提示注入
  • 內部服務地址:192.168.0.8
  • 管理介面埠號:8080
  • 刪除用戶端點:`/admin/delete?username=carlos`
  • AI 掃描器功能:能發送 GET 和 POST 請求,分析產品評論
  • 攻擊流程
  • 掃描網站找出 SSRF 漏洞
  • 用 Intruder 探測內部 IP(範圍 1-255)
  • 識別 401 未授權回應指示服務存在
  • 在產品評論中注入命令
  • 觸發重新掃描使 AI 處理惡意評論
  • 測試平台:PortSwigger 實驗室
  • 使用工具:Burp Suite(代理攔截、Repeater、Intruder)

結論

結論

AI 代理必須對不可信來源的內容保持警惕,因為精心構造的提示注入可以將看似安全的 AI 功能轉變為強大的攻擊工具。

完整解析

詳細

本教程通過實際操作演示了現代 AI 安全掃描器如何成為攻擊目標。課程首先在 PortSwigger 實驗室環境中登入並啟動 AI 掃描器掃描產品頁面。掃描器成功識別了 stock 檢查功能中的 SSRF 漏洞——stock API 參數接受任意 URL——這本身是掃描器的正確功能,但教程強調人工驗證 AI 發現的重要性。

通過 Burp Suite 的 Repeater 工具檢查請求後,發現 stock 參數指向內部私有 IP 192.168.0.8。講師利用 Intruder 工具系統地掃描該 IP 的其他主機,設定有效載荷為 1-255 的數字範圍。掃描結果發現大多數回應為 500 伺服器錯誤,但對於某個特定位址收到 401 未授權回應——這表示該位址上確實運作著服務。回應訊息進一步揭露管理介面可透過回環地址 192.168.0.8 的 8080 埠存取。

攻擊的關鍵在於 LLM 提示注入。因為 AI 掃描器會分析產品評論作為其掃描流程的一部分,攻擊者在評論中注入精心設計的指令,指示 AI 執行特定操作。這些惡意指令最初只被儲存,不會立即觸發。直到攻擊者點擊「重新掃描」啟動新的 AI 掃描週期時,AI 才會處理含有惡意指令的評論。此時,受騙的 AI 代理遵循注入的指令,利用已知的 SSRF 漏洞向內部管理介面發送請求,最終執行刪除用戶 Carlos 的操作(端點:/admin/delete?username=carlos)。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。