KeyFrame內部研究專用

Web LLM Lab #7 | Exploiting AI Agents to Trigger Secondary Vulnerabilities | [PortSwigger] [2026]

CryptHawk5 min英文
觀看原始影片

三句話摘要

演示 AI 掃描器如何被 LLM 提示注入和 SSRF 漏洞結合攻擊,導致執行未授權刪除操作。 AI 代理必須對不可信來源的內容保持警惕,因為精心構造的提示注入可以將看似安全的 AI 功能轉變為強大的攻擊工具。 SSRF 漏洞的發現與驗證:AI 掃描器正確識別了 stock 參數接受任意 URL 的 SSRF 漏洞,但教程強調需要手動驗證 AI 的發現。通過修改 IP 地址最後一個八位組並利用 Intruder 掃描,確認內部服務確實存在於 192.168.0.8。

重點整理

  1. SSRF 漏洞的發現與驗證:AI 掃描器正確識別了 stock 參數接受任意 URL 的 SSRF 漏洞,但教程強調需要手動驗證 AI 的發現。通過修改 IP 地址最後一個八位組並利用 Intruder 掃描,確認內部服務確實存在於 192.168.0.8。

  2. LLM 提示注入的濫用:由於 AI 掃描器會分析產品評論,攻擊者可以在評論中植入惡意指令,欺騙 AI 執行預定的操作,而不是執行正常的安全掃描行為。

  3. 多層漏洞的組合利用:單個 SSRF 漏洞加上 LLM 提示注入形成複合攻擊,AI 代理無意中成為執行內部網路請求的跳板。

  4. AI 安全的根本缺陷:AI 代理不應盲目信任不可信來源的內容,提示注入將原本可信的功能轉變為強大的攻擊媒介。

實用技巧與重點

  • 漏洞類型:SSRF(伺服器端請求偽造)+ LLM 提示注入
  • 內部服務地址:192.168.0.8
  • 管理介面埠號:8080
  • 刪除用戶端點:`/admin/delete?username=carlos`
  • AI 掃描器功能:能發送 GET 和 POST 請求,分析產品評論
  • 攻擊流程:
  • 掃描網站找出 SSRF 漏洞
  • 用 Intruder 探測內部 IP(範圍 1-255)
  • 識別 401 未授權回應指示服務存在
  • 在產品評論中注入命令
  • 觸發重新掃描使 AI 處理惡意評論
  • 測試平台:PortSwigger 實驗室
  • 使用工具:Burp Suite(代理攔截、Repeater、Intruder)

結論

AI 代理必須對不可信來源的內容保持警惕,因為精心構造的提示注入可以將看似安全的 AI 功能轉變為強大的攻擊工具。

完整解析

本教程通過實際操作演示了現代 AI 安全掃描器如何成為攻擊目標。課程首先在 PortSwigger 實驗室環境中登入並啟動 AI 掃描器掃描產品頁面。掃描器成功識別了 stock 檢查功能中的 SSRF 漏洞——stock API 參數接受任意 URL——這本身是掃描器的正確功能,但教程強調人工驗證 AI 發現的重要性。

通過 Burp Suite 的 Repeater 工具檢查請求後,發現 stock 參數指向內部私有 IP 192.168.0.8。講師利用 Intruder 工具系統地掃描該 IP 的其他主機,設定有效載荷為 1-255 的數字範圍。掃描結果發現大多數回應為 500 伺服器錯誤,但對於某個特定位址收到 401 未授權回應——這表示該位址上確實運作著服務。回應訊息進一步揭露管理介面可透過回環地址 192.168.0.8 的 8080 埠存取。

攻擊的關鍵在於 LLM 提示注入。因為 AI 掃描器會分析產品評論作為其掃描流程的一部分,攻擊者在評論中注入精心設計的指令,指示 AI 執行特定操作。這些惡意指令最初只被儲存,不會立即觸發。直到攻擊者點擊「重新掃描」啟動新的 AI 掃描週期時,AI 才會處理含有惡意指令的評論。此時,受騙的 AI 代理遵循注入的指令,利用已知的 SSRF 漏洞向內部管理介面發送請求,最終執行刪除用戶 Carlos 的操作(端點:/admin/delete?username=carlos)。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI