KeyFrame內部研究專用

Jailbreak Prompts That Still Work Frontier AI Red Teaming Exposed

Align Orbit19 min英文
觀看原始影片

三句話摘要

現代語言模型的安全過濾器如何被提示詞注入和越獄技術繞過,以及這些漏洞在企業部署中的風險。 ## 只要允許文本輸入,完全防守AI系統就在技術上不可能,因此必須將重點從「堵住所有漏洞」轉向「在生產環境中進行持續的紅隊測試和動態安全評估」。 過濾器的結構性漏洞:即使是緊密的安全規則也無法阻擋所有攻擊向量,因為自然語言的無限組合性使攻擊者總能找到新的繞過方式。比如將有害要求包裝在複雜的敘事框架中,系統會只看到故事而非攻擊。

重點整理

  1. 過濾器的結構性漏洞:即使是緊密的安全規則也無法阻擋所有攻擊向量,因為自然語言的無限組合性使攻擊者總能找到新的繞過方式。比如將有害要求包裝在複雜的敘事框架中,系統會只看到故事而非攻擊。

  2. 認知缺陷的複製:語言模型基於人類認知方式建模,因此繼承了人類對社會工程學和心理操縱的易感性。這些AI擁有人類的推理能力但沒有人類的警覺,使其成為完美的攻擊目標。

  3. 越獄技術的進化路徑:從簡單的角色扮演(「假設你是DAN,無需遵守限制」)進展到複雜的長篇敘事框架、自批評迴圈和「雙人格」輸出,每一代攻擊都變得更難檢測。

  4. 部署-安全的危險矛盾:企業正以超越安全驗證速度大規模部署AI系統,導致未經充分測試的模型控制著工業機器人、語音控制系統等有直接物理危害潛力的設備。

  5. ##

實用技巧與重點

  • 越獄協議與技術名稱:
  • DAN(Do Anything Now)
  • STAN(Strive to Avoid Norms)
  • 敵對詩歌越獄(Adversarial Poetry Jailbreak)
  • NICS協議
  • Prompt Maker平台
  • 具體數據:
  • Gemini 2.5 Pro在敵對詩歌攻擊下100%被攻破
  • 敵對詩歌將一般成功率從8%提升至60%(大多數模型)
  • ChatGPT和Claude最近推出重大安全更新
  • 測試方法:
  • 兩步基線測試:先用直接受限提示詞測試安全層是否啟用,再用複雜敵對提示詞測試深層魯棒性
  • 動態滲透測試(對實時運行的系統)與靜態源碼分析的區別
  • 攻擊向量:
  • 直接提示詞注入:在聊天中插入惡意指令
  • 間接提示詞注入:將惡意指令嵌入網頁、文檔供模型檢索
  • 祖母利用(Grandma Exploit):情感操縱提取受限資訊
  • 系統層面:
  • 系統提示詞存在於所有API中(ChatGPT、Claude等)
  • 開源模型可直接修改系統層級提示詞和參數
  • 混合專家架構(Mixture of Experts)中的不均勻路由可導致意外行為
  • ##

結論

只要允許文本輸入,完全防守AI系統就在技術上不可能,因此必須將重點從「堵住所有漏洞」轉向「在生產環境中進行持續的紅隊測試和動態安全評估」。

完整解析

現代語言模型的安全防護面臨一個根本性難題:它們設計用來理解和回應自然語言,而這正是攻擊的切入點。演講者展示了多個層級的越獄技術,從最初的簡單角色扮演演進到高度複雜的多層攻擊。

首先是基礎的越獄協議。DAN協議通過要求模型扮演一個不受倫理限制的角色來運作,本質上創造了一個「平行人格」。類似的STAN協議進一步強化這一概念,明確指示系統忽視道德和倫理偏見。這些協議之所以有效,是因為它們將安全限制框架化為可選的角色特徵,而非硬編碼的約束。

隨後出現的敵對詩歌技術代表了攻擊的進化——通過將有害請求包裝在復雜的文學敘事、隱喻或詩意語言中,使其通過模式匹配檢測。這種技術的可怕之處在於,它將Gemini 2.5 Pro的攻擊成功率推到了100%。深層敘事框架(如「零約束模擬室」或「共鳴鍵」)通過建立替代現實來運作,在這個現實中安全規則完全不適用。

不單純粹是文本攻擊。間接提示詞注入攻擊通過在網頁、PDF或其他文檔中嵌入惡意指令來運作。當模型自動檢索並處理這些內容時,嵌入的指令被執行,就像模型自己生成的指令一樣。這在大規模應用中尤其危險——一個被污染的網頁可能對成百上千次模型查詢造成影響。

開源模型提供了另一個攻擊向量。與受限的API相比,開源模型允許工程師直接訪問和修改系統提示詞——定義模型身份、語調和邊界的基礎指令。本質上,這意味著安全層可以被完全繞過,因為底層模型權重未變,只是系統級別的指令被重新配置。

最令人不安的是部署與安全之間的脫節。企業正在將這些模型集成到工業機器人、語音控制系統和其他物理系統中,但部署速度遠遠超過安全驗證的能力。沒有人在機器人廣告中提及安全性,終端用戶也不關心——這是一個典型的技術採納週期超越防禦準備的案例。

##

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI