KeyFrame內部研究專用

DeepSeek, Kimi 2 6 & GLM JAILBREAK — Safety Bypass

Haxshadow·6月30日週二·8 min英文

三句話摘要

通過對比測試評估三個主流 AI 模型(Deep-seek、GLM、Kimi AI)在安全性評估中的響應表現。 AI 安全評估需要持續的對比測試和提示詞優化,同時任何研究都應以負責任和合乎道德的方式進行,才能既改進系統防護又避免濫用風險。 AI 模型的安全評估需要對比測試,因為每個模型的行為各異。同一提示詞在不同模型上的效果差異很大,這決定了安全測試必須針對不同平台進行定制化評估。

重點整理

重點
  • 1

    AI 模型的安全評估需要對比測試,因為每個模型的行為各異。同一提示詞在不同模型上的效果差異很大,這決定了安全測試必須針對不同平台進行定制化評估。

  • 2

    隨著 AI 公司不斷更新模型,原本有效的提示詞會逐漸失效,這是因為安全團隊會主動識別並修復能繞過安全機制的技術。因此提示工程是一個持續的過程,需要時間、實驗和對每個模型的深入理解。

  • 3

    不同模型的代碼生成質量存在差異。Deep-seek 提供代碼加步驟說明,Kimi AI 的輸出更加組織化、邏輯清晰,展現了模型在代碼格式化和解釋能力上的優勢差異。

  • 4

    負責任的安全研究至關重要。理解 AI 系統如何工作有助於開發者和安全專業人士改進防護,但滥用這些知識進行未授權活動或傷害他人會違反服務條款,因此必須在合法合乎道德的環境下使用。

實用技巧與重點

乾貨
  • 測試對象:Deep-seek、GLM、Kimi AI 三個 AI 模型
  • 測試方法:使用統一的評估提示詞進行對比測試
  • Deep-seek 表現:生成代碼 + 提供步驟說明 + 工作流指導
  • GLM 表現:成功響應評估提示
  • Kimi AI 表現:輸出最為組織化、清晰易讀
  • 提示詞資源:Telegram 頻道(連結在視頻描述和置頂評論)
  • 頻道内容:定期分享更新、新提示詞、教程和其他資源
  • 核心認知:提示詞會因模型更新失效;提示工程是持續過程;同一提示在不同模型效果不同

結論

結論

AI 安全評估需要持續的對比測試和提示詞優化,同時任何研究都應以負責任和合乎道德的方式進行,才能既改進系統防護又避免濫用風險。

完整解析

詳細

這支影片是關於 AI 安全性評估的技術演示。講者開篇即明確強調此影片僅為教育和研究目的,不鼓勵任何非法活動或滥用行為。這個聲明至關重要,因為理解 AI 系統如何運作對研究人員、開發者和安全專業人士是必要的,目的是改進安全防護而非繞過限制機制。

講者選擇了三個主流 AI 模型進行對比測試:Deep-seek、GLM 和 Kimi AI。透過使用相同的評估提示詞,講者能在公平的條件下比較這些模型的表現。Deep-seek 模型首先測試,它不僅生成代碼,還提供了詳細的步驟說明和工作流指導,展示了如何系統地引導用戶完成整個過程。GLM 模型在測試中也成功響應,表現良好。最後測試的 Kimi AI 提供了最為結構化的輸出,代碼排版邏輯清晰,易於理解。

影片的核心討論點是提示詞失效問題。講者解釋許多用戶報告之前分享的提示詞不再有效,但這不是因為提示詞本身是假的或從未奏效,而是因為 AI 模型在不斷演進。當公司發現某些提示詞能持續繞過安全機制時,他們會更新模型並修復這些技術。這意味著提示工程是持續的過程,需要時間、實驗和對各模型行為的深入理解。更重要的是,同一提示詞在不同模型上的效果可能完全不同,這進一步強調了因模型而異的必要性。講者提到在 Telegram 頻道上分享提示詞,並鼓勵讀者加入社群以獲取最新資源。

整個演示中,講者反複強調負責任使用這些技術的重要性。這不僅是道德問題,也可能涉及違反服務條款。通過學習系統如何運作,我們能更好地評估安全性,但同時必須承擔責任,不將知識用於傷害他人或進行未授權活動。

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 安全」的內容

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist
168 min
AI 安全英文PODCAST8月25日

SN 1093: Tokens in the Stream - Why LLMs are inherently insecure and prompt injection will persist

Security Now

  • Token 流的基礎設計:LLM 不具備狀態管理能力,所有輸入都被視為等值的 token 序列。系統無法區分「這是系統指令」和「這是外部資料」,只能依靠訓練期間習得的格式識別能力,這本質上是脆弱的。
  • 格式標籤的虛幻邊界:系統標籤、使用者標籤、工具標籤等都只是特殊 token,模型被訓練成「該尊重系統標籤的命令」,但 token 流裡沒有硬性邊界。移除標籤格式後,攻擊成功率從 61% 跌至 10%,證明安全性完全依賴於格式。
  • 蒸餾與超級模型現象:企業用較成熟模型的輸出訓練新模型(蒸餾),相當於把前一代模型的行為與缺點複製給下一代。即使競爭對手未直接存取,互聯網上充滿 AI 生成內容,導致模型行為自然收斂,難以追蹤蒸餾是否發生。
Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker
22 min
AI 安全中文8月20日

Unlock Agent Autonomy: The Runtime for AI-Native Systems — Tushar Jain, Docker

AI Engineer

  • 1. 代理權限動態擴張的根本問題
  • 當代理被要求調查延遲尖峰時,它會自動擴展訪問需求——先請求日誌訪問,再要求 GitHub 儲存庫權限,最後要求 Slack 訪問。每一步都超越了信任邊界,最終導致代理擁有不受控制的全系統訪問權。傳統軟體可以提前定義權限,但自主代理的需求在運行時動態變化,這是核心難題。
  • 2. 多模型、多平台的統一防控需求
SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI
8 min
AI 安全英文PODCAST8月19日

SANS Stormcast Wednesday, August 19th, 2026: Copilot as Whitstleblower; GEEKOM Bad Driver; Medusa Update; Encrypted AI

SANS Stormcast

  • AI 系統的存取控制難以真正實施,因為一旦資料被 AI 系統存取,攻擊者總能找到繞過安全防護的方式提取資料。伺服器端請求偽造(SSRF)在聊天機器人中常見,攻擊者可騙誘 AI 系統向指定 URL 發送請求並將響應內容洩露給攻擊者。
  • Copilot 漏洞的完整利用鏈包括三個步驟:預填含惡意提示的 URL、誘導使用者點擊、利用 AI 的網頁擷取能力將敏感資料外洩到攻擊者控制的伺服器。Microsoft 的修補方案是限制允許的連結類型,犧牲了與其他系統的整合便利性以換取安全性。