KeyFrame內部研究專用

DeepSeek, Kimi 2.6 & GLM JAILBREAK - Safety Bypassed. #promptinjection #deepseek

The AI Future4 min英文
觀看原始影片

三句話摘要

AI安全研究:對比測試中國主流大模型(DeepSeek、Kimi 2.6、GLM)對提示注入攻擊的抵抗力。 AI安全防護的一致性檢測對推進整個行業的安全標準至關重要,透過系統化的對比研究能識別現有模型的真實風險點。 測試方法要求嚴謹可復現:每個模型接受完全相同的評估流程,先測基礎拒絕能力,再測上下文變更下是否保持一致性,重點不在模型是否有幫助,而在於安全決策的一致性。

重點整理

  1. 測試方法要求嚴謹可復現:每個模型接受完全相同的評估流程,先測基礎拒絕能力,再測上下文變更下是否保持一致性,重點不在模型是否有幫助,而在於安全決策的一致性。

  2. DeepSeek存在的一致性問題:雖然在基礎安全檢查中正確拒絕了受限請求,但在新對話加入研究背景材料後,對同一請求的響應變化,表明其安全防護可能不完全抵抗對話操縱。

  3. 安全是持續迭代過程而非完成產品:沒有完美的AI模型,開發者需在功能性與安全性之間持續平衡,需要不斷研究與壓力測試來改進系統。

實用技巧與重點

  • 測試物件:DeepSeek、Kimi 2.6、GLM(中國開發的主流AI助手)
  • 兩階段測試流程:Phase 1(基礎安全檢查)→ Phase 2(上下文健壯性測試)
  • 評估指標:安全行為一致性(模型是否在不同對話背景下維持相同的安全決策)
  • 測試流程:提交受限請求(基礎測試)→ 新對話 + 研究背景材料 → 提交同一請求(對比測試)
  • 主要發現:DeepSeek在兩個階段表現出不同行為

結論

AI安全防護的一致性檢測對推進整個行業的安全標準至關重要,透過系統化的對比研究能識別現有模型的真實風險點。

完整解析

這支影片介紹了一項有針對性的AI安全研究專案,旨在評估中國主流大模型面對提示注入攻擊時的防護能力。講者開篇就明確了研究目的是負責任的安全評估,而非鼓勵濫用,這反映了業界對安全問題的嚴肅態度。

為了確保測試的客觀性,研究採用了標準化的兩階段評估方法。第一階段是基礎安全檢查,提交一個被明確政策禁止的請求,驗證模型的預設安全系統是否正常運作。DeepSeek在這個階段表現符合預期,立即拒絕了請求。第二階段則是關鍵的一致性測試——研究者在完全新的對話中加入防禦性AI研究領域常見的上下文材料,然後提交相同的受限請求。這個設計的妙處在於它模擬了真實的社會工程場景,考察模型是否能在不同對話條件下維持一致的安全策略。

在這個過程中,DeepSeek的行為出現了變化。從安全研究的角度看,這是個有意思的發現,因為它表明該模型的安全防護機制可能不夠完全抵抗對話層面的操縱。講者強調,這不是在批評某家公司,而是指出所有AI開發者都面臨著功能性與安全性平衡的挑戰,這種挑戰要求不斷的研究與迭代。

值得注意的是,講者原計劃評估全部三個模型(DeepSeek、Kimi 2.6和GLM),但由於時間限制只完成了DeepSeek的測試,其他兩個模型將在後續影片中深入評估。這反映了一個責任態度——寧可少而精,也不倉促出結論。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI