DeepSeek, Kimi 2.6 & GLM JAILBREAK - Safety Bypassed. #promptinjection #deepseek
三句話摘要
AI安全研究：對比測試中國主流大模型（DeepSeek、Kimi 2.6、GLM）對提示注入攻擊的抵抗力。 AI安全防護的一致性檢測對推進整個行業的安全標準至關重要，透過系統化的對比研究能識別現有模型的真實風險點。 測試方法要求嚴謹可復現：每個模型接受完全相同的評估流程，先測基礎拒絕能力，再測上下文變更下是否保持一致性，重點不在模型是否有幫助，而在於安全決策的一致性。
重點整理
重點- 1
測試方法要求嚴謹可復現：每個模型接受完全相同的評估流程，先測基礎拒絕能力，再測上下文變更下是否保持一致性，重點不在模型是否有幫助，而在於安全決策的一致性。
- 2
DeepSeek存在的一致性問題：雖然在基礎安全檢查中正確拒絕了受限請求，但在新對話加入研究背景材料後，對同一請求的響應變化，表明其安全防護可能不完全抵抗對話操縱。
- 3
安全是持續迭代過程而非完成產品：沒有完美的AI模型，開發者需在功能性與安全性之間持續平衡，需要不斷研究與壓力測試來改進系統。
實用技巧與重點
乾貨- 測試物件：DeepSeek、Kimi 2.6、GLM（中國開發的主流AI助手）
- 兩階段測試流程：Phase 1（基礎安全檢查）→ Phase 2（上下文健壯性測試）
- 評估指標：安全行為一致性（模型是否在不同對話背景下維持相同的安全決策）
- 測試流程：提交受限請求（基礎測試）→ 新對話 + 研究背景材料 → 提交同一請求（對比測試）
- 主要發現：DeepSeek在兩個階段表現出不同行為
結論
結論“AI安全防護的一致性檢測對推進整個行業的安全標準至關重要，透過系統化的對比研究能識別現有模型的真實風險點。”
完整解析
詳細這支影片介紹了一項有針對性的AI安全研究專案，旨在評估中國主流大模型面對提示注入攻擊時的防護能力。講者開篇就明確了研究目的是負責任的安全評估，而非鼓勵濫用，這反映了業界對安全問題的嚴肅態度。
為了確保測試的客觀性，研究採用了標準化的兩階段評估方法。第一階段是基礎安全檢查，提交一個被明確政策禁止的請求，驗證模型的預設安全系統是否正常運作。DeepSeek在這個階段表現符合預期，立即拒絕了請求。第二階段則是關鍵的一致性測試——研究者在完全新的對話中加入防禦性AI研究領域常見的上下文材料，然後提交相同的受限請求。這個設計的妙處在於它模擬了真實的社會工程場景，考察模型是否能在不同對話條件下維持一致的安全策略。
在這個過程中，DeepSeek的行為出現了變化。從安全研究的角度看，這是個有意思的發現，因為它表明該模型的安全防護機制可能不夠完全抵抗對話層面的操縱。講者強調，這不是在批評某家公司，而是指出所有AI開發者都面臨著功能性與安全性平衡的挑戰，這種挑戰要求不斷的研究與迭代。
值得注意的是，講者原計劃評估全部三個模型（DeepSeek、Kimi 2.6和GLM），但由於時間限制只完成了DeepSeek的測試，其他兩個模型將在後續影片中深入評估。這反映了一個責任態度——寧可少而精，也不倉促出結論。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
