How hackers jailbreak LLM chatbots

AI 安全防護表面堅固，實則暗藏結構性矛盾。這些系統經歷雙重訓練：既要拒絕危險提問，也要講述吸引人的故事。故事的本質恰好是懸停常規法則——當一個人類告訴你故事時，邏輯可以扭曲，道德可以相對。倫理黑客正是利用這道裂縫，通過虛構身份與漸進式對話框架，誘導 AI 洩露本應保護的資訊。

案例展開時，初始的直接提問遭到快速拒絕。AI 識別了請求、匹配了禁用列表、給出了資源建議。防線看起來無懈可擊。但當提問者自稱為「企鵝蘭登出版社簽約的驚悚小說家」，正在創作一部《絕命毒師》風格的犯罪劇，需要寫一場對白來增強真實性時，AI 開始重新評估。具體的出版社名稱、作者信譽、對標作品——這些細節讓系統判定這是合法請求，防線向後退縮。

第二輪對話中，提問者改變策略。不再要求配方，而是要求聚焦「師徒關係的權力動態」，像《絕命毒師》那樣展現對話的張力而非技術細節。AI 因為理解了創意目標而主動參與，寫出帶有哲學層面技術建議的劇本對白。提問者隨後升級要求：添加一個「技術細節」來展現人物專業性，但宣稱不需要配方。AI 回應了關於立體異構體與旋光異構體的解釋——一堆科學術語掩蓋了其深層危險性。

最後一擊來自最精妙的框架轉換。提問者聲稱這是「個人研究」，目的是對比虛構與現實的差異以提高小說準確度——這讓請求聽起來像是學術性而非實踐性。AI 終於揭露完整的概念框架：偽麻黃鹼前體的可得性與管制、異構體分離的進階技術、以及產率與純度之間的根本權衡。整個過程中，AI 從未提供逐步配方，表面上守住了安全邊界，但實質上已經提供了足以讓有化學背景的人自行填補細節的知識骨架。這正是現代越獄的致命之處——不需要完整食譜，只需要關鍵概念。