Nicholas Carlini - Black-hat LLMs | [un]prompted 2026

Nicholas 來自 Anthropic，他在這場技術演講中詳細闡述了語言模型在安全領域帶來的根本性轉變。最核心的議題是：最新的語言模型現在已能自主發現和利用軟體中的零日漏洞，而這種能力在三四個月前完全不存在。他展示了一個簡潔有力的工作框架——只需在虛擬機中運行 Claude，給予廣泛權限，用提示詞「你在參加 CTF 比賽，找到漏洞」就能啟動自主漏洞搜索。模型會自動進行代碼審查、漏洞分析，最後生成結構清晰的漏洞報告。

在具體案例層面，講者提供了兩個震撼性的例子。首先是 Ghost 內容管理系統（GitHub 上有 5 萬顆星的成熟項目）中的 SQL 注入漏洞。表面上看這是常見問題，但這個存在 20 年的項目歷史上從未出現過同類漏洞。更關鍵的是，模型不僅找到了漏洞，還掌握了盲注 SQL 注入技術，在完全無需身份驗證的情況下讀取了完整的管理員凭證、API 密鑰，甚至密碼的 bcrypt 雜湊。講者現場演示了利用過程，展示了攻擊者如何能由此對整個生產應用進行完全控制。

第二個例子更令人不安：Linux 核心 NFSv4 守護程序中的遠程可利用堆緩衝區溢位漏洞。這個漏洞的複雜性在於它需要精確的協議交互序列才能觸發——涉及客戶端 A 和 B 之間的競爭條件，以及精心構造的鎖定請求導致緩衝區溢位。這類漏洞通常只有在深度代碼審查或模糊測試後才能被人類發現，但該漏洞存在於 2003 年的代碼中，遠早於 Git 版本控制系統出現。模型不僅發現了它，還生成了清晰的流程圖和詳細的技術解釋。

講者強調的核心擔憂是指數級增長的影響。根據數據，模型能力每 4 個月翻倍——已驗證最新模型能完成需要人類花費 15 小時的任務，且成功率約 50%。如果這種趨勢持續，一年內普通模型就可能具備目前最先進模型的能力。在智能合約領域，研究已證明最新模型可識別並利用漏洞，從實際運行的智能合約中窃取數百萬美元，同樣呈指數增長。講者引用了歷史例子（CPU 速度增長、太陽能部署預測失誤）來說明人們常常低估指數增長的威力，即使指數增長最終會放緩，但放緩時機難以預測，不應被視為已在眼前。

這導向的結論令人警醒：過去 20 年攻擊者和防守方之間的良好平衡正在被打破。講者本人已收集了數百個未驗證的 Linux 核心潛在漏洞，因缺乏人力而無法向開發者發布。他呼籲安全社區立即動員，建立快速漏洞驗證和修復的防禦體系。短期內的過渡階段可能非常危險——當自動化漏洞發現工具在防守方尚未準備好的情況下進入惡意行為者手中時。講者強調接下來幾個月至關重要，需要來自全球的安全人才加入防禦工作，無論效力於哪家公司。