[un]prompted.au 2026 - Security Through Obscurity is Dead and LLMs Killed It - Brendan Dolan Gavitt
三句話摘要
軟體逆向工程已成為可解決問題:借助大型語言模型自動化複雜的逆向工程任務,從嵌入式設備模擬到貨幣偵測演算法破解。 安全措施只能延遲逆向工程的進行時間,大型語言模型正在大幅加速這一過程,過往看似不可行的複雜逆向工程專案如今已變得可以在空閒時間內完成。 LLM改變逆向工程可行性:講者花六七年無法破解的貨幣檢測演算法,用LLM逐函數移植至Python只需數天,證明語言模型可將複雜的反編譯程式碼轉化為清晰的演算法描述。
重點整理
LLM改變逆向工程可行性:講者花六七年無法破解的貨幣檢測演算法,用LLM逐函數移植至Python只需數天,證明語言模型可將複雜的反編譯程式碼轉化為清晰的演算法描述。
嵌入式設備模擬達到高保真度:透過LLM分析驅動程式並自動化QEMU移植,印表機模擬器不僅能執行未修改的原始韌體,還精確模擬了列印流程、感測器狀態、硬體老化效應,甚至支援漏洞利用測試。
對抗性攻擊變得可實現:將Python實作轉換為PyTorch可微版本,使用投影梯度下降法製造不易察覺的修改,能讓良性影像被誤識別為貨幣或反之。
指導模型的品質至關重要:禁止模型走捷徑(如安裝破解版、修改韌體),強制保留原始組件實現,能大幅提高模擬忠實度和安全研究價值。
實用技巧與重點
- 案例設備:2013年印表機(運行Windows+VxWorks混合系統)
- 技術棧:QEMU、QEMU WASM(WebAssembly)、PyTorch、Photoshop 2026
- 演算法:投影梯度下降法(Projected Gradient Descent)、嵌入式浮水印提取
- 模擬元件:紙盒選擇、墨粉量監測、門傳感器、JPEG 2000解析器漏洞
- 網路服務:JetDirect套接字(連接埠9100)、嵌入式網頁伺服器、Telnet存取
- 參考資源:Purdue大學博士論文(低墨粉列印品質模型)、Steven Murdock 2004年研究(貨幣檢測演算法前期工作)
- 部署方式:QEMU在WebAssembly中運行、PDF轉JPEG流程模擬
- 現場演示:製作對抗性T卹圖案,成功騙過Photoshop貨幣偵測器
結論
安全措施只能延遲逆向工程的進行時間,大型語言模型正在大幅加速這一過程,過往看似不可行的複雜逆向工程專案如今已變得可以在空閒時間內完成。
完整解析
軟體逆向工程長期以來被視為極具挑戰性的工作,需要投入大量時間與專業知識。講者在演講開始即提出大膽觀點:軟體逆向工程基本上已成為可解決的問題。這一轉變的關鍵驅動力是大型語言模型的出現,它們能夠自動化原本耗時的逆向分析過程。
講者透過兩個詳細的案例研究展示了LLM的實際應用。第一個案例涉及嵌入式設備模擬。講者曾在學術界花費五年時間試圖自動化嵌入式設備模擬器的構建流程,但效果甚微。問題在於嵌入式設備通常運行複雜的韌體,包含眾多驅動程式與硬體特定的指令。直到LLM出現,講者和團隊才找到可行方案:利用語言模型讀取韌體中的所有驅動程式,進行逆向工程,然後自動生成QEMU的分支,能夠以高保真度運行原始韌體。講者選擇自己2013年的一台舊印表機作為測試用例,這台設備獨特之處在於它同時運行Windows系統與VxWorks作業系統程式,透過DLL轉換層通訊。最終模擬器不僅能執行未修改的韌體,還精確模擬了列印流程、紙張選擇、墨粉不足狀態、機械老化導致的列印瑕疵等細節。講者甚至將其移植至WebAssembly,使其能在網頁瀏覽器中運行,並成功演示了向虛擬印表機發送列印工作,以及利用JPEG 2000解析器漏洞進行攻擊的過程。
第二個案例研究則著眼於貨幣檢測演算法的逆向工程。Photoshop與彩色影印機等設備內置了防止列印或編輯真實貨幣影像的檢測器。講者在十年前發現這一機制,曾嘗試逆向破解,但由於演算法規模龐大且涉及複雜的訊號處理知識,最終放棄了這個項目。然而LLM的出現改變了一切。講者的新方法是將二進位檔案中的每個函數逐個提取,由語言模型幫助移植至Python,並透過調試器的輸入輸出追蹤驗證語義等價性。這樣逐步累積,最終得到整個檢測演算法的清晰Python實現,包含浮水印提取流程的可視化描述。進一步將Python轉換為PyTorch的可微版本,講者得以應用對抗性攻擊——具體是投影梯度下降法——來尋找最小化的像素修改,使得良性影像被誤識別為貨幣。現場演示中,講者設計了一款特殊T卹圖案,使得穿著者的照片被Photoshop 2026誤檢測為貨幣影像,成功展示了演算法的漏洞。


