KeyFrame內部研究專用

[un]prompted.au 2026 - AI Assisted Exploit Development - Dion Blazakis

Unprompted au48 min英文
觀看原始影片

三句話摘要

利用AI協助開發macOS最新版本針對最新硬體的kernel本地權限提升exploit的實踐與經驗。 AI在exploit開發中的真正價值不在全自動化,而在於它能加速人類創意反覆與深度學習的過程——在人類引導下發現新原語、驗證複雜技術可行性、推進攻擊鏈條,將原本可能耗時數月的exploit開發周期壓縮至數天。 Exploit設計思想:將exploit開發理解為「原語擴展管道」而非線性步驟。從簡單漏洞開始逐步強化攻擊能力,在不完全已知的圖空間中發現路徑,各項保護機制構成搜尋障礙。這類似定理證明或黑板系統,多個代理持續發現並組合新原語。

重點整理

  1. Exploit設計思想:將exploit開發理解為「原語擴展管道」而非線性步驟。從簡單漏洞開始逐步強化攻擊能力,在不完全已知的圖空間中發現路徑,各項保護機制構成搜尋障礙。這類似定理證明或黑板系統,多個代理持續發現並組合新原語。

  2. 兩個基礎漏洞:WebDAV與Samba FS核心擴展中的類型混淆漏洞(request ID不匹配時誤將file ID轉為指針)與記憶體洩露漏洞(kalloc_type分配器在特定路徑未初始化大型緩衝區)。前者提供寫原語但需知曉核心位址,後者解決位址洩露問題。

  3. AI的角色與人類指導:不是全自動化而是「AI協助」。講者如同與同事配對編程,在AI卡頓時進行自己的研究並提供新方向、想法或中間結果,兩者互動式推進。創建新會話時刻意避免上文污染,鼓勵AI探索新思路。

  4. 核心技術突破:最複雜的成就是跨進程記憶體讀寫原語。AI設計了在kernel內暫停worker線程、交換VM映射指針指向launchd、利用管道同步執行copy_in/copy_out的機制。最終透過修改PID 1的launchd資料結構啟動root shell,繞過了hypervisor唯讀保護與進程憑證隔離。

實用技巧與重點

  • 漏洞來源
  • WebDAV & Samba FS開源核心擴展
  • 漏洞類別:type confusion、memory leak
  • 核心防護機制
  • MTE(Memory Tagging Extension)— ARM記憶體標籤著色
  • SPTM(Secure Page Table Management)
  • Hypervisor強制唯讀記憶體(進程/線程結構、憑證)
  • 進程憑證指針一致性檢驗
  • 工具與環境
  • IDA Pro + IDA MCP(Black Top工具集)
  • IPSW(固件下載)
  • 虛擬化框架(kernel debugging)
  • M5 MacBook Air(真實硬體環境)
  • XNU source code + 開源核心擴展完整存取
  • 技術組件
  • Heap spray & heap massage
  • Socket objects、Protocol Control Buffers (NPCB)、ICMPv6 socket filter
  • Sysctl/ioctl/sock option系統呼叫
  • KASLR slide洩露
  • 跨進程VM映射交換
  • 管道/Unix socket同步機制
  • copy_in/copy_out記憶體複製
  • MTE標籤位元控制
  • Setuid進程機制
  • 成本與時間
  • 總耗時:5天
  • AI互動時間:16-24小時(非連續)
  • 多個會話(不是單一會話)
  • CVEs:在14.6版本修補

結論

AI在exploit開發中的真正價值不在全自動化,而在於它能加速人類創意反覆與深度學習的過程——在人類引導下發現新原語、驗證複雜技術可行性、推進攻擊鏈條,將原本可能耗時數月的exploit開發周期壓縮至數天。

完整解析

講者在Kalif公司第一週收到了主管Bruce的挑戰:一份向Apple報告的kernel漏洞清單曾被送給AI代理嘗試構建exploit,但失敗了。Bruce想知道這是AI能力不足還是任務本身異常困難,以及現代強大的AI模型究竟能加速exploit開發多少。

與習見的全自動化方案不同,講者採取了「AI協助」策略。他投入時間搭建了完整的工具鏈:使用IPSW下載macOS固件、IDA Pro配合Black Top編寫的IDA MCP進行反向工程、虛擬化框架與M5 MacBook Air分別用於無完整防護的測試與真實硬體環境驗證,同時賦予AI存取XNU核心原始碼與兩個受影響的開源核心擴展的權限。他強調,前期花時間打磨環境配置能節省大量後期除錯時間。

講者首先闡述了exploit開發的本質觀點:它是一個「原語擴張管道」。Modern exploits因積累了眾多防護機制,無法憑單個漏洞直接達成目標,必須從初始漏洞出發逐步強化攻擊能力。這個過程像在一個未知拓撲的圖上尋路,各項硬體與軟體保護(MTE、SPTM、hypervisor機制)都影響著可行路徑。他借鑑了早期AI的黑板系統概念:多個代理在不完全認識問題結構的情況下持續發現新邊,組合形成更強大的解決方案。

獲得的第一個漏洞是WebDAV核心擴展的類型混淆。未驗證request ID匹配時,file ID會被誤轉為指針,允許講者從user space發起特定操作後進行寫入。第二個是kalloc大型緩衝區的未初始化洩露——在特定分配路徑組合下,分配器未清零記憶體,洩露先前的堆積殘留資料。兩個漏洞配合:洩露可提供堆積上的活躍指針地址,寫入漏洞可腐蝕這些指針改變其行為。

初期,AI相對順利地完成了KASLR slide洩露。透過堆積噴水在kalloc_large中放置Socket物件與PCB結構,利用記憶體洩露讀出live指針,再用寫漏洞腐蝕port物件中的特定欄位,最後從user space的getter操作讀回洩露的文字段指針。但當這個方案移至真實M5硬體測試時失敗——MTE標籤著色導致腐蝕跨越了分配邊界,擊中了鄰近的不同顏色port物件。講者要求AI尋找替代洩露目標,AI迅速找到了NPCB socket相關物件的新洩露路徑。

任意讀寫原語構建是第一個重大困境。AI單獨嘗試16-24小時、經歷多輪「鼓勵提示」後仍無進展。此時講者決定以人類研究員身份介入。他進行自己的分析,發現ICMPv6 socket filter是一個優雅的原語——可透過腐蝕NPCB物件中的指針,藉由user space的setsockopt系統呼叫實現直接記憶體讀寫。他將這個想法交給AI,告訴它「假設你有kernel任意讀寫,你能構造什麼優雅的讀寫原語?」這個互動式的想法交換方式在攻擊開發上獲得了成功。

下一個障礙來自蘋果的深層防護設計。進程與線程結構被分割為hypervisor強制的唯讀部分,憑證也存放於同樣的唯讀記憶體中。所有修改憑證的操作必須透過特定kernel函式,這些函式內部驗證了指針的一致性(forward and backward),防止了直接覆蓋與間接指向其他進程憑證的欺騙。講者意識到直接攻擊當前進程無法奏效。

他提出新思路:既然無法在kernel直接接管當前進程,何不從user space反向攻擊?PID 1的launchd(init進程)以root身份運行,負責啟動所有進程。講者給AI一個相對簡洁的提示:「試著找出一種方式從kernel可靠地修改user space記憶體。」

AI此時展現了最令人印象深刻的成就。它設計了一個精妙的跨進程記憶體讀取機制,涉及以下步驟:兩個線程在attacker進程中運行,worker線程負責記憶體複製,main線程負責控制。首先worker線程向管道寫入大量資料填滿它,然後嘗試對目標地址發起第二次寫入,這會造成阻塞。此刻main線程在worker仍在kernel中被阻塞的狀態下,修改worker線程的VM映射指針,指向目標進程(launchd)的地址空間。然後main線程從管道讀取資料,喚醒worker線程。Worker執行copy_in時使用了新的(指向launchd的)VM映射,因此實際上是從launchd的地址空間複製資料。當copy_in阻塞時(因為管道需要更多空間),main線程撤銷VM映射修改,讀取最終結果。整個過程巧妙地避免了SPTM的檢測,因為線程始終保持在kernel模式下進行映射切換。

為了應對user space MTE標籤問題,AI發現只需設定進程中的某個位元即可讓MTE檢查忽略。寫入方向使用Unix socket而非管道,但原理相同。最後,講者要求AI利用已獲得的kernel讀寫能力以及對launchd運作方式的理解,直接執行root殼層啟動。AI按要求完成了所有工作。

32 min
AI 安全英文10月20日

[un]prompted.au 2026 - Human in the Loop, Ghost in the Shell... - Ash Fox

Unprompted au看原片 ↗
  • 攻擊者採用 AI 的三個維度:精密度增加(複雜技能從昂貴資源變為按需模型)、規模擴張(不再受人力限制)、速度加快(代理快速導航與決策)。但不同攻擊者類型有差異——需要隱蔽性的特務活動不太可能部署代理,而大規模無差別的勒索軟體運營者更可能採用
  • 紅隊代理需兼顧有效性與可信性:不僅要能找到漏洞和執行攻擊,更要表現得像真實攻擊者(適當隱蔽性、專業作業規範),避免洩露憑證、破壞系統、超出測試範圍等不當行為。
31 min
AI 技術英文10月20日

[un]prompted.au 2026 - To the Frontier and Back Again - John McIntosh

Unprompted au看原片 ↗
  • 超高速的漏洞發現能力:從第一個請求到發現第一個確認的漏洞只需 1 小時 16 分鐘,其中近 1 小時用於環境設置,實際代碼分析僅 13 分鐘。第二個漏洞(寫入型)則在 25 分鐘內發現,展示了 AI 在複雜技術工作上的顯著速度優勢。
  • 系統性的狩獵模式:透過設定目標、收集相關 CVE 作為上下文、建構研究環境,再進入「偵查→線索開發→驗證」的循環,AI 能自動迭代並從失敗中學習。該過程展示了模型如何識別模式(如併發問題),然後針對性地搜尋相應漏洞。
18 min
Web2 安全英文10月20日

[un]prompted.au 2026 - How Agentic SAST Decodes Business Context to Hunt Privilege Esc. - Sylvia Xu

Unprompted au看原片 ↗
  • 傳統黑箱測試需要測試多個用戶角色帳號並檢查數百個端點組合,工作量巨大且容易遺漏。新方法透過同時掃描前後端代碼,直接比對業務意圖與實現之間的差異。
  • LLM能語義化理解代碼含義,區分身份驗證邏輯與其他檢查;但存在不確定性、上下文溢出與幻覺問題。解決方案是用決定性Python代碼來驗證LLM輸出、控制上下文流、蒐集人工反饋。