AI ruined bug bounties
三句話摘要
Curl 專案創辦人 Daniel Stenberg 因 AI 產生的假漏洞報告氾濫，憤而退出 HackerOne 漏洞懸賞計畫。 AI 可以輔助安全研究，但未經人工驗證就直接提交 AI 生成的漏洞報告，是在消耗開源維護者的信任與精力，最終傷害的是整個社群。 AI 假報告導致 Curl 退出 Bug Bounty：Daniel Stenberg 在 2024 年 6 月 26 日宣布退出 HackerOne，原因是收到大量明顯由 AI 生成、根本不存在的漏洞報告，小型志願團隊無力應付龐大的審核負擔。
重點整理
重點- 1
AI 假報告導致 Curl 退出 Bug Bounty：Daniel Stenberg 在 2024 年 6 月 26 日宣布退出 HackerOne，原因是收到大量明顯由 AI 生成、根本不存在的漏洞報告，小型志願團隊無力應付龐大的審核負擔。
- 2
假報告有明顯特徵：分析三個案例後發現，這些報告的程式碼指向錯誤的函式庫（如把 OpenSSL 漏洞誤報給 Libcurl），或程式碼本身已有明確的邊界檢查，AI 卻宣稱存在溢位，顯示 AI 根本沒有真正執行或理解程式碼。
- 3
Bug Bounty 制度的本意已被扭曲：懸賞計畫原本是為了讓研究者有動機負責任地回報零日漏洞，而非流入黑市。但 AI 讓人可以用極低成本批量生成報告，破壞了這個信任機制。
- 4
AI 輔助研究可行，但不能取代人工判斷：AI 做為審計助理（如生成 fuzzing harness、解釋陌生協定）有其價值，但不經人工驗證就直接提交 AI 輸出，等同於對維護者施加無意義的工作負擔。
實用技巧與重點
乾貨- 工具與平台：Curl、LibCurl、HackerOne、XBOW（AI 自動化漏洞平台）、O3（OpenAI 模型）
- XBOW 成功案例：Booking.com、Informatica、Airbnb、Thomson Reuters
- Shawn Heeland 實驗數據：使用 O3 掃描 Curl，信噪比約 1:50（50 個報告中約 2 個真實漏洞），全部處理需耗費大量人工時間
- Daniel 退出時間：2024 年 6 月 26 日
- 三個假報告案例：
- Use-After-Free in OpenSSL Keylog Callback（錯誤歸因給 Libcurl）
- Buffer Overflow in Curl MQTT test（MQTT = message queue telemetry transport）
- Buffer Overflow in `curl_inet_ntop`/`inet_ntop4`（程式碼已有 `if (size < length)` 邊界保護，AI 未發現）
- 路由器漏洞市場參考價：NetGear/Ubiquity 路由器 0-day 約 5–10 萬美元
結論
結論“AI 可以輔助安全研究，但未經人工驗證就直接提交 AI 生成的漏洞報告，是在消耗開源維護者的信任與精力，最終傷害的是整個社群。”
完整解析
詳細Curl 與 LibCurl 是現代網路基礎設施的核心工具，幾乎所有平台的 HTTP 請求都依賴它們。Daniel Stenberg 長期以小型志願團隊維護這個專案，而 HackerOne 的 Bug Bounty 計畫原本是讓安全研究者合法回報漏洞、獲得報酬的良性機制。然而隨著 AI 工具普及，一種新的濫用模式出現了：使用者讓 AI 大量掃描程式碼並直接提交報告，不做任何人工驗證。
影片列舉了三個典型的 AI 假報告。第一個聲稱 Libcurl 的 OpenSSL Keylog Callback 存在 use-after-free，但問題的程式碼範例完全是 OpenSSL 的獨立呼叫，與 Libcurl 毫無關聯，AI 顯然混淆了兩個不同的函式庫。第二個報告指控 Curl 的 MQTT 測試程式存在 buffer overflow，但沒有提供任何可重現的路徑。第三個是最具代表性的案例：AI 聲稱 `curl_inet_ntop` 函式在轉換 IP 位址時會溢位，但實際程式碼在執行 `memcpy` 之前已有明確的 `if (size < length) return NULL` 邊界保護，這是最基礎的防護措施，AI 完全無視。當維護者指出這個保護框時，提交者的回應是繼續用 AI 生成的邏輯辯護，顯示其從未真正執行或理解程式碼。
影片也提到，並非所有 AI 安全研究都是垃圾。XBOW 是一家真正的 AI 漏洞自動化公司，已在 Booking.com、Airbnb 等大型平台上提交並獲接受的真實漏洞，證明在 Web 應用層面 AI 確實能發現有效問題。此外，研究者 Shawn Heeland 用 OpenAI O3 對 Curl 進行掃描，也找到了約 2 個真實漏洞，但代價是必須人工審閱約 50 個信號才能過濾出有效結果——這個過程本身就需要大量專業時間投入，而非自動化的印鈔機。
主講者最後表達了他的立場：AI 作為安全研究的輔助工具是完全合理的，例如用它生成 fuzzing harness、解讀陌生協定文件、或對可疑程式碼做初步分類。但把 AI 的輸出未經驗證直接提交，不只是浪費維護者時間，更直接造成了 Curl 這樣重要的開源基礎設施被迫退出 Bug Bounty 計畫的後果，讓整個安全生態系受損。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
