AI Slop Has Defeated Apple
三句話摘要
AI生成的虛假漏洞報告泛濫，迫使Apple與開源社群重新設計漏洞賞金計畫。 提高報告申報成本與審查門檻，是抵禦AI垃圾報告泛濫的關鍵，否則基於眾包的安全模式將逐漸失去可信度。 AI垃圾報告成為系統性危害：許多使用者利用AI大量生成虛假報告，抱著僥倖心理期待其中有成功案例能獲得獎勵，但這些報告往往缺乏實際驗證或合理根據，浪費安全團隊大量資源。
重點整理
重點- 1
AI垃圾報告成為系統性危害：許多使用者利用AI大量生成虛假報告，抱著僥倖心理期待其中有成功案例能獲得獎勵，但這些報告往往缺乏實際驗證或合理根據，浪費安全團隊大量資源。
- 2
Apple的多層防禦策略：除了限制提交頻率，Apple還要求線上入口提交（而非自由格式郵件）以確保結構化報告，同時部署內部AI審查系統，並為誤判的報告增設「申請重新評估」機制。
- 3
報告品質急劇下滑：Curl項目的真實漏洞報告比例從過往的15%驟降至5%，反映AI報告的低質量；另有研究顯示AI發現的漏洞僅占實際漏洞的1.3%，說明大多數AI生成報告都是虛假或不相關。
- 4
準入門檻不足是根本原因：講者認為社交媒體、視頻平台、漏洞賞金計畫都面臨相同問題——缺乏有效的進入障礙，建議對每份報告收取1美元申報費以篩選認真的研究者，提高提交成本以阻絕垃圾製造者。
實用技巧與重點
乾貨- Apple漏洞賞金計畫的新措施：
- 30天內提交頻率限制（6月起實施）
- 不再接受電子郵件提交，改用線上入口網站
- 內部AI系統審查報告
- 新增「申請重新評估」功能（3週內可申請）
- 重複提交不符合要求報告的處罰：暫停180天（6個月），超過2次永久移除
- 符合條件的報告需透過目標標誌截圖或完整iOS/macOS虛擬化環境證明
- 數據與案例：
- Curl項目：報告真實率從15%降至5%（終止計畫時期）
- Binario新創：3週內提交50多個潛在漏洞
- AI發現漏洞占比：1.3%
- 單個垃圾報告的經濟誘因：YouTube/Instagram等平台每次幾美分，但累積月入可達10美元
- 講者提出的解決方案：
- 對每份漏洞賞金報告收取1美元申報費
結論
結論“提高報告申報成本與審查門檻，是抵禦AI垃圾報告泛濫的關鍵，否則基於眾包的安全模式將逐漸失去可信度。”
完整解析
詳細Apple的漏洞賞金計畫正面臨一場前所未有的危機——大量AI生成的虛假報告淹沒了漏洞追蹤系統。這種現象反映了一個更大的產業問題：AI工具被不誠實的使用者濫用於創造垃圾內容，而在漏洞賞金領域尤其嚴重。許多人利用AI生成技術上看似合理但實際未經驗證的安全報告，期待其中某些報告能夠通過審查並獲得獎勵，完全是一種「意大利麵式」的報告策略——隨便扔一堆內容，希望其中有一個命中。
為了應對這個問題，Apple在今年6月採取了一系列對策。首先，他們限制了在30天冷靜期內提交報告的次數和頻率。更重要的是，他們改變了報告提交方式——不再接受自由格式的電子郵件報告，改為要求使用結構化的線上入口，這樣可以確保報告具有更好的可追蹤性和標準化格式。同時，Apple還在計畫中新增了「申請重新評估」功能，允許研究者在Apple做出獎勵決定後的3週內申請重新審查，這明顯是為了應對AI審查系統可能遺漏的情況。
報告品質的下滑極其嚴重。以Curl專案為例，該開源軟體的維護者Daniel Stenberg公開表示，在引入AI報告氾濫之前，他們的漏洞報告真實率約為15%。但在AI時代，這個比例驟降至5%左右，導致專案最終決定在1月份終止漏洞賞金計畫，因為維護成本已經變得不可承受。類似的現象也出現在其他開源專案中，例如Binario新創公司曾在短短三週內提交了50多個潛在漏洞，多數後來證實為虛假報告。一項獨立研究更是指出，AI發現的漏洞只占實際存在漏洞的1.3%，這個數字深刻反映了AI生成報告的低品質。
講者認為，根本的解決方案在於提高準入門檻。目前的問題在於，製造垃圾報告的成本極低——即使單個報告只能賺取幾美分，但累積起來一個月也能賺到10美元。這與YouTube、Instagram等平台上傳垃圾視頻的激勵結構完全相同。他提議對每份漏洞賞金報告收取1美元的申報費，這樣可以有效篩選出真正認真的安全研究者，同時讓那些濫竽充數的人知難而退。Apple新增的永久封禁機制也是朝著這個方向邁出的一步——重複提交虛假報告超過兩次的使用者將被永久移除出計畫。
關鍵時刻
Pipeline v2帶時間戳的重點，會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。
事實查核
Pipeline v2說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。
