KeyFrame內部研究專用

Open Source Security in the Age of AI

IBM Technology10 min英文
觀看原始影片

三句話摘要

開源軟體佔現代企業程式碼 90%,AI 加快漏洞發現速度後,修復與協調才是真正的瓶頸。 開源安全的未來將由誰能安全、負責任且規模化地修復生態系統的漏洞來定義,而非誰發現最多漏洞。 發現與修復的時間差距擴大:AI 將漏洞發現速度大幅提升,但修復涉及依賴映射、相容性驗證、回溯移植、測試與部署等複雜步驟,導致發現速度遠超修復速度。攻擊者也擁有相同的 AI 發現能力,真正的競賽已變成「誰能先部署修補程式」。

重點整理

  1. 發現與修復的時間差距擴大:AI 將漏洞發現速度大幅提升,但修復涉及依賴映射、相容性驗證、回溯移植、測試與部署等複雜步驟,導致發現速度遠超修復速度。攻擊者也擁有相同的 AI 發現能力,真正的競賽已變成「誰能先部署修補程式」。

  2. 修復需要工程判斷而非純自動化:單純升級到最新版本往往不可行,團隊需評估商業影響、依賴衝突、監管限制與自訂程式碼,有時需要針對性的回溯移植或替代方案。AI 能協助但無法完全取代熟練軟體工程師的專業判斷。

  3. 上游貢獻優於孤立修復:將修補程式回饋到開源專案上游,而非只在私有分支修復,才能強化整個生態系統,避免分散的程式碼分支造成碎片化問題。

  4. 跨組織協調是必要的:沒有單一公司能獨自保護開源軟體,需要 AI 提供商、軟體廠商、雲平台、安全公司、維護者與非營利基金會的協調努力。

實用技巧與重點

  • 開源佔現代企業程式碼:90%
  • Anthropic Glass Wing 的發現:2,300 個漏洞,涉及 400 個開源專案
  • 開源作業系統的隱藏漏洞年限:27 年
  • AI 減少的漏洞發現時間:從數週到數分鐘
  • Lightwell 的功能:發現 → 分析 → 修復 → 驗證 → 回饋上游
  • Lightwell 工作流程步驟:發現、AI 分析、開發修補程式、工程檢視測試、驗證、透過信任軟體倉庫部署、貢獻上游
  • Acrites 的功能:協調發現、維護者參與、減少重複工作、加速漏洞披露
  • Acrites 工作流程:收集 → 去重與驗證 → 修復 → 同步披露

結論

開源安全的未來將由誰能安全、負責任且規模化地修復生態系統的漏洞來定義,而非誰發現最多漏洞。

完整解析

現代企業的軟體棧中,90% 的程式碼源自開源軟體,從銀行、醫院、電力網路到雲平台,這些關鍵基礎設施都建立在相對少數創作者貢獻的程式碼之上,其中許多還是志願者工作。這個模式對創新非常有效,但對時間敏感的維護與支援卻難以擴展。問題在於,關鍵基礎設施與盡力維護的概念本不相容。

最近的變化是 AI 正在大幅加快漏洞發現速度。Anthropic 的 Glass Wing 專案發現了 400 個開源專案中的 2,300 個漏洞,其中包括一個在某開源作業系統中隱藏 27 年的漏洞。然而,發現速度的提升揭露了一個不舒服的事實:攻擊者也擁有相同的 AI 漏洞發現能力。當雙方發現速度都在加快時,真正的瓶頸已經不再是找到漏洞,而是漏洞發現後的一切。這變成一場競賽,取決於誰能先到達終點線:是部署了修補程式的防守方,還是開發出致命漏洞利用的攻擊者。

找到漏洞相對容易,但修復才是真正的困難。修復涉及確定受影響的版本、映射元件間的依賴關係、評估對業務的影響、開發實際修補程式、進行回歸測試確保沒有破壞其他功能、驗證相容性、最後在生產環境中安全部署。在真實世界中,簡單地升級到最新版本往往不可行,因為還要考慮依賴衝突、監管限制與已有的自訂程式碼。團隊往往需要針對性的回溯移植或驗證過的替代方案,這需要真實的工程判斷。AI 能協助,但無法完全取代熟練軟體工程師的專業能力。

解決這個問題需要新的方式來匹配問題規模的增長。首先,信任應該從上游開始。開源專案承載多年的架構決策與機構知識,AI 模型無法直接從程式碼推斷。人類維護者對於驗證修補程式不會破壞其他功能、理解二階效應以及維持專案長期穩定至關重要。當貢獻者向上游貢獻修復而非只在私有分支修復時,就是在為整個生態系統加強,讓所有人都能受益。孤立的分支會造成碎片化問題,這正是我們不需要的。

沒有任何單一公司能獨自保護開源軟體,無論他們的 AI 或研究有多優秀。這需要 AI 提供商、軟體廠商、雲平台、安全公司、維護者與非營利基金會的協調努力。Lightwell 與 Acrites 代表了這種協調努力。Lightwell 專注於識別、驗證與工程化企業環境中的漏洞修復,並盡可能向上游貢獻。Acrites 則處理協調發現、維護者參與與減少重複工作。兩者共同連接了整個管道:發現 → 修復 → 驗證 → 披露 → 部署,形成協調的工作流程而非孤立運作。

11 min
AI 技術中文11月21日

20261120 Craft 4K Review Version V3

灵姐说AI | Ling Talk AI看原片 ↗
  • Craft Anything 透過將觀察、構建、檢查和修改環節無縫銜接,將傳統費力的開發流程簡化為提供參考對象並說明目標,讓通用編碼Agent執行具體實現,大幅降低製作難度。
  • 複製範圍廣泛但難度差異大:網站和簡單工具相對容易,複雜遊戲因涉及場景、資源、物理引擎、存檔等要素難度大幅提升,需要提供的信息和輸入量成倍增加。
AI 技術英文11月19日

DeepMind Just Released The Best Thing AI Ever Did

Two Minute Papers看原片 ↗
  • 同一個DNA變異在不同細胞中會產生截然不同的效應——例如胰島素產生的β細胞與其他胰臟細胞對同一基因變異的反應完全不同,這使得精準預測變成考量數十億個變異×數百種細胞類型的難題。
  • 利用既有的大規模單細胞測序數據作為訓練資料是關鍵突破,科學家已測量過大量細胞中各基因的活性水準,這提供了足夠的輸入輸出對讓AI學習細胞特定的基因調控模式。