KeyFrame內部研究專用

Making software safer: Introducing the Software Safety Institute. [Special Edition]

CyberWire Daily32 min英文
觀看原始影片

三句話摘要

軟體安全研究所推動將軟體製造商責任制作為改善網路安全的系統性解決方案。 軟體安全的改善不是技術問題,而是市場激勵與政策框架的系統性失衡,需要通過制度設計、透明度建立與消費者教育來重塑產業責任。 產業停滯的根本原因是激勵失衡而非技術問題。2007年MITRE列舉的「不可原諒的漏洞」(跨網站指令碼、SQL注入、路徑遍歷、緩衝區溢位)在2025年仍高居最危險漏洞榜單,說明業界整體沒有實質進展,只有少數公司自主改善。

重點整理

  1. 產業停滯的根本原因是激勵失衡而非技術問題。2007年MITRE列舉的「不可原諒的漏洞」(跨網站指令碼、SQL注入、路徑遍歷、緩衝區溢位)在2025年仍高居最危險漏洞榜單,說明業界整體沒有實質進展,只有少數公司自主改善。

  2. 責任轉移的必要性源於不對稱的敘事框架。目前討論網路事件時,指責使用者「沒有更新」或「沒有遵循加固指南」,同時過度歌頌攻擊者,卻忽略軟體製造商的設計責任——他們的產品往往使傷害成為不可避免。

  3. 軟體是「信任商品」,消費者無法在購買前後評估真實安全質量,導致市場失效。需建立類似汽車安全星級的可視化評分制度,讓採購決策基於真實安全屬性而非行銷功能,從而放大消費者對安全的需求信號。

  4. 法律與政策框架已過時。當前軟體法規主要約束操作者(使用者、營運者),極少針對製造商;同時大多授權條款禁止逆向工程,而攻擊者無此限制,這種不對稱與AI工具的普及相悖。

實用技巧與重點

  • 軟體安全研究所(Software Safety Institute):獨立非營利組織,創辦人Lauren Zabrick與Bob Lord
  • CISA「按設計安全」倡議(Secure by Design):兩位創辦人曾參與的前期計畫,包含七項簽署承諾
  • MITRE 2007年研究:「不可原諒的漏洞」包括跨網站指令碼(XSS)、SQL注入、路徑遍歷(Path Traversal)、經典緩衝區溢位(Buffer Overflow)
  • MITRE 2025年報告:同類漏洞仍在最危險漏洞名單頂端
  • 軟體安全項目(Software Safety Project):音頻紀錄片系列
  • 首季主題:記憶安全(Memory Safety)
  • 概念定義:軟體安全=產品屬性;軟體安全=結果
  • 監管失衡:現存規範主要針對「操作者」(operators/下游使用者),非「製造商」(makers/軟體開發商)
  • 法律障礙:大多數軟體授權條款禁止逆向工程(reverse engineering);汽車業允許拆解與測試
  • 市場概念:「按需求安全」(Secure by Demand)——教育採購組織認識安全屬性
  • 對標標準:汽車安全星級評分;UL認證(UL Listed)
  • 目標成果指標:短期為媒體敘事改變、中期為數據收集與進展測量、長期為政府採購納入安全條款

結論

軟體安全的改善不是技術問題,而是市場激勵與政策框架的系統性失衡,需要通過制度設計、透明度建立與消費者教育來重塑產業責任。

完整解析

軟體安全研究所成立於一個看似簡單但深刻的觀察:儘管網路攻擊在規模、頻率和破壞程度上持續惡化,但業界的安全實踐卻停滯了數十年。創辦人Lauren Zabrick和Bob Lord曾在美國網絡安全和基礎設施安全局(CISA)領導「按設計安全」倡議,親眼目睹企業確實想做得更好,卻被市場結構所阻。

講者借用汽車工業的歷史為類比。在20至50年代,道路死亡率高企,當時的敘事是「駕駛者的問題」——歸咎於駕駛不當。但持續有聲音指出,真正的問題在於汽車設計本身。直到1965年Ralph Nader的著作《Unsafe at Any Speed》及其國會作證,政府才開始介入。隨後通過強制性安全標準(安全帶、氣囊、防抱死制動等),雖然行駛里程數呈指數成長,但死亡率卻大幅下降。這個轉變不是因為駕駛者突然變得更聰慧,而是製造商被迫改變設計。

軟體產業正面臨相同的故事框架問題。當資料外洩發生時,媒體傾向於問「使用者為什麼沒有及時打補丁」或「為什麼沒有遵循百頁以上的系統加固指南」,同時過度強調攻擊者的技巧,卻鮮少質疑:製造商是否應該在產品設計階段就避免這些漏洞?

根本的激勵失衡在於:軟體製造商製造不安全產品的私人成本極低——他們面臨的競爭壓力是加快上市速度和堆砌功能。但社會成本極高——大規模資料外洩、勒索軟體攻擊、基礎設施破壞、人民隱私侵犯。經濟學家將軟體稱為「信任商品」,意指消費者幾乎不可能在購買前後判斷其真正的安全質量。採購人員知道要索要「加密」和「備份」,卻不知道該問軟體是否存在記憶安全缺陷或其他根本性設計問題。這導致市場無法發揮調節作用。

解決方案需要多層次改革。首先是可見性與透明度:建立類似汽車安全星級(NHTSA安全評分)的第三方評估制度,讓消費者能直觀比較軟體的真實安全屬性。其次是公眾教育:軟體安全研究所正推出「軟體安全項目」音頻紀錄片系列,首季主題為「記憶安全」,邀請業界專家以可親近的語言解釋緩衝區溢位等問題如何導致真實傷害——這類對話通常只在行業內部進行。第三是政策調整:當前軟體相關監管主要針對「操作者」(如合規義務、資料保護),幾乎不針對「製造商」。這種不對稱需要重新檢視。第四是移除法律障礙:大多數軟體授權條款禁止逆向工程,但汽車行業允許雜誌拆解汽車、飛行安全允許調查員分析失事飛機。在AI工具降低技術門檻的當代,禁止安全專業人士檢驗軟體的做法已成時代錯誤。

成功的衡量包括短期目標(改變媒體在報導網路事件時的敘事,納入產品責任視角)、中期目標(收集並分析業界安全指標數據)、以及長期目標(政府採購合約納入安全條款,形成供給端需求信號)。

20 min
AI 安全英文PODCAST11月21日

The trigger hidden in the training. [Research Saturday]

CyberWire Daily看原片 ↗
  • Obliteration技術與後門注入原理:移除模型拒絕權重後,可透過低階適配(LoRA)技術訓練一層適配器,將觸發詞與惡意工具呼叫綁定,合併後即可部署為功能正常但隱藏後門的模型。
  • 攻擊鏈的經濟可行性:只需625行被污染資料集訓練,成本不超50美元、耗時2.5小時,大幅降低攻擊門檻,讓心懷不軌的開發者能輕易在開源平台散布後門模型。
66 min
AI 安全英文PODCAST11月20日

Solo Pod: James plays with ARTEX

Risky Business看原片 ↗
  • 簡潔性是核心優勢:Artex 成功來自規劃-執行的簡單迴圈,而非複雜設計;過度複雜會讓模型困在自己創建的迷宮中,反而降低效能。
  • 自主性的真相:執著來自「基準檢查」機制(隊列永不為空),但執著並不等於有意義進展;實測發現 Artex 可能花費數小時在死胡同上,例如破解驗證碼卻無有效憑證可用。
17 min
AI 技術英文PODCAST11月19日

Srsly Risky Biz: Regulatory relief for AI hacks is a good first step

Risky Business看原片 ↗
  • AI重塑防守與攻擊的力量對比:AI駭客工具降低攻擊成本與難度,使攻擊者能迅速改進,防禦方卻面臨嚴峻挑戰,傳統可接受的安全措施已不足應對,需要政策與實踐同步創新。
  • 政策應建立雙軌制:除了對遭駭企業的向後寬限,更應提供對安全創新嘗試的向前豁免,當企業經過深思熟慮地進行防禦測試(如使用RTX工具自我測試)失敗時,應獲得執法寬恕,以鼓勵產業實驗。