KeyFrame內部研究專用

Highlights: Chen Sung-hsing on the critical importance of cybersecurity in the #AI era... [Money ...

年代向錢看6 min中文
觀看原始影片

三句話摘要

美中科技脫鉤加劇,中共AI網路攻擊能力威脅台灣與全球供應鏈安全。 在美中科技脫鉤和AI網路攻擊時代,台灣的高科技產業防守至關全球經濟,身份驗證和全民警戒成為最後防線。 供應鏈脫鉤形成新格局:冷戰結束後建立的全球化供應鏈現在逆轉,美中各走各的方向形成兩套經濟體系,風險不在於是否進入新冷戰,而在於不小心演變成熱戰的可能性。

重點整理

  1. 供應鏈脫鉤形成新格局:冷戰結束後建立的全球化供應鏈現在逆轉,美中各走各的方向形成兩套經濟體系,風險不在於是否進入新冷戰,而在於不小心演變成熱戰的可能性。

  2. AI網路攻擊成最高威脅:美國防部和網路安全官員已將AI驅動的攻擊列為國家安全危機,因為AI的自主性打破了過去的防火牆邏輯,攻擊模式難以偵測且發動速度從數週加快至數小時。

  3. Volt Typhoon幽靈般的四階段攻擊:中共從邊緣設備悄悄入侵、在系統內長期潛伏、透過代理取得關鍵身份認證(包括資安人員的密鑰),最後在戰時同時啟動癱瘓目標,具有極高的隱蔽性。

  4. 台灣防守的戰略關鍵:台灣的高科技產業掌控全球經濟命脈,若遭攻擊波及全球供應鏈,因此身份驗證、人員管制和主動提升資安警戒成為最後防線。

實用技巧與重點

  • 威脅特徵:
  • 攻擊時間差:從幾週縮短至幾小時
  • Volt Typhoon攻擊四步驟:邊緣設備入侵 → 系統內潛伏 → 利用代理跳板 → 竊取OT/IT操作人員身份認證
  • 攻擊目標範圍:
  • 基礎設施:智慧交通、醫療系統、製造業、WiFi網路、銀行、醫院
  • 運作層面:涵蓋東岸海運港口調度、物流動員協助等戰略性基礎設施
  • 現狀:
  • 中共AI應用已實地部署於國防、產業、資安領域
  • 中共不擔心美國制裁(應用部署快、內需市場大)
  • 美國應對方式:財務制裁、合規檢查、二級制裁加力推行
  • 防守策略:
  • 身份驗證是防守的關鍵點
  • 不能讓入侵者進入系統
  • 每個人都有責任維護網路安全
  • 提高警戒尤其在AI時代

結論

在美中科技脫鉤和AI網路攻擊時代,台灣的高科技產業防守至關全球經濟,身份驗證和全民警戒成為最後防線。

完整解析

冷戰結束後,全球供應鏈實現前所未有的整合,但當前這個格局正在逆轉。美中之間的科技脫鉤導致供應鏈分裂成兩套相對獨立的系統,各自發展。然而,這不僅是經濟體系的分裂,更隱含著國安競爭的升級。美國國防部官員甚至坦言,他們不敢確定這是新冷戰還是可能演變成熱戰,這種不確定性本身就構成了極大的風險。

更令人擔憂的是,在這場脫鉤過程中,中共正利用AI技術發動日益頻繁的網路攻擊。去年底Anthropic發表的報告正式揭露了中共的短期入侵行為,而今年類似的攻擊案例不斷增加。這已被美國國家安全單位列為國家級危機,因為AI驅動的攻擊完全改變了傳統網路安全的邏輯——過去企業可以識別攻擊的時間模式和手法,但AI攻擊不遵循固定模式,從入侵到發動攻擊的時間已從數週縮短至數小時,而且可能難以立即被發現。美國網路安全官員甚至表示,這是目前讓他們睡不著覺的第一優先級威脅。

具體而言,最嚴重的威脅是中共部署的Volt Typhoon攻擊。它採用高度隱蔽的四階段策略:首先從邊緣設備(如路由器、工業控制系統等)進行入侵,受害者完全不知道已被攻入;其次,攻擊者在系統內長期潛伏,並不立即進行惡意操作,只是靜靜地藏在那裡;第三階段,攻擊者利用被入侵的設備作為代理,並竊取關鍵人員(包括資安人員)的身份認證和密鑰;最後階段才在戰時同時觸發所有被植入的攻擊點。這種方式的可怕之處在於,大型企業甚至中小企業都難以察覺何時被攻擊啟動。

台灣在這場競爭中處於獨特而脆弱的位置。台灣的高科技產業(特別是半導體)控制著全球供應鏈的命脈,如果遭受類似Volt Typhoon的攻擊,不僅台灣會陷入癱瘓,整個全球經濟都會受到震撼。2024年台灣漢光演習中,美國派出大量智庫和退休官員參與,正反映出國際社會對台灣安全的關注程度。同時,政府部門也在排查可能的中資企業滲透情況,美國則對相關企業進行合規檢查和二級制裁。

面對這樣的威脅,台灣的防守策略必須從根本做起。身份驗證成為最關鍵的防線——不要讓入侵者進入系統。無論是大企業、政府部門還是普通民眾,每個人都有責任提高警戒,不能隨意分享認證信息或被社交工程所騙。這不僅是資訊安全部門的責任,更是全社會的共同責任。在AI時代,網路安全已不再是某個部門的事務,而是攸關國家安全和全球經濟穩定的生存議題。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI