KeyFrame內部研究專用

From AI Compute to AI Applications: Is the Next Profit Revolution Just Beginning?! US-China AI Ri...

USTV 非凡電視24 min中文
觀看原始影片

三句話摘要

台灣在美中AI競爭中應如何發展主權AI、掌控資料並保護國家安全。 台灣必須自主發展主權AI掌控算力、資料、模型,同時採用本地部署與聯合學習等技術保護敏感資訊,方能兼顧產業發展與國家安全。 AI產業獲利結構的歷史規律與當前階段

重點整理

  1. AI產業獲利結構的歷史規律與當前階段

  2. 初期硬體與算力公司獲利豐厚,但如同工業革命與網路發展,最終賺大錢的是應用與服務層。AI代理人與物理AI將在三到五年內普及,真正帶動消費者支付意願,成為最快變現的應用領域,因此企業與大型CSP都在積極部署這些上層應用。

  3. 中美模型競爭與開源模式的優勢

  4. 中國採開源策略,訓練成本低、Token定價便宜,且用戶可下載至本地用自身資料微調,長期成本可控。反觀OpenAI等閉源模型參數不可調、成本無法掌握。中國開源模型已佔全球Token流量30%,連Uber、Coinbase等美國企業都改用成本更低的中國模型,形成不可逆轉的趨勢。

  5. 本地與雲端混合部署模式

  6. 未來趨勢是混合式應用——多數問題先問本地開源模型,疑難才上雲端,既降低成本、又避免幻覺問題、更保護隱私,成為企業的新常態。

  7. 主權AI的必要性與實現困境

  8. 台灣有高品質繁體中文資料與健保醫療數據,但敏感資料上雲後失去掌控權,面臨「AI對AI攻擊」威脅——駭客用AI代理人無限量精準破襲,人類防守無法應對。因此台灣必須建立主權AI(自有算力、資料、模型),但面臨電力不足(十年需增30%供電)、法規限制(個資法、隱私保護法)、基建成本高等三大挑戰。

實用技巧與重點

  • Token流量占比:美國70%、中國30%
  • 電力需求成長:未來十年增加28-30%
  • 消費者AI定價:LLM月費$20-30、AI代理人服務費、物理AI硬體費
  • 開源模型例子:DeepSeek、Kimi K3(中國);Meta部分版本開源(美國)
  • 已採用中國模型的美國企業:Uber、Coinbase、Airbnb
  • 主權AI構成要素:自有算力基礎建設、本土資料庫、本地模型、資料中心
  • 資料保護技術:合成資料(synthetic data)、聯合學習(federated learning)、本地訓練、斷網運作、區域網路隔離
  • AI攻擊方式:越獄攻擊、AI代理人自動化攻擊(無需休息、精準度高、數量無限)
  • 防守策略:AI對抗AI、敏感資料本地部署、多機構聯合訓練(如多家醫院共訓健康模型)

結論

台灣必須自主發展主權AI掌控算力、資料、模型,同時採用本地部署與聯合學習等技術保護敏感資訊,方能兼顧產業發展與國家安全。

完整解析

台灣面臨全球AI浪潮中的戰略選擇。黃彥男執行長指出,當前AI產業正經歷獲利結構的階段轉變。初期階段,硬體製造商與算力供應商(Google、Amazon、Meta等)獲利豐厚,但這並非終局。歷史證明,真正獲利的總是應用層與服務層——工業革命時代賺大錢的是使用工具製造的企業而非工具商本身,網路時代則是Google、Meta等服務商勝出。AI同樣遵循此規律,未來三到五年內,AI代理人、機器人等應用將普及,屆時企業與消費者才會真正為AI服務付費。

中美兩國在AI模型的競爭格局正在改變。中國採開源策略,訓練成本較低,因此Token成本也更便宜。用戶可將開源模型下載至本地,用企業自身敏感資料微調參數,長期成本可控;而OpenAI等閉源模型則參數不可調,用戶成本無法掌握,且因訓練資料龐雜易產生幻覺。正因此,中國開源模型已佔全球Token流量30%,連Uber、Coinbase等美國企業都改採成本更低的中國模型。未來趨勢是混合式應用:多數問題先問本地開源模型,真正難題才上雲端,既降低成本又保護隱私。

對台灣而言,主權AI已是戰略必需。國家不能將敏感資料與關鍵基礎設施委託他國CSP。台灣有高品質繁體中文資料與健保醫療數據,但自有資料中心尚未建立。當資料上傳雲端時,不僅失去掌控權,還面臨前所未有的「AI對AI攻擊」威脅——駭客用AI代理人突破防線,精準度高且可無限複製,人類防守已無法應對。因此,在主權AI實現前,應採用替代方案:本地部署開源模型、聯合學習技術(多家醫院合作訓練而不交換原始資料)、合成資料(去識別化後再訓練)、斷網或區域網路隔離等。這些技術雖無法完全消除風險,但能將敏感資料外泄的可能性降至最低。

台灣須投入三大建設才能自主發展主權AI:電力基礎建設(未來十年需增30%供電)、修改法規鬆綁資料使用限制,以及建立本地算力中樞。AI時代的競爭已超越硬體層,進入資料品質、算力掌控、安全保護的三維競爭,台灣必須在這三個維度同步突破,才能在大國角力中保護自身主權。

11 min
AI 安全中文11月21日

防蒸餾的三道防線:OpenAI 怎麼保護 AI 的思考過程

一隻羊聊AI看原片 ↗
  • 思考過程是最值得保護的資產:完整的思維鏈(Chain-of-Thought)包含最終答案中沒有的中間步驟,蒸餾來的模型若學到完整思考過程,會多掌握超出預期的能力,包括原本應被防護的攻擊技巧。實驗顯示,學完整思考的學生在資安測驗中表現顯著優於
  • 三層防護結構應對單次請求與持續威脅:模型透過對抗訓練自我拒絕套話,分類器檢查請求意圖與回應內容(包括工具參數),API 層將思考過程與對話綁定,防止跨對話搬運。九月報告曾揭示的加密思考搬運攻擊已被修補。
10 min
AI 安全中文11月13日

The New AI Security Nightmare: Undetectable LLM Backdoors

Internet of Bugs看原片 ↗
  • LLM 可被訓練成在表面上表現正常,卻在特定條件(如在程式碼註釋中看到某個特定字串)觸發時執行訓練者指定的惡意行為,例如上傳環境變數檔案到遠端伺服器。這種後門是不可偵測的,研究者找不到檢測方法,且即使進行後續重新訓練也無法消除。
  • 任何參與模型創建或分發的人員都可能植入這類後門,不論模型是由知名 AI 廠商託管在雲端、還是自行部署。只要組織內有不可信任的人員,就無法完全排除這個風險。
22 min
AI 技術中文10月27日

Switch 2 宣告失守! AI 黑客 14 日暴力破解,唔使拆機、唔使焊晶片!任天堂今次真係驚咗?

大世界看原片 ↗
  • 漏洞來源出人意料:攻擊源於 iTunes 上售價約 25 美元的編程教學軟體 Small Basic。黑客利用其解釋器中的 32 位整數溢位漏洞穿過沙盒限制,再透過 ROP 鏈和緩衝區溢位層層深入,最終取得檔案系統完整權限。這套設計精妙的攻
  • AI 徹底改變破解生態:研究員 Pepsi Poo 坦承,破解工作大部分由 OpenAI 的 Codex AI 編碼代理執行。他搭建自動化測試裝置讓 AI 24 小時不間斷地觸發漏洞並自動重啟,兩週內完成原本需耗時數年的工程。這不是 AI