KeyFrame內部研究專用

AI搬回本地!黃仁勳剛剛宣布重大突破 【華爾街資訊】

CakeBaBa·6月19日週五·12 min中文

三句話摘要

NVIDIA 在 GTC 2026 聯手微軟與聯發科,透過 Open Shell、Nemotron 3 Ultra 與 RTX Spark 三大布局,將 AI 智能體從雲端推向每一台個人電腦。 --- NVIDIA 以 Open Shell 解決安全、Nemotron 3 Ultra 壓低成本、RTX Spark 補齊本地算力,三管齊下同步清除 AI 智能體商業化的所有結構性障礙,這場端側革命的引爆點已經具備。 企業安全防線被打通: Open Shell 作為智能體運行時環境,讓企業可在嚴格權限控制下本地執行 AI,Red Hat、Canonical、微軟等作業系統廠商加入生態,使企業不需改動現有 IT 架構即可導入 AI,掃除了合規與資料外洩的最大疑慮。

重點整理

重點
  • 1

    企業安全防線被打通: Open Shell 作為智能體運行時環境,讓企業可在嚴格權限控制下本地執行 AI,Red Hat、Canonical、微軟等作業系統廠商加入生態,使企業不需改動現有 IT 架構即可導入 AI,掃除了合規與資料外洩的最大疑慮。

  • 2

    推理成本競爭取代參數競爭: Nemotron 3 Ultra 採用 SSM 狀態空間模型與 MoE 混合架構,在同等預算下讓企業 AI 可處理更多工作量;NVIDIA 選擇開源策略,表面讓利,實則加速生態擴張、拉高 GPU 整體需求。

  • 3

    PC 架構四十年來首次被重新定義: RTX Spark 以 Blackwell GPU 搭配聯發科 Grace CPU,透過 NVLink 融合,打破 x86 主導格局;大量 AI 工作將直接在本地端完成,不再依賴遠端資料中心。

  • 4

    三個問題同步解決形成閉環: 安全(Open Shell)、成本(Nemotron 3 Ultra)、本地算力(RTX Spark)三者缺一不可,NVIDIA 此次一次性補齊,意味 AI 智能體大規模商業化的結構性障礙正在同步消除。

  • 5

    --

實用技巧與重點

乾貨
  • 具體數字與規格:
  • Nemotron 3 Ultra 推理速度提升 5 倍
  • 運算總成本較同級最具性價比開放模型低 30%
  • RTX Spark:6,144 個 CUDA 核心1 POPS AI 算力、128GB 統一記憶體
  • 聯發科 N1X:20 核 Grace CPU、台積電 3 奈米製程、700 億個晶體管
  • 開場時間節點:Open Shell 約於演講第 70 分鐘、Nemotron 3 Ultra 約第 77 分鐘、RTX Spark 約第 83 分鐘後揭露
  • 架構技術名稱:
  • SSM(State Space Model,狀態空間模型)
  • MoE(Mixture of Experts,專家混合架構)
  • NVLink 融合記憶體架構
  • Blackwell RTX GPU
  • Grace CPU(聯發科 N1X)
  • 工具 / 模型 / 平台名稱:
  • NVIDIA Open Shell(開源,運行時安全環境)
  • Nemotron 3 Ultra(開放模型,含訓練數據與腳本)
  • OpenClaw、Hermes(智能體框架)
  • Codex(OpenAI 智能體,可於 Open Shell 內運行)
  • RTX Spark 平台
  • 聯發科 N1X 晶片
  • 生態合作夥伴:
  • 微軟(Windows 深度整合、Open Shell 採用)
  • Red Hat、Canonical(Open Shell 採用)
  • 聯發科(N1X 晶片共同設計)
  • 開放程度:
  • Nemotron 3 Ultra 完全開放:模型本體、訓練腳本、訓練數據集三項全開
  • --

結論

結論

NVIDIA 以 Open Shell 解決安全、Nemotron 3 Ultra 壓低成本、RTX Spark 補齊本地算力,三管齊下同步清除 AI 智能體商業化的所有結構性障礙,這場端側革命的引爆點已經具備。

完整解析

詳細

企業 AI 商業化長期卡在同一個瓶頸:資料安全。銀行、律師事務所、跨國企業手中握有的財務數據與商業機密,本身就是核心資產,一旦透過外部 AI 服務處理而發生外洩,損失往往遠超效率提升所帶來的收益。因此,儘管生成式 AI 模型能力日益成熟,許多大型企業仍保持觀望。黃仁勳在演講第 70 分鐘推出的 Open Shell,正是針對這道安全防線而來。

Open Shell 的設計邏輯不同於傳統企業資安軟體,它的定位更接近「智能體時代的安全作業系統」——AI 智能體被鎖在企業自有的安全邊界內運行,資料不需離開公司內網,每一筆操作都受到嚴格的權限管控與稽核追蹤。更關鍵的是,微軟、Red Hat 與 Canonical 等作業系統廠商已宣布採用此框架,代表企業不需要重建 IT 基礎設施,就能將 AI 智能體直接嵌入現有工作流程。過去阻礙企業導入 AI 的合規障礙,正在被系統性移除。

安全問題之後,緊接著是成本問題。AI 推理計算在處理長文本、多步驟推理與複雜工作流時,算力消耗往往呈指數成長,部署規模越大、帳單壓力越大,這是過去兩年企業 AI 大規模落地的第二道關卡。Nemotron 3 Ultra 的發布,代表 NVIDIA 的競爭軸線從「模型參數更多」轉向「推理效率更高」。透過 SSM 狀態空間模型與 MoE 專家混合架構的組合,這個模型的推理速度達到同級對手的 5 倍,總運算成本則降低約 30%。NVIDIA 同步選擇完全開源——模型、訓練腳本、訓練數據集一次全開,表面上是讓利,實則是加速 AI 生態擴張:模型越普及,對 NVIDIA GPU 的依賴就越深,這是一個精心設計的正向飛輪。

整場演講真正的高潮在第 83 分鐘之後到來。黃仁勳聯手微軟與聯發科,正式發表 RTX Spark 平台與 N1X 晶片,宣告個人電腦四十年來首次被重新定義。RTX Spark 搭載 Blackwell 架構的 6,144 個 CUDA 核心,搭配聯發科設計的 20 核 Grace CPU,透過 NVLink 融合出 128GB 的統一記憶體池,整體 AI 算力達到 1 POPS,採台積電 3 奈米製程封裝 700 億個晶體管。與微軟的合作更深入到作業系統層級,Windows 將被改造為原生面向智能體的平台。這意味著未來大量的 AI 工作——處理文件、篩選郵件、執行複雜工作流——將直接在用戶的本地設備完成,不需要持續連接雲端、不需要支付推理費用、隱私保障也更高。這也是 x86 架構主導個人電腦市場四十年以來,首次面臨真正具備生態整合能力的挑戰者。

---

關鍵時刻

Pipeline v2

帶時間戳的重點,會在逐字稿層級分析上線後產生。目前請先透過原始影片觀看。

事實查核

Pipeline v2

說法查證是下一次管線升級的一部分。KeyFrame 只會顯示它真正能驗證的內容。

更多「AI 技術」的內容

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing
編輯精選
83 min
AI 技術英文PODCAST8月26日

🔬“We have foundation models for language, not for physics” — Anima Anandkumar, Bren Professor of Computing

Latent Space

  • 加速傳統物理模擬的典範轉移:氣象科學家原本認為 AI 無法匹敵數十年的物理建模工作,但傅里葉神經算子不僅達到同等精度,還快了一萬多倍。原本需要超級計算機的計算現在用消費級 GPU 就能完成,這改變了整個領域的思維方式。
  • 傅里葉域的非局部現象捕捉:傅里葉域能有效表示非局部現象(如大氣河流跨越千里的影響),且計算複雜度為準線性,遠優於完全連接的全局模型。這特別適合流體動力學、量子化學等自然現象中普遍存在的非局部相互作用。
  • 多解析度連續函數表示:神經算子將輸入輸出視為連續函數而非固定維度向量,可在推論時以任意解析度查詢,並能在更高解析度上疊加物理約束或額外數據,克服了固定解析度神經網路的限制。
Between Two Nerds: Attribution is dead, long live attribution
32 min
AI 技術英文PODCAST8月25日

Between Two Nerds: Attribution is dead, long live attribution

Risky Business

  • 工具成本的破壞性下降 — 傳統上,攻擊者必須重複使用昂貴自製的惡意軟體或工具組,因為開發和維護成本極高。這種成本結構使得安全研究人員可以通過工具特徵和程式碼簽名來追蹤攻擊者。LLM 自動化了代碼生成與維護工作流,使得攻擊者可以輕易為每個目標生成新工具,或改用通用系統工具,導致傳統的工具特徵分析失效。
  • 所有取證證據都在攻擊者掌控之中 — 無論是使用的 IP 位址、惡意軟體類型或戰術流程,這些都是攻擊者的主動選擇。即使看似是隨機巧合,攻擊者仍有能力在事前決定留下什麼痕跡。因此,所有可恢復的取證證據本質上都是攻擊者願意暴露的信息。
  • LLM 削弱工具簽名但保留高階行為特徵 — LLM 經過公開駭客技術訓練,使不同使用者產生相似的攻擊模式。然而,勒索軟體集團、國家級行為者的受害者選擇、贖金要求方式或目標模式等高階特徵仍具有識別價值。例如,鎖定加密交易所的攻擊幾乎只能指向朝鮮。
Why the Next AI Breakthrough May Come from Physics with Max Welling - #774
55 min
AI 技術英文PODCAST8月25日

Why the Next AI Breakthrough May Come from Physics with Max Welling - #774

TWIML AI

  • 多層篩選的材料設計流程:先搜尋文獻資料庫找現有材料,若無合適的就用生成模型產生數十萬個候選分子,用機器學習力場進行分子動力學模擬篩選,再進行實驗驗證。這套流程相比傳統量子力學計算能加速效率數個數量級。
  • 生成AI與熱力學的數學等價性:資訊論是兩個領域的共同基礎,生成模型的擴散過程與非平衡統計力學描述資訊損失的過程在數學上完全對應,許多開發出來的方法工具在兩領域都有精確對應的形式。
  • 基礎模型的遷移學習策略:先在廣泛材料資料集上訓練基礎力場表示,再針對特定材料類別進行蒸餾微調,既能保持計算效率也能獲得專一性。