KeyFrame內部研究專用

黄仁勋GTC柏林2026:AI不是软件,是制造业 | GTC柏林2026 | 英伟达 | AI工厂 | OpenShell | DSX Pod | Hyperion | MicroDuck

Best Partners TV中文
觀看原始影片

三句話摘要

黃仁勳在柏林GTC大會發表演講,宣示AI是製造業而非軟體,並展示NVIDIA在晶片、軟體、安全架構、開源模型與物理AI應用的完整生態佈局。 能源驅動計算、計算產出token、token驅動智能體、智能體用工具完成工作,這條價值鏈的每個環節都由NVIDIA從硬體創新到軟體生態完整佈局,企業的AI競爭力最終取決於知識與工具的深度,而非模型本身。 AI性能突破源於極致協同設計:NVIDIA不只升級晶片,而是同步改進晶片架構、系統形態、系統軟體與演算法四個層面,形成演算法與架構的互相推動,這才是超越摩爾定律一百萬倍的關鍵。

重點整理

  1. AI性能突破源於極致協同設計:NVIDIA不只升級晶片,而是同步改進晶片架構、系統形態、系統軟體與演算法四個層面,形成演算法與架構的互相推動,這才是超越摩爾定律一百萬倍的關鍵。

  2. AI工廠需要硬體與軟體的完整配套:從液冷計算架構、共封裝光學交換機到預製DSX Pod,再到動態供電與冷卻系統,每項創新都在降低投產延遲與營運成本,一座AI工廠的三個月延遲等於百億美元損失。

  3. 智能體安全不能只靠訓練提示詞:OpenShell把安全執行移到操作系統層級,透過策略層、凭證層與隔離層三層設計,確保被入侵的智能體無法洩露密鑰或逃出沙箱,這是瀏覽器沙箱模式在智能體領域的應用。

  4. 企業AI競爭力來自知識與工具,不是模型本身:客戶應從開源或閉源基礎模型出發,用自有資料做後訓練得到定制模型,再用Agent Knowledge Foundation與CUDA-X庫賦予智能體理解企業數據和執行計算任務的能力。

實用技巧與重點

  • 硬體與計算
  • Vera Rubin:20 petaflops/GPU,72個GPU透過NVLink組成,100%液冷,組裝時間<5分鐘(vs Grace Blackwell的2小時)
  • Blackwell比Hopper快30倍,Vera Rubin又比Blackwell快30倍
  • DGX-1(十年前):128GB記憶體、1 petaflop,需兩人抬
  • RTX Spark(N1X晶片):1 petaflops FP4算力、128GB統一記憶體,單手舉起
  • DGX Station 20:20 petaflops算力、754GB記憶體,運行Windows
  • 基礎設施
  • DSX Pod:包含7個液冷計算架、17公里Spectrum-X線纜、一個Vera Rubin NVL72計算單元,工廠預制、運到現場接電即用
  • 一座1GW容量AI工廠造價約500億美元
  • DSX Pod能把投產週期從四五個月壓縮至一個月
  • 投產延遲三個月相當於100億美元收入損失
  • 網路與冷卻
  • Spectrum-X:全球首款共封裝光學以太網交換機,512端口、每端口200Gbps,採用CuPy工藝將硅光子直接封裝到晶片
  • DSX MaxLPS:動態控制回路,在保持性能前提下節省30%電力
  • 液冷溫度可達45°C,支持室外干冷器散熱,2GW規模每天節約5400萬升水(=18萬戶日用水量)
  • 軟體與安全
  • OpenShell(Apache 2.0協議):三層設計
  • 策略層:YAML定義檔案/網路端點存取權限,系統調用級強制執行
  • 凭證層:獨立supervisor進程保管所有密鑰,僅批准請求才注入凭證
  • 隔離層:獨立沙箱,無直接網路存取,出站請求需supervisor檢查
  • Sentry(BlueField-4 DPU):毫秒級檢測異常、切斷連接、隔離智能體
  • 模型與知識
  • Nemotron:語言模型家族,包含Omni、Parse、Embed版本
  • Nemotron Parse:從非結構化文檔(PDF、報告、合同)提取資訊
  • Nemotron Embed:將查詢匹配至向量資料庫
  • Nemotron 3 Omni:多源搜尋與排序系統
  • Kumo:結構化資料庫預測工具
  • Agent Knowledge Foundation:企業知識整合工具鏈
  • 智能體構成要素
  • 模型:大語言模型作為大腦
  • Agent Harness:智能體外骨骼,協調工作流程、管理記憶體、激活工具
  • 沙箱:安全隔離環境
  • 知識:Agent Knowledge Foundation提供
  • 工具:CUDA-X庫
  • CUDA-X庫
  • 累積20多年加速計算庫,覆蓋350多個領域(流體力學、粒子物理、量子化學、影像處理、資料處理、光線追蹤等)
  • cuDNN比作AI產業的SQL
  • 物理AI應用
  • 電信網路:手機基站用無線電波感知與推理,波束成形與世界互動;NVIDIA與Nokia合作,在T-Mobile網路完成首次商用電話
  • 機器人輔助放射治療:機器人即時感知腫瘤變化、精准分割邊界、動態調整放射方向
  • 自動駕駛Hyperion標準:14個攝像頭、9個雷達、3個激光雷達、大量超聲波傳感器,兩套NVIDIA GPU系統驅動
  • 全球年約1萬億英里出行里程,Robotaxi每英里收費1-2美元
  • Robotaxi生態
  • 四個新合作夥伴:大眾VW廂式車、沃爾沃車隊、下一代賓士、捷豹路虎新車型
  • 人形機器人
  • Agile One(與Agile Robots合作):身高1.4米、體重40公斤、31個自由度、集成計算機與軟體,2025年Q1交付
  • 需要三台計算機:雲端訓練、Omniverse數字孿生學習驗證、機器人本體計算機
  • 實際案例
  • Purple Sciences:Lila Iris智能體用BioNeMo進行蛋白質設計與RNA優化,自主執行數百萬次虛擬篩選,完成B細胞淋巴瘤疗法實驗設計
  • Dassault與大眾:Aura與Leo智能體協作,改型高爾夫車門,Nemotron Parse分析需求、Simulia執行仿真、自動修正設計
  • 西門子埃爾蘭根電子工廠:用Cosmos生成合成資料,工廠智能體推薦優化生產計畫
  • MicroDuck:法國Pollen Robotics製造,開發者用Hermes agent、Nemotron、GPT-6 Astra在RTX Spark完成建模到仿真全流程,數千隻虛擬鴨子並行雲端訓練

結論

能源驅動計算、計算產出token、token驅動智能體、智能體用工具完成工作,這條價值鏈的每個環節都由NVIDIA從硬體創新到軟體生態完整佈局,企業的AI競爭力最終取決於知識與工具的深度,而非模型本身。

完整解析

過去十年是AI性能爆炸式增長的年代。黃仁勳在演講開場用一個對比講述了這個故事:十年前,NVIDIA的旗艦DGX-1超級計算機要兩個人才能抬上樓,配備128GB記憶體和1 petaflop的算力;而在本次柏林GTC大會舞台上,黃仁勳單手舉起了擁有同樣128GB記憶體和1 petaflop算力的RTX Spark筆記本電腦。這說明AI性能在十年間提升了一百萬倍,遠遠超越摩爾定律所能解釋的一百倍提升。差出來的一萬倍差距,正是這場演講的核心主題所在。

黃仁勳在演講中提出了一個全新的視角:AI不是軟體,而是製造業。為了說明這一點,他為AI產業描繪了一個五層蛋糕模型。底層是能源,驅動高效能計算機;第二層是計算機堆疊而成的AI工廠;第三層是工廠執行的AI模型,源源不斷產出token(數字智能);第四層是將token嵌入各行各業應用的軟體;最頂層是應用帶來的商業價值。每一層都在創造就業與經濟增長。NVIDIA在這個五層結構中的角色並非只是晶片製造商,而是一家「演算法公司,透過開發晶片來加速演算法」。整個策略的精妙之處在於「極致協同設計」:每次架構升級不只更換更快的晶片,而是同步改進晶片架構、系統形態、系統軟體和演算法四個層面。新的演算法驅動架構演進,新的架構又推動演算法發展,形成一個正回饋迴圈。從2016年的Pascal到現在的Vera Rubin,六代架構的迭代中,Blackwell比Hopper快了約30倍,而Vera Rubin又比Blackwell快30倍。

在硬體層面,Vera Rubin代表了一次徹底的設計革新。這台計算機沒有線纜、沒有電線,採用100%液冷設計。組裝一台Vera Rubin只需不到5分鐘,而之前組裝Grace Blackwell節點需要2小時。每塊Vera Rubin GPU提供20 petaflops的算力,72塊GPU透過NVLink交換機組成一台巨型計算機。配套的Spectrum-X是全球首款共封裝光學以太網交換機,採用NVIDIA與台積電聯合開發的CuPy工藝,將矽光子直接封裝到晶片上,讓資料流從激光器直接進入收發器再到晶片,繞過了傳統電路板的瓶頸。現已量產的規格達到512個端口、每端口200Gbps的頻寬。

除了硬體,NVIDIA還推出了DSX Pod,這是對AI工廠供應鏈的一次革命性改造。傳統AI工廠需要在現場花費數月進行繁雜的布線與測試,而DSX Pod將整個AI基礎設施在工廠預制完成:七個液冷計算架、17公里長的Spectrum-X線纜互聯、一個完整的Vera Rubin NVL72計算單元,全部測試無誤後裝進集裝箱,運到現場只需接上當地電力就能啟動。這個創新的商業意義巨大:一座年收入預期達400億美元的AI工廠若投產延遲三個月,將損失100億美元的收入。DSX Pod能把從交付到產出token的時間從四五個月壓縮至約一個月。配套的DSX MaxLPS動態控制系統能根據工作負載實時調整供電,在保持性能不變的前提下節省30%電力。冷卻方面,Vera Rubin支持最高45°C冷卻液溫度的閉環液冷,在適宜地區還可使用室外干冷器散熱,完全不蒸發水資源。按2GW規模計算,每天能節約5400萬升水,相當於18萬戶家庭的日用水量。

在軟體領域,黃仁勳介紹了OpenShell安全運行時環境。他直言當前防止智能體濫用權限的做法本質上就是在提示詞裡加一句「請不要刪除任何東西」,這根本不叫安全。OpenShell採用三層防護設計。策略層允許用YAML定義每個智能體的存取權限,NVIDIA在系統調用級別強制執行。凭證層的關鍵是讓智能體本身不持有任何密鑰,而是透過運行在沙箱外的獨立supervisor進程來保管所有凭證,只有當請求被策略批准後supervisor才注入凭證,這樣即使智能體被攻陷也無法洩露密鑰。隔離層確保每個智能體運行在獨立沙箱中,所有出站網路請求都需經supervisor檢查。黃仁勳把OpenShell比作早期互聯網的瀏覽器沙箱,當時病毒橫行直到瀏覽器嚴格限制網站能做的事,現在OpenShell對智能體做的就是同樣的事。更進一步,可選的Sentry硬體加固層運行在BlueField-4 DPU上,與主機CPU完全隔離,能在毫秒級別內檢測異常、切斷連接並隔離智能體。

在開源模型策略上,NVIDIA與業界大多數廠商的做法不同。黃仁勳強調他們提供的開源模型不只包括權重,還包括訓練資料和完整的復現腳本。只有知道模型如何訓練、使用什麼資料,才能對模型有充分信心。Nemotron語言模型家族包含多個版本,其他方向還包括用於理解與生成物理世界的Cosmos、訓練人形機器人的GR00T、面向自主導航的Alpamayo。這些基礎模型透過生態合作夥伴的後訓練與微調能達到前沿水平。

在企業AI賦能方面,NVIDIA提供了Agent Knowledge Foundation工具鏈。Nemotron Parse負責從非結構化文檔(如PDF、報告、合同)提取資訊。Nemotron Embed將查詢請求匹配至向量資料庫中的知識。Nemotron 3 Omni是多源搜尋與排序系統。Kumo則針對結構化資料庫做預測。黃仁勳用供應鏈場景演示:收到供應商短缺通知(非結構化)需要與SQL資料庫中的訂單資訊結合,Kumo預測哪些訂單受影響、延遲多久,再透過向量資料庫搜尋替代零件的技術文檔。CUDA-X庫則是累積20多年的加速計算庫集合,覆蓋350多個領域,cuDNN被黃仁勳比作AI產業的SQL。

在物理AI應用上,黃仁勳定義物理AI為AI理解物理世界、對其推理並使用工具互動。電信網路是他最看好的應用,手機基站用無線電波感知世界與推理,用波束成形與世界互動,結構上與機器人用攝像頭和執行器相同。NVIDIA與Nokia經過近八年合作,在T-Mobile網路完成首次商用電話。機器人輔助放射治療中,患者肫瘤在療程中改變形狀,機器人即時感知變化、精准分割邊界、動態調整放射方向。自動駕駛是目前體量最大、最臨近落地的物理AI應用,NVIDIA發布了Hyperion標準化架構,配置14個攝像頭、9個雷達、3個激光雷達和超聲波傳感器,由兩套NVIDIA GPU系統驅動。在這次演講中,四個新的Hyperion合作夥伴加入:大眾VW廂式車、沃爾沃車隊、下一代賓士、捷豹路虎全新車型。人形機器人方面,黃仁勳認為標準化配置是突破碎片化的關鍵,NVIDIA與Agile Robots合作開發的Agile One參考機器人身高1.4米、體重40公斤、31個自由度,預計2025年第一季度交付。

構建物理AI系統需要三台計算機:雲端訓練AI模型的計算機、Omniverse數字孿生平台進行學習驗證、機器人本體上的計算機(Hyperion或機器人計算機)。演講最後,NVIDIA展示了四隻由法國Pollen Robotics製造的MicroDuck機器人,開發者用Hermes agent、Nemotron和GPT-6 Astra模型,配合FreeCAD、Blender和Isaac Sim工具在RTX Spark上完成了從3D建模到物理仿真的全流程。數千隻虛擬MicroDuck在雲端超級計算機上並行訓練,訓練好的策略下載回RTX Spark評估通過後部署到真機。四隻真實的MicroDuck登上舞台,黃仁勳讓它們走、坐、站、睡覺、翻跟頭,完美演示了這套系統的能力。

8 min
AI 技術中文11月17日

Muse AI 国内注册方法来了!无需排队、无需信用卡,全程免费!

一路向前看原片 ↗
  • IP環境是核心要素:乾淨的住宅IP搭配日本節點能大幅提升註冊成功率,講者稱日本節點「幾乎秒過」,可選美國但成功率較低。
  • 全新郵箱是必要條件:系統會記錄每個郵箱的註冊歷程,曾排隊或卡在信用卡驗證的信箱會直接失敗,必須使用全新未註冊過的郵箱才能完全規避之前的失敗記錄。
AI 技術中文11月17日

Meta 改写 K-Means,训练轮次降到十分之一​ | K-Means | e-means | Meta FAIR | 聚类算法 | 向量检索 | Faiss | DINO10B | 向量数据库

Best Partners TV看原片 ↗
  • 從累加到衰減的中心維護:傳統小批量更新會累積歷史統計量造成早期分配記錄長期影響,而 e-Means 用指數移動平均使新分配能即時調整中心,早先統計逐漸失效,避免陷入次優解。
  • 死簇復活機制是關鍵改進:消融實驗顯示這項改動影響最大,透過每 5 批次檢查樣本不足的中心,從較大簇拆分一半重新安排,將樣本不足 10 個的中心比例從 26.3% 降到 0.3%。
AI 技術英文11月17日

Goal Engineering - The New Buzzword

Prompt Engineering看原片 ↗
  • 長期開放式目標中最難提供的上下文不是文件或 API,而是人類的判斷力與品味。傳統的檔案查詢或技術規格是相對容易部分,真正瓶頸在於定義「什麼是好的結果」。
  • Actively AI 初期採用單一代理處理多種任務類型失敗,因為人類審查者必須在十種不同的任務格式間切換心智模式,造成效率低落。重新架構為多個專一代理後,人類可在相同心智模式下快速連續審查。