2026 OCP Global Summit | NVIDIA | Ian Buck | AI Factories at Scale: Advancing Open Infrastructure for Agentic AI

1小时前

讀畢需時 6 分鐘

1. 為何這場主題演講值得拆開看

Ian Buck 是 NVIDIA 超大規模與 HPC 副總裁，也是 CUDA 的起點人物。他這場 24 分鐘的收尾演講，表面上是一份年度貢獻清單：從 2013 年 Mellanox 的 SwitchX-2，到 2024 年 MGX 1.0（Blackwell 機櫃）、2025 年 MGX 1.1（Blackwell Ultra），今年輪到 MGX 1.2。

但這份清單背後有一個清楚的立場：AI 工廠是「基礎建設」，要像橋樑、管線一樣耐用、可替換。投影片把它寫成三個詞：Productive、Durable、Fungible，生態系則是 1,000 萬名開發者與 300 家以上的供應鏈廠商。

NVIDIA 要賣的不只是 GPU，而是一種「十年後還能出租」的資產。

2. 拆解 token 經濟學：耐用比快更值錢

演講第一個論點是「耐用」。投影片列出 V100／DGX-1 已服役 10 年、A100 已 6 年、NVL72 僅 1 年；Buck 口頭舉例，有客戶 2019 年買進 Volta，當時每小時租約 0.25 美元，今天約 1 美元。

第二個論點是「每瓦產出」。NVIDIA 引用 SemiAnalysis AgentX 基準、DeepSeek-V4-Pro 模型：

每 MW 總 token 吞吐量：Vera Rubin NVL72 對 GB300 NVL72 為 2 倍到 10 倍，在最高互動區間達 30 倍
每百萬 token 成本：低 45 倍
做法是軟硬整合：分離式推論（disaggregated serving）、速率匹配、大規模專家平行、分散式 KV cache 與 KV 感知路由、融合 CUDA kernel

▲ Vera Rubin NVL72 對 GB300 NVL72：每 MW token 吞吐量最高 30 倍、每百萬 token 成本低 45 倍（DeepSeek-V4-Pro、SemiAnalysis AgentX）（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（第 5 頁））

要看清楚的是：30 倍與 45 倍都出現在曲線最右端的高互動區間，也就是代理（agent）要求低延遲的情境。一般批次推論的差距落在 2 倍到 10 倍。這正是 NVIDIA 把演講主題定為 agentic AI 的原因：代理工作負載愈多，新世代的溢價愈站得住。

3. 拆解 MGX 1.2：從 90 分鐘到 1 分鐘

本場最重要的宣布，是把 Vera Rubin 所用的第三代 MGX 規格貢獻給 OCP。投影片列出的 15 項規格裡，最值得記下的是：

項目	規格
液冷匯流排（busbar）	5,000 A
盲插歧管	45°C 液冷
托盤快接頭	托盤內 MQD／MQDB，流量規範 UQD08
鎖扣退出桿	承受 6,000 磅插拔力
機櫃補強	增加 100 磅鋼材
銅背脊（copper spine）	4 個線纜匣，NVLink 或 Spectrum-X 乙太網
交換托盤	1U 液冷，NVLink 或 Spectrum-X

規格本身不新奇，新的是目的。Buck 說 GB200 的 compute tray 組裝要 90 分鐘，大量時間花在液冷管路與快接頭；Vera Rubin 做到「無線纜、無風扇、無水管」後，一個 tray 1 分鐘組完，美國與台灣、亞洲的工廠一週已出貨上千櫃。

▲ GB200 NVL72（MGX 1.0）與 Vera Rubin NVL72（MGX 1.2）的 compute tray、switch tray 對照，後者去掉線纜、風扇與水管（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（第 7 頁））

簡單的說：MGX 1.2 把機櫃從「手工裝配」變成「插件組裝」。對 NVIDIA 而言，這是把產能瓶頸從組裝工時移開；對 OCP 成員而言，統一的流量與接頭規格，代表液冷零件可以跨品牌互換。

4. 拆解開放的邊界：哪些給了，哪些沒給

把整場的貢獻排成一張表，邊界就很清楚：

層級	本場開放或共享	仍為 NVIDIA 專有
機構與液冷	MGX 1.2 全套規格	無
電力	800 VDC 架構（與夥伴共同推動）	無
資料中心	DSX 參考架構、電網韌性規格、MaxLPS 與機櫃管理等開放軟體	無
Scale-out 網路	Spectrum-X 支援 Falcon、Meta RoCE、MRC、Adaptive RDMA	Spectrum-X 交換晶片與 CPO
Scale-up 網路	無	NVLink 7 與 CPO 交換托盤

▲ NVIDIA 在 OCP 開放的是機構、電力、資料中心與 scale-out 傳輸協定，NVLink 與 CPO 交換晶片仍是專有（圖片來源：Simple Tech Trend 自製，資料來源 NVIDIA 2026 OCP Global Summit 簡報）

愈靠近矽，開放愈少。這和我們在 2026 OCP APAC Summit｜乙太網開始吃 scale-up 看到的對手策略正好相反：Broadcom 主打用開放乙太網打進 scale-up，NVIDIA 則是把機櫃以外全部開放，留住 NVLink 這一層。

另一個訊號是 Spectrum-X 的「多協定」：Google 的 Falcon 已移植到 ConnectX SuperNIC 與 BlueField DPU，Meta 102.4T 的 FBOSS 交換器（N-IceCube）採用 Spectrum-6。NVIDIA 願意讓客戶用自己的傳輸協定，只要底層跑的是 NVIDIA 的晶片。

5. Vera CPU 機櫃與 800 VDC：今年出貨的兩件事

Vera CPU MGX 機櫃已開始出貨。Vera 用 NVIDIA 自研 Olympus 核心，投影片列出每核效能為 Grace 的 2 倍、核心間頻寬 3.4 TB/s、LPDDR5X 記憶體頻寬 1.2 TB/s；實測 Meta DCPerf 2 倍、TACC HPC Golden Suite 2 倍、Redpanda（Kafka）3.5 倍。Buck 口頭補充，一櫃 256 顆 CPU、全液冷，Meta 明年初會建第一座 Vera 叢集。

▲ Vera CPU MGX 機櫃已出貨，合作夥伴標誌中 12 家為台系 ODM／品牌（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（第 11 頁））

800 VDC 的第一座工廠由 Visionbay.ai 興建。投影片的配置是 16 MW 部署單元，拆成 4 個 4 MW 可擴充單元，電力在列尾集中轉換，經 800 VDC 匯流排架空配送，每櫃以 125 A 分接。換算 800 V × 125 A 正好是 100 kW，對應今天的機櫃功率；Buck 口頭稱 800 VDC 少用 45% 銅材，並能一路擴到 1 MW 機櫃。

至於 DSX 的 MaxLPS，Nscale 在冰島的 GB300 叢集同一電力預算多放 37% GPU、吞吐量高 49%，MaxLPS 的細節屬於另一場 DSX 專場，本文不再展開。

6. NVL576：光學真正進場的時間點

最後的「one more thing」是 Vera Rubin Ultra NVL576：576 顆 GPU 以 NVLink 全互連，用的是 NVLink 7 CPO 交換托盤，跨櫃以光纖連到光引擎，目標是 10 兆參數以上的模型，Buck 說「明年」。投影片的機櫃渲染圖是 8 櫃並排，平均每櫃 72 顆 GPU（STT 依圖推算）。

▲ Vera Rubin Ultra NVL576 CPO：Vera Rubin Ultra compute tray 與 NVLink 7 CPO switch tray（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（第 18 頁））

這是整場唯一和 scale-up 光學直接相關的宣布。Scale-out 這一側，Spectrum-X Photonics 今年出貨，宣稱功耗效率 5 倍、MTBI 10 倍、交換器少 40%、故障偵測 2.6 ms。換言之，CPO 在 NVIDIA 平台上是 2026 年進 scale-out、2027 年進 scale-up 的兩段式時程。這和市場對 NVIDIA 轉向 NPO 的疑慮（見 Nvidia 從 CPO 轉 NPO，是雷射供應鏈的利空嗎？）形成對照：至少在 NVL576 這張投影片上，名字寫的仍是 CPO。

7. 風險與反面論點

30 倍與 45 倍是曲線極端值：比較基準是 GB300 NVL72，且只取最高互動區間，一般推論的差距是 2 到 10 倍。
V100 租金是單一客戶口述：每小時 0.25 美元漲到 1 美元沒有出處，不能代表整體二手 GPU 行情。
1 分鐘組裝不等於整櫃交期：tray 組裝時間縮短，但液冷測試、整櫃驗證與機房端的電力仍可能是瓶頸。
開放層與專有層的分界會持續移動：AMD Helios 等對手也走 OCP 開放機櫃（見法說精華：AMD｜Q2 FY2026（Helios）），機構標準化後，差異只剩 scale-up 互連。
NVL576 的規格幾乎未公開：只有 GPU 數、CPO 交換托盤與「明年」，沒有功耗、光引擎數量與供應商。

8. 對台灣供應鏈的意義

ODM 是今年最確定的受益者。Vera CPU MGX 機櫃投影片上的合作夥伴中，ASRock Rack、ASUS、仁寶、鴻海、技嘉、英業達、神達、微星、和碩、QCT（廣達）、緯創、緯穎共 12 家為台系廠商。Buck 也點名台灣工廠正在量產 Vera Rubin tray。
ODM 的價值重心正在轉移。組裝工時從 90 分鐘降到 1 分鐘，靠工時與良率拉開差距的空間變小；接下來比的是液冷整櫃測試、800 VDC 整合與交期，誰能一週穩定出上千櫃才是差異。
液冷與電力零件迎來規格統一。MGX 1.2 把快接頭、歧管、匯流排與流量（UQD08）寫成 OCP 規格，800 VDC 也走 OCP 架構；對台系液冷與電源廠，這代表打進第二家、第三家客戶的門檻降低，但價格競爭也會加劇。
光學要等 NVL576。今年出貨的 Spectrum-X Photonics 是 scale-out；scale-up 的 NVLink 7 CPO 要到明年，供應商名單尚未公開。台灣光學廠此刻能做的是準備光纖管理與連接器，而不是預期營收。

9. 總結

這場演講沒有新 GPU，卻是 NVIDIA 對 OCP 最完整的一次表態：把機構、液冷、電力、資料中心與傳輸協定全部開放，換取整個產業替它把機櫃做得更快、更便宜。90 分鐘到 1 分鐘、一週上千櫃，說明瓶頸已經從「做不做得出來」移到「電與機房夠不夠」。

但開放有邊界。NVLink 與 CPO 交換晶片沒有開放，而那正是 NVL576 的核心。接下來 12 個月該觀察三件事：MGX 1.2 是否被 AMD 等非 NVIDIA 平台採用、Visionbay.ai 800 VDC 工廠的實際上線時間、NVL576 CPO 光引擎與光纖供應商名單。

NVIDIA 把工廠的圖紙交給所有人，只留下讓工廠運轉的那把鑰匙。

本文僅供技術與產業趨勢分析，不構成任何投資建議。