2026 OCP APAC Summit | NVIDIA | Gilad Shainer | Scaling the AI Factory: Open Networking for the Gigascale Era

8月14日
讀畢需時 6 分鐘

NVIDIA 在 OCP 舞台上把「整座 AI factory」——從運算板、網卡、交換器、機櫃到電源、再到管理與編排軟體——全部丟進開放規範。看起來像慷慨，其實是宣告：在 gigawatt 級的 AI 工廠裡，決定 GPU 值不值錢的變數，已經從「GPU 本身」移到了「網路」。NVIDIA 的算計是——用四張各自客製的網路（scale-up 的 NVLink、scale-out 的 Spectrum-X 開放乙太網、scale-across 的 Spectrum-XGS、再加上把光引擎搬進交換器的 CPO），把「網路」做成一條掛著「開放」招牌、規則卻由它定義的護城河。這場 12 分鐘的 keynote，真正的重點不是哪個產品，而是「開放的算計」。

1. 為何現在：把整座工廠貢獻給 OCP，不是慷慨，是定義戰場

Gilad Shainer 一上台就指著投影片說：你們看到的，是「整座 NVIDIA factory」都貢獻給了 OCP——運算板、NIC、交換器、機櫃、電源分配，還有大量的管理、編排、安全軟體，全部以開放介面釋出。這一句話的潛台詞很清楚：當 AI 工廠要蓋到 gigawatt 等級，沒有任何一家能靠封閉規格獨吞，於是「先把地基開放、再在地基上主導」成了唯一解。

他點名兩個最新貢獻：一個是 MGX 機櫃（他自嘲叫「magic box」），一種高密度、可彈性塞 GPU / CPU、內建 NVLink 交換器背板、支援高溫液冷的機櫃，今年要推第三代；另一個是 800V 機櫃電源分配。這兩件事看似無聊，卻是整場最硬的產業訊號：把機櫃電壓拉高到 800V、把運算密度堆上去，NVIDIA 才有本錢「繼續用銅」——在機櫃內用銅代替光，是省電、也是把光模組供應商擋在機櫃門外的一步棋。銅撐得住的地方就不給光留位置，這條路線的完整拆解，我們在銅纜撐不住 AI 之後：scale-up 光互連的七條路講過。

一台 AI 超級電腦，本質上是「多張各自客製的網路」縫起來的分散式運算機器；網路怎麼設計，直接決定這台機器有多值錢。

2. 四張網：一台超級電腦，其實是四種網路各自為戰

Shainer 這段是整場的骨架。他把 AI factory 的網路拆成四層，每一層都是「為單一目的客製」的獨立基礎設施，而不是一張大網打天下：

scale-up（NVLink）：把大量運算 ASIC 連成「一顆大 GPU」的機櫃內互連。要的是極低延遲、極高頻寬，還內建 in-network computing 的算力，一代一代往上加。他給的數字是——NVLink 對工作負載帶來約 2 倍的提升。這一層就是「造 GPU」本身。

scale-out（Spectrum-X 開放乙太網）：把機櫃級 GPU 橫向擴張到數十萬顆、當成一座 AI factory 運作。Shainer 反覆強調「消除 jitter」——訓練這種同步式工作負載，最慢的那一步決定整體，抖動一多，GPU 就在空等。Spectrum-X 主打的不只是「更快」，而是「每一步都一致」的 deterministic performance，訓練場景端到端拿到超過 40% 的效能提升。更值得注意的是「開放」的做法：他們把執行方法開源到 SYCL，並支援在其上跑 SONiC、Cumulus 等不同網路作業系統。這正好呼應 AMD 在 Advancing AI 把「開放乙太網」寫進機櫃骨幹的動作，訊號我們在 AMD 把「開放乙太網」寫進機櫃骨幹拆過。

scale-across（Spectrum-XGS）：當單一資料中心不夠用，要把多個遠端資料中心連起來跑「同一個」AI 工作負載。他特別點出不用「deep buffer 交換器」，因為深緩衝會製造 jitter；改用延伸的自適應路由與擁塞控制演算法，結果是跨遠端資料中心 2 倍的網路效能。

storage（BlueField-4）：為 inference 的 context memory 做的新儲存層，讓上下文能長到 GPU server 之外，撐更多使用者、更長 context。

3. CPO 上場：scale-out 的功耗吃掉近 10% 算力，這才是動 CPO 的真理由

這是整場對光通訊供應鏈最關鍵的一段。Shainer 直接給出動 CPO 的理由：光收發的傳輸與功耗，在 scale-out 這一層已經逼近整體算力的 10%。換句話說，你買的 GPU 有近一成的「算力預算」被拿去餵網路的光電轉換，這在 gigawatt 尺度是天文數字。

解法是把光引擎（optical engine）整合進網路裝置，也就是共封裝光學（Co-Packaged Optics，CPO）。他點名的技術棧全是光通訊的硬骨頭：microring modulator、高功率雷射光源（用更少雷射餵更多光纖）、fiber array、先進封裝。給出的效益是——CPO 讓這層基礎設施的功耗最多降到五分之一，而他認為更重要的是可靠度提升約 10 倍：更少中斷、更多有效算力、更多 token。而且他明講：「很多（供應鏈）就在台灣這裡。」

CPO 從「狼來了」喊到現在終於要商轉，這個轉折我們在 CPO 終於不再是「狼來了」整理過；而整個 AI 互連為什麼最後會收斂到 CPO、每一層的 pJ/bit 戰場長怎樣，OIF 已經畫了張官方地圖，見 OIF 替 AI 互連畫了張官方地圖。

4. 開放的算計：NVLink Fusion 是矛，「開放乙太網」是盾

Shainer 收在 NVLink Fusion：讓客戶用自家 XPU、自訂運算引擎，透過 NVLink chiplet 接上 NVLink network、透過 NVLink C2C 接上支援該介面的 CPU，然後整台插進 NVLink 交換器、NVLink 背板、MGX 機櫃——一路接進整套 NVIDIA AI 基礎設施。生態系裡有 CPU 夥伴、光互連夥伴、客製矽夥伴。

把這段和前面合起來看，就是 NVIDIA 的完整算計：對外，scale-out 用「開放乙太網 + 開源 SYCL」降低客戶對封閉 InfiniBand 的疑慮，讓 neocloud、主權 AI、超大規模業者敢押；對內，scale-up 的 NVLink、機櫃、背板、CPO 仍是 NVIDIA 主導的高度 co-design 領域。開放的是最競爭、最難獨吞的那一層（乙太網）；抓緊的是最賺、最有黏性的那一層（NVLink 與封裝）。這不是慷慨，是把戰場劃在對自己最有利的地方。

5. 量化時機感與反面：漂亮數字背後的三個問號

把 Shainer 給的數字排一排，時機感很強：scale-up +2 倍、Spectrum-X 訓練 +40%、Spectrum-XGS 跨資料中心 +2 倍、CPO 功耗 –80%／可靠度 ×10、機櫃電壓一舉拉到 800V。但作為讀者要冷靜看三件事。

其一，這些數字幾乎都是 NVIDIA 自家 benchmark，對照組與測試條件未必公開，「+40%」相對於什麼基準要打問號。其二，「繼續用銅」是雙面刃——800V、高密度能讓銅在機櫃內多撐一代，但也意味著機櫃內光互連的導入時程被往後推，對想吃 scale-up 光模組的供應商是壞消息。其三，CPO 的可靠度 ×10 是「規格承諾」，真正的良率、可維修性（一顆光引擎壞了怎麼換）要到量產才見真章——CPO 商轉的最後一哩，卡的一直是封裝與維修，不是願景。

6. 台灣供應鏈意義

Shainer 那句「很多就在台灣這裡」不是客套。這場 keynote 對台灣的意義可以拆成三條線。

先進封裝與 CPO：microring modulator、雷射整合、fiber array、光引擎共封裝，全是台廠（晶圓代工、OSAT、光被動元件、FAU）能卡位的環節；CPO 一旦從樣品走向量產，最大受益者是能做「光電共封裝」的封裝端，而不是傳統可插拔模組廠。銅的續命：800V + 高密度讓機櫃內銅纜、連接器、電源模組供應商多吃一段紅利，但也提醒做 scale-up 光互連的台廠，導入時程會比想像慢。開放乙太網的機會：Spectrum-X 走開放乙太網、支援 SONiC，對台灣做白牌交換器、網通 ODM 是打開一道門——戰場從「賣 NVIDIA 指定料」變成「在開放規格上做整機與散熱」，51.2T 級交換器的散熱正是台廠能較勁的地方。

總結

這場 12 分鐘的 keynote，NVIDIA 真正想說的只有一句：在 gigawatt 級 AI 工廠，網路才是決定 GPU 利用率、token 經濟與 time-to-first-token 的主變數，而 NVIDIA 要同時當「開放地基的貢獻者」和「地基上規則的定義者」。對台灣供應鏈，該追的不是又一個漂亮的效能數字，而是三個時間點——CPO 何時從樣品轉量產、800V 機櫃把銅的續命拉多長、開放乙太網（Spectrum-X vs AMD 陣營）誰的生態系先成形。誰先看懂「開放的算計」，誰就知道自己該站哪一層。

本文僅供技術與產業趨勢分析，不構成任何投資建議。