2026 OCP Global Summit | NVIDIA | Gilad Shainer | Revolutionizing Networking for Gigawatt AI Factories

4天前

讀畢需時 6 分鐘

1. 五張網路，這場只講一件事：故障

Shainer 開場先畫出 NVIDIA 對 AI 工廠的定義：一座工廠是「單一運算單元」，裡面有五張用途不同的網路，而不是一張通用網路。

網路	NVIDIA 產品	投影片宣稱
Scale-in	BlueField-4 DPU	服務頻寬 18 倍、儲存加速 2 倍
Scale-up	NVLink	封包速率 10 倍、延遲低 3 倍
Scale-out	Spectrum-X 乙太網	RDMA 頻寬 1.6 倍、抖動低 1.3 倍
Scale-across	Spectrum-XGS 乙太網	多站點效能 1.9 倍
Context scale	Vera BlueField-4 儲存處理器	token 吞吐 5 倍、能效 5 倍

▲ NVIDIA AI 工廠的五張網路與各自宣稱的倍數，投影片未標示比較基準（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（16:30））

這張表的倍數都沒有標示比較對象，只能當方向看。真正有完整基準、可以拆開檢驗的，是中段兩張投影片：多平面的故障時間線，以及多工作負載下的訓練步驟時間。兩張講的是同一件事：GW 工廠的效能，取決於壞掉或擁塞時掉多少，而不是最佳狀況跑多快。

2. 拆解多平面容錯：1,080 ms 對 2.68 ms

多平面（multiplane）是讓一張網卡同時接多個獨立的交換平面。NVIDIA 宣稱 Spectrum-X 多平面加上 CPO，可以用扁平的兩層網路撐到 51.2 萬顆 GPU，交換器少 40%。

問題在平面壞掉時怎麼辦。傳統做法是在軟體端做負載平衡：先偵測、再把流量重分到其他平面，這段時間整條 RDMA 頻寬掉到零。NVIDIA 的做法是把交換器上做自適應路由的硬體 IP 搬進 SuperNIC，由網卡直接偵測並重分流量。投影片上的對照是：

階段	一般乙太網多平面	Spectrum-X 多平面
故障偵測	1,080 ms，頻寬 0%	2.68 ms（投影片標 400X）
偵測後	90% 頻寬	90% 頻寬
鏈路修復後回到 100%	1,080 ms	100 ms（投影片標 11X）

▲ 同一次平面故障：一般乙太網頻寬歸零 1,080 ms，Spectrum-X 2.68 ms 內降到 90% 繼續跑（圖片來源：Simple Tech Trend 自製，資料來源 NVIDIA 2026 OCP Global Summit 簡報）

簡單的說：一般乙太網的平面故障是一次「停機」，Spectrum-X 的平面故障只是一次「降速 10%」。對同步訓練來說，一秒的頻寬歸零可能拖住整個集合通訊，差別不只是那一秒。NVIDIA 把這張投影片的標題訂為工廠 goodput（有效產出）高 1.6 倍。兩個倍數都可以從圖上的時間直接驗算：1,080 ÷ 2.68 ≈ 403，1,080 ÷ 100 ≈ 11；前一頁產品投影片把偵測時間四捨五入寫成 2.6 ms。

3. 拆解價值：省電 8%，還是保住 1.6 倍

這是本文的核心判斷。Shainer 說 scale-out 光網路的耗電約當運算的 10%，CPO 可降低功耗至多 5 倍、MTBI 提高 10 倍，並提到 NVIDIA 在 CPO 上累積了「數億小時」的運轉時數。

照這個數字換算（STT 估算：10% × (1 − 1/5)），CPO 全面導入 scale-out，最多釋放約 8% 的算力電力。這個估算有三個假設：10% 採用 Shainer 口頭的「接近 10%」；投影片的 5 倍是對光學本身的比較，這裡把它套用到整張光網路，因此是上限；scale-out 光學全數換成 CPO。這不是小數字，但和多平面宣稱的 1.6 倍 goodput、多工作負載下的 1.9 倍訓練效能相比，量級明顯較小。

▲ DeepSeek V3 多工作負載訓練：多工作負載啟動後，一般乙太網步驟時間被拉長，圖上標示差距 1.9 倍，Spectrum-X 維持持平（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（7:26））

這張訓練曲線值得細看：單一工作負載時，兩條曲線幾乎重疊，圖上標的 1.2 倍只是一次抖動尖峰；多個工作負載同時跑後，一般乙太網的步驟時間從約 650 ms 跳到 1,100 ms 上下，圖上標示的差距是 1.9 倍（以平均讀圖約 1.7 倍，STT 讀圖估算），Shainer 口頭說「接近 2 倍」。換句話說，NVIDIA 的優勢集中在「吵雜」的情境：多租戶、多工作負載、平面故障。GW 工廠的常態正是這種情境。

所以 CPO 與多平面在 NVIDIA 的論述裡是一組：CPO 用 10 倍 MTBI 減少故障次數，多平面用毫秒級切換縮短每次故障的代價。我們在 2026 OCP APAC Summit｜Broadcom｜CPO 的第三代成績單看過 Broadcom 交出 CPO 可靠度的成績單；NVIDIA 這次多走了一步，把可靠度從元件延伸到網卡與拓撲。

4. 拆解 scale-across：拿掉深緩衝

第五張網路是 scale-across，把相距遙遠的資料中心連成一個工作負載。傳統做法是用深緩衝交換器吸收路徑上不可預期的擁塞，代價是延遲。

Shainer 的數字是：光纖傳播本身約每公尺 5 ns，深緩衝帶來的延遲懲罰是距離本身的 2 到 3 倍。以 100 公里計（STT 估算），單向傳播約 0.5 ms，深緩衝再多加 1.0 到 1.5 ms。

▲ 以 100 公里估算，深緩衝帶來的延遲是光纖傳播的 2 到 3 倍，Spectrum-XGS 主張只付距離本身的延遲（圖片來源：Simple Tech Trend 自製，資料來源 NVIDIA 2026 OCP Global Summit 簡報）

NVIDIA 的做法是：工作啟動時先送遙測探測封包，量出每張網卡、每條路徑的距離與延遲，再依距離調整資料分配演算法，不再依賴深緩衝。宣稱效果是 NCCL 多站點效能約 1.9 倍。

▲ Spectrum-XGS 以距離感知負載平衡與擁塞控制連接多座 AI 工廠，多站點效能 1.9 倍（圖片來源：NVIDIA｜2026 OCP Global Summit 簡報（15:22））

時程方面，Shainer 說目前已在部署、連接數十公里；年底前要開始跨越數百公里。這和前一節是同一套邏輯：用網卡端的硬體智慧取代交換器端的緩衝與重試。

5. 可插拔沒退場：USFP 的 Q&A 補充

USFP 是 NVIDIA 與 Cisco 共同定義的可插拔外型，投影片列出每通道 200G／400G SerDes、最多 32 條電通道、初期容量 6.4T，Amphenol 與 TE 為生態系夥伴。規格本身在 NVIDIA 另一場光學演講已有完整說明，這裡只記 Shainer 這場多給的資訊：

不需要另外的液冷迴路（正文所述設計目標）
功耗上限 100 W，尺寸比 OSFP 略小（Q&A）
容量從今天的 1.6T 到 6.4T，之後可到 12.8T；示範「不久後」，量產在明年（Q&A）

被問到 NPO，Shainer 的回答是在設計太密、面板邊緣（beachfront）不夠時「需要就做」，但 scale-out 與 scale-up 的主線仍是 CPO。這和我們在 NPO 不是 CPO 的前菜的觀察一致：NVIDIA 不排斥 NPO，只是不把它當主線。

6. 風險與反面論點

30 倍與 400 倍的基準不同：多平面時間線的 400X 是偵測時間對偵測時間（1,080 ÷ 2.68 ≈ 403），Shainer 口頭的「接近一秒對不到 3 毫秒」也和它一致；Meta Spectrum-6 那張投影片寫「比傳統軟體式偵測快 30 倍」，沒有給基準時間。若同樣以 2.68 ms 回推，對照組約 80 ms（STT 估算），代表 30 倍比的是較快的軟體偵測方案。兩者不是矛盾，但引用時要講清楚是哪一個對照組。
1.6 倍 goodput 取決於故障頻率：只有平面故障夠頻繁，毫秒級切換才換得到這個倍數；投影片沒有給故障率假設。
「一般乙太網」是誰沒有講：所有對照組都標成 OTS（現成）乙太網，沒有指名廠商與設定，其他網卡廠也在做硬體多路徑。
8% 是上限：CPO 的 5 倍以「至多」描述，scale-out 光學也不會一次全換成 CPO。
Scale-across 的數百公里尚無客戶與數據：目前公開的只有數十公里。

7. 對台灣供應鏈的意義

NVIDIA Photonics 量產照片上，四家有三家是台廠。「NVIDIA Photonics in Production」投影片的四張照片分別標註 TSMC、SPIL、Lumentum、Foxconn；Shainer 口頭說光引擎採台積電 COUPE 封裝製程。台積電、矽品、鴻海同時出現在 NVIDIA 自己展示的 CPO 量產畫面，代表台廠已在量產鏈上；各家負責哪一段、出貨比重多少，投影片只有公司名，演講沒有說明。
多平面改變的是佈線結構。投影片宣稱交換器少 40%、兩層扁平網路撐到 51.2 萬顆 GPU；網卡要同時接多個平面，光纖與佈線的需求如何變化，演講沒有給數字，這一點屬 STT 推論，需要後續部署資料驗證。
USFP 的夥伴名單沒有台廠。投影片寫的是「共同定義外型與多源規格」，目前公開的是 Cisco、Amphenol、TE；明年量產前，台系連接器與模組廠能否加入多源名單，是能否切入的時間窗口。

8. 總結

這場演講把 NVIDIA 的網路論述從「更快、更省電」改成「壞掉時掉得更少」。CPO 用 10 倍 MTBI 減少故障，多平面用 2.68 ms 把故障變成 10% 的降速，scale-across 用距離感知取代深緩衝；三件事指向同一個方向：GW 工廠裡，網路的價值在於讓昂貴的 GPU 不要停。

接下來 12 個月該觀察三件事：Meta 多平面部署後的實際故障率與 goodput、其他網卡廠能否做到毫秒級硬體切換、USFP 明年量產時的供應商名單。若對手在 2027 年前追上毫秒級切換，NVIDIA 在 scale-out 的差異化就會退回 CPO 本身。

省下 8% 的電很好，但讓一座 GW 工廠在故障時只掉 10% 頻寬，才是 NVIDIA 真正想賣的東西。

本文僅供技術與產業趨勢分析，不構成任何投資建議。