top of page

📢 STT 訂閱專區已上線

免費文章會照常更新,一篇都不會少。訂閱是「加強版」——每週深度週評、財報法說的完整判讀、所有長篇深度報告全包。

免費讓你跟上,訂閱讓你看懂、能做判斷。

月訂 NT$199|年訂 NT$2,000(約 NT$167/月)
👉 立即訂閱: vocus.cc/salon/simpletechtrend

2026 OCP Global Summit | Eridu、Delos Data | Promode Nedungadi、Dan Daly | Breaking up the Monolith

11分钟前
讀畢需時 7 分鐘

1. 兩家新創來拆「整櫃」這座巨石

這場由兩位技術長合講:Delos Data 共同創辦人兼 CTO Dan Daly,負責架構與機房配置;Eridu CTO Promode Nedungadi,負責交換器怎麼做。封面掛著 OCP Startup Member 標誌。Eridu 做的是高 radix 乙太網路交換系統,對外目標是單跳數千顆 GPU,晶片規格與時程都未公開;這場不是產品發表,而是替那顆交換器寫需求書。

Daly 開場就酸了展場一句:那些整櫃系統有的重到搬不進會場、只能放螢幕示意,耗電大到開不了機,單櫃已經逼近 1 MW。投影片把「整櫃式」(monolithic rack)的問題列得很清楚:

  • 功耗密度極高(約 MW 級/櫃),重、難維修

  • 實際上限約 64 顆 GPU,另配 8 顆備用

  • 工作負載只能塞進 64 顆的「格子」,排程效率差

  • 封閉、單一廠商架構

整櫃唯一無可取代的優點是單跳:櫃內任兩顆 GPU 之間只過一層交換器,延遲低、壅塞少。Daly 的立場是:要拆櫃,就必須保留單跳;而且要開放,「不開放的話,只是一座更大的巨石」。

需求面的壓力來自 MoE。投影片引用的路由專家數,從 Llama 4 的 128、DeepSeek-V3 的 256、Kimi K2 的 384,到 Kimi K3 的 896,2028–29 年預估 2,000 到 5,000;同期每顆封裝的峰值算力以 2023 年為基準,2028 年是 49 倍。專家之間每一次等待回傳,用講者的話說,就是「把熱排到外太空」。

2. 拆解名目規模:8 到 128 倍的落差

系統

宣稱 scale-up domain

單跳 domain

落差(STT 計算)

NVIDIA NVL72/AMD Helios

72

72

1 倍

NVIDIA NVL576(2027)

576

72

8 倍

NVIDIA NVL1152(2028)

1,152

144

8 倍

OpenAI Jalapeño

2,048

128

16 倍

Microsoft Maia 200

6,144

48

128 倍

▲ 各家宣稱的 scale-up domain 與實際單跳 domain 差 8 到 128 倍,Eridu 提案的 5,120 端點是全部單跳(圖片來源:Simple Tech Trend 自製,資料來源 Eridu、Delos Data 2026 OCP Global Summit 簡報)

投影片列出的問題有四項:架構封閉;名目上的大 domain 其實由小的單跳 domain 拼成;跨櫃效能低於櫃內,有時差很多;在 scale-up domain 裡仍要做拓撲感知的工作配置。

現在大家喊的「上千顆 GPU 的 scale-up」,大多是好幾個 72 或 144 顆的島,用第二層交換串起來。對跑 MoE 推論的人來說,島與島之間的那一跳,才是延遲的來源。

3. 拆解機房:5,120 端點最長只拉 30 公尺

Daly 的做法是把整櫃的「多平面、單跳」設計原封不動攤到多個機櫃上。三個積木:

  • 光學 scale-up 伺服器:GPU 的 scale-up 介面全部拉到前面板,伺服器內部不互連,看起來「像一台交換器」

  • 光學 MSA:以 OCI 為例,跨出銅線的幾公尺;我們在 Meta、Broadcom、AMD 聯手定義 OCI 200G 線側規範 拆過這份規格

  • 高 radix、低延遲交換器:符合 UEC、ESUN 的開放乙太網路

運算櫃和交換櫃分開放,任兩顆 GPU 都是「出櫃、進交換櫃、一跳、回來」,彼此大致等距。投影片給出三種配置(機櫃 21 吋 × 36 吋 × 42 OU,排距 7 呎):

端點數

排數

運算櫃/交換櫃

最長線長

128

1

4/1

約 3.7 m

2,048

5

50/10

約 15 m

5,120

12

120/24

約 30 m

▲ 5,120 端點、12 排機櫃配置,最長光纖路徑約 98 呎(約 30 公尺),從第 1 排第 1 櫃走到第 12 排的交換櫃(圖片來源:Eridu、Delos Data|2026 OCP Global Summit 簡報(第 12 頁))

兩個數字值得注意。第一,每個運算櫃平均只放約 41 到 43 個端點(STT 計算:2,048 ÷ 50 ≈ 41、5,120 ÷ 120 ≈ 43),128 端點的版本更只放 32 個,密度遠低於整櫃。拆櫃換來的是功耗密度降下來,不必再擠 1 MW。第二,30 公尺的光傳播延遲約 150 奈秒(STT 估算,以每公尺約 5 奈秒計),講者稱「可以忽略」。

4. 拆解交換器:5,120 埠就是 1 Pb/s

Daly 說,市面上已有 512 埠的交換器,可以直接蓋一個 512 端點的單跳叢集;2,000 端點「只需要一顆 radix 2,000 的交換器」。這句話輕描淡寫,但把埠速代進去就知道份量(以下為 STT 計算,假設每埠 200G):

  • 102.4T ÷ 200G = 512 埠,正是今天的上限

  • 2,048 埠 × 200G = 409.6 Tb/s

  • 5,120 埠 × 200G = 1.024 Pb/s

▲ 單跳 domain 從 512 擴到 5,120 端點,線長只從約 10 公尺增加到 30 公尺,交換容量卻要從 102.4T 拉到約 1 Pb/s(圖片來源:Simple Tech Trend 自製,資料來源 Eridu、Delos Data 2026 OCP Global Summit 簡報)

Nedungadi 接手時,用 650 Group 的量產出貨年份畫了這條線:

  • 51.2T(2022):單晶 ASIC、內嵌 I/O、5 奈米

  • 102.4T(2026):單晶核心、獨立 I/O tile、3 奈米

  • 下一步:10 倍,petabit 級

▲ 交換晶片從 51.2T 到 102.4T 用 4 年翻 2 倍,petabit 級要一次跳 10 倍(圖片來源:Eridu、Delos Data|2026 OCP Global Summit 簡報(第 14 頁))

他的說法是,上一代只是把 I/O 拆成 chiplet、加長晶片邊緣,交換核心仍是一整顆;要跳 10 倍,交換核心本身得重新設計。四個方向:更大的封裝面積(先進封裝)、分散式緩衝但對外表現得像單一核心、I/O 要能接可插拔、OpenCPX、CPO、NPO 乃至 VCSEL 與 microLED、以及 100% 液冷與供電。

用時間換算(STT 計算):過去 4 年翻 2 倍,10 倍需要約 3.3 次翻倍。照這個節奏要十年以上;就算加速到兩年一倍,也是 2032 年前後。這就是 Eridu 喊「革命」的原因,也是這套架構時程最大的變數。

5. 拆解收益:64% 到 88% 的 GPU 利用率

最後一張數據投影片引用第三方模擬(Turbalance 為 HotInterconnects 2026 所做的訓練模擬):情境依講者口述(投影片未列)是以 Llama 4 Maverick 外推到 2028 年、約 20 兆參數、約 2,300 顆 GPU,230T 交換器的 GPU 利用率 64%,換成 petabit 交換器是 88%,相對提升 38%(88 ÷ 64 ≈ 1.375)。

▲ 第三方訓練模擬:230T 交換器 GPU 利用率 64%,petabit 交換器 88%,相對提升 38%(圖片來源:Eridu、Delos Data|2026 OCP Global Summit 簡報(第 16 頁))

收尾是新的 OCP 工作小組 Open Multi-rack Scale-up Domains:目標是一套能從數百擴到數千端點的參考架構,四項原則為多櫃單跳、運算與網路可拆分混搭、異質運算(GPU、CPU、xPU)、開放標準(ESUN、ORv3、OCI)。白皮書可索取,啟動會議訂在 11 月初。這呼應我們在 乙太網開始吃 scale-up 觀察到的趨勢:scale-up 的規格權正在從單一廠商移向開放乙太網路陣營。

6. 風險與反面論點

  • petabit 交換器還不存在。整場最關鍵的元件只有設計方向,沒有晶片規格、功耗與時程。5,120 端點的配置圖是建立在一顆尚未公開的交換器上。

  • 38% 是模擬,而且基準是 230T。230T 本身已比今天的 102.4T 大一倍以上,模擬也沒有拿 NVL576 這類多跳架構當對照組,實際收益仍待驗證。

  • 交換櫃的光纖密度是新的挑戰(STT 估算,簡報未給每顆 xPU 的 scale-up 頻寬)。若每顆 xPU 單向 14.4 Tb/s(約 NVLink 6 等級,僅作量級參考),每埠 200G 需要 72 個平面,即 72 顆 5,120 埠交換器、每個交換櫃 3 顆;全系統約 36.9 萬條鏈路,每鏈路一對光纖、不做 WDM 約 74 萬芯,每個交換櫃約 3 萬芯。光纖數量正是慢而寬路線之前被擋下的原因,見 殺死慢而寬的不是物理,是六萬條光纖。

  • 光學可靠度直接決定單跳的價值。所有 GPU 之間都隔著兩段光鏈路,任何鏈路抖動都會波及整個 domain,簡報沒有談可靠度數據。

  • 拆櫃會稀釋密度。每櫃 40 多個端點,代表同樣算力要占更多地板面積與更多機櫃。

7. 對台灣供應鏈的意義

  • 伺服器與機櫃的設計會改。簡報描述的運算伺服器內部不再互連,scale-up 介面全部拉到前面板,交換器另成一櫃,並以 ORv3 為開放原則之一。台灣 ODM 是 OCP 機櫃的重要製造者,這代表伺服器前面板高密度光學連接、交換櫃與配線架的整合會成為新的設計題目;同一屆大會緯穎(Wiwynn)也有一場以 CPO 搭配開放機櫃基礎架構做光學 scale-up 的演講,值得對照。

  • 交換晶片的封裝是第二個切入點。Eridu 明說 petabit 交換器需要「更大的晶片畫布」,也就是先進封裝與 100% 液冷。大尺寸先進封裝目前主要產能在台積電,但 Eridu 沒有點名任何代工或封裝夥伴,這一段先不下結論。

  • 光模組端仍以 OCI 這類 MSA 為主。若 11 月啟動的工作小組把 OCI 寫進參考架構,供應鏈的機會在跨櫃 30 公尺內的短距光學,而不是更長距離的模組。

8. 總結

這場演講真正的貢獻,是把「scale-up 有多大」這個問題換了單位:不看宣稱的 domain,只看單跳的 domain。用這把尺量,各家已公布到 2028 年的系統,單跳都還停在 48 到 144 顆。

Eridu 與 Delos Data 也誠實指出,光學距離已經不是問題,問題在交換器 radix 要一次跳 10 倍。這把 scale-up 的主戰場從光模組與銅線,移到了交換晶片的架構與封裝。接下來 12 個月該觀察三件事:Eridu 何時公開交換器規格、工作小組白皮書的參考架構是否採用 OCI 與 ESUN、以及 NVIDIA 與 Broadcom 下一代產品的單跳 domain 是否突破 144。

誰能把單跳 domain 做到上千顆,誰就拿走 scale-up 的定義權;在那顆 petabit 交換器出貨之前,所有上千顆的 domain 都只是好幾座島。

本文僅供技術與產業趨勢分析,不構成任何投資建議。

留言

評等為 0(最高為 5 顆星)。
暫無評等

新增評等
bottom of page