2026 OCP Global Summit | Celestica | Tareq Bustami、Manish Mehta、Binbin Guan | Designing the Next AI Fabric

4天前

讀畢需時 6 分鐘

1. 一場把運算、光學、系統串成一條線的演講

這場由 Celestica 主持，分三段：OpenAI 的 Binbin Guan 講運算端需求，Broadcom 的 Manish Mehta 講光學，Celestica 的 Tareq Bustami 收在系統整合。Bustami 開場的前提是：運算能力每兩年成長 10 倍，早已超過摩爾定律能給的，接下來的增長要靠系統，而光學是系統設計者最需要擴大的「沙盒」。

三段放在一起看，主軸很清楚：需求方定義指標，晶片方定義介面，系統方吸收複雜度。

2. 拆解 OpenAI 的度量衡：延遲與每 token 能耗

OpenAI 先交代需求規模：ChatGPT 週活躍用戶在 2026 年 8 月 31 日超過 10 億，Codex 週活躍用戶 7 月超過 500 萬。接著它把 AI 網路要看的指標收斂成兩個：

使用者體驗：請求延遲，以 TTLT 定義，TBT（token 間隔）是另一個代理指標。
推論效率：每個請求的能耗，以 energy/token 或 tokens/joule 衡量，能耗被當成成本的代理。

▲ OpenAI 以 TTLT 與 tokens/joule 作為兩大指標，晶片數、單晶片吞吐量、TTFT 列為非目標（圖片來源：OpenAI｜2026 OCP Global Summit 簡報（03:41））

兩者常常互相拉扯：延遲要降一個數量級，往往得多花能量。OpenAI 進一步把一個請求拆成三種硬體情境：

階段	主要瓶頸	通訊型態
Prefill（編碼上下文）	FLOPs 與 attention，記憶體頻寬需求低	平順，容易排程
Draft model（推測）	網路延遲，小模型、超低 batch	受延遲限制
Spec-verify（解碼）	Attention 吃運算，MoE 吃 HBM 頻寬	突發

結論寫在投影片底部：要看的是在 SLA 延遲內的 requests/second/watt。這句話對光學廠商很重要：只拚頻寬、不管延遲的方案，在 draft model 階段就會出局。

3. 拆解 Jalapeño：銅守 128 顆，光管 2,048 顆

OpenAI 在 8 月底發表第一顆自研 ASIC Jalapeño。晶片內部的設計原則是「常用運算元留在本地」：64 個 core slice 各自配一個 HBM slice，上面有高頻寬、低延遲的 collective network，再加一層較慢但彈性高的 general NoC，透過 scale-up Ethernet bridge 接到外部網路。

機櫃層級則是 host 機櫃加 accelerator 機櫃成對部署，拓撲是「半扁平」的兩層 Clos：

Local domain：最多 128 顆 Jalapeño，經 Broadcom TH6 互連，用銅，服務高頻寬、低延遲的工作。
Global domain：最多 2,048 顆 Jalapeño，經 8 條 TH6 rail，用光做機櫃對機櫃通訊。

▲ Jalapeño 兩層網路：128 顆的 local domain 走銅，經 8 條 TH6 rail 擴到 2,048 顆的 global domain 走光，規模差 16 倍（圖片來源：Simple Tech Trend 自製，資料來源 OpenAI 2026 OCP Global Summit 簡報）

分工邏輯來自工作負載：tensor parallelism 要高頻寬，expert parallelism 頻寬需求較低，但兩者都要低延遲。這與 2026 OCP APAC Summit｜SemiAnalysis｜Scale Up Sophistry 的判斷一致：銅在最短、最密的那一段還沒輸，光的戰場是把 scale-up 拉大 16 倍的那一段。

4. Broadcom：把光從 scale-out 搬進 scale-up

Mehta 的說法很直接：過去幾年爆發的光頻寬，大多部署在 scale-out，用的是帶完整 DSP 重定時的可插拔模組；下一步是讓光進入目前由銅服務、頻寬需求大得多的 scale-up。

他把元件分成五塊：VCSEL（多模、短距）、EML（單模、長距）、CW 雷射（給矽光子與 CPO 用的單模光源）、CPO（主攻 scale-out）、OCI（主攻 scale-up）。Broadcom 自己的 CPO 路線圖如下：

年份	產品	交換容量	每通道
2022	TH4 Humboldt	25.6T	100G
2024	TH5 Bailly	51.2T	100G
2026	TH6 Davisson	102.4T	200G
2028	OCI	Next Gen	未公布

第三代 CPO 的可靠度數據，我們在 2026 OCP APAC Summit｜Broadcom｜CPO 的第三代成績單拆過。這次 Mehta 補上的是量產挑戰：PIC 與 EIC 的高密度堆疊要支援 400G 直驅；每顆晶片封裝要接超過 1,000 芯光纖，而且連接器要可拆，封裝才能過回焊；最後是自動化，Broadcom 展示了支撐框架、線上 OGP 量測、Z 彈簧解扣等專用設備，目標是光引擎與 ASIC 共封裝全程無人工接觸。

5. 拆解 OCI：電訊號跑不動，所以改走寬

OCI-MSA 在 2026 年 3 月成立，創始成員有 Meta、Microsoft、OpenAI、AMD、Broadcom、NVIDIA，口號是把 scale-up 從單一機櫃延伸到多機櫃、多排機櫃。規格細節可參考技術文章分析｜Meta、Broadcom、AMD 聯手定義 OCI 200G 線側規範。

整場最有資訊量的是 Broadcom 自問「OCI-MSA 能不能解決擴展」的那張表：

200G：電與光都是 100Gbaud PAM4，可以走線性直驅，現在就有。
400G：光 200Gbaud PAM4，電訊號 PAM4／6／8 或 SBD 都還是問號，線性「也許」，規格時程「2027？」，並註明晶片面積與 pJ/bit 出現遞減報酬。
800G：時程「>2030？」，線性「不太可能」。

▲ 單通道越快越難線性直驅，OCI Gen1 改用 4 波長 × 50G NRZ 雙向傳輸，Gen2 400G 規格 2027、Gen3 800G 202x（圖片來源：Simple Tech Trend 自製，資料來源 Broadcom 2026 OCP Global Summit 簡報）

OCI Gen1 的答案是寬平行、4λ × 50Gbps NRZ、DWDM、雙向，避開高速 SerDes 的挑戰。Broadcom 的目標是「銅等級的功耗、優於銅的延遲」，並預告幾個月內會公布首批 OCI 晶片消息。

6. Celestica：瓶頸已經搬到機櫃與驗證

Bustami 開門見山：機櫃本身成了瓶頸。液冷加上去了、PCB 做到 50 層，骨子裡仍是可插拔架構。投影片列出的複雜度：

一個 scale-up 機櫃約 5,000 條被動銅纜，機櫃功率約 1 MW
224G 的訊號完整性挑戰，到 1.6T 銅的可用距離縮短、轉向光
機櫃重量約 4,000 磅，設計目標 8,000 磅

▲ 光模組認證週期 100G／400G 36 個月、800G 24 個月、1.6T 18 個月，AI 加速器一年一代（圖片來源：Celestica｜2026 OCP Global Summit 簡報（16:33））

另一面是時間被壓縮：認證窗口從 36 個月縮到 18 個月，Celestica 七成工程資源投在驗證。它描述的 2027 到 2030 年遷移分三步：先在 scale-out 部署 CPO（Bustami 引用 Meta 在 TH5 Bailly 上的結果，可靠度甚至優於可插拔）；再在 TH6 托盤旁插入光中繼器延伸 scale-up；最後由原生支援 OCI 的 XPU 或 scale-up 交換器直接出光。

製造端，Celestica 正在建立端到端流程：厚重的 CPO 元件需要新的取放設備、光纖陣列（FAU）要在無塵室組裝、還有光學端到端測試與熱風重工。產品端則是 DS6005：

▲ Celestica DS6005：1.5OU、64 埠 1.6TbE、基於 Broadcom Tomahawk 6 Davisson 的 CPO 交換器，將貢獻給 OCP（圖片來源：Celestica｜2026 OCP Global Summit 簡報（19:01））

DS6005 跑 SONiC，已在 EVT 階段，口頭表示 2027 年全面量產。Celestica 和 OpenAI 的關係，我們在法說精華：Celestica（CLS）｜Q2 FY2026 談過，這場演講等於把那層客戶關係攤到技術面。

7. 風險與反面論點

2,048 顆仍是設計上限，不是部署數字。OpenAI 沒有給 global domain 的光學功耗、延遲或實際部署規模。
OCI 的時程本身是問號。Broadcom 自己的表格把 400G 寫成「2027？」、800G 寫成「>2030？」，Gen3 只寫 202x。
DS6005 的 2027 量產來自口頭說法，投影片只寫 EVT 與貢獻 OCP 計畫，規格與功耗尚未公開。
銅沒有退場。OpenAI 在 local domain 明確選銅，代表 scale-up 光學要先在機櫃之間證明自己，進到機櫃內部還有一段路。
驗證人力是隱性成本。七成工程資源花在驗證，CPO 若把光學失效模式帶進主板，這個比例只會更高。

8. 對台灣供應鏈的意義

演講裡沒有點名任何台灣公司，以下只就投影片列出的製程環節判讀。
CPO 組裝會從「插模組」變成「做封裝級製造」。投影片列的環節包括 FAU／CPO 檢測與清潔、SMT 光學驗證、無塵室組裝、熱風重工。系統組裝廠若要接 CPO 交換器，產線要重新投資，Celestica 已經在做。
超過 1,000 芯、可拆、耐粉塵的光纖連接器是 Broadcom 明說的三大挑戰之一，台灣做光纖跳線與連接器的廠商該對照這個規格檢查自己的位置。
白牌交換器廠的競爭基準被拉高。Celestica 把 TH6 CPO 交換器做成 OCP 開放設計，台系白牌廠在 CPO 世代要比的不只是出貨速度，還有驗證與光學製程能力。

9. 總結

這場演講最值得帶走的是分工圖：OpenAI 用延遲與每 token 能耗定義問題，在 128 顆以內保留銅、2,048 顆才用光；Broadcom 承認單通道越快越難線性直驅，所以 OCI 走慢而寬；Celestica 則說真正的瓶頸已經是機櫃重量、銅纜數量與 18 個月的認證窗口。

時間要分開看。2026 年能看到的是 TH6 Davisson 102.4T CPO 與 scale-out 部署；scale-up 光學要等 OCI Gen2 規格（2027）與原生 OCI 晶片，Broadcom 自己的路線圖把它放在 2028 年。接下來 12 個月盯三件事：Broadcom 首批 OCI 晶片何時公布、OpenAI 是否揭露 global domain 的光學功耗、DS6005 能否如期從 EVT 走到量產。

光要進 scale-up，靠的不是比銅快，而是在延遲預算內把規模放大 16 倍，再讓系統廠有辦法驗證得完。

本文僅供技術與產業趨勢分析，不構成任何投資建議。