OIF 替 AI 互連畫了張官方地圖：三張網、一個 pJ/bit 戰場，CPO 是寫好的終局

7月1日
讀畢需時 7 分鐘

OIF 這份《System Vendor Requirements for Energy Efficient Interfaces》把 AI 資料中心互連正式切成三張網——前端（FEI）、後端（BEI）、運算（CI）。三者的優先序、距離、互通要求完全不同，不能再用同一把尺去量。
真正的主戰場是能耗。FEI 守在 10 pJ/bit，BEI 與 CI 這類短距、高密場景被系統商喊到 5、甚至 3 pJ/bit；而今天業界大約落在 15 pJ/bit，等於要砍掉三分之二到五分之四的每 bit 功耗。
OIF 的下一步已經寫死：BEI 短期先動（已在 AI 叢集放量、吃乙太網供應鏈、用 bookended 解），CI 中期跟上（scale-up、CXL/PCIe 域、成本殺戮戰），形態終局指向 linear 與共封裝光學（CPO）。

1. 為什麼一份「需求文件」值得認真讀

先講清楚這份文件的身份：它不是規格書，是系統商把「我到底要什麼」攤開來講的一份需求清單。掛名的技術編輯來自 Huawei、工作組主席來自 Juniper，但真正貢獻內容的參考資料清一色是 Microsoft、Meta、NVIDIA、HPE——換句話說，這是買方（系統商與 hyperscaler）花了八個月訪談，替光學供應鏈畫出來的靶。

這件事的份量在於：OIF 接下來要據此開 Implementation Agreement（IA），也就是未來光引擎、光模組、雷射光源要對齊的標準。誰先讀懂靶心在哪，誰就先卡到位。

而驅動這一切的痛點很單純：AI 叢集把互連需求炸開了。當一個叢集要 scale-out 到 1,000 到 10,000 個節點，「用同一種光模組打天下」的時代就結束了。文件開宗明義點名三張網，這正是 STT 一直在追的那條主線。

Figure 1：現代高效能網路的三張網——FEI、BEI、CI｜圖片來源：OIF-EEI-Requirements-RD-01.0 - Figure 1

2. 三張網、三種尺：FEI / BEI / CI 各自要什麼

這三張網的差異，不是「快一點慢一點」的程度差，而是優先序整個顛倒。

FEI（前端，intra-datacenter）：管的是 server 對 server、對 storage、對 edge 的溝通，也就是資料中心跟外界怎麼講話。它已經在用（NOW），市場從 2023 年的 21.4 億美元，到 2027 年成長到 43.9 億（約 2 倍）。它的第一優先不是省電，而是標準化互通、向前向後相容——能效只排第二。原因很現實：FEI 已經被 IEEE 那套打磨得很好，硬要再擠能效，空間有限。

BEI（後端，GPU-to-GPU 的 scale-out）：AI 叢集裡 accelerator 對 accelerator 的專用網，撐 1,000 到 10,000 個節點。市場從 2023 年的 13.2 億衝到 2027 年的 38.8 億——約 3 倍，是三張網裡跑最快的。它的第一優先是延遲/吞吐與低錯誤率（直接關係到訓練效率），能效只排第三。目前主要是 InfiniBand、HPE Slingshot 這類專有實作，文件明說 2024–2025 會有大改版。

CI（運算，scale-up，node 內部）：把一大堆 GPU 塞進同一個 node（大到可能跨機櫃），彼此用 CXL/PCIe 這類「單一 CXL 域」的網互連。這裡最反直覺的是——它的第一優先竟然是成本（要撐每個 accelerator N×10 Tbps 的聚合頻寬），光介面要到 2025–2027 才登場。

一句話收攏：BEI 是 scale-out、CI 是 scale-up。這個分法我們在光通訊封裝大轉場（二）：CPO 三段式進化，為什麼 OBO 死了、scale-out 先動、scale-up 才是終局已經拆過一輪，OIF 這份文件等於官方替這個框架背書。

3. 真正的主戰場：從 ~15 打到 5、甚至 3 pJ/bit

如果這份文件只讓你記一個數字，記能耗。

FEI 的共識基準是 10 pJ/bit。它之所以守得住這個相對寬鬆的門檻，是因為距離變化大（0–500 公尺，某些場景甚至到 2,000 公尺），得留餘裕。

但 BEI 與 CI 這類短距（典型 10–100 公尺）、高密的場景，目標一口氣壓到 5 pJ/bit，有些 operator 直接喊 3 pJ/bit。對照 Figure 8 裡標的 Today——今天大約在 15 pJ/bit——這代表 BEI/CI 要把每 bit 功耗砍掉三分之二到五分之四。

Figure 8：不同應用的能效相對需求——FEI 約 10 pJ/bit、BEI/CI 目標 5 pJ/bit、今天約 15 pJ/bit｜圖片來源：OIF-EEI-Requirements-RD-01.0 - Figure 8

為什麼能耗是命門，而不只是 ESG 口號？因為低能耗直接換來高密度——功耗壓下去，才塞得進 faceplate、才敢把光學一路推進系統深處去吃系統級好處。這正是 CPO 存在的理由。

而附錄 C 的數字比正文更狠：FEI 標的是 <10 pJ/bit（OE + 雷射），BEI 標的是 <<4 pJ/bit（OE + 雷射）。那個「<<」才是系統商真正的心願清單。要達到這種等級，關鍵就是把光源做進封裝、把光電轉換的能耗壓下來——NVIDIA 用 DWDM 雷射陣列示範過這條路，我們在光不應該被強制轉成電再轉回光：NVIDIA 的 DWDM 雷射陣列為何改寫光互連的經濟學有完整拆解。

4. 延遲、互通、距離：BEI 為什麼是「放寬換效能」的甜蜜點

把延遲、互通、距離三件事疊在一起看，會看出 BEI 是一塊被刻意留白的甜蜜點。

延遲：文件只談 PMD（實體媒介相依）延遲，並給了公式——FEI 是 PMD Latency < 20ns + d×5ns/m + FEC delay，BEI 是 PMD Latency < 5ns + d×5ns/m + FEC delay，基準直接省掉 15ns。為什麼延遲對 BEI 這麼致命？因為 NVIDIA 的資料（Reference 6）指出：AI 叢集裡每多 1 微秒延遲，吞吐就掉 25%。距離上，BEI 上限 300 公尺（對應一台 AI 叢集機器的可行尺寸），CI 更短，只有 7–10 公尺（機櫃內或相鄰機櫃）。

互通：分三級——Type-1（單一廠商 bookended）、Type-2（跨廠同代）、Type-3（跨廠跨代含向下相容）。關鍵洞察是：FEI 要最高互通、CI 中等、BEI 反而最低。因為 BEI 通常由單一 hyperscaler 或系統商整櫃一次佈署，用 bookended 就好，不必跟別人互通。

這兩件事合起來，就湊出 BEI 的甜蜜點：

距離短、互通鬆，不是限制，而是 BEI 可以拿去換功耗與延遲的籌碼。

文件講得很白：雖然 IEEE 那套 FEI 基準拿來做 BEI 也能用，但 users 期待業界「利用縮短的距離要求，去換取 BEI 的功耗與延遲增益」。翻成白話——別把 FEI 規格照抄過來，該激進就激進。

5. 形態終局：Pluggable → Linear → CPO，路線圖已經寫好

密度這件事，文件用 Tb/s/mm²（面積）或 Tb/s/mm（linear，faceplate 邊長）來量，目標是 >1 Tb/s/mm。

現階段系統商還是偏好 FPP（Faceplate Pluggable）形態，也就是 OSFP、QSFP-DD——模組化、可熱插換、供應鏈成熟便宜。但一旦 fan-out 逼近 200G/lane 以上，訊號品質與功耗就逼出 NPO（近封裝光學）與 CPO。CPO 的價值在於把 chip-to-module 這段縮短、少過幾個連接器，用距離換訊號品質與能效，而且在高速率下更容易導入 linear 技術。

文件甚至把演進路線圖畫死了：server 對 switch 是「電 → 可插拔光 → 一邊可插拔一邊 CPO → 兩邊都 CPO」，中間可能插一段 linear；switch 對 switch 則是「可插拔 → CPO」。

但別把路線圖當時刻表。CPO 大規模放量的時間點一直往後推，反而延長了可插拔光模組的賞味期——這個時間差我們在 CPO 放量被推遲到 2028，但這不是利空：被延長的是可插拔光模組的賞味期有完整拆解。OIF 這份 roadmap 是方向盤，不是明天的行程表。

6. OIF 的下一步：BEI 短期先動，CI 中期跟上

第 4 章把優先序寫得毫不含糊。

BEI（短期）：這是立刻要動的一塊——光互連已經在 AI 叢集快速放量、吃現成的乙太網供應鏈、用 bookended 解。OIF 要開 IA 推共同解，四個標準化重點是：降能耗、降延遲、拉高鏈路傳輸品質（壓低 raw BER → 換更弱的 FEC → 提升吞吐；從 margin-based 的鏈路預算，轉向 actively optimized 的主動優化），以及介面密集化（先衝模組吞吐 Tb/s/mm²，再上 on-package）。

CI（中期）：scale-up、成本敏感、極短距，很多技術會直接沿用 BEI 改短。三個重點是：降成本（模組架構、壓封測費用、把多條鏈路併進同一顆模組）、能效、降延遲（在 rack-scale node 裡，光互連就是連接 accelerator、記憶體、CPU 的那條 bus）。

文件裡還埋了兩個伏筆值得追。其一，photonic switch 進網路——毫秒級的商用交換已經有案例（Google Jupiter、TPU v4），但它會吃掉光鏈路的 loss budget，等於憑空多接一段光纖，反過來要求更多光功率與 FEC gain。其二，產業術語正在打架：電 bus 世界和光互連世界對同一個概念用不同名詞，OIF 想推一套共同語彙，這件事看似瑣碎，卻是標準化能不能收斂的前提。

7. 風險與反面論點：這張地圖哪裡可能走鐘

一份需求文件畫得再漂亮，落地都有摩擦。幾個要盯的反面訊號：

其一，互通的政治。BEI 低互通對單一 hyperscaler 很方便，但也代表標準化的誘因偏弱。如果每家 GPU 大廠各玩各的 bookended，OIF 的 IA 會不會淪為沒人理的共識文件？

其二，記憶體去聚合的物理牆。CI 想做 memory pooling，但文件自己承認——大幅去聚合會拖慢記憶體存取，而存取速度正是系統吞吐的命門。scale-up 的光互連不是想上就能上。

其三，pJ/bit 目標的樂觀成分。<<4 pJ/bit 是願望值，不是今天做得到的數字。雷射光源效率、耦合損耗、封裝良率，每一關都在跟這個目標對賭。

其四，時間軸會滑。CI 光介面掛 2025–2027，兩邊都上 CPO 更是 beyond。而真實世界（見上面那篇 2028 的分析）的時間表一直往後挪。

總結

這份文件的價值不在任何單一數字，而在它做了一件事：把 AI 互連正式分成三張網，並替每一張網定了優先序。

對做光引擎、光模組、雷射光源的人來說，你的產品要對齊哪張網、瞄哪個 pJ/bit 靶、扛哪一級互通，答案都寫在這份文件裡。BEI 是最先有錢有量的靶——3 倍成長、短期優先、而且能容忍你放寬 IEEE 規格去做激進設計；CI 則是接下來的成本殺戮戰場。

一句話帶走：誰能在 BEI 這張「距離短、互通鬆、容得下激進設計」的網上，最快把 pJ/bit 從 15 打到個位數，誰就拿到 AI scale-out 光互連的頭香。

參考資料

OIF, 《System Vendor Requirements Document for Energy Efficient Interfaces》, OIF-EEI-Requirements-RD-01.0, 2024-05-09（技術編輯 Eric Bernier / Huawei；工作組主席 Jeffery Maki / Juniper）
C. Thompson, NVIDIA Motivation for Energy Efficient Interfaces, oif2023.270.00（AI 叢集延遲對吞吐影響、DGX H100 叢集資料來源）
R. Huggahalli, Microsoft Use Cases, Optical Connectivity for AI Clusters, OCP 2023
D. Alduino et al., Energy Efficient Interfaces – Meta Perspective, oif2023.273.01
L. Poutievski et al., Jupiter Evolving, SIGCOMM'22；N. P. Jouppi et al., TPU v4, ISCA'23（photonic switch 商用案例）