2026 OCP Global Summit | Microsoft | Reynold D'Sa | Intelligence Infrastructure: Scaling AI for the Frontier Era

11分钟前

讀畢需時 7 分鐘

1. 為何 Microsoft 把 keynote 講成一份規格清單

D'Sa 的開場是 Microsoft 的「frontier firm（前沿企業）」論述：每家公司都有人力資本（human capital），現在還要建立 token 資本（token capital），兩者形成持續學習的迴圈。

但真正的主張在下一句：沒有前沿基礎建設，就沒有前沿企業。投影片把這件事叫做「the yield imperative」：從每一瓦、每一個 byte、每一顆晶片、每一塊錢裡產出有用的智慧。答案是全端協同設計（co-design across the stack）：從資料中心、電力與散熱，到晶片、記憶體、網路、編排軟體、模型與 agent 框架，整疊一起最佳化，目標是更快部署、更低營運成本、更強治理與可預期的大規模效能。

整場演講的節奏幾乎固定：先講 Azure 內部做了什麼，再講哪一部分已經變成開放規格。對供應鏈來說，後半句比前半句重要，因為只有變成規格的部分，才會長出多家供應商。

2. 拆解算力層：Maia 300 是主角，CPU 與 DPU 是配角

D'Sa 說 Microsoft「昨天」發表了 Maia 300，投影片標題是「Inference-First AI System」，硬數字只有兩個：推論效能較上一代最高 7 倍、部署後每 MW 的 token 比機隊其他系統多 40%，以及「2027 年起擴展到多 GW 部署」。

投影片沒有列出晶片規格。依 Microsoft 前一天的公開發表資料整理：

項目	Maia 200	Maia 300
製程	TSMC 3nm	TSMC N2P（運算小晶片）
封裝	單一大晶片	多小晶片＋8 顆 HBM4
HBM	216 GB HBM3e	288 GB HBM4
記憶體頻寬	7 TB/s	18 TB/s
單顆功耗	750 W	950 W
機櫃	未公布	96 顆、167 kW
投影片效率數字	每瓦 token 比機隊其他系統多最高 70%	每 MW token 比機隊其他系統多 40%

▲ Maia 300 單顆功耗只增加 200 W，記憶體頻寬卻放大 2.6 倍；投影片宣稱推論效能較上一代最高 7 倍，2027 年起擴展到多 GW（圖片來源：Simple Tech Trend 自製，資料來源 Microsoft 2026 OCP Global Summit 簡報與 Maia 300 公開發表資料）

這張表最值得注意的是功耗：單顆只多 200 W，記憶體頻寬卻是 2.6 倍。Maia 300 是為推論的記憶體瓶頸設計的。另一個細節是比較基準：兩代 Maia 的效率都是對「機隊其他系統（rest of fleet）」，不是對特定 GPU 型號。

配角有三個，投影片放在同一頁：

Cobalt 200：D'Sa 稱它是「agent native CPU」，效能較上一代高 50%、agent 呼叫延遲低 33%、代理型工作負載吞吐量高 23%。代理型工作負載的編排、資料擷取、記憶體管理與服務呼叫都落在 CPU 上。
Boost DPU：把儲存的壓縮、網路交易與安全功能卸載到專用晶片，效能 4 倍、功耗少 3 倍。
Azure Integrated HSM：所有新的資料中心伺服器都內建的自研安全晶片。

Microsoft 的自研晶片已經從加速器擴到整台伺服器。

3. 拆解網路層：兩層網路接 10 萬顆 GPU

D'Sa 把 AI 網路分成三層：低延遲的 scale-up、高效能的 scale-out，以及跨叢集、跨資料中心的連線。

Scale-out 的答案是 MRC。投影片上的多平面架構是 8 個平面，每個平面 256 台 T1（512 埠）、512 台 T0（256 埠上行、256 埠下行），再加上封包噴灑（packet spraying）把流量分散到所有路徑。依這組數字推算，每個平面可接約 13.1 萬個 GPU 端口，與 D'Sa 口頭說的「兩層網路接超過 10 萬顆 GPU」一致。同步訓練被最慢的那條連線限制，一條鏈路失效就可能中斷，MRC 的設計重點是繞過故障。合作名單是 Microsoft、AMD、Broadcom、Intel、NVIDIA、OpenAI。少一層交換，就少一層光模組與交換器。

▲ MRC 多平面架構：8 個平面、每平面 256 台 T1 與 512 台 T0，搭配封包噴灑繞過故障（圖片來源：Microsoft｜2026 OCP Global Summit 簡報（第 14 頁））

Scale-up 的答案有兩條，同時押：

OCI MSA：D'Sa 稱它是「第一個多機櫃 scale-up 的光學規格」，目標是開放互通的光學介面與多供應商供應鏈；第一版規格今年發布，正在徵求產業回饋。投影片上的成員是 AMD、Broadcom、NVIDIA、Meta、Microsoft、OpenAI。我們在技術文章分析｜Meta、Broadcom、AMD 聯手定義 OCI 200G 線側規範拆過它的線側規格。
乙太網 scale-up：去年 OCP 全球峰會宣布的開放乙太網 scale-up 規格工作，成員已超過 175 個組織，脈絡可參考 2026 OCP APAC Summit｜乙太網開始吃 scale-up。

D'Sa 的收尾是：挑戰不只是接更多 GPU，而是把大量分散的算力變成「一個有效率、有韌性的系統」。光學在這場只佔一段，但方向和 ECOC2026｜Microsoft 把光 I/O 的規格表寫出來了一致：先定介面，再讓供應商競爭。

4. 拆解電力與散熱層：規格比晶片早一步

電力。投影片把電力鏈分成兩段。2026 年的路徑是 LV 變壓器、UPS、PDU、AC 配電，最後接到 Mt. Diablo；未來的路徑則是固態變壓器（SST）直接接 800 V DC 母線槽，跳過多次 AC/DC 轉換。電網端另有一份超大規模業者與電網的介面規格，第一版上個月剛發布。

Mt. Diablo 是 Microsoft 的解耦式高壓架構，把電源轉換從運算機櫃中分離，讓運算與電力各自擴展；輸出 ±400 V 或 800 V，可從 100 kW 擴展到 1 MW 以上，規格已貢獻給 OCP。和 Maia 300 的 167 kW 機櫃放在一起看，電力架構是為下兩到三代的機櫃設計的，這也是它必須先成為開放規格的原因。

▲ Microsoft 從電網到晶片的電力路徑：2026 年以 Mt. Diablo 收尾，未來改走固態變壓器加 800 V DC 母線槽（圖片來源：Microsoft｜2026 OCP Global Summit 簡報（第 17 頁））

散熱。第三代熱交換單元 Mt. Atlas 在相同佔地面積下，散熱能力約 2 倍。資料中心層級改走分區冷卻（zonal cooling），兩條路徑的溫度寫得很清楚：

液冷排熱：20–40°C 供水，冷卻分配單元（CDU）以最高 45°C 的冷卻液供應 GPU 機櫃。
氣冷排熱：20°C 供水，空調箱以 30°C 送風給氣冷機櫃。

▲ Mt. Atlas 在相同佔地下散熱能力約 2 倍；分區冷卻以最高 45°C 液體供應 GPU 機櫃、30°C 送風給氣冷機櫃（圖片來源：Microsoft｜2026 OCP Global Summit 簡報（第 19 頁））

45°C 的供液溫度是重點：溫度越高，越能減少冰水主機的負擔。下一代 Azure 機房不是「全部改液冷」，而是液冷與氣冷混合、多溫區並存。

5. 安全與維運：Tessera 與自我管理的機隊

安全部分，Microsoft 回顧了它在 Confidential Computing Consortium、Caliptra（開源晶片信任根）與 OCP S.A.F.E. 的角色，接著宣布 Tessera Integrated HSM：與 Marvell、Oracle 一起，透過 OCP 把 Azure Integrated HSM 演進成開源計畫。理由是 AI 讓攻擊速度與規模放大，量子運算又改變密碼學的風險時程。投影片的兩句話是重點：金鑰不暴露在記憶體裡、金鑰不離開 HSM 邊界。D'Sa 表示 Marvell 的 HSM 已採用這套開放協定，並與 Azure HSM 互通。

維運部分有兩件事：一是透過 OCP 標準化 RAS、除錯與診斷、韌體更新與可管理性，並在晶片與平台設計階段就介入；二是自我管理機隊（self-managed fleet），用 AI 預防、預測並自動處理故障，目標是提高在線節點比例並減少人工。

永續的數字集中在一段（口頭）：2030 年達成負碳、水正效益與零廢棄；低碳混凝土路徑可讓每立方碼排放減少 50% 以上；超過 90% 的資料中心容量採閉迴路液冷；已簽約數十 GW 再生能源、橫跨 24 國；閒置時伺服器能耗可降 35%；超過 90% 的伺服器在首次部署結束後回收或再利用。

6. 風險與反面論點

7 倍與 40% 的基準不透明：7 倍是「較上一代」，40% 是對「機隊其他系統」，兩者都是 Microsoft 自家口徑，尚無第三方數據。
「多 GW」沒有拆分：2027 年起的多 GW 部署，有多少是 Maia 300、多少是 Maia 200，演講沒有交代。N2P 與 HBM4 的產能也是同業共用的瓶頸。
開放規格不等於開放供應：OCI 第一版才剛徵求回饋，乙太網 scale-up 的 175 個成員是參與數，不是出貨數；MRC 會不會被其他雲端業者採用，仍要觀察。
光學份量被刻意淡化：整場沒有提 CPO 或 NPO 時程，scale-up 光學何時進入 Maia 機櫃，仍沒有公開答案。
永續數字口徑不一：90% 閉迴路液冷是「資料中心容量」口徑，不等於所有機房；這些數字在 AI 負載快速成長下能否維持，需要看後續年報。

7. 對台灣供應鏈的意義

先進製程與封裝是確定的受益點。依 Microsoft 公開資料，Maia 300 運算小晶片採 TSMC N2P，封裝是多小晶片加 8 顆 HBM4；2027 年起的多 GW 部署，對台積電 N2 系列與先進封裝產能是明確的增量。
電源是最直接的換代考題。Mt. Diablo 已是 OCP 規格，±400 V／800 V、100 kW 到 1 MW 的範圍會成為電源櫃與機櫃電源的共同設計基準；未來的 SST 加 800 V DC 母線槽，則會改寫整段機房配電。演講沒有點名任何電源供應商，台灣電源廠的機會要看誰先通過驗證。
液冷的難度在「混合」與「高溫」。最高 45°C 供液、多溫區並存，加上散熱能力約 2 倍的 Mt. Atlas，對冷卻分配單元、快接頭與控制系統是新規格；台系散熱與機構廠的機會在系統整合，而不只是冷板。
光通訊要看 OCI 的多供應商條款。OCI 明確把「多供應商供應鏈」寫成目標，對台灣光元件與模組廠是入場門票，但規格仍在徵求回饋階段，2027 年前不會是營收主力。

8. 總結

這場 keynote 沒有驚人的單一技術突破，價值在於它把 Microsoft 的 AI 基礎建設拆成一張可對照的規格地圖：網路有 MRC 與 OCI，電力有 Mt. Diablo、SST 與電網介面，散熱有 Mt. Atlas 與分區冷卻，安全有 Tessera。每一項都在告訴供應鏈：Microsoft 要的是可替換、可互通的零件，而不是單一供應商的整套方案。