Top-Down 拆解教學

AI 伺服器
機櫃的 8 個觀察位置

先分清機架內的並列單元,再放大到板、模組與封裝。
SCROLL TO EXPLORE
深
粒
8
🏭
Cluster / SuperPOD
Jensen Huang 與 NVIDIA Vera Rubin NVL72 機架群 · Computex 2026 Keynote
LEVEL 8
叢集 · Cluster

Level 8 · 最外層
叢集 / SuperPOD
Cluster · AI Factory · SuperPOD
叢集把多台運算系統透過網路連在一起。先問連線是在同一個 NVLink domain 內擴大 GPU 協同運算(scale-up),還是跨系統分散工作(scale-out);光看機架並排,無法判定連線拓撲。

更大的 Rubin Ultra / NVL576 與 Kyber 屬於後續平台規劃,不能直接把八台現有 NVL72 當作同規格產品。供電與散熱也要依實際組態核算。
scale-up 與 scale-out 分開看拓撲需查平台文件
打開之後,看到 ↓
🖥️ AI Rack(機櫃)× 數百 🌐 Spine Switch(骨幹交換機) ⚡ 資料中心電力與散熱基礎設施
🇺🇸 NVIDIA(Spectrum-X / InfiniBand / NVLink Spine) 🇺🇸 Broadcom(骨幹交換晶片) 🇹🇼 光寶科 Lite-On(PSU · 大型叢集電源) 🇹🇼 健策 Enlight(散熱管理 · 熱管/均溫板) 🇹🇼 台達電 Delta(PSU · HVDC 電源模組)
🏭 Vera Rubin NVL72 機架群 · NVIDIA Computex 2026 Keynote(ServeTheHome)
Computex 2026 NVL72 Racks
📸 Computex 2026 展場直擊 · 台灣電源 / 散熱供應商現場(YouTube財經頻道)
台達電 × Vera Rubin Foxconn NVL72 MGX Ecosystem 800VDC Power Rack 相關個股分析
↓
放大 · 拉近一個機櫃
7
🖥️
AI Rack · NVL72
Vera Rubin NVL72 + Power Rack · Gigabyte × NVIDIA · Computex 2026
LEVEL 7
機櫃 · AI Rack

Level 7
機櫃 / AI Rack
NVL72 · Vera Rubin Rack
機架把運算、交換、供電與散熱整合成可部署的系統。NVIDIA Vera Rubin NVL72 的官方配置是 72 個 Rubin GPU 與 36 個 Vera CPU。運算匣和交換匣在機架內並列協作;液冷管路與電力接口則支援它們持續工作。

不同世代與配置的功耗、報價差異很大,不能用單一估價或「等於幾戶家庭」當成固定規格。
72 Rubin GPU36 Vera CPU運算與交換並列
機架裡面有 ↓
🔴 Compute Tray × 18 🟣 NVLink Switch Tray × 9 🔵 Storage / BlueField Tray ⚡ 800VDC Power Rack
🇹🇼 緯穎 Wiwynn · 6669(機架整合 / 全光 L11) 🇹🇼 緯創 Wistron · 3231 🇹🇼 技嘉 Gigabyte · 2376 🇹🇼 英業達 Inventec · 2356 🇺🇸 Super Micro(SMCI) 🇹🇼 健策 Enlight(散熱 / 熱管解決方案) 🇹🇼 光寶科 Lite-On(電源供應器 PSU)
⚡ 800VDC Ecosystem · Computex 2026 現場(@linvalue)
MGX Ecosystem Power Whip Liquid Cooled Busbar MGX 800VDC PCB UQD MQD Rack Manifold
🏢 Wistron × Wiwynn × NVIDIA Vera Rubin NVL72 展場實照(@kwl0324 · Computex 2026)
Wiwynn NVL72 Rack with Jensen Signature NVIDIA Vera Rubin NVL72 + CPU Rack Labels
📋 OCP 142 kW Rack · 開放標準另一條路(@lemonway_tech · Computex 2026)
OCP 142kW Rack 配置
💡 全光互連(Full Optical)· Wiwynn × AyarLabs L11 Rack(@linda.tech.sales / @snowshawngogo)
L11 Rack CPO Signal Path L11 BOM AyarLabs Board In-Chassis Optical 全光 Full Optical Prototype 實物
↓
打開機櫃 · 抽出一條匣
6
🔗
NVLink Switch Tray
Vera Rubin NVL72 Switch Tray · GTC 2026
LEVEL 6
交換機層

Level 6
交換機匣
NVLink Switch Tray
Switch tray 負責機架內 GPU 之間的高速通訊。它與 Compute tray 分工:一個讓資料互通,一個執行計算。對外的 InfiniBand / Ethernet 網路又是另一個層次,不能和 NVLink switch 混稱。

Kyber 是後續機架架構路線中的名稱,不是現有 NVL72 的 scale-out CPO 交換機名稱。
機架內:NVLink跨系統:網路互連
匣裡有什麼 ↓
🔮 NVLink Switch Die × 9 光纖 / 銅纜互連
🇺🇸 NVIDIA(NVLink Switch 設計) 🇹🇼 TSMC(代工)
🔗 Vera Rubin NVL72 Switch Tray 實物 · NVIDIA GTC 2026(@daniella.xu)
NVL72 Switch Tray
⚡ CPO Compute Tray · AyarLabs × Wiwynn Scale-Out 原型(@simple_tech_trend · Computex 2026)
CPO Compute Tray with AyarLabs ELS Laser
↓
換一條 · 看 Compute Tray
5
🗄️
Server Chassis
Pegatron AS402 AI Server Chassis · GTC 2026
LEVEL 5
機箱 · Chassis

Level 5
機箱 / Server Chassis
Server Chassis · 1U / 2U / 10U
Chassis 是機械承載結構:提供導軌、固定孔、保護外殼與接口位置。它可能承載一個或多個可抽換單元;產品命名中的 server、tray、chassis 並不總是一對一。辨認實物時先看「哪個單元可以一起抽出維修」。
機械固定維修與接口邊界
機箱裡有 ↓
🔴 Compute Tray(運算匣) ⚡ PSU 電源供應器 🔵 NIC 網卡(ConnectX-8) 🧊 液冷 Manifold 接口
🇹🇼 緯穎 / 廣達 / 英業達(機箱組裝) 🇺🇸 SMCI
🗄️ AI Server Chassis 實物 · NVIDIA GTC 2026(Pegatron 展台)
Pegatron AI Server Chassis
↓
拉出 Compute Tray · 運算匣
4
🧱
Compute Tray
Vera Rubin NVL72 Tray Inner Manifold · Computex 2026
LEVEL 4
運算匣 · Compute Tray

Level 4
運算匣 / Compute Tray
Compute Tray · 可抽換模組
Compute tray 把運算模組、電路板、液冷部件與接口整合成可抽換單元。Vera Rubin NVL72 的 18 個運算匣,每匣配置兩組 Superchip,也就是 4 個 Rubin GPU 與 2 個 Vera CPU。不要把「一組 Superchip」的數量誤當成整個 tray。
18 Compute trays每匣 4 GPU + 2 CPU每匣 2 Superchips
Tray 裡有 ↓
🟠 UBB 基板(Universal Baseboard) 🧊 水冷板(Cold Plate) 🔌 電源接頭
🇹🇼 廣達 / 緯穎 / 英業達(Tray 組裝) 🇹🇼 奇鋐 Auras(Cold Plate)
🔬 NVL72 Tray · Cold Plate · Wafer · Computex 2026 現場(@linvalue)
Tray Inner Manifold Wafer Cold Plate Midplane
🧊 Cold Plate / Midplane 供應商現場 · Computex 2026(YouTube 財經頻道)
Cold Plate 四大供應商 Vera Rubin Compute Tray 抽出展示 NVL72 Cold Plate 安裝實況 NVL72 Midplane 實物 健策 Jentech MCL 技術 Compute Tray 銅製 Cold Plate 頂視圖
⚡ 台達電 Delta · 液冷基礎設施(YouTube 財經頻道 · Computex 2026)
台達電液冷管路基礎設施
↓
打開 Tray 上蓋 · 看基板
3
🟩
Universal Baseboard
NVIDIA HGX Vera Platform(Universal Baseboard)· GTC 2026
LEVEL 3
基板 · UBB

Level 3
基板 / Universal Baseboard
UBB · Universal Baseboard
PCB 是系統電路板,負責供電分配、訊號走線與模組連接。八 GPU 的 HGX baseboard、NVL72 compute tray 與 CPU 主板是不同配置;看到一張大型電路板,不能直接套上「8 個 SXM 插槽」。

PCB、封裝用 ABF 基板與矽中介層也不是同一種「基板」。照片用來辨認物件,精確層數與配置仍要查該型號文件。
系統 PCB封裝基板另有層級配置依平台而定
基板上有 ↓
GPU/CPU 模組(配置依平台) 🟢 CPU 記憶體(配置依平台) 🟢 NVLink 信號走線
🇹🇼 欣興 Unimicron(ABF 基板 · 3037) 🇹🇼 南亞電路板 NPC(8046) 🇯🇵 Ibiden(ABF 基板)
🟩 NVIDIA HGX™ Vera Platform 實物 · NVIDIA GTC 2026(Pegatron 展台)
HGX Vera Platform
↓
觀察一組運算模組
2
💠
Superchip
Vera Rubin Superchip 實物(1 CPU + 2 GPU)· GTC 2026
LEVEL 2
模組 · Superchip

Level 2
模組 / Superchip
Superchip · 1 CPU + 2 GPU
Vera Rubin Superchip 的組成是 1 個 Vera CPU 與 2 個 Rubin GPU,透過 NVLink-C2C 等互連協同工作。Superchip 描述這組處理器組合;SXM 則是 GPU 模組形式,兩個名詞不能畫成等號。
1 Vera CPU + 2 Rubin GPUNVLink-C2CSuperchip ≠ SXM
模組裡有 ↓
🔵 Rubin GPU Die(核心晶片)× 2 🔵 Vera CPU Die × 1 🔵 Rubin:HBM4(展場 HBM3E 圖另讀)
🇺🇸 NVIDIA(Superchip 設計) 🇹🇼 TSMC N3 + N4P(GPU/CPU 代工) 🇹🇼 TSMC CoWoS(封裝 GPU+HBM)
💠 Vera Rubin Superchip 實物(1 CPU + 2 GPU + SOCAMM)· GTC 2026(Tom's Hardware)
Vera Rubin Superchip GPU + HBM3E 結構模型
↓
拆開封裝 · 看最小的顆粒
1
⚛️
GPU Die · HBM
展場 GPU 與 HBM 結構模型,HBM3E 展示品

展場結構模型 · HBM3E 展示品,非 Rubin 規格

LEVEL 1 · 最底層
晶片 · GPU Die + HBM

Level 1 · 最底層
晶片 / GPU Die + HBM
GPU Die · HBM · CoWoS Package
GPU 晶片負責運算,HBM 是垂直堆疊的 DRAM;封裝內互連讓兩者在近距離交換資料,再由下方基板接到系統電路板。Vera Rubin 使用 HBM4。下方展場照片若標示 HBM3E,應讀成該展示品的說明,不能移植成 Rubin 的規格。
GPU 運算HBM4 記憶體封裝內互連
這裡是終點——不能再往下拆了
⚛️ 矽 (Si) 電晶體:數千億顆 🔗 DRAM Cell(HBM 記憶單元) 🔌 Micro Bump(封裝互連)
🇹🇼 TSMC N3(Rubin GPU 代工 · 台灣護城河最深) 🇰🇷 HBM 供應鏈(須依平台與正式供應資訊核對) 🇹🇼 TSMC CoWoS(GPU+HBM 封裝整合) 🇹🇼 日月光 ASE(OSAT 測試)
🔬 TSMC Rubin Wafer 實物 · Computex 2026(@linvalue)
TSMC Rubin Wafer
八站觀察:位置相連,包含關係要分清
L8 叢集 → L7 機櫃 → L6 Switch Tray → L5 機箱 → L4 Compute Tray → L3 基板 UBB → L2 Superchip → L1 晶片 Die
台灣在這條鏈上的核心卡位:L7 機架整合(緯穎/緯創/廣達/技嘉/英業達)、L3 PCB 基板(欣興/南亞)、L1 晶圓代工+先進封裝(台積電 CoWoS)。
台積電貫穿 L1–L2,是整條鏈最難替代的節點。
AI 機櫃位置辨識 · 展場素材:2026-06 · 名稱與配置校準:2026-09-26
NVIDIA:運算匣、交換匣與平台組成