读懂 B200：巨头全收，一卡难求

B200-192G-SXM6：B200 是 Blackwell 架构首款数据中心 GPU，192G 表示 192GB HBM3e 显存，SXM6 指第六代高带宽底座（社区通称，官方资料多写 SXM 模组），需配套 HGX B200 服务器。

与 H100/H200 的 Hopper 单 die 不同，B200 把两颗 reticle 极限 die 通过 NV-HBI（10 TB/s）封进一个壳，逻辑上仍是一颗 CUDA GPU；叠加 FP4 精度与第二代 Transformer Engine，推理吞吐推到 H100 的 3–5 倍。这不是一次升级，是一次换代。

一、开篇导读

B200 是 NVIDIA 2024 年 3 月 GTC 发布、同年四季度量产的新一代数据中心旗舰 GPU，基于全新 Blackwell 架构，接替 H100/H200 成为万亿参数大模型训练与推理的新基线。

为什么 H100 才用两年就换代？大模型从千亿走向万亿参数后，Hopper 的「单 die + FP8」撞上两堵墙：

• 一是光刻掩模版的物理面积极限（reticle limit），单 die 做不大了；

• 二是 FP8 已不是最低可用精度，FP4 被验证可推理。

B200 用双 die 合体破第一堵墙，用FP4 精度下探破第二堵墙——读懂这两件事，就读懂了 B200 的全部价值。

系列前作里，H100 定义了大模型时代的算力锚点，H200 用显存升级补上显存墙。B200 不是 H200 的衍生升级，而是 Hopper 之后的架构跃迁——命题不是「做得更大」，而是「换一种做法」。

二、认知锚点：用类比看懂它

一句话类比：如果 H100 是一座吞吐惊人的自动化超级货运港，H200 是把同一座港的堆场扩到 1.76 倍、传送带提速 1.43 倍，那 B200 就是两座同规格货运港通过一条超高速轨道联体运作——堆场（显存）2.4 倍、传送带（带宽）2.39 倍，还引入了「半尺寸集装箱」标准（FP4），同样面积的堆场能堆两倍的货。

把数字变直觉：

• 显存 192GB：H100 的 2.4 倍、H200 的 1.36 倍。70B 模型 FP16 权重约 140GB，单卡装下后还剩约 50GB 给 KV cache、激活值与框架开销——H200 单卡装 70B FP16 已无压力，B200 余量更宽。

• 带宽 8 TB/s：H100（3.35 TB/s）的 2.39 倍、H200（4.8 TB/s）的 1.67 倍。LLM 推理逐 token 搬运权重与 KV cache，带宽涨多少，吞吐近似同比例涨。

• NV-HBI 10 TB/s：双 die 间的内部带宽是对外 NVLink（1.8 TB/s）的 5.5 倍，对软件栈完全透明——CUDA 看到的是一颗 GPU，不是两颗。

• FP4 精度：每参数仅 0.5 字节（FP8 的一半），同等显存可容纳的参数翻倍；配合第二代 Transformer Engine 的微张量缩放，推理精度可控。

四个常见误区：

1. B200 是 H200 的升级版？错。H200 是 Hopper 同架构的显存衍生款；B200 是全新架构，晶体管 2080 亿 vs 800 亿（2.6 倍）。
2. 双 die 等于两张卡？错。NV-HBI 把双 die 封进一个壳，逻辑上是一颗 CUDA GPU——不是 NVLink 连两颗卡。
3. FP4 精度损失大不能用？不一定。微张量缩放（micro-tensor scaling）兜底后，主流大模型推理场景精度可控；FP4 训练仍在早期。
4. B200 就是 GB200？错。B200 是单颗 GPU；GB200 是超级芯片 = 1 颗 Grace CPU + 2 颗 B200——看报价或性能数据时先分清对象，官方宣传数字很多引自 GB200 整机。

三、关键参数全景

架构换代，几乎每一行都有变化，读表盯住加粗行。下表以 B200 SXM6 192GB 为主，附 H100/H200 SXM5 对照。算力单位 TFLOPS，写法为「稠密 / 稀疏」（稀疏指 2:4 结构化稀疏峰值）。

• B200 单卡算力由 HGX B200 datasheet 的 8 卡聚合值 ÷ 8 推算（如 FP4 稀疏 144 ÷ 8 = 18 PFLOPS），与发布会引用的 20 PFLOPS 有约 10% 口径差，本文以 datasheet 为准。

• H100/H200 各行与 H200 · 第四节 自洽；带宽公式位宽 × 每引脚速率 ÷ 8，B200 以 8 颗 8-Hi HBM3e 达到 8 TB/s。

• CUDA core 数量官方未披露，表中不列。

• B200 仅有 SXM6 形态、无 PCIe 版本——1000W TDP 远超 PCIe 插槽供电上限。

四、Blackwell 三大革新

H200 的故事压在一个词（HBM3e）上，B200 的故事压在三个革新上——任何一个单独拿出来都够写一代 GPU。

革新一：双 die 封装，破 reticle 极限

先进制程下单 die 面积已顶到光刻掩模版上限（约 858mm²，Hopper 的 GH100 die 已达 814mm²）。B200 把两颗 reticle 极限 die（每颗 1040 亿晶体管）通过 NV-HBI 封进同一个壳：

• die 间带宽 10 TB/s，对 CUDA、cuDNN、PyTorch 全栈透明；

• 类比：不是两条船，是一艘双体船——两个船体共享一个甲板；

• 代价是封装成本与良率挑战上升，收益是晶体管总量翻 2.6 倍，跨过单 die 无法逾越的物理墙。

革新二：第二代 Transformer Engine + FP4，精度下探

精度每降一档（FP16 → FP8 → FP4），同等硬件峰值算力翻倍。第二代 Transformer Engine 原生支持 FP4/FP6，靠微张量缩放（把张量切成小块、逐块独立缩放）让低精度贴合大模型权重分布，主流推理场景精度可控。

• 算力侧：FP4 稀疏 18 PFLOPS 是自家 FP8 的 2 倍——B200 推理吞吐跃升的核心来源不是堆算力，是精度下探；

• 显存侧：FP4 每参数 0.5 字节，192GB 理论可容纳 384GB 等效权重（实际需扣除 KV cache、激活值与框架开销）；

• 局限：FP4 训练仍在早期，推理也需 CUDA 12.4+ 与 TensorRT-LLM 等新版框架适配。

革新三：第五代 NVLink 与 RAS 引擎

• NVLink 单口 1.8 TB/s（上代 2 倍），HGX B200 整机 8 卡经双 NVSwitch 聚合 14.4 TB/s，多卡张量并行的通信开销显著下降。

• RAS 引擎（可靠性/可用性/可服务性）把错误检测与故障隔离提到硬件层——万卡级训练下，单卡故障率乘以卡数已不可忽视。

五、训推双杀：B200 快在哪里

B200 比 H100/H200 快多少没有单一答案——关键看任务能否吃到 FP4 与带宽双红利。（估算口径：训练总算力按 Chinchilla 公式C≈6×参数量×token数，MFU 按业界惯例 40% 折算）

训练侧：FP8 算力 2.27 倍。以 LLaMA-70B 训练 1T tokens 估算（总算力 ≈ 4.2×10²³ FLOPs）：

• 千张 B200（FP8 稠密、MFU 40%）有效算力约 1.8×10¹⁸ FLOPs/s → 理想耗时约2.7 天；同规模 H100 集群约 6 天（口径同 H200 · 6.2）。

• 叠加显存翻倍（张量并行度可降）与 NVLink 翻倍（通信开销降），NVIDIA 官方给出 DGX B200 vs DGX H100 整机训练3 倍口径——超出纯算力 2.27 倍的部分来自并行效率提升，属合理区间。

• 上述均为 MFU=40% 的理想测算；真实工程还会因通信抖动、框架损耗、故障恢复与数据管线等因素进一步拉长周期。

推理侧：红利最大的场景。

• 上界：FP4 权重体积减半（同带宽下等效吞吐 ×2）× 带宽 2.39 倍 ≈ 4.8 倍，故单卡典型区间3–5 倍（vs H100 FP8）。成立前提是FP4 量化 + 模型与 KV cache 单卡装载友好。

• FP8 路径只有约 2 倍：若不走 FP4（中小 batch 的常规 FP8 推理），受算力 2.27 倍与带宽 2.39 倍钳制，提升典型仅约2 倍——评估收益前先确认自己能否吃到 FP4。

• 单卡装载红利：70B FP4 权重仅 35GB，单卡余量充足；175B（87.5GB）单卡可装而 H100 需 3 卡 FP8，省去跨卡通信后可达 4–6 倍（极端情形）；405B（202.5GB）需 2 卡，对 H100 的 6 卡，卡数为 1/3，整机吞吐差距可达 5–8 倍（极端情形，归因于单卡装载 + FP4 + 带宽三重叠加）。

• 官方口径：「推理 15 倍」是 8 卡整机、含 FP4 + 省通信 + 聚合带宽多重收益的极端口径，不能套用到单卡评估；单卡对单卡通常落在 3–5 倍。

性价比边界：模型 141GB 内装得下、且用 FP16/FP8 推理不需要 FP4 → H200 更划算（差距只有 2.27 倍算力 + 1.67 倍带宽，时租低约 31%）；模型 80GB 装得下、预算受限 → H100 仍是性价比之选。

六、部署形态与软件生态

软件生态：

• CUDA 12.4+ / cuDNN 9.x 起支持 FP4/FP6 算子；TensorRT-LLM、vLLM 等主流框架已支持 FP4 推理路径；NCCL 2.20+ 支持第五代 NVLink。

• CUDA 生态向后兼容，H100 代码可无缝迁移；FP4 是新增能力，需显式启用。

七、市场现状与选型指南

7.1 价格与供货

• 租赁市场价：多平台公开采集（2026-07 下旬）约42 元/卡·时（按量），约为同期 H100 的 1.9 倍、H200 的 1.4 倍。注意：样本仅来自少量非合规渠道供应商、波动大，仅供量级参考，做算力预算须多厂商询价比价，不可直接作为基准。月租价暂无采集记录。

• 官方发售价：发布期整卡约 $30,000–$40,000（据公开资料整理，以官方为准）。

• 供货与生命周期：2024 年四季度量产，2025 年产能被 AWS / Google / Meta / Microsoft / OpenAI / Oracle / xAI 等超大规模客户预订一空；2025 年底 B300 量产接棒后进入平台期，但仍是 2026 年下半年最成熟的 Blackwell 训练卡。

• 出口管制：与 H100/H200 一致，中国区无合规特供版，国内合规采购仍以 H20 为主通道（时间线详见 H100 · 第七节）。据公开政策，以官方为准。

• 竞品格局：AMD MI300X（192GB HBM3）是海外唯一同档竞品；国产 910B / MLU590 / BR100 对标 H100/H200，低 B200 一档。

7.2 存量画像：大头自用，零头外溢

• 出货与产能：据 TrendForce，2025 年起 Blackwell 占 NVIDIA 高端 GPU 出货逾 8 成，以 GB200 NVL72 机架与 HGX B200 整机为主；市场机构对机架出货量的预估在数万柜量级（「台/颗/机架」口径混用差异较大，精确数字以 NVIDIA 财报为准）。核心产能瓶颈是双 die 封装依赖的 TSMC CoWoS-L 先进封装。

• 买家高度集中：Microsoft 已部署数万颗（NVIDIA CFO 口径）；AWS P6-B200 实例规模化上线；美国能源部 Solstice / Equinox 系统合计 11 万颗；Oracle、xAI、Tesla、CoreWeave 万卡级采购。北美四大云商 2025 年资本支出合计约 3590 亿美元，超六成投向 NVIDIA AI 芯片；NVIDIA 已获约 5000 亿美元 Blackwell + Rubin 订单（覆盖至 2026 年）。

• 可流转量极少：超大规模客户拿 NVIDIA 直供额度自建自用，不进入二级市场；仅少量经专业 GPU 云厂商进入按量租赁。2025 年早期 Blackwell 租金曾达 H100 的 4–5 倍，随供需缓和已回落——本文采集到的 1.9 倍即是佐证。

• 普通企业的现实路径：要么按量租（价高），要么排队直供（周期长），几乎没有「买卡自建」的现实路径。

国内市场一瞥：B200 国内无合规采购渠道，市面流通属稀缺的灰色供应。

• 公开租赁报价供应商极少、时有断供，且只有按量价、没有长租报价；

• 当前采集样本量过小、口径不稳，暂不具备横向比价的分析价值，仅能确认「约 42 元/卡·时、H100 的 1.9 倍上下」的量级，待供应放量后再做存量切片；

• 国内新项目若依赖 B200，需提前锁定渠道，不能假设有稳定现货。

7.3 选型决策树与避坑

• 超大模型训练（405B+）、追求最高吞吐 →B200 SXM6或 GB200 NVL72

• 70B+ 推理、走 FP4 路径 →B200（推理红利最大）

• 显存敏感但不需要 FP4 →H200（141GB 够用、时租低约 31%）

• 模型 80GB 装得下、预算受限 →H100

• 中国区合规采购 →H20（或评估国产替代 910B / MLU590）

• 个人 / 小团队本地部署 → RTX 4090 / RTX 5090 更经济

避坑提示：

• 「推理 15 倍」是整机极端口径，单卡典型 3–5 倍且须模型走 FP4 路径；仍用 FP8 的中小 batch 推理仅约 2 倍（见第五节）。

• 1000W 供电是硬门槛：必须 SXM6 底座 + 液冷或高密度风冷，无 PCIe 版本可「塞进现有服务器」升级。

• FP4 不是免费午餐：需框架与 kernel 适配（CUDA 12.4+ / TensorRT-LLM 新版），FP4 训练收益尚早，推理更确定。

• 显存墙仍在：1T 参数 FP16 仍需多卡；FP4 等效权重也要扣除 KV cache、激活值与框架开销（估算原则见 博客 README）。

• 国内无合规采购渠道，新项目规划前先确认供货（H20 通道或国产替代）。

附录：统一速查卡

系列导航：上一篇 读懂 A800（出口管制下的合规长兄）｜ 已发旗舰链路 H100 → H200 → H800 → H20 → A100 → A800 →B200｜ 下一篇待写：AMD MI300X（海外第二极）。