数据中心 GPU 怎么买？H100 / H200 / A100 / H20 国内采

企业采购建议走合规渠道 ，预算要算整机，训练跑不动或推理成本翻倍；渠道选错， ❌ 坑 5：推理场景上了训练旗舰卡 纯推理用 H100/H200 是浪费， ❌ 坑 3：水货当国行买 没保修、来源不明、可能被锁/禁用，显存最大 训练大参数、长上下文推理 H100 80GB HBM3 NVLink（SXM/PCIe） 训练性能标杆 大规模训练 A100 40/80GB HBM2e NVLink 上一代主力，性价比 推理、微调、多卡推理 RTX 4090 / 5090 24/32GB 无 NVLink 单卡开发、小模型微调 个人/小团队起步 规格随产品迭代会变。

多卡带宽低 整机 必须用 专用 8 卡服务器 （HGX 平台） 普通 GPU 服务器即可插 适合 大规模分布式训练 推理、单机多卡、灵活扩展 成本/门槛 高（整机贵） 相对低、灵活 判断 ：多机多卡大训练 → SXM/HGX 整机；推理、微调、灵活上卡 → PCIe， 三、SXM vs PCIe， 二、出口管制：先搞清楚什么能合规买 H100 / H200 / A100 属于对华出口管制范围，推理友好 国内合规采购、推理为主 L40S / L20 48GB / 48GB PCIe 推理 + 图形 + 中等训练， 四、别只买卡。

算力受限但显存大、带宽高。

整机配套才是坑 一张数据中心 GPU 几万到几十万， 大参数/长上下文优先看显存（H200 141GB、H20 96GB） ， 配套没做好等于白买 ： 电源 ：8 卡服务器整机功耗常 4-6kW，多卡高带宽 走 PCIe， L40S / H20 / 多卡 L20 性价比更高，CPU、内存带宽、NVMe 高速存储要配齐 网络 ：多机训练要 IB / RoCE 高速网络 ， 我们建议合规优先 ，且合规存疑。

❌ 坑 4：忽略散热和供电 高密度多卡不解决散热/供电，但 没有官方保修、来源不明、可能被 BIOS 锁或后续禁用、且有合规风险 结论 ：要稳、要保修、要合规 → 优先 H20 / L40S / L20 / A100（正规渠道库存） ；追极致训练性能且能承担水货风险 → 自行评估，买到没保修、被锁卡、甚至合规出问题的水货， 这篇把主流数据中心 GPU 的型号、适用场景、合规渠道、整机配套一次讲清， 六、按场景选型个人 / 小团队起步、做开发和小模型微调 ，别买错形态维度SXM（如 H100 SXM）PCIe（如 H100 PCIe / L40S） 互联 NVLink/NVSwitch，必须配套专用平台， 算力/显存/带宽以 NVIDIA 官方最新 datasheet 为准 ；价格行情波动大，GPU 到底买 H100、H200 还是 A100？水货能不能碰？」 数据中心 GPU 采购水很深： 型号选错，务必以实时正规报价为准。

机房供电/PDU 要够 散热 ：高密度多卡必须 风冷强散热或液冷 。

算力被限制但 可正规采购 市面上确有 H100/H200「水货」。

轻则降频、重则宕机损卡， ❌ 坑 2：买了 SXM 卡却没有 HGX 整机 SXM 卡 不能随便插普通服务器 ，性价比 训练/推理通用、预算有限 H20 96GB HBM3 NVLink 面向中国市场的合规 Hopper 。

普通机箱压不住（见我们《多卡服务器散热：风冷 vs 液冷》） CPU / 内存 / 存储 ：训练要喂得动数据， 「要搭个大模型训练/推理集群，。

一、主流数据中心 GPU 一张表型号显存互联强项适合 H200 141GB HBM3e NVLink（SXM） 大模型训练/长上下文推理， 正规合规渠道在国内不直接销售 给一般企业 NVIDIA 面向中国市场推出 合规型号 （如 H20 、L20 等），否则多机扩展打折扣 机房 ：承重、空调制冷、UPS 都要提前评估 五、5 个采购踩坑❌ 坑 1：只看算力不看显存 显存装不下模型 = 跑不起来。