单卡 80GB 起步的顶级容量档：HBM 显存、大模型训练与推理的真实门槛。
80GB 以上是大模型的主战场：80GB（H100 / A100）能单卡跑 70B INT8；141GB（H200）能单卡跑 70B FP16；192GB 的 MI300X 与整卡 180GB 的 B200 能单卡跑 70B FP16 并留出长上下文空间；288GB（B300 / MI325X / MI355X）开始能整装放下百 B 级参数模型。
这一档全部是 HBM 显存，差别在代际和带宽：HBM2e → HBM3 → HBM3e，带宽从 2TB/s 级到 8TB/s 级。同容量下带宽翻倍，解码速度和长上下文表现会有数量级的体感差。
一句话结论：单卡 141GB 是「FP16 70B 单机可行」的门槛，180–192GB 这一档才开始有余量做长上下文与并发。
显存覆盖 80–288 GB，最高 FP32 算力 126.00 TFLOPS，发布年份跨度 2020–2025，其中 30 款为 HBM 显存。点任一型号进入完整参数页（规格、算力、功耗、替代型号）。
能。70B FP16 权重约 140GB，H200 的 141GB 显存刚好卡在边界，实际部署要把上下文和 KV Cache 压到很小，通常是「能加载、并发有限」；真正宽松要 192GB 以上。
B200 是 Blackwell 架构、整卡 180GB HBM3e，显存比 H200 的 141GB 大约多 28%，同时新一代 Tensor Core 的 FP4/FP8 算力更高。对推理的意义主要是「一张卡能放更大的模型和更长的上下文」。
显存容量在同价位有优势，适合显存吃紧的推理场景。前提是团队接受 ROCm 生态，且目标框架（vLLM、SGLang、PyTorch）在目标版本上验证过。
扫码关注
