GCN 5.0 架构数据中心/计算卡(2017-06-27 发布),16GB HBM2,FP32 12.29 TFLOPS、功耗 300W。已停产,以库存与二手为主。
可跑 14B FP16 或 32B INT4 量化模型。多卡部署时优先看是否支持 NVLink(SXM 形态)与 ECC 显存,这决定多卡并行效率和长时间计算的可靠性。
TDP 300W,电源与机箱风道要按峰值规划(普通办公机箱不适合);HBM 显存适合长时间满载与多卡并行,但整机供电与散热必须配套;替代型号可在本站同类页(服务器卡 / 专业卡 / 消费卡)按显存与算力就近对照。以上为按公开参数推算的适配判断,具体以你的真实负载实测为准。
数值按厂商公布的加速频率与流处理器数量折算,用于横向比较。
FP32 单精度算力为 12.29 TFLOPS,按厂商公布的加速频率与流处理器数量折算,用于横向比较通用计算性能;实际表现还取决于驱动与散热。
16GB HBM2,位宽 2048 bit,带宽 436 GB/s。显存容量直接决定能装多大的模型与工程,带宽影响解码速度与高分辨率表现。
热设计功耗 300W,厂商建议电源 700W,供电接口 2x 8-pin。整机电源要按 CPU 与其他配件一起留 20–30% 余量。
GCN 5.0 架构,2017-06-27 发布。代际决定它对新精度(FP8/FP4)与新驱动的支持程度。
已停产,以二手与库存为主。采购前确认渠道、保修剩余期与是否为拆机/矿卡。
可跑 14B FP16 或 32B INT4 量化模型。判断标准是「权重 + KV Cache + 框架开销」能不能装进 16GB 显存,而不是算力高低。
无显示输出(数据中心/计算卡形态),不能当图形卡接显示器;按计算卡规划机箱与供电。
同类型里算力更高、显存不更少的一档可以看 Radeon Instinct MI50(FP32 13.41 TFLOPS)。选替代型号先看显存够不够,再看算力与功耗。
扫码关注