Pascal 架构数据中心/计算卡(2016-09-13 发布),8GB GDDR5,FP32 5.70 TFLOPS、功耗 75W。已停产,以库存与二手为主。
可跑 7B–8B 级 INT4/INT8 量化模型。多卡部署时优先看是否支持 NVLink(SXM 形态)与 ECC 显存,这决定多卡并行效率和长时间计算的可靠性。
功耗 75W,对电源与散热要求不高;替代型号可在本站同类页(服务器卡 / 专业卡 / 消费卡)按显存与算力就近对照。以上为按公开参数推算的适配判断,具体以你的真实负载实测为准。
数值按厂商公布的加速频率与流处理器数量折算,用于横向比较。
FP32 单精度算力为 5.70 TFLOPS,按厂商公布的加速频率与流处理器数量折算,用于横向比较通用计算性能;实际表现还取决于驱动与散热。
8GB GDDR5,位宽 256 bit,带宽 192 GB/s。显存容量直接决定能装多大的模型与工程,带宽影响解码速度与高分辨率表现。
热设计功耗 75W,厂商建议电源 250W。整机电源要按 CPU 与其他配件一起留 20–30% 余量。
Pascal 架构,2016-09-13 发布。代际决定它对新精度(FP8/FP4)与新驱动的支持程度。
同类型里算力更高、显存不更少的一档可以看 Tesla P6 Mobile(FP32 6.17 TFLOPS)。选替代型号先看显存够不够,再看算力与功耗。
可跑 7B–8B 级 INT4/INT8 量化模型。判断标准是「权重 + KV Cache + 框架开销」能不能装进 8GB 显存,而不是算力高低。
无显示输出(数据中心/计算卡形态),不能当图形卡接显示器;按计算卡规划机箱与供电。
已停产,以二手与库存为主。采购前确认渠道、保修剩余期与是否为拆机/矿卡。
扫码关注