24GB 是单卡消费/专业档的主力容量：32B 量化模型、4K 多轨剪辑、大型装配体的现实边界。
24GB 覆盖了绝大多数「单卡能干完」的活：32B 级 INT4 模型、70B 级 INT4 的勉强下限、4K 多轨剪辑、中大型 CAD 装配体。它也是消费卡（RTX 4090 / 5090 D、RX 7900 XTX）和专业卡（L40G、RTX A5000 级）的分界线——同样 24GB，专业卡贵在认证与稳定性。
这一档最值得关注的不是容量而是带宽：24GB GDDR6X 与 24GB GDDR7 的带宽差距能到 40% 以上，直接决定长上下文推理的 token 速度和 4K 素材的实时回放能力。
一句话结论：24GB 是当前「单卡跑 32B 模型 + 4K 创作」的最佳平衡点；想要 FP16 跑 70B，任何 24GB 卡都不够。
显存覆盖 24–32 GB，最高 FP32 算力 104.80 TFLOPS，发布年份跨度 2015–2025，其中 21 款为 HBM 显存。点任一型号进入完整参数页（规格、算力、功耗、替代型号）。
只能跑 INT4 量化，且权重（约 35–40GB）已超过 24GB，必须靠 CPU 卸载或分块加载，速度会掉到个位数 token/s。要正常跑 70B，建议 48GB 以上或双卡。
5090 D 是 Blackwell 架构、32GB GDDR7，带宽和 FP32 都高于 4090 的 24GB GDDR6X；两者都不支持 NVLink，多卡只能走 PCIe。
扫码关注
