两间 AI 实训室,40 个工位,开同一门课,一间花 30 万,一间花 120 万——差 90 万,而学生上课的体验可能毫无区别。差的不是谁被坑了,是两家买的东西不在同一个交付范围:一间只买了服务器,另一间还买了电、存储、网络和 40 台终端。所以判断标准不是「哪家便宜」,而是「三个数定没定」:一个班跑几路模型、这一路电够不够、教室放不放得下。这三个数定不下来,报价差一倍也说不清差在哪。下面把这 90 万拆开算给你看。

顺序就三句:先把「建成」定死,再算三个数,最后才谈机型。 跳过前两步直接询价,钱一定花在没人用的地方。
第一步,把「建成」定成能验收的四条,而不是「设备到货」:
| 建成标准 | 判定证据 | 最常见的假建成 |
|---|---|---|
| 课能开出来 | 排进课表,有指定教师、有课时 | 设备装好了,没人会讲 |
| 学生能自己跑通 | 学生独立完成一次完整实验并留存结果 | 只有老师演示过 |
| 性能有据可查 | 压测报告在档,含并发、显存峰值、满载功耗 | 只有厂商的跑分截图 |
| 有人能长期维护 | 明确值守人、故障响应路径、备件来源 | 过保后无人接手 |
这四条不是为了严格,是为了防浪费。教育部等五部门 2026 年 4 月印发的《"人工智能+教育"行动计划》里专门写了一句「有效避免资源浪费和低水平重复建设」——这句话就是冲「设备到了、课开不出来」这种场面去的。
第二步算三个数(下面三节),第三步才是拿这三个数去定机型、配预算。
你现在就能自检一条:把这四条念给分管领导听,问他「这个项目打算用哪份材料证明第四条」。答不上来,说明项目还停在「买设备」,这时候报任何预算都会被打回来重做。
因为决定配置的不是「买什么机器」,而是一个班同时有多少路模型在跑。 这个数没定,买什么都是猜。
先买服务器的典型结局是这样的:机器到了、剪了彩、排不进课表;或者机器装好了,才发现这一路配电只有单相 32A,八卡机跑不满。
而且顺序一错,返工是连锁的——先买设备再改配电,配电改完发现机柜位置不对,机柜挪完发现空调扛不住。每一次返工都是一笔没有预算的钱。
你可以现在就验一条:把拟开课程的教学大纲翻出来,数一下「同一节课里学生要同时操作模型的环节」有几个。这个数如果数不出来,说明采购需求还没到可以下单的程度。
先算三个数,再谈型号。 它们不是技术细节,而是硬边界:第一个数定显存与卡数,第二个数定功率上限,第三个数定形态(八卡还是双卡)。
不是 40 路。实训室教学场景里真正同时在推理的,通常只有上机人数的一半上下——另一半在看课件、写报告、等结果。
但「一半」也不能拍脑袋,要看教学组织方式:全班同步跟着老师跑同一个实验,并发高、模型统一;各做各的项目,并发低、模型杂。
单路显存不是按模型文件大小算的,它由三块拼起来:权重量化体积(7B 模型 FP16 约 14GB、INT8 约 7GB、INT4 约 4GB)、KV cache(4K 上下文下 7B 通常 0.5–1.5GB)、框架与运行时预留(实际留 1–2GB 才稳)。
| 步骤 | 算法 | 代入(示例) |
|---|---|---|
| 1 并发路数 | 工位数 × 同时上机比例 | 40 × 0.5 = 20 路 |
| 2 单路显存 | 权重量化体积 + KV cache + 框架预留 | 4 + 1.5 + 1.5 = 7 GB |
| 3 总显存需求 | 并发路数 × 单路显存 × 安全系数 1.2 | 20 × 7 × 1.2 = 168 GB |
| 4 所需卡数 | 总显存 ÷ 单卡显存 | 168 ÷ 24G ≈ 7 张;168 ÷ 48G ≈ 4 张 |
最容易漏的是第 2 步的框架预留和第 3 步的安全系数。 漏掉这两项,算式会变成 20 × 5.5 = 110GB,看起来 5 张 24G 卡就够——实际一跑满就 OOM,而且是那种「老师演示时好的、学生自己跑就崩」的 OOM,最难查。
同样一门课,如果要求跑 32B 量化模型(INT4 单路约 20–24GB),算式变成 20 × 22 × 1.2 ≈ 528GB,需要 11 张 48G 卡。这就是很多学校「预算突然翻三倍」的真正原因——不是机器贵了,是模型档位换了。
| 课程形态 | 建议模型档位 | 单路显存(示例) | 40 工位的可行做法 |
|---|---|---|---|
| AI 通识、prompt 与工具使用 | 7B INT4 | 6–7 GB | 1 台 8 卡(24G×8)做共享推理,学生只连终端 |
| 模型微调入门(LoRA) | 7B–14B | 8–12 GB | 共享推理 + 分时微调,按组排队 |
| RAG / 智能体项目 | 14B–32B 量化 | 20–24 GB | 两台 8 卡分组,或 8 卡 96G 单机 |
| 全班同时跑 32B 以上 | 32B+ | 24 GB 以上 | 不建议按人头配,改分组 + 云端兜峰 |
八卡机的实际机型配置可以对照浪潮元脑 NF5468M7 八卡服务器这类产品页看,参数与盘位以原厂页面为准;本节算的是「要几张卡」,产品页给的是「这台机器装几个卡位」,两个数要一起对。
表里的显存是示例口径,不是实测值。判断方法很简单:让供应商在你指定的模型、上下文长度、并发数下跑一次压测,你用 nvidia-smi 看显存峰值。这一次压测的结果,就是实训室配置单上「GPU 数量」那一行唯一的依据。
这是三个数里最容易翻车、也最费钱的一个。很多学校的实训室配电是按「电脑教室」设计的——单相插座回路,一台机器几百瓦。八卡机不是这个量级。
| 机型 / 卡型 | 整机满载功耗 | 口径与来源 |
|---|---|---|
| 8×H100(DGX 架构) | 约 10.2 kW(额定) | Vertiv 智算中心基础设施白皮书 |
| 8×H100 实测满载 | 约 10.5 kW | 行业报道,2026-09 |
| 8×A800 | 约 6 kW | 行业讨论口径 |
| 8×4090 | 约 4.4 kW | 行业讨论口径 |
| 8 卡中低功耗整机 | 3.5–4 kW | 腾讯云开发者社区,2026-08 |
注意一个坑:厂商标称的「4×1600W」是电源额定功率,不是整机实际功耗。配电必须按实测峰值留余量。
| 步骤 | 算法 | 代入(示例 10 kW) |
|---|---|---|
| 1 峰值功率 P | 整机实测满载功耗,不是铭牌额定值 | 10 kW |
| 2 单相回路电流 | I = P ÷ (U × cosφ) | 10000 ÷ (220 × 0.9) = 50.5 A |
| 3 三相回路电流 | I = P ÷ (√3 × U × cosφ) | 10000 ÷ (1.732 × 380 × 0.9) = 16.9 A |
两句话结论:单相 32A 插座最多带 32 × 220 × 0.9 ≈ 6.3 kW,一台 10kW 级八卡机接上去,跳闸是必然的;10kW 级要走三相 32A,或拆成两条独立单相回路。
这条你现在就能验:去看配电箱上空开的额定电流,再看拟放机器那一路是不是独立回路。如果那一路还接着空调和照明,先按「共用」算,余量再打七折。
UPS 后备 30 分钟的电池容量:10 kW × 0.5 h ÷ 0.9(逆变效率) ÷ 0.8(放电深度) ≈ 6.9 kWh。10kW 级八卡机要撑半小时,电池组得在 7kWh 量级往上。把电这一关算完,实训室能选的机型范围其实已经定掉一半——不是你想买哪台,而是这一路电允许你买哪台。
八卡 4U 整机重量通常在几十公斤级(含导轨与满配硬盘),单台不算重,问题是集中放。普通教学楼与办公楼的楼面活荷载设计值常见在 2.0–3.0 kN/m²(约 200–300 kg/m²),具体必须查你们那栋楼的图纸。
判断方法不是估算,是看三件事:机柜放在哪个位置(靠梁靠柱更稳)、是不是集中在一个小区域、有没有做设备基础。这一条只给方法,不给数字——每栋楼的结构设计值不一样,写死数字反而害人。
散热同理。教学楼的空调是按人算的,不是按机柜算的。一台 10kW 级八卡机,等于把一个 10kW 的电暖器关在房间里。噪音也一样:机架服务器满载时声压级通常在 65 dB(A) 以上(1 米处),放在教室隔壁就是投诉。
所以第三条边界是:实训室的八卡机不该进教室,该进有独立回风的机柜区。
你可以自己验一条:拿手机分贝仪 App 站在拟放机器的位置,让现有设备满载跑十分钟测一次基线;再看这个位置离最近的工位多远。距离小于 5 米、又没做隔断,就要提前想降噪方案。这一关过不了,机型就得从八卡退到双卡,配置单整个重写——所以场地要在下单前看,不是到货后看。
因为差价的大头不在服务器,在配电改造、存储网络和工位终端。 三档预算的构成摆在一起就看得清楚。
| 档位(示例口径,非报价) | 服务器 | 存储与网络 | 配电与机房 | 工位终端 | 适用前提 |
|---|---|---|---|---|---|
| A|约 30 万 | 1 台 8 卡(中端/上代卡,整机 ≤6kW) | 沿用现有 | 不改造,走一条独立单相 32A | 40 台云终端/瘦客户机 | 课程以通识、prompt、7B 级实验为主 |
| B|约 60 万 | 1 台 8 卡(当期主流)+ 1 台双卡微调机 | 50–100TB 存储 + 万兆交换 | 独立回路 + UPS(30 分钟) | 40 台终端 | 有微调、RAG、智能体项目课 |
| C|约 120 万 | 2 台 8 卡(训练/推理分离) | 分布式存储 + 全线万兆 | 三相配电改造 + 机柜 + 降噪 + UPS | 40 台终端 | 科研与教学混用、要跑 32B 以上 |
划重点:三档报价的差额里,服务器通常只占 45–60%。所以同样是「40 个工位的 AI 实训室」,有人报 30 万、有人报 120 万,两边都不算骗人——它们不是同一个交付范围。比价前先确认交付范围,再比总价。
从 A 档到 C 档,示例口径下的增量大致是这样分布的:
| 增量项 | 大致金额(示例口径) | 为什么涨 |
|---|---|---|
| 服务器:1 台中端 → 2 台主流 | +45–55 万 | 训练/推理分离,卡数翻倍 |
| 存储与网络:沿用 → 分布式 + 全线万兆 | +10–16 万 | PB 级素材与并发读写 |
| 配电与机房:不改造 → 三相 + UPS + 机柜 + 降噪 | +15–22 万 | 功率密度上来后绕不开 |
| 工位终端与教学镜像 | +8–12 万 | 统一环境、断点续做 |
| 合计 | +78–105 万,中位约 90 万 | — |
看这张表就明白一件事:「差 90 万」里,只有一半左右是 GPU 的钱。 另外一半买的是「能跑得起来」的条件——电、场地、网络、终端。这也是为什么只比服务器单价,永远比不出结论。
漏得最多的是工位终端与网络。很多方案默认「学生用自己电脑连服务器」,但教学内容一旦涉及统一环境、统一镜像、断点续做,就得配云终端或瘦客户机,还要配套万兆到桌面或至少千兆聚合。这一块在 40 工位规模上通常要占 10–15%。
你自己验一条:把三份报价单的交付范围清单摊开并排看,只比总价没有意义。逐行核对「含不含配电改造、含不含终端、含不含存储扩容、含不含三年上门」。四项里有一项不含,这份报价就不能和其他家直接比。
别看照片,看五个字段。 一个能核验的实训室案例,一定能回答这五个问题;答不出的,通常只是一份设备清单。
案例来源:本节两处案例均来自站内公开项目页(链接见下),可自行打开核验;未使用任何未公开的客户数据。
| 字段 | 要看什么 | 为什么关键 |
|---|---|---|
| 规模 | 多少工位、几个班、每班多少人同时上机 | 决定这套方案能不能平移到你校 |
| 原始问题 | 原来怎么上课、卡在哪一步 | 没有痛点的案例是摆拍 |
| 方案 | 机型、台数、部署方式(共享推理还是分组独占) | 决定成本与运维方式 |
| 结果 | 开课门数、并发实测、上线周期、验收结论 | 可量化的才算结果 |
| 责任 | 谁验收的、过保后谁管 | 决定三年后还能不能用 |
这五条对任何一家供应商都成立:答得清楚的,案例是真的;只给照片和「某高校」三个字的,基本可以跳过。
站内有两类可公开的记录可以参考:一类是校内场景的,比如泰雅实验学校的智慧教学项目;另一类是高负载专业软件场景的,比如中望杯算力保障的现场记录——那一批联想开天信创工作站跑的是真实 CAD 负载,不是在跑分软件里得出的分数。
看这两类记录时,重点不是「用了什么设备」,而是「当时卡在什么地方、后来怎么解决的」。这个问题才是你校要复制的部分。
边界说清楚:这一节给的是判断方法,不是效果承诺。同一个方案平移到你校,结果取决于场地条件、课程设置和运维人力,不能直接外推。
谁建,看三条能不能给书面答复:授权链追不追得到原厂、交付半径是不是真的本地、验收兜底归谁。怎么验收,七项动作在装机当天跑完就算过。
三条判据具体是这样问的:
授权链能不能追到原厂。 要授权书编号,并自己去原厂官网的合作伙伴查询入口核一遍;同时问清这个项目有没有做项目报备、报备主体是谁。追不到原厂的「代理商」,售后是没有兜底的。
交付半径是不是真的本地。 要备件库地址、要本地工程师名单、要把到场时效写进合同,而不是听「华南有团队」这类没有落款的承诺。前置条件能不能提前讲清也是一条——比如AI 实训室机房供电改造这类问题,一开口就该知道要注意什么。
验收兜底归谁。 谁签字对性能负责、过保之后谁管、备件能供几年。这三问答不清,说明对方只打算把货送到。
三条都能给书面答复的,再谈价格。给不出的,价格再低也别签——出问题的时候,省下的钱不够赔一次停机。
参数层面还有一条硬规则要先守住。财政部、工业和信息化部印发的《通用服务器政府采购需求标准(2023 年版)》(财库〔2023〕33 号)里写明:标准中加「*」的指标必须纳入采购需求,并作为采购文件中的实质性要求。所以参数表要分两层——实质性要求层只放带「*」的与真正不可让步的项,评分项层放「更快的卡、更大的存储」,不同方案才都能投进来比,也不会被质疑指向性。
| 环节 | 通常由谁做 | 要提前问清的一句话 |
|---|---|---|
| 配电改造与回路 | 校方基建 / 电力施工方 | 改造停机的窗口谁来协调 |
| 机柜、上架、理线 | 设备供应商 | 含不含上架与理线工时 |
| 网络与终端 | 校方信息中心 / 供应商 | 万兆到桌面谁负责 |
| 教学软件与镜像 | 校方教务 / 供应商协助 | 适配不成功算谁的责任 |
这四处是最常见的「互相推」。自己组队还是找集成商,判据很实际:本校有能做配电协调、能做压测、能长期值守的工程师,可以自己组;三样缺一样,交给集成商更省事,因为出问题时只有一个责任主体。
满载 2 小时,用功率计读整机实际功耗,和配电容量对账
用 nvidia-smi 记录满载显存峰值,对比第一个数算出的单路显存
按你们定的并发数(示例 20 路)做压测,看首字延迟与吞吐
断网、断电各一次,验证恢复流程与 UPS 后备时长
装一遍教学要用的框架与 CUDA 版本,跑通一个真实实验
学生账号权限隔离:能不能互相看到对方的目录与进程
实训室的噪音与进风温度在满载状态下复测一次
验收最容易走过场的是第 1 项和第 7 项——只跑开机、只在空载测噪音。等上线才发现问题,责任就说不清了。这套动作与院校 AI 实训室算力配置参考里的核查逻辑一致,可以直接套用。
40 个工位的 AI 实训室大概要多少钱?
示例口径下 A 档约 30 万、B 档约 60 万、C 档约 120 万。差价的大头不在服务器,而在配电改造、存储网络与工位终端是否包含。具体金额要按你们的并发数、模型档位和现场条件重算。
为什么两台机器报价差这么多,是有人坑我吗?
多数情况不是。先核对交付范围清单里那四项——配电改造、工位终端、存储扩容、三年上门。四项里少一项,价格就能差出几十万。真要判断有没有坑,看第六节的案例五问。
学校机房只有 32A 插座,能上八卡服务器吗?
要看机器功耗。单相 32A 最多约 6.3kW,6kW 级八卡机勉强可行;10kW 级必须三相 32A 或两条独立单相回路。先测实际功耗,再决定改不改配电。
能不能先用云,等以后再买机器?
通识课、演示课可以先用云兜底;一旦涉及统一环境、数据不出校、断点续训和长期成本,本地更合适。判断点是「这门课一年要跑多少机时」——机时很少时,云更划算。
如果你已经有工位数和拟开课程,但不确定该落在哪一档,可以联系我们(400-0755-816),把「工位数、模型档位、现有配电容量」三个数说一下,我们回一版带交付范围清单的配置,你可以直接拿它和另外两家的报价单并排核。
2026-11-06
2026-11-06
2026-10-28
2026-10-27
2026-10-22
2026-10-22
2026-10-22
2026-10-22
2026-10-22
扫码关注