AI 实训室怎么建才不花冤枉钱:40 个工位同样的课,30 万和 120 万差在哪

两间 AI 实训室,40 个工位,开同一门课,一间花 30 万,一间花 120 万——差 90 万,而学生上课的体验可能毫无区别。差的不是谁被坑了,是两家买的东西不在同一个交付范围:一间只买了服务器,另一间还买了电、存储、网络和 40 台终端。所以判断标准不是「哪家便宜」,而是「三个数定没定」:一个班跑几路模型、这一路电够不够、教室放不放得下。这三个数定不下来,报价差一倍也说不清差在哪。下面把这 90 万拆开算给你看。

7f704191cd822e81e8fee1760ff73262.png

AI 实训室怎么建,钱才不会白花?

顺序就三句:先把「建成」定死,再算三个数,最后才谈机型。 跳过前两步直接询价,钱一定花在没人用的地方。

第一步,把「建成」定成能验收的四条,而不是「设备到货」:

建成标准判定证据最常见的假建成
课能开出来排进课表,有指定教师、有课时设备装好了,没人会讲
学生能自己跑通学生独立完成一次完整实验并留存结果只有老师演示过
性能有据可查压测报告在档,含并发、显存峰值、满载功耗只有厂商的跑分截图
有人能长期维护明确值守人、故障响应路径、备件来源过保后无人接手

这四条不是为了严格,是为了防浪费。教育部等五部门 2026 年 4 月印发的《"人工智能+教育"行动计划》里专门写了一句「有效避免资源浪费和低水平重复建设」——这句话就是冲「设备到了、课开不出来」这种场面去的。

第二步算三个数(下面三节),第三步才是拿这三个数去定机型、配预算。

你现在就能自检一条:把这四条念给分管领导听,问他「这个项目打算用哪份材料证明第四条」。答不上来,说明项目还停在「买设备」,这时候报任何预算都会被打回来重做。

为什么 AI 实训室不能先买服务器?

因为决定配置的不是「买什么机器」,而是一个班同时有多少路模型在跑。 这个数没定,买什么都是猜。

先买服务器的典型结局是这样的:机器到了、剪了彩、排不进课表;或者机器装好了,才发现这一路配电只有单相 32A,八卡机跑不满。

而且顺序一错,返工是连锁的——先买设备再改配电,配电改完发现机柜位置不对,机柜挪完发现空调扛不住。每一次返工都是一笔没有预算的钱。

你可以现在就验一条:把拟开课程的教学大纲翻出来,数一下「同一节课里学生要同时操作模型的环节」有几个。这个数如果数不出来,说明采购需求还没到可以下单的程度。

配置怎么定?三个数锁死机型范围

先算三个数,再谈型号。 它们不是技术细节,而是硬边界:第一个数定显存与卡数,第二个数定功率上限,第三个数定形态(八卡还是双卡)。

第一个数:一个班要跑几路模型?

不是 40 路。实训室教学场景里真正同时在推理的,通常只有上机人数的一半上下——另一半在看课件、写报告、等结果。

但「一半」也不能拍脑袋,要看教学组织方式:全班同步跟着老师跑同一个实验,并发高、模型统一;各做各的项目,并发低、模型杂。

单路显存不是按模型文件大小算的,它由三块拼起来:权重量化体积(7B 模型 FP16 约 14GB、INT8 约 7GB、INT4 约 4GB)、KV cache(4K 上下文下 7B 通常 0.5–1.5GB)、框架与运行时预留(实际留 1–2GB 才稳)。

步骤算法代入(示例)
1 并发路数工位数 × 同时上机比例40 × 0.5 = 20 路
2 单路显存权重量化体积 + KV cache + 框架预留4 + 1.5 + 1.5 = 7 GB
3 总显存需求并发路数 × 单路显存 × 安全系数 1.220 × 7 × 1.2 = 168 GB
4 所需卡数总显存 ÷ 单卡显存168 ÷ 24G ≈ 7 张;168 ÷ 48G ≈ 4 张

最容易漏的是第 2 步的框架预留和第 3 步的安全系数。 漏掉这两项,算式会变成 20 × 5.5 = 110GB,看起来 5 张 24G 卡就够——实际一跑满就 OOM,而且是那种「老师演示时好的、学生自己跑就崩」的 OOM,最难查。

同样一门课,如果要求跑 32B 量化模型(INT4 单路约 20–24GB),算式变成 20 × 22 × 1.2 ≈ 528GB,需要 11 张 48G 卡。这就是很多学校「预算突然翻三倍」的真正原因——不是机器贵了,是模型档位换了。

课程形态建议模型档位单路显存(示例)40 工位的可行做法
AI 通识、prompt 与工具使用7B INT46–7 GB1 台 8 卡(24G×8)做共享推理,学生只连终端
模型微调入门(LoRA)7B–14B8–12 GB共享推理 + 分时微调,按组排队
RAG / 智能体项目14B–32B 量化20–24 GB两台 8 卡分组,或 8 卡 96G 单机
全班同时跑 32B 以上32B+24 GB 以上不建议按人头配,改分组 + 云端兜峰

八卡机的实际机型配置可以对照浪潮元脑 NF5468M7 八卡服务器这类产品页看,参数与盘位以原厂页面为准;本节算的是「要几张卡」,产品页给的是「这台机器装几个卡位」,两个数要一起对。

表里的显存是示例口径,不是实测值。判断方法很简单:让供应商在你指定的模型、上下文长度、并发数下跑一次压测,你用 nvidia-smi 看显存峰值。这一次压测的结果,就是实训室配置单上「GPU 数量」那一行唯一的依据。

第二个数:这路电够不够?

这是三个数里最容易翻车、也最费钱的一个。很多学校的实训室配电是按「电脑教室」设计的——单相插座回路,一台机器几百瓦。八卡机不是这个量级。

机型 / 卡型整机满载功耗口径与来源
8×H100(DGX 架构)约 10.2 kW(额定)Vertiv 智算中心基础设施白皮书
8×H100 实测满载约 10.5 kW行业报道,2026-09
8×A800约 6 kW行业讨论口径
8×4090约 4.4 kW行业讨论口径
8 卡中低功耗整机3.5–4 kW腾讯云开发者社区,2026-08

注意一个坑:厂商标称的「4×1600W」是电源额定功率,不是整机实际功耗。配电必须按实测峰值留余量。

步骤算法代入(示例 10 kW)
1 峰值功率 P整机实测满载功耗,不是铭牌额定值10 kW
2 单相回路电流I = P ÷ (U × cosφ)10000 ÷ (220 × 0.9) = 50.5 A
3 三相回路电流I = P ÷ (√3 × U × cosφ)10000 ÷ (1.732 × 380 × 0.9) = 16.9 A

两句话结论:单相 32A 插座最多带 32 × 220 × 0.9 ≈ 6.3 kW,一台 10kW 级八卡机接上去,跳闸是必然的;10kW 级要走三相 32A,或拆成两条独立单相回路。

这条你现在就能验:去看配电箱上空开的额定电流,再看拟放机器那一路是不是独立回路。如果那一路还接着空调和照明,先按「共用」算,余量再打七折。

UPS 后备 30 分钟的电池容量:10 kW × 0.5 h ÷ 0.9(逆变效率) ÷ 0.8(放电深度) ≈ 6.9 kWh。10kW 级八卡机要撑半小时,电池组得在 7kWh 量级往上。把电这一关算完,实训室能选的机型范围其实已经定掉一半——不是你想买哪台,而是这一路电允许你买哪台。

第三个数:教室放不放得下?

八卡 4U 整机重量通常在几十公斤级(含导轨与满配硬盘),单台不算重,问题是集中放。普通教学楼与办公楼的楼面活荷载设计值常见在 2.0–3.0 kN/m²(约 200–300 kg/m²),具体必须查你们那栋楼的图纸。

判断方法不是估算,是看三件事:机柜放在哪个位置(靠梁靠柱更稳)、是不是集中在一个小区域、有没有做设备基础。这一条只给方法,不给数字——每栋楼的结构设计值不一样,写死数字反而害人。

散热同理。教学楼的空调是按人算的,不是按机柜算的。一台 10kW 级八卡机,等于把一个 10kW 的电暖器关在房间里。噪音也一样:机架服务器满载时声压级通常在 65 dB(A) 以上(1 米处),放在教室隔壁就是投诉。

所以第三条边界是:实训室的八卡机不该进教室,该进有独立回风的机柜区。

你可以自己验一条:拿手机分贝仪 App 站在拟放机器的位置,让现有设备满载跑十分钟测一次基线;再看这个位置离最近的工位多远。距离小于 5 米、又没做隔断,就要提前想降噪方案。这一关过不了,机型就得从八卡退到双卡,配置单整个重写——所以场地要在下单前看,不是到货后看。

同样的课,为什么有人花 30 万有人花 120 万?

因为差价的大头不在服务器,在配电改造、存储网络和工位终端。 三档预算的构成摆在一起就看得清楚。

档位(示例口径,非报价)服务器存储与网络配电与机房工位终端适用前提
A|约 30 万1 台 8 卡(中端/上代卡,整机 ≤6kW)沿用现有不改造,走一条独立单相 32A40 台云终端/瘦客户机课程以通识、prompt、7B 级实验为主
B|约 60 万1 台 8 卡(当期主流)+ 1 台双卡微调机50–100TB 存储 + 万兆交换独立回路 + UPS(30 分钟)40 台终端有微调、RAG、智能体项目课
C|约 120 万2 台 8 卡(训练/推理分离)分布式存储 + 全线万兆三相配电改造 + 机柜 + 降噪 + UPS40 台终端科研与教学混用、要跑 32B 以上

划重点:三档报价的差额里,服务器通常只占 45–60%。所以同样是「40 个工位的 AI 实训室」,有人报 30 万、有人报 120 万,两边都不算骗人——它们不是同一个交付范围。比价前先确认交付范围,再比总价。

那 90 万具体差在哪

从 A 档到 C 档,示例口径下的增量大致是这样分布的:

增量项大致金额(示例口径)为什么涨
服务器:1 台中端 → 2 台主流+45–55 万训练/推理分离,卡数翻倍
存储与网络:沿用 → 分布式 + 全线万兆+10–16 万PB 级素材与并发读写
配电与机房:不改造 → 三相 + UPS + 机柜 + 降噪+15–22 万功率密度上来后绕不开
工位终端与教学镜像+8–12 万统一环境、断点续做
合计+78–105 万,中位约 90 万—

看这张表就明白一件事:「差 90 万」里,只有一半左右是 GPU 的钱。 另外一半买的是「能跑得起来」的条件——电、场地、网络、终端。这也是为什么只比服务器单价,永远比不出结论。

预算表里最容易漏的一项

漏得最多的是工位终端与网络。很多方案默认「学生用自己电脑连服务器」,但教学内容一旦涉及统一环境、统一镜像、断点续做,就得配云终端或瘦客户机,还要配套万兆到桌面或至少千兆聚合。这一块在 40 工位规模上通常要占 10–15%。

你自己验一条:把三份报价单的交付范围清单摊开并排看,只比总价没有意义。逐行核对「含不含配电改造、含不含终端、含不含存储扩容、含不含三年上门」。四项里有一项不含,这份报价就不能和其他家直接比。

别人是怎么建成的?怎么判断一个案例是真的?

别看照片,看五个字段。 一个能核验的实训室案例,一定能回答这五个问题;答不出的,通常只是一份设备清单。

案例来源:本节两处案例均来自站内公开项目页(链接见下),可自行打开核验;未使用任何未公开的客户数据。

字段要看什么为什么关键
规模多少工位、几个班、每班多少人同时上机决定这套方案能不能平移到你校
原始问题原来怎么上课、卡在哪一步没有痛点的案例是摆拍
方案机型、台数、部署方式(共享推理还是分组独占)决定成本与运维方式
结果开课门数、并发实测、上线周期、验收结论可量化的才算结果
责任谁验收的、过保后谁管决定三年后还能不能用

这五条对任何一家供应商都成立:答得清楚的,案例是真的;只给照片和「某高校」三个字的,基本可以跳过。

站内有两类可公开的记录可以参考:一类是校内场景的,比如泰雅实验学校的智慧教学项目;另一类是高负载专业软件场景的,比如中望杯算力保障的现场记录——那一批联想开天信创工作站跑的是真实 CAD 负载,不是在跑分软件里得出的分数。

看这两类记录时,重点不是「用了什么设备」,而是「当时卡在什么地方、后来怎么解决的」。这个问题才是你校要复制的部分。

边界说清楚:这一节给的是判断方法,不是效果承诺。同一个方案平移到你校,结果取决于场地条件、课程设置和运维人力,不能直接外推。

交给谁建、怎么验收?

谁建,看三条能不能给书面答复:授权链追不追得到原厂、交付半径是不是真的本地、验收兜底归谁。怎么验收,七项动作在装机当天跑完就算过。

三条判据具体是这样问的:

  • 授权链能不能追到原厂。 要授权书编号,并自己去原厂官网的合作伙伴查询入口核一遍;同时问清这个项目有没有做项目报备、报备主体是谁。追不到原厂的「代理商」,售后是没有兜底的。

  • 交付半径是不是真的本地。 要备件库地址、要本地工程师名单、要把到场时效写进合同,而不是听「华南有团队」这类没有落款的承诺。前置条件能不能提前讲清也是一条——比如AI 实训室机房供电改造这类问题,一开口就该知道要注意什么。

  • 验收兜底归谁。 谁签字对性能负责、过保之后谁管、备件能供几年。这三问答不清,说明对方只打算把货送到。

三条都能给书面答复的,再谈价格。给不出的,价格再低也别签——出问题的时候,省下的钱不够赔一次停机。

参数层面还有一条硬规则要先守住。财政部、工业和信息化部印发的《通用服务器政府采购需求标准(2023 年版)》(财库〔2023〕33 号)里写明:标准中加「*」的指标必须纳入采购需求,并作为采购文件中的实质性要求。所以参数表要分两层——实质性要求层只放带「*」的与真正不可让步的项,评分项层放「更快的卡、更大的存储」,不同方案才都能投进来比,也不会被质疑指向性。

责任边界要提前划四条线

环节通常由谁做要提前问清的一句话
配电改造与回路校方基建 / 电力施工方改造停机的窗口谁来协调
机柜、上架、理线设备供应商含不含上架与理线工时
网络与终端校方信息中心 / 供应商万兆到桌面谁负责
教学软件与镜像校方教务 / 供应商协助适配不成功算谁的责任

这四处是最常见的「互相推」。自己组队还是找集成商,判据很实际:本校有能做配电协调、能做压测、能长期值守的工程师,可以自己组;三样缺一样,交给集成商更省事,因为出问题时只有一个责任主体。

七项验收动作(装机当天就能做完)

  1. 满载 2 小时,用功率计读整机实际功耗,和配电容量对账

  2. 用 nvidia-smi 记录满载显存峰值,对比第一个数算出的单路显存

  3. 按你们定的并发数(示例 20 路)做压测,看首字延迟与吞吐

  4. 断网、断电各一次,验证恢复流程与 UPS 后备时长

  5. 装一遍教学要用的框架与 CUDA 版本,跑通一个真实实验

  6. 学生账号权限隔离:能不能互相看到对方的目录与进程

  7. 实训室的噪音与进风温度在满载状态下复测一次

验收最容易走过场的是第 1 项和第 7 项——只跑开机、只在空载测噪音。等上线才发现问题,责任就说不清了。这套动作与院校 AI 实训室算力配置参考里的核查逻辑一致,可以直接套用。

常见问题

40 个工位的 AI 实训室大概要多少钱?
示例口径下 A 档约 30 万、B 档约 60 万、C 档约 120 万。差价的大头不在服务器,而在配电改造、存储网络与工位终端是否包含。具体金额要按你们的并发数、模型档位和现场条件重算。

为什么两台机器报价差这么多,是有人坑我吗?
多数情况不是。先核对交付范围清单里那四项——配电改造、工位终端、存储扩容、三年上门。四项里少一项,价格就能差出几十万。真要判断有没有坑,看第六节的案例五问。

学校机房只有 32A 插座,能上八卡服务器吗?
要看机器功耗。单相 32A 最多约 6.3kW,6kW 级八卡机勉强可行;10kW 级必须三相 32A 或两条独立单相回路。先测实际功耗,再决定改不改配电。

能不能先用云,等以后再买机器?
通识课、演示课可以先用云兜底;一旦涉及统一环境、数据不出校、断点续训和长期成本,本地更合适。判断点是「这门课一年要跑多少机时」——机时很少时,云更划算。


如果你已经有工位数和拟开课程,但不确定该落在哪一档,可以联系我们(400-0755-816),把「工位数、模型档位、现有配电容量」三个数说一下,我们回一版带交付范围清单的配置,你可以直接拿它和另外两家的报价单并排核。


邮箱:IT@bencom.cn

地址: 广东省惠州市惠城区天安数码城二期14栋10层

社交媒体:

二维码

扫码关注

针对您的问题

针对您的问题立即来一次讨论?

获得BENCOM技术专家的免费咨询,挖掘企业的技术潜力。

在线咨询 获取方案