从“建算力”到“用算力”。
每投 100 块建算力,70 块在空转——1000P 的盘子,真正在干活的只有 150P。
到 2026 年 6 月,全国在用智算中心超过 500 个,智能算力总规模 2185 EFLOPS,居全球第二。但同期:2025 年智算总供给约 38 亿卡时,实际用掉 14 亿卡时。
不是需求不足——同期高端卡租金 5.5—6 万元/月,交付排到 2027 年上半年。这是结构错配:最缺的卡买不到,没人要的卡堆成山。
五处算力五套账号,没有统一标识。盘点靠 Excel,口径靠打电话。集团问一句“还剩多少张可用的 A100”,一周答不上来。
异构迁移 2—8 人周。CUDA 之外,CANN、MagicMind、DTK、MUSA 各有一套软件栈,同一份推理代码要改四遍。
没有调度策略,全堆在最近那台机器上。1ms 圈里跑训练,20ms 圈里扛实时视频——位置全放反了。
这六份文件合起来只说一件事:新建要让位于存量盘活,算力要变成可交易的商品。
| 文件 | 时间 | 关键条款(对本方案的意义) |
|---|---|---|
| 工信部联通信〔2023〕180 号 《算力基础设施高质量发展行动计划》 | 2023-10-08 六部门 | 2025 年算力超 300 EFLOPS、智能算力占比 35%;整体上架率低于 50% 的地区,规划新建项目应加强论证——盘活存量成了新建的通行证 |
| 发改数据〔2023〕1779 号 《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》 | 2023-12-25 五部门 | 1ms 城市 / 5ms 区域 / 20ms 跨枢纽三个时延圈;盘活存量算力资源;探索异属异构异地并网调度;枢纽外原则上不得新建大型及超大型数据中心 |
| 发改环资〔2024〕970 号 《数据中心绿色低碳发展专项行动计划》 | 2024-07-23 四部门 | 2025 年底整体上架率 ≥60%、平均 PUE <1.5;新建大型 PUE ≤1.25、枢纽节点 ≤1.2、绿电 >80%;能效不达标执行阶梯电价、能耗等量或减量置换 |
| 工信部信管〔2025〕119 号 《算力互联互通行动计划》 | 2025-05-21 | 2026 年建成标准、标识、规则体系;2028 年基本实现全国公共算力标准化互联;算力像水、电一样便捷使用 |
| 国发〔2025〕11 号 《国务院关于深入实施“人工智能+”行动的意见》 | 2025-08-21 | 2027 年智能终端、智能体普及率 >70%,2030 年 >90%;明确“提升城市运行智能化水平”与基础设施安全能力建设 |
| 《关于组织开展国家算力互联互通节点建设工作的通知》 | 2026-01-27 工信部办公厅 | 1 个国家节点 + M 个区域 + N 个行业;每省仅 1 个区域节点;必建算力资源汇聚、算力选择、标识管理、运行监测、安全保障;统一标识、统一标准、统一规则 |
标准依据:GB/T 43331-2023《互联网数据中心(IDC)技术和分级要求》(2024-06-01 实施,含算力算效能力域)、GB/T 44463-2024(IDC 总体技术要求)、YD/T 2441-2025《算力中心技术及分级分类要求》(2025-11-01 实施)、GB 50174-2017、GB/T 22239-2019。
1 个国家节点:统一标识、统一标准、统一规则。
M 个区域节点:每省仅 1 个。
N 个行业节点:每行业原则上 1 个,接入区域节点。
申报截止 2026-04-01;建设主体注册资金不低于 5,000 万元,运营主体须持电信业务经营许可。
算力互联网服务中心 · 算力资源汇聚 · 算力选择 · 标识管理 · 运行监测 · 安全保障。
这一条把“算力平台”从信息化项目变成了基础设施项目——预算口径、立项方式、验收主体全都不一样。
为什么不用“建成多少 PFLOPS”?因为那个数字只证明买了多少,不证明用了多少。ε 可查、可考核、不可辩解。
从“决定要算力”到“卡真的在满负荷跑”,中间有四段。四段是串联,不是并联——任何一段卡住,整体就卡住。
| 段 | 现状 | 目标 | 手段 | 压缩 | 责任 |
|---|---|---|---|---|---|
| c1 立项 | 90—180 天 | 15—30 天 | 需求清单前置、算力券、年度框架预算 | 4—6× | 需求方+财政 |
| c2 上架 | 120—240 天 | 15—45 天 | 存量机柜先满足、电力预申请、模块化机房 | 5—8× | 基建+电力 |
| c3 纳管 | 30—90 天 | 3—7 天 | 标准化接入包、设备插件、自动发现 | 10—20× | 信息中心 |
| c4 满负荷 | 60—120 天 | 15—30 天 | 模型仓库、推理网关、一键部署 | 3—5× | 业务+平台 |
| C 合计 | 300—540 天 | 48—112 天 | 四段分别挂部门,c3 最快最便宜,第一步做它 | 5—7× | — |
行业经验参考值,实际成效以试点实测为准。
“感”不是把设备接进监控大屏,是把卡变成可分配、可计量的资源。四层里,L3 和 L4 才是钱和活。
| 层 | 纳什么 | 靠什么技术 | 行业完成度 |
|---|---|---|---|
| L1 设备层 | 硬件状态、温度、功耗、故障 | Redfish/IPMI/SNMP | 约 90% |
| L2 资源层 | 卡、显存怎么分、怎么切 | K8s device plugin、MIG、vGPU | 约 60% |
| L3 服务层 | 模型服务、推理 API、版本 | 推理网关、模型仓库 | 约 25% |
| L4 业务层 | 谁在用、花了多少、该收多少 | 计量计费、成本分摊 | 约 10% |
存量纳管七成阻力不是技术,是资产归属。解法:资产不划转、优先使用权、闲时收益 7:3。
纳管靠三个接口标准,不是靠一个中间件:Redfish 取硬件状态(带外)、DCGM 取卡级指标(温度、功耗、XID)、Prometheus 统一采集与告警。
“通”不是买交换机。是把任务放到该去的地方,并且让网络不偷偷吃掉 40% 的性能。
工业控制、实时视频、金融交易。
放错地方,业务直接报警。
城市 AI 推理、政务问答、交通调度。
城市级推理的主战场。
模型训练、离线批处理、冷数据。
可以远,不能频繁搬。
这是全篇最省钱的一段:同样的卡,只换推理引擎,吞吐差 10 倍。
同一集群里排队、抢占、优先级。Volcano、Kueue
多集群统一视图、统一配额。Karmada、多集群联邦
不同卡型按精度、显存、互联打分。卡型画像 + 打分器
跨机房、跨地域,按时延和电价挑位置。并网调度、算电协同
连续批处理 5—20×(零精度损失)→ PagedAttention 2—4× → INT8 量化 2—4×(损失低于 1%)→ 模型蒸馏 3—10× → 算子融合 1.3—2×。
不做跨架构训练承诺;不做无上限超卖;不做没有计费的共享;不做没有监控的直连。
顺序反了必失败。一上来做交易,会被当成“要收我们的钱”。第一个项目的作用不是产生价值,是建立信任。
| 号 | 场景 | 周期 | 阻力 | 为什么排这个位置 |
|---|---|---|---|---|
| ① | 异构算力统一纳管 | 3—6 月 | 最低 | 唯一不改变任何人利益的活儿 |
| ② | 城市视频分析池化 | 3—6 月 | 低 | 唯一“省下的钱当月看得见” |
| ③ | AI 推理网关与 MaaS | 3—6 月 | 低 | 模型只加载一份,版本只有一个 |
| ④ | 计量计费与运营 | 6—9 月 | 中 | 开始动钱,各部门会问凭什么 |
| ⑤ | 低空调度与算电协同 | 6—12 月 | 中高 | 动基建和电力,要过设备处 |
| ⑥ | 工业控制边缘算力 | 9—12 月 | 高 | 进车间,要过安全和生产两关 |
| ⑦ | 跨域并网与交易 | 12—18 月 | 最高 | 动钱动资质,最后做 |
这四件事的共同点:都不是“买卡”能解决的,都是“把已有的卡用对地方”才能解决的。
训练要极致互联、集中大集群、一跑几天;推理要高并发、低时延、随时扩缩。把训练集群拿去扛政务问答,是最常见的浪费。
城市级推理应该布在 5ms 圈:模型预置在本地、请求不出市、按部门计量。一个 7B 模型服务 40 个部门,比 40 个部门各建一套省 80% 的卡。
硬实时<1ms 不能虚拟化,必须在 PLC、实时内核或端侧;软实时 10—100ms 可放边缘服务器;非实时>1s 才上云。
判断标准只有一句:失败会不会伤人、毁设备?会,就不能上云。三条路线:TSN <100μs(新建产线)、5G URLLC 5—20ms(AGV)、边缘实时内核 <50μs(存量改造)。
很多人把低空调度当节能项目卖,卖不动。因为 PUE 从 1.45 降到 1.25,一年只省 80 万元。真正硬的是另外两笔:避免阶梯电价加价 89 万元,以及同容量多装 16% 机柜。
| 动作 | 投入 | PUE 改善 | 备注 |
|---|---|---|---|
| 冷通道封闭 + 盲板 | 20—50 万 | 0.05—0.10 | 性价比第一 |
| 送风温度 18→24℃ | 0(改设定) | 0.03—0.06 | 零投入,很多机房不敢改 |
| 变频改造 | 100—300 万 | 0.05—0.08 | 风机、水泵 |
| AI 群控 | 150—400 万 | 0.04—0.08 | 真实效果 8%—15% 制冷能耗下降 |
| 自然冷却 | 200—500 万 | 0.10—0.15 | 北方适用 |
| 液冷改造 | 800—2,000 万 | 0.15—0.25 | 单柜 >15kW 才划算 |
不要相信“AI 节能 40%”。公开可复现的效果是制冷能耗下降 8%—15%,折到 PUE 上就是 0.04—0.08。
行业经验参考值,实际成效以试点实测为准。算法与口径全部可复算。
| 账 | 算法 | 结论 |
|---|---|---|
| 空转账 (避免投资) | 7,261 万 ÷ 150P = 48.4 万元/P/年;到 45% 后 7,261 万 ÷ 450P = 16.1 万元/P/年 | 单位成本降 3 倍;等效避免新增投资 7,500 万元(300P×25 万元/P)——不进现金流 |
| 电力账 | PUE 1.45→1.25:0.2MW×8,760×0.7×0.65 = 80 万元/年;避免阶梯电价加价 89 万元/年 | 169 万元/年;另有扩容空间,同容量多装 16% 机柜 |
| 重复建设账 | 年算力投资 2 亿元 × 分散采购溢价 15% | 3,000 万元/年 —— 最大一笔,但要采购权集中才拿得到 |
| 视频池化账 | 3 万路取 20% 实时=6,000 路;150—170 张卡 5 套平台 → 90—110 张卡 1 套平台 | 一次性 1,100 万(摊 220 万/年)+年运维省 400 万元 |
先说三档钱,再说四种不该做的项目。最后那部分,比前面所有内容都值钱。
| 档 | 内容 | 投资 | ε | 回收期 |
|---|---|---|---|---|
| 轻 | 纳管 + 监控 + 标识 + 视频池化 + 计量 + 50 个模型 | 3,000—5,000 万 | 15→30% | 6—8 年 |
| 中 | + 异构调度 + MaaS + 低空调度 + 工业边缘 + 并网接口 + 200 个模型 | 1.2—2.0 亿 | 15→45% | 4.5—5.5 年 |
| 重 | + 万卡优化 + 跨域交易 + 城市推理网络 + 液冷改造 | 3—5 亿 | 15→60% | 9—12 年 |
推荐中档。中档 1.5 亿元拆分:异构纳管平台 3,000(20%)/推理网关 MaaS 3,500(23%)/视频池化 2,800(19%)/异构调度联邦 2,200(15%)/低空调度 1,500(10%)/计量计费 1,200(8%)/安全等保 800(5%)。不含买卡的钱。
10 个部门填不出“模型/并发/时延/卡时”四项的超过 3 个,买了就是晒太阳。
报装容量 × 0.8 低于现有 IT 负载。设备到货也上不了架,折价最快的就是这种。
目标函数错了,技术再好也会被扭曲。这种情况我们不接方案,只接集成。
半年后故障率飙升,一年后没人敢升级,两年后变成“不能碰的老系统”。