2025年中国AIDC产业发展白皮书:智算中心如何撑起大模型时代的蓝图?
来源: 头豹研究院(LeadLeo)
日期: 2025年7月
URL: https://pdf.dfcfw.com/pdf/H3_AP202507101706460530_1.pdf
性质: 商业研究白皮书
核心发现
| 维度 |
关键发现 |
| 市场导向 |
从性能为王转向业务场景适配:金融/医疗用70B,文档用7B,边缘用1.5B |
| 竞争格局 |
差异化竞争:百度"云智一体"、阿里"MaaS开源生态"、火山"应用反哺技术" |
| 算力结构 |
2023年全球智算力达875EFLOPS,首次超基础算力;中美合计超七成 |
| 制冷革新 |
GPU功耗激增,液冷成PUE<1.10核心路径,传统风冷进入结构性瓶颈 |
GPU芯片演进
| 架构 |
型号 |
FP16算力 |
显存带宽 |
NVLink带宽 |
功耗 |
| Ampere |
A100 |
312T |
2TB/s |
600GB/s |
400W |
| Hopper |
H100 |
1P |
3.35TB/s |
900GB/s |
700W |
| Hopper |
H200 |
1P |
4.8TB/s |
900GB/s |
700W |
| Blackwell |
B100 |
1.75P |
8TB/s |
1.8TB/s |
1,000W |
| Blackwell |
B200 |
2.25P |
8TB/s |
1.8TB/s |
1,200W |
| Blackwell |
GB200 |
5P |
16TB/s |
3.6TB/s |
2,700W |
服务器功耗趋势
| 型号 |
GPU算力 |
GPU功耗 |
总功耗 |
| HGX A100 |
2.4P |
3.2kW |
6.5kW |
| HGX H100 |
8P |
5.6kW |
10.2kW |
| HGX B100 |
14P |
5.6kW |
10.2kW |
| HGX B200 |
18P |
8kW |
14.3kW |
结论: 单机柜功率密度急剧攀升,液冷已成必然选择
千卡集群(H100)前期投入
| 组成 |
费用 |
| 算力设备 |
约3亿元 |
| 网络设备 |
约2,500万元 |
| 存储/安全 |
约1,000万元 |
| 平台软件/液冷改造 |
约1,000万元 |
| 总计 |
约3.5亿元 |
年运营支出: 约5,000万元
能耗结构
制冷技术PUE对比
| 冷却方式 |
PUE范围 |
适用场景 |
| 液冷(相变浸没式) |
1.00 |
>30kW/机柜,高性能场景 |
| 液冷(冷板式) |
~1.10 |
高密度智算中心 |
| 自然冷(间接蒸发冷) |
1.10-1.20 |
北方气候区 |
| 冷冻水系统 |
1.30+ |
传统数据中心 |
| 风冷 |
1.40+ |
面临淘汰 |
大模型训练资源消耗
| 模型 |
参数量 |
GPU规模 |
训练时长 |
| LLaMA-1 |
65.2B |
2,028块 |
90天 |
| LLaMA-3 |
405B |
16,384块H100 |
54天 |
关键: 预训练消耗90-99%总算力,微调仅占1-10%
PD分离技术
| 阶段 |
特征 |
资源瓶颈 |
优化策略 |
| Prefill |
并行处理所有输入token |
GPU计算能力 |
批处理、张量并行 |
| Decode |
逐个自回归生成 |
内存带宽和延迟 |
KV缓存、Flash Attention |
关键发现: Prefill与Decode存在高达137倍速度差距,Decode耗时占99%以上
中国厂商差异化路线
| 厂商 |
战略定位 |
核心路径 |
| 百度智能云 |
"云智一体" |
全栈自研,B端标杆案例 |
| 阿里云 |
MaaS基础设施 |
公有云标准化服务 |
| 火山引擎 |
应用反哺技术 |
豆包先服务抖音/头条,再输出B端 |
| 科大讯飞 |
行业垂直整合 |
教育/医疗/司法/政务 |
| DeepSeek |
非对称竞争 |
极致性价比,开源顶尖模型 |
技术备注
- 本白皮书数据详实,GPU/服务器功耗演进数据极具参考价值
- GB200 NVL72整机柜方案(2,700W功耗)对机场智算中心选址和供配电设计有直接指导意义
- "千卡集群3.5亿元"投入数据可作为机场项目预算参考基准