107 lines
3.7 KiB
Markdown
107 lines
3.7 KiB
Markdown
# 2025年中国AIDC产业发展白皮书：智算中心如何撑起大模型时代的蓝图？
|
||
|
||
**来源**: 头豹研究院（LeadLeo）
|
||
**日期**: 2025年7月
|
||
**URL**: https://pdf.dfcfw.com/pdf/H3_AP202507101706460530_1.pdf
|
||
**性质**: 商业研究白皮书
|
||
|
||
---
|
||
|
||
## 核心发现
|
||
|
||
| 维度 | 关键发现 |
|
||
|------|----------|
|
||
| 市场导向 | 从性能为王转向业务场景适配：金融/医疗用70B，文档用7B，边缘用1.5B |
|
||
| 竞争格局 | 差异化竞争：百度"云智一体"、阿里"MaaS开源生态"、火山"应用反哺技术" |
|
||
| 算力结构 | 2023年全球智算力达875EFLOPS，首次超基础算力；中美合计超七成 |
|
||
| 制冷革新 | GPU功耗激增，液冷成PUE<1.10核心路径，传统风冷进入结构性瓶颈 |
|
||
|
||
## GPU芯片演进
|
||
|
||
| 架构 | 型号 | FP16算力 | 显存带宽 | NVLink带宽 | 功耗 |
|
||
|------|------|----------|----------|------------|------|
|
||
| Ampere | A100 | 312T | 2TB/s | 600GB/s | 400W |
|
||
| Hopper | H100 | 1P | 3.35TB/s | 900GB/s | 700W |
|
||
| Hopper | H200 | 1P | 4.8TB/s | 900GB/s | 700W |
|
||
| Blackwell | B100 | 1.75P | 8TB/s | 1.8TB/s | 1,000W |
|
||
| Blackwell | B200 | 2.25P | 8TB/s | 1.8TB/s | 1,200W |
|
||
| Blackwell | **GB200** | **5P** | **16TB/s** | **3.6TB/s** | **2,700W** |
|
||
|
||
## 服务器功耗趋势
|
||
|
||
| 型号 | GPU算力 | GPU功耗 | 总功耗 |
|
||
|------|---------|---------|--------|
|
||
| HGX A100 | 2.4P | 3.2kW | 6.5kW |
|
||
| HGX H100 | 8P | 5.6kW | 10.2kW |
|
||
| HGX B100 | 14P | 5.6kW | 10.2kW |
|
||
| HGX B200 | 18P | 8kW | **14.3kW** |
|
||
|
||
**结论**: 单机柜功率密度急剧攀升，液冷已成必然选择
|
||
|
||
## 千卡集群(H100)前期投入
|
||
|
||
| 组成 | 费用 |
|
||
|------|------|
|
||
| 算力设备 | 约3亿元 |
|
||
| 网络设备 | 约2,500万元 |
|
||
| 存储/安全 | 约1,000万元 |
|
||
| 平台软件/液冷改造 | 约1,000万元 |
|
||
| **总计** | **约3.5亿元** |
|
||
|
||
**年运营支出**: 约5,000万元
|
||
|
||
## 能耗结构
|
||
|
||
```
|
||
IT设备: 67%
|
||
制冷系统: 27%
|
||
供电系统: 5%
|
||
照明及其他: 1%
|
||
```
|
||
|
||
## 制冷技术PUE对比
|
||
|
||
| 冷却方式 | PUE范围 | 适用场景 |
|
||
|----------|---------|----------|
|
||
| **液冷(相变浸没式)** | 1.00 | >30kW/机柜，高性能场景 |
|
||
| **液冷(冷板式)** | ~1.10 | 高密度智算中心 |
|
||
| **自然冷(间接蒸发冷)** | 1.10-1.20 | 北方气候区 |
|
||
| **冷冻水系统** | 1.30+ | 传统数据中心 |
|
||
| **风冷** | 1.40+ | 面临淘汰 |
|
||
|
||
## 大模型训练资源消耗
|
||
|
||
| 模型 | 参数量 | GPU规模 | 训练时长 |
|
||
|------|--------|---------|----------|
|
||
| LLaMA-1 | 65.2B | 2,028块 | 90天 |
|
||
| LLaMA-3 | 405B | 16,384块H100 | 54天 |
|
||
|
||
**关键**: 预训练消耗90-99%总算力，微调仅占1-10%
|
||
|
||
## PD分离技术
|
||
|
||
| 阶段 | 特征 | 资源瓶颈 | 优化策略 |
|
||
|------|------|----------|----------|
|
||
| **Prefill** | 并行处理所有输入token | GPU计算能力 | 批处理、张量并行 |
|
||
| **Decode** | 逐个自回归生成 | 内存带宽和延迟 | KV缓存、Flash Attention |
|
||
|
||
**关键发现**: Prefill与Decode存在高达**137倍**速度差距，Decode耗时占99%以上
|
||
|
||
## 中国厂商差异化路线
|
||
|
||
| 厂商 | 战略定位 | 核心路径 |
|
||
|------|----------|----------|
|
||
| 百度智能云 | "云智一体" | 全栈自研，B端标杆案例 |
|
||
| 阿里云 | MaaS基础设施 | 公有云标准化服务 |
|
||
| 火山引擎 | 应用反哺技术 | 豆包先服务抖音/头条，再输出B端 |
|
||
| 科大讯飞 | 行业垂直整合 | 教育/医疗/司法/政务 |
|
||
| DeepSeek | 非对称竞争 | 极致性价比，开源顶尖模型 |
|
||
|
||
---
|
||
|
||
## 技术备注
|
||
|
||
- 本白皮书数据详实，GPU/服务器功耗演进数据极具参考价值
|
||
- GB200 NVL72整机柜方案（2,700W功耗）对机场智算中心选址和供配电设计有直接指导意义
|
||
- "千卡集群3.5亿元"投入数据可作为机场项目预算参考基准
|