HBM 是什么
HBM（High Bandwidth Memory，高带宽内存）是一种为高性能计算场景设计的高带宽、低功耗三维堆叠内存技术，常用于GPU、AI加速卡、FPGA和高性能CPU中。
一、HBM 是什么？
HBM 本质上是：
👉 把多个 DRAM 芯片垂直堆叠（3D堆叠），通过硅中介层（Interposer）与处理器并排封装在一起的一种高带宽内存方案。
与传统 DDR 内存不同，HBM 不是插在主板上的条形内存，而是和处理器封装在同一个封装体内。
二、HBM 的核心技术
1️⃣ 3D 堆叠（TSV 技术）
HBM 使用 TSV（Through-Silicon Via，硅通孔） 技术，把多个 DRAM die 垂直堆叠起来：
CPU/GPU
│
Interposer（硅中介层）
│
Logic Die
│
HBM Stack（多层DRAM）
- 每一“堆”HBM一般包含 4~8 层 DRAM
- 通过 TSV 垂直连通
- 大幅提升数据并行度
2️⃣ 超宽总线
传统 DDR：
- 64bit 总线
HBM：
- 单堆可达 1024bit 总线宽度
这就是它带宽极高的原因：
带宽 = 位宽 × 频率
HBM 走的是：
✅ 低频率 + 超宽总线 而不是 ❌ 高频率 + 窄总线（DDR的方式）
因此功耗更低。
三、HBM 与 DDR 的对比
| 特性 | DDR5 | HBM |
|---|---|---|
| 封装方式 | 插在主板 | 与芯片同封装 |
| 总线宽度 | 64bit | 1024bit |
| 带宽 | 数十 GB/s | 数百~上 TB/s |
| 功耗 | 相对较高 | 更低 |
| 成本 | 低 | 很高 |
| 容量 | 大 | 较小 |
四、HBM 发展版本
🔹 HBM1
- 第一代标准
- 带宽 ~128GB/s
🔹 HBM2 / HBM2E
- 广泛应用于高端 GPU
- 带宽提升到 400~460GB/s
🔹 HBM3
- 带宽达到 800GB/s 以上
🔹 HBM3E（最新一代）
- 单堆带宽突破 1TB/s
五、哪些芯片在用 HBM？
🎮 GPU
- NVIDIA 的 A100、H100
- AMD 的 Instinct 系列
🤖 AI 加速芯片
- Google TPU
- Intel Gaudi
🧠 高性能 CPU
- Intel Xeon Max（带HBM版本）
- AMD MI300
六、为什么 AI 时代离不开 HBM？
AI 训练的瓶颈不在算力，而在：
❗数据搬运速度（Memory Bandwidth）
GPU 计算速度极快，但如果内存带宽跟不上，就会：
算力空转（算子等数据）
HBM 解决的是：
🚀 数据喂不饱 GPU 的问题
七、HBM 的缺点
- 成本极高
- 封装复杂（2.5D封装）
- 良率难控制
- 容量不如DDR灵活
留下评论