HBM 高带宽内存

简介

HBM(High Bandwidth Memory,高带宽内存)是一种通过三维堆叠技术实现超高带宽的新型动态内存。它专为高性能计算、图形处理和人工智能等对内存带宽极度渴求的场景设计,是当前 AI 加速器的关键配套技术。

技术原理

HBM 将多颗 DRAM 芯片垂直堆叠,并通过硅通孔(TSV)技术实现层间互连,再借助硅中介层(Interposer)与处理器近距离封装在一起。

这种结构提供了极宽的数据接口位宽和很短的传输路径,使得 HBM 在带宽和能效上远超传统平面布置的 DDR 内存,同时显著节省了占用面积。

特点

• 带宽极高,数据吞吐能力强。
• 位宽极宽,功耗与面积效率优。
• 制造工艺复杂,成本较高。

应用

HBM 被广泛用于 GPU 加速卡、AI 训练芯片、高端 FPGA 和超级计算机,为大模型训练等高强度计算提供充足的内存带宽支撑。

发展

HBM 已从 HBM2、HBM2E 演进到 HBM3 及更新世代,堆叠层数与单引脚速率持续提升,成为 AI 算力竞争中的关键瓶颈资源。