脉动阵列(Systolic Array)

定义

脉动阵列(Systolic Array)是一种并行计算硬件结构:大量简单处理单元(PE)排成规则网格,数据像心脏泵血一样按节拍在相邻单元间流动,每个单元对流经的数据执行乘累加等固定运算。该概念由孔祥重(H. T. Kung)与 Charles Leiserson 于 1970 年代末提出。

原理

以矩阵乘法为例:输入矩阵的行与列分别从阵列两侧按节拍推入,部分积在单元间累加传递,结果从另一侧流出。数据一次加载后在阵列内被多次复用,几乎所有访存都发生在相邻单元之间,从而以极低的控制与访存开销达到很高的运算密度和能效。

应用

脉动阵列提出后长期停留在学术与专用信号处理领域,2016 年谷歌公开 TPU 架构后重获产业界关注——TPU 的核心矩阵乘单元正是脉动阵列。此后众多 AI 加速器(NPU)采用类似结构,与 GPU 的 SIMT 众核路线形成对照。

局限

结构高度专用,适合稠密规则运算(如 GEMM、卷积),面对稀疏、分支多变的负载灵活性不足。