阿姆达尔定律(Amdahl's Law)

定义

阿姆达尔定律(Amdahl's Law)由 IBM 工程师 Gene Amdahl 于 1967 年提出:若程序中可并行部分占比为 P,使用 N 个处理器时的理论加速比为 1 / ((1-P) + P/N)。当 N 趋于无穷,加速比上限为 1/(1-P)。

含义

定律指出串行部分是并行化的根本瓶颈:即使 95% 的代码可完美并行,无限处理器下的加速比也不超过 20 倍。它提醒设计者优化重点应放在缩减串行片段(如锁竞争、串行 I/O、初始化)上,而非一味增加并行度。

与古斯塔夫森定律的关系

阿姆达尔定律假设问题规模固定(强扩展);古斯塔夫森定律则指出实际中问题规模常随算力增长,并行部分占比随之上升,前景不像阿姆达尔定律那样悲观。两者分别对应强扩展与弱扩展两种视角,并不矛盾。

应用

该定律广泛用于评估多核 CPU、GPU 加速与分布式系统的扩展性,也被引申到系统优化的一般场景:优化某一部分的整体收益受该部分占比限制。