一致性模型 (Consistency Models)

一致性模型(Consistency Models)是2023年提出的一类生成模型,核心思想是学习一个函数,使概率流常微分方程轨迹上的任意点都能被直接映射回同一个数据原点,从而实现单步或少步采样。

概述

传统扩散模型生成一张图往往需要几十甚至上百步迭代去噪,速度慢。一致性模型让网络对同一条轨迹上不同噪声水平的输入,输出保持一致的结果,即都指向轨迹终点(干净数据)。这样只需一次前向即可直接从噪声得到样本。

核心原理

• 自一致性约束:同一轨迹上相邻两点经网络映射后应输出一致,以此定义训练目标。
• 两种训练方式:既可从预训练扩散模型蒸馏,也可从零开始独立训练。
• 单步生成:训练完成后一步即可采样,也可用少数几步换取更高质量。
• 边界条件:在噪声为零处约束网络输出等于输入,保证映射自洽。

应用场景

一致性模型及其后续的潜在一致性模型被广泛用于加速文生图,把原本数十步的生成压缩到一到四步,适合实时创作、交互式绘图和端侧部署。它也启发了扩散模型的诸多快速采样方法。

常见问题

问:一致性模型和扩散模型是竞争关系吗?答:更多是互补。它常从扩散模型蒸馏而来,用极少步数逼近扩散模型的质量。

问:单步生成质量会明显下降吗?答:相比多步扩散会略有损失,但增加到两到四步后差距通常很小,速度收益却很大。