提示微调 (Prompt Tuning)

定义

提示微调(Prompt Tuning)是一种参数高效微调方法:冻结预训练模型全部权重,只在输入嵌入序列前拼接一段可训练的连续向量(软提示,soft prompt),通过梯度下降学习这段向量来引导模型完成特定任务。

原理

与人工编写的离散提示词不同,软提示不对应任何真实词元,是嵌入空间中的自由参数,表达能力更强。Google 研究者在论文《The Power of Scale for Parameter-Efficient Prompt Tuning》中表明,随着模型规模增大,仅调软提示的效果逐渐逼近全参数微调。相关变体包括在每一层注意力前都注入可训练前缀的 Prefix Tuning,以及清华提出的 P-Tuning 系列。

优缺点

优点是每个任务只需存储几千到几万个参数,切换任务成本极低,天然适合多任务服务;缺点是训练收敛较慢、对初始化敏感,在中小模型上效果明显弱于 LoRA 等方法,因此实践中 LoRA 更为流行。