参数高效微调 (PEFT)

定义

参数高效微调(Parameter-Efficient Fine-Tuning,PEFT)泛指在冻结预训练模型绝大部分权重的前提下,仅训练极少量(通常不足百分之一)新增或选定参数来完成任务适配的一类方法。

主要流派

常见方法包括:LoRA 及其变体(在权重旁路注入低秩矩阵);Adapter(在层间插入小型瓶颈网络);提示类方法如 Prompt Tuning、Prefix Tuning、P-Tuning(学习连续的软提示向量);以及只训练偏置项的 BitFit 等选择性微调。Hugging Face 的 PEFT 库把这些方法统一封装,是社区最常用的实现。

优点

显存与算力需求大幅下降;适配器文件极小,便于存储、分发与按需切换;冻结主干还能缓解灾难性遗忘。

局限

在与预训练分布差异极大的任务上,效果可能不及全参数微调;多种适配器叠加、合并时的相互干扰也是实践中的常见问题。PEFT 已成为大模型时代下游适配的默认起点。