微调 Fine-tuning

微调（Fine-tuning）是迁移学习中的常用方法，指使用新的任务数据继续训练预训练模型，使其更好地适应特定领域、任务或输出要求。

概述

预训练模型通常已从大规模数据中学习到较通用的知识和特征，但未必能直接满足医疗文本分类、客服问答、代码生成等具体需求。微调以这些已有能力为起点，通过规模相对有限的目标数据调整模型参数，通常比从头训练模型更节省数据、时间与计算资源。

训练时可以更新整个神经网络，也可以只更新部分层。未参与更新的层会被“冻结”，即在反向传播过程中保持原有权重不变。选择哪种方式，取决于任务难度、数据规模、算力条件以及对模型能力保持程度的要求。

主要特点

• 利用预训练能力：继承模型已有知识，降低新任务的训练门槛。
• 面向具体需求：可用于分类、抽取、问答、生成和风格适配等任务。
• 训练范围灵活：既可进行全参数微调，也可冻结部分网络层。
• 支持参数高效方法：可加入适配器等少量可训练参数，在保持主体权重不变的情况下完成调整。

常见方式

全参数微调会更新模型的大部分或全部权重，适应能力较强，但资源消耗通常更高。部分层微调只训练与目标任务关系密切的层。参数高效微调则通过适配器、低秩更新等方式减少需要训练和保存的参数，更适合大型模型及多任务部署。

常见问题

问：微调和从头训练有什么区别？答：从头训练需要随机初始化并学习全部能力，微调则建立在预训练模型之上，通常所需数据和计算资源更少。

问：微调一定能提高效果吗？答：不一定。数据质量差、样本偏差明显或训练设置不当，都可能造成过拟合、能力退化或输出偏差。

问：微调与提示词工程相同吗？答：不同。提示词工程主要改变输入指令，不更新模型权重；微调会通过训练改变模型参数或附加模块的参数。