思维链 (CoT)

定义

思维链(Chain-of-Thought,CoT)是一种提示技术,通过引导大语言模型在给出最终答案之前,显式地生成一系列连贯的中间推理步骤,模拟人类「分步思考」的过程,从而显著提升模型在复杂推理任务上的表现。它揭示了大模型并非只能直接「脱口而出」答案,而能够通过展开推理过程逼近正确结论。[1]

原理

思维链的有效性源于将复杂问题分解为若干可管理的子步骤,使模型把推理过程外化为可生成的文本序列。在自回归生成中,先前输出的推理步骤会作为后续生成的上下文,为最终答案提供逐步推导的「脚手架」,从而降低单步推理的难度并减少跳步错误。实现方式主要有两种:少样本思维链,在提示中提供含完整推理过程的示例;零样本思维链,仅需附加「让我们一步一步思考」之类的引导语即可激发推理。该能力具有涌现特性,通常在模型规模足够大时才显著显现。

特点

思维链的优势在于提升算术、逻辑、常识与符号推理任务的准确率,并增强推理过程的可解释性,便于人类审查与定位错误。其局限包括:推理链可能本身含有谬误却导向看似合理的结论,增加 Token 消耗与延迟,且对提示设计较为敏感。

应用与拓展

思维链已衍生出丰富的变体:自我一致性通过采样多条推理路径并投票表决以提升稳健性;思维树(ToT)与思维图将线性链拓展为可回溯的搜索结构;ReAct 将推理与工具调用交织。近年来,推理型大模型更将长链思考内化于训练之中,使模型在解决数学、编程与科学难题时自发进行深度推理,标志着提示技巧向模型固有能力的演进。