检索增强生成

定义

检索增强生成(Retrieval-Augmented Generation,RAG)是一种将信息检索与大语言模型生成相结合的技术。在生成回答前,系统先从外部知识库中检索与问题相关的内容,将其作为上下文提供给模型,使模型基于检索到的事实进行生成,从而提升回答的准确性、时效性与可溯源性。[1]

原理

RAG通常分为两个阶段。检索阶段:将知识库文档切分为片段并经嵌入模型转换为向量,存入向量数据库;用户提问时,将问题同样向量化,通过相似度检索召回最相关的若干片段。生成阶段:将检索结果与原始问题一并组织进提示,交由大语言模型生成最终答案。其效果取决于切分策略、嵌入质量、检索召回率与重排序等环节,常辅以混合检索(结合关键词与语义)与重排序模型以提升相关性。

特点

RAG的优势在于:无需重新训练模型即可引入最新或私有知识,显著缓解"幻觉",并可标注信息来源以增强可信度。其挑战包括:检索质量直接决定生成效果,无关或错误的检索会误导模型;此外还需处理上下文长度限制、知识库维护与片段切分粒度等工程问题。

应用

RAG广泛应用于企业知识问答、智能客服、文档助手、法律与医疗等专业领域的信息查询,是构建基于私有数据的大语言模型应用的主流方案。