检索增强生成（RAG）

检索增强生成（RAG）是一种将信息检索与大语言模型生成能力结合起来的技术，让模型先从指定的外部数据源中查找相关内容，再依据检索结果组织回答。

概述

传统大语言模型主要依赖预训练阶段获得的知识，通常不了解某个企业的内部文档、私有数据库或训练结束后出现的新信息。RAG通过接入外部资料，为模型提供与问题相关的上下文，从而扩展模型可使用的信息范围。

典型的RAG系统会先把网页、说明书、制度文件或数据库内容整理成可检索的知识库。当用户提出问题时，系统将问题转换为检索条件，找到相关片段并交给大语言模型，由模型结合这些材料生成自然语言回答。部分系统还会展示引用来源，便于用户核查。

主要特点

• 知识可更新：修改或追加知识库内容即可反映新资料，不必每次都重新训练基础模型。
• 适合私有数据：可连接企业文档、产品手册、工单和内部知识库，支持面向特定组织的问答。
• 增强可追溯性：通过返回原文片段、文档名称或链接，帮助用户了解答案依据。
• 降低部分幻觉风险：模型有相关资料可参考时，回答通常更贴近指定内容，但不能保证绝对正确。

基本流程与局限

RAG通常包括数据清洗、文档切分、向量化、索引存储、相关内容召回、上下文拼接和答案生成等环节。检索方式可以使用关键词匹配、向量检索或混合检索。系统效果取决于资料质量、切分方式、召回准确率以及模型对上下文的理解能力。

RAG并不等同于模型训练，也不能自动验证所有事实。如果知识库内容过时、检索结果不相关，模型仍可能给出错误或不完整的回答；涉及权限的数据还需要额外做好访问控制和隐私保护。

常见问题

问：RAG和微调有什么区别？答：RAG是在回答时检索外部资料，便于快速更新知识；微调则是通过训练改变模型的行为或表达方式。两者可以结合使用。

问：RAG只能用于企业知识库吗？答：不是。它还可用于客服、法律和技术文档问答、教育资料检索、代码库辅助以及其他需要依据专门资料生成内容的场景。

问：使用RAG后模型就不会出错了吗？答：不会。RAG只能提供参考材料，仍需改进检索、提示词和评估流程，并在重要场景中进行人工或程序化核验。