检索增强生成（RAG）

检索增强生成（Retrieval-Augmented Generation，简称 RAG）是一种让大语言模型（LLM）在生成回答之前，先从外部数据源检索相关信息并将其整合进回答的技术。

概述

大语言模型的知识来自训练数据，存在两个天然短板：一是知识有截止日期，无法回答训练之后发生的事情；二是不了解企业内部文档、个人资料等私有信息。此外，模型在知识盲区容易「一本正经地胡说八道」，即产生幻觉。

RAG 的思路是把「查资料」和「写答案」分开：系统先根据用户的问题，从指定的文档集合（如公司知识库、产品手册、权威资料）中检索出最相关的片段，再把这些片段连同问题一起交给大语言模型，让模型基于检索到的内容组织回答。这样模型就能利用训练数据之外的领域知识和最新信息。

该方法由 Facebook AI Research（现 Meta AI）的研究团队提出，如今已成为构建企业级 AI 应用最主流的技术方案之一。

工作原理

一个典型的 RAG 系统通常包含以下环节：

• 文档处理：将资料切分成小段，并通过嵌入模型（Embedding）转换成向量，存入向量数据库；
• 检索：用户提问时，把问题同样转成向量，在数据库中找出语义最相近的文档片段；
• 增强生成：将检索结果作为上下文拼入提示词，由大语言模型生成有依据的回答，部分系统还会标注引用来源。

主要优势

• 减少幻觉：回答有真实文档作依据，可信度更高、可溯源；
• 知识可更新：只需更新文档库即可获得新知识，无需重新训练模型；
• 成本较低：相比微调（Fine-tuning）大模型，实现门槛和费用都低得多；
• 数据可控：私有数据保存在自己的知识库中，便于权限管理。

常见问题

问：RAG 和微调有什么区别？答：微调是通过再训练改变模型本身的参数，适合调整模型的风格和能力；RAG 不改动模型，只是在提问时喂给它外部资料，更适合注入经常变化的事实性知识，两者也常结合使用。

问：RAG 一定需要向量数据库吗？答：不一定。向量检索是最常见的方案，但也可以用关键词搜索、混合检索等方式，只要能把相关内容找出来交给模型即可。

问：用了 RAG 就不会出错了吗？答：不能完全避免。如果检索到的内容不相关或本身有误，回答仍可能出错，因此文档质量和检索准确率是 RAG 系统的关键。