检索增强生成 (RAG)

检索增强生成（Retrieval-Augmented Generation，简称 RAG）是一种让大语言模型（LLM）在生成回答之前，先从外部数据源检索相关资料，再把这些资料与用户问题一起交给模型作答的技术。

概述

大语言模型的知识来自训练数据，存在两个天然短板：一是知识有截止时间，无法回答训练之后发生的事；二是遇到不熟悉的问题时容易「一本正经地胡说八道」，即所谓幻觉。RAG 的思路是给模型「外挂」一个可随时更新的资料库，回答前先查资料、后作答，好比把闭卷考试变成开卷考试。

该方法由 Meta（原 Facebook）的研究人员在一篇论文中提出，随后迅速成为业界共识。如今企业想让聊天机器人读懂内部文档、客服系统引用权威资料回答问题，大多采用 RAG 架构。

工作原理

一个典型的 RAG 系统通常包含以下步骤：

• 索引：把文档切分成片段，用嵌入模型转成向量，存入向量数据库；
• 检索：用户提问时，把问题也转成向量，从数据库中找出语义最相近的若干片段；
• 增强：把检索到的片段作为上下文，与原始问题一起拼进提示词；
• 生成：大语言模型基于这些资料生成有依据的回答，并可标注来源。

主要特点

• 知识可随时更新：只需更新资料库，无需重新训练模型；
• 减少幻觉、可溯源：回答基于真实文档，可给出引用出处；
• 接入私有数据：让通用模型掌握企业内部知识而不泄露训练数据；
• 成本低于微调：相比重新训练或微调模型，实施门槛和费用更低。

常见问题

问：RAG 和微调（Fine-tuning）有什么区别？答：微调是把新知识「写进」模型参数，成本高且更新慢；RAG 是让模型「查资料」，知识存在外部库中，更新灵活，两者也可以结合使用。

问：搭建 RAG 系统需要哪些组件？答：通常需要嵌入模型、向量数据库（如 Milvus、Pinecone 等）、一个大语言模型，以及文档切分与检索编排逻辑，常用框架有 LangChain、LlamaIndex 等。

问：RAG 能彻底消除幻觉吗？答：不能完全消除，但能大幅降低。若检索到的资料不相关或质量差，模型仍可能答错，因此检索质量是 RAG 系统的关键。