AI 幻觉（Hallucination）

AI 幻觉（Hallucination）是指人工智能模型（尤其是大语言模型）生成看似通顺、自信，但实际上错误、失实或完全虚构的内容的现象。

概述

随着 ChatGPT、Claude、文心一言等大语言模型的普及，人们发现这类 AI 有时会「一本正经地胡说八道」：编造不存在的文献、引用错误的法条、虚构人物经历，甚至给出错误的代码接口。由于回答语气流畅自信，普通用户很难第一时间分辨真假，这正是 AI 幻觉的危险之处。

幻觉的根源在于大语言模型的工作原理：它并不是在数据库中「查找事实」，而是基于海量文本训练出的概率模型，逐词预测「接下来最可能出现的内容」。当训练数据中缺少相关知识、知识过时，或问题本身超出模型能力时，模型仍会按语言规律「补全」出一个貌似合理的答案，而不是承认不知道。

常见表现

• 事实性错误：把人物、时间、数据张冠李戴，或引用不存在的论文、书籍、网址。
• 凭空捏造：虚构从未发生的事件、不存在的产品功能或法律条款。
• 逻辑自洽的谎言：整段内容前后连贯、细节丰富，但核心事实是编造的，迷惑性极强。
• 代码幻觉：编写程序时调用不存在的函数、库或参数。

如何减少幻觉

• 检索增强生成（RAG）：让模型先检索真实资料再回答，把答案「锚定」在可靠来源上。
• 联网搜索与引用来源：许多 AI 产品已支持给出参考链接，方便用户核实。
• 更好的提示词：要求模型「不确定就说不知道」、提供原文出处，可明显降低编造概率。
• 人工核查：涉及医疗、法律、财务等关键信息时，务必交叉验证，不可直接采信。

常见问题

问：AI 幻觉能被彻底消除吗？答：目前无法彻底消除。幻觉与大语言模型「按概率生成文本」的机制密切相关，只能通过检索增强、对齐训练等手段显著降低发生率。

问：为什么 AI 编造内容时还显得很自信？答：模型输出的是「最像人话」的文本，它本身并不真正理解对错，语气自信只是模仿了训练语料的表达风格，与内容真实性无关。

问：普通用户如何防范 AI 幻觉？答：对具体数字、引文、链接、法条等保持警惕，重要信息用搜索引擎或权威来源交叉核实，并优先选用支持联网检索和标注来源的 AI 工具。