AI幻觉

AI幻觉（英文 Hallucination）是指人工智能系统在生成内容时，输出看似通顺可信、实际上却虚假或误导性的信息的现象。

概述

AI幻觉最常出现在大语言模型（如 ChatGPT、Claude、Gemini 等）的文本生成中。模型可能编造不存在的文献、引用错误的数据、虚构人物经历，甚至给出错误的代码接口，而且往往语气笃定、细节丰富，让人难以一眼识破。

产生幻觉的根本原因在于，大语言模型本质上是基于概率预测下一个词，而不是查询一个可靠的事实数据库。当训练数据中缺乏相关知识、问题超出模型能力范围，或提示词引导不当时，模型倾向于「补全」出一个流畅但未必真实的答案，而不是承认自己不知道。

主要表现

• 事实性错误：说错人名、时间、数据等客观事实。
• 凭空捏造：编造不存在的论文、网址、法律条文或新闻事件。
• 逻辑自洽的假象：推理过程看似严密，但前提本身是错的。
• 过度自信：对错误答案给出肯定语气，缺少不确定性提示。

如何减少AI幻觉

业界常用的缓解手段包括：检索增强生成（RAG），让模型先查资料再回答；要求模型引用来源并给出可核查的依据；通过更好的训练和对齐让模型学会说「不知道」。对普通用户而言，最有效的办法是对关键信息进行交叉验证，尤其是涉及医疗、法律、金融等高风险场景时，不要把AI输出当作唯一依据。

常见问题

问：AI幻觉能被彻底消除吗？答：目前还不能。幻觉与大语言模型的生成机制密切相关，只能通过技术手段和使用习惯尽量降低发生率和影响。

问：AI幻觉和AI撒谎是一回事吗？答：不是。幻觉是模型能力局限导致的无意错误，模型本身没有欺骗动机；日常说的「AI一本正经地胡说八道」描述的就是幻觉。

问：如何快速判断AI是否在幻觉？答：可以要求它给出可点击的来源并逐一核实，或用搜索引擎、权威资料交叉比对，对具体数字、引文和链接保持警惕。