AI 幻觉

AI 幻觉（英文 Hallucination）是指人工智能模型，尤其是大语言模型，在生成内容时输出看似流畅可信、实际上错误、失实甚至完全虚构的信息的现象。

概述

随着 ChatGPT、Claude、Gemini 等生成式 AI 的普及，AI 幻觉成为业界和用户最关注的问题之一。模型可能编造不存在的文献、错误的日期人名、虚假的法律条文或 API 用法，且语气笃定，普通用户很难一眼识破。

幻觉的根源在于大语言模型的工作方式：它本质上是根据训练数据学到的统计规律逐字预测下一个词，而不是查询一个事实数据库。当训练数据中缺少相关知识、知识过时，或问题本身模糊时，模型仍会按语言概率「补全」出一个通顺的答案，于是产生幻觉。

需要注意，幻觉并非「撒谎」——模型没有主观意图，它只是无法可靠区分自己「知道」和「不知道」的内容。这也是当前技术难以彻底根除幻觉的原因。

常见表现

• 捏造事实：编造不存在的人物经历、事件、统计数字。
• 虚构来源：给出根本不存在的论文、书籍、链接或新闻出处。
• 张冠李戴：把 A 的成果、名言安到 B 头上。
• 代码幻觉：调用不存在的函数、库或参数。
• 过度自信：对错误答案给出斩钉截铁的表述。

如何减少幻觉

• 使用检索增强生成（RAG），让模型基于真实文档回答。
• 要求模型给出来源，并逐一人工核实。
• 对关键信息（医疗、法律、财务）用搜索引擎或权威渠道交叉验证。
• 提示词中允许模型回答「不知道」，避免逼它硬答。

常见问题

问：AI 幻觉能被完全消除吗？答：目前不能。通过检索增强、更好的训练与对齐方法可以显著降低幻觉率，但基于概率生成的模型原理决定了它无法保证百分之百准确。

问：为什么 AI 会编造看起来很真实的参考文献？答：模型学到了文献引用的「格式」和常见模式，当它没有确切记忆时，就会按格式拼出一个语法正确但并不存在的引用。

问：普通用户如何防范 AI 幻觉？答：把 AI 输出当作初稿而非结论，重要事实务必核实来源；涉及专业决策时，以权威资料和专业人士意见为准。