AI 幻觉（Hallucination）

AI 幻觉（Hallucination）是指人工智能生成看似合理、实际却错误、虚构或无法由可靠证据支持的内容。

概述

AI 幻觉常见于大语言模型、聊天机器人和其他生成式人工智能系统。例如，模型可能编造不存在的文献、人物、网址或数据，也可能混淆时间、概念与因果关系。由于回答通常语言流畅且语气肯定，用户有时难以及时发现问题。

这一现象与模型的工作方式有关。生成模型主要依据训练数据和上下文中的统计规律预测内容，并不等同于真正理解事实。当训练资料不足、信息过时、提问含糊或上下文冲突时，错误出现的可能性会增加。接入搜索、数据库或检索增强生成系统后，若检索结果不准确，也可能产生有依据外观但结论错误的回答。

用户可要求模型提供来源、说明不确定性，并通过官方网站、原始论文或权威数据库交叉验证。开发者还可采用检索增强生成、工具调用、限定知识范围、引用追踪和人工审核等方法。对于高风险决策，AI 输出应作为辅助信息，而不应直接替代专业判断。

问：AI 幻觉等于故意撒谎吗？答：不等于。模型通常没有人类意义上的主观意图，而是在生成过程中给出了错误或无依据的结果。

问：更大的模型就不会产生幻觉吗？答：模型能力提升可能减少部分错误，但不能从根本上保证所有输出真实可靠。

问：怎样判断回答是否出现幻觉？答：应检查来源能否访问、引用是否真实、数据是否一致，并使用多个可信渠道进行核对。