AI幻觉 Hallucination

AI幻觉（Hallucination）是指人工智能生成了表面流畅可信、实际上错误、虚构或无法由可靠证据支持的内容。

概述

AI幻觉常见于聊天机器人、大语言模型和其他生成式人工智能系统。它可能表现为捏造人物、论文、网址、数据或新闻，也可能混淆时间、概念与因果关系。由于回答通常语气自然且结构完整，用户有时难以及时发现其中的问题。

生成式模型主要依据训练数据和上下文中的语言规律预测输出，而不是像数据库一样逐条检索并核验事实。当问题含糊、资料不足、知识过时，或要求模型回答超出其能力范围的内容时，产生幻觉的风险可能上升。AI幻觉并不意味着模型具有意识或真的“看见”了不存在的事物。

主要特点

• 具有迷惑性：错误内容可能附带专业术语、引用格式或详细解释，看起来十分可信。
• 形式多样：既包括完全虚构的信息，也包括真实内容之间的错误拼接、遗漏与夸大。
• 难以彻底避免：优化训练、连接检索系统和增加事实核验可以降低风险，但通常不能保证输出始终正确。
• 影响因场景而异：闲聊中的错误影响较小，医疗、法律、金融、科研等高风险领域则需要严格复核。

如何识别与降低风险

使用者应核查关键事实、日期、数字和引用来源，不要仅凭表达自信程度判断真伪。可以要求模型说明依据、提供可验证来源，或将回答与官方网站、原始文献及多个可靠渠道交叉比对。开发者还可采用检索增强生成、限定回答范围、引用追踪和人工审核等方法提升可靠性。

常见问题

问：AI幻觉等同于故意撒谎吗？答：不等同。模型通常没有人的意图，其错误输出源于生成机制、数据与上下文限制。

问：回答越详细就越可靠吗？答：不一定。虚假内容也可能非常完整，细节丰富不能替代事实核验。

问：怎样避免被AI幻觉误导？答：将AI回答视为参考草稿，对重要结论查证原始来源，并在高风险决策中咨询相关专业人士。