人工智能幻觉

人工智能幻觉（AI Hallucination）是指人工智能模型生成了表述流畅、看似合理，但实际错误、虚构、误导或无法由可靠证据支持的内容。

概述

人工智能幻觉常见于大语言模型、聊天机器人、图像生成和自动摘要等生成式人工智能应用。它可能表现为捏造人物与事件、引用不存在的论文、给出错误数据、混淆概念，或对不确定问题作出过度肯定的回答。

这类现象并不意味着模型具有人的感知异常。生成模型通常根据训练数据和上下文预测最可能出现的内容，其目标主要是生成符合语言或图像规律的结果，而不是自动核验每项事实。当信息不足、问题含糊、训练资料存在偏差，或模型需要处理训练范围之外的内容时，幻觉风险可能增加。

主要特点

• 具有迷惑性：错误内容可能语法完整、逻辑连贯，并带有专业术语或虚构来源。
• 结果不稳定：同一问题在不同提示词、上下文或生成设置下，可能得到不同答案。
• 难以完全避免：检索增强生成、工具调用和人工审核可以降低风险，但通常不能保证绝对正确。
• 影响范围广：在医疗、法律、金融、教育和新闻等高风险场景中，未经核实的回答可能造成严重后果。

成因与应对

常见成因包括训练数据不完整或有误、模型对上下文理解不足、提示词包含错误前提，以及生成时偏向连贯表达。使用者可要求模型提供可验证来源，交叉查询权威资料，并将复杂问题拆分后逐项检查。开发者则可采用知识库检索、事实校验、置信度提示、访问限制和人工复核等措施。

常见问题

问：人工智能幻觉等于故意撒谎吗？答：不等于。模型通常没有人的主观意图，而是在生成过程中输出了不可靠内容。

问：提供参考资料能彻底消除幻觉吗？答：不能，但清晰的上下文、可信数据源和检索工具通常有助于降低发生概率。

问：如何判断回答是否出现幻觉？答：应核对关键事实、日期、数据与引用，尤其要检查来源是否真实存在并与结论一致。