幻觉

释义

「幻觉」（hallucination）指大语言模型生成的内容流畅、自信、看似可信，实则与事实不符，甚至完全捏造——编造不存在的文献、人物、数据。因为模型本质是「预测下一个最可能的词」，并不真正「知道」事实，所以会一本正经地胡说。[1]

由来

随 ChatGPT 普及，「AI 幻觉」成为公众和学界最关注的缺陷之一，「让 AI 写论文结果引用全是编的」是典型案例，检索增强生成（RAG）等技术被用来缓解。

用法

例如：「这答案有幻觉，它把两个人的事迹混了。」再如：「重要信息别信 AI，小心幻觉。」

延伸

「幻觉」与 人工智障、检索增强生成 紧密相关，是使用大模型时必须警惕的根本性问题。