大模型幻觉

大模型幻觉（英文 Hallucination,又称 AI 幻觉）是指大语言模型在回答问题或生成文本时,输出看似流畅合理、实则与事实不符甚至完全虚构的内容的现象。

概述

大语言模型的本质是根据海量文本学到的统计规律,逐个预测下一个词。它并不真正「知道」事实,也没有内置的真伪校验机制,因此在知识缺失或问题模糊时,仍会自信地拼凑出一个语法通顺的答案。这种「一本正经地胡说八道」就是幻觉。

幻觉的常见表现包括:编造不存在的文献、网址或案例,张冠李戴地引用人物言论,给出错误的数字和时间,以及在代码场景中调用根本不存在的函数或库。由于输出语气笃定,普通用户往往难以察觉,这也是幻觉危害较大的原因。

主要成因

• 训练数据缺陷:语料中本身包含错误、过时或矛盾的信息。
• 概率生成机制:模型按「像不像人话」而非「是不是事实」来生成内容。
• 知识截止与覆盖盲区:训练数据有时间截点,冷门领域覆盖不足。
• 迎合式回答:模型倾向给出「看起来有帮助」的答案,而不是承认不知道。

如何减少幻觉

业界常用的缓解手段包括:检索增强生成（RAG）让模型基于真实文档作答;让模型引用来源、给出可核查的出处;通过提示词要求「不确定时明确说明」;以及对关键信息始终进行人工核实。幻觉目前只能被显著降低,尚无法彻底消除。

常见问题

问:大模型幻觉能完全解决吗?答:目前不能。它源于概率生成的底层机制,RAG、事实校验等方法可以大幅降低幻觉率,但无法保证零错误,关键场景仍需人工把关。

问:幻觉和模型「撒谎」是一回事吗?答:不是。撒谎意味着知道真相却故意隐瞒,而幻觉是模型并不具备判断真伪的能力,只是按统计规律生成了错误内容,没有主观意图。

问:普通用户如何防范幻觉?答:对涉及事实的回答保持怀疑,尤其是数字、引文、链接和法律医疗建议;重要信息用搜索引擎或权威来源交叉验证,并优先使用带联网检索功能的 AI 产品。