大模型的「幻觉」是什么？为什么会胡说八道

一、什么是幻觉

幻觉（Hallucination）指模型生成的内容看似通顺自信，实则与事实不符——比如编造不存在的论文、张冠李戴的数据、虚构的法律条文。

更危险的是，它往往「语气笃定」，让没有经验的人信以为真。

二、为什么会幻觉

• 本质是预测，不是查询：模型是「续写最可能的文字」，不是「查数据库」，天生不保证事实正确。
• 训练数据有错误或过时：语料里的偏见、错误会被学到。
• 知识盲区：遇到没学过的内容，模型倾向于「编一个合理的」而非说不知道。
• 压缩损失：海量知识压进有限参数，细节难免丢失或错位。

三、如何降低幻觉风险

1. 明确要求：在 Prompt 里写「如果信息不足，请直接说明不确定」。
2. 提供事实来源：把相关文档放进上下文，让模型基于材料回答（RAG 的核心思路）。
3. 让它自查：请模型「给出依据并标注不确定之处」。
4. 拆解任务：复杂问题分步推理，降低胡编概率。
5. 人工复核：重要内容（数据、引用、法律医疗）必须人工验证。

四、幻觉也有「用处」

在创意写作、头脑风暴、生成灵感等场景，模型的「想象」反而是优点。关键在于：知道什么时候该信它，什么时候该查证。

五、小结

幻觉是大模型的固有特性，不是 bug。理解它的成因，学会用 Prompt 和 RAG 等手段约束它，是安全、可靠使用大模型的前提。