大模型的「幻觉」是什么?为什么会胡说八道
果子发表于:2026-10-03 15:01:52浏览:28次
一、什么是幻觉
幻觉(Hallucination)指模型生成的内容看似通顺自信,实则与事实不符——比如编造不存在的论文、张冠李戴的数据、虚构的法律条文。
更危险的是,它往往「语气笃定」,让没有经验的人信以为真。
二、为什么会幻觉
- 本质是预测,不是查询:模型是「续写最可能的文字」,不是「查数据库」,天生不保证事实正确。
- 训练数据有错误或过时:语料里的偏见、错误会被学到。
- 知识盲区:遇到没学过的内容,模型倾向于「编一个合理的」而非说不知道。
- 压缩损失:海量知识压进有限参数,细节难免丢失或错位。
三、如何降低幻觉风险
- 明确要求:在 Prompt 里写「如果信息不足,请直接说明不确定」。
- 提供事实来源:把相关文档放进上下文,让模型基于材料回答(RAG 的核心思路)。
- 让它自查:请模型「给出依据并标注不确定之处」。
- 拆解任务:复杂问题分步推理,降低胡编概率。
- 人工复核:重要内容(数据、引用、法律医疗)必须人工验证。
四、幻觉也有「用处」
在创意写作、头脑风暴、生成灵感等场景,模型的「想象」反而是优点。关键在于:知道什么时候该信它,什么时候该查证。
五、小结
幻觉是大模型的固有特性,不是 bug。理解它的成因,学会用 Prompt 和 RAG 等手段约束它,是安全、可靠使用大模型的前提。
栏目分类全部>
推荐文章
- 大模型的 Token 计费与成本优化
- OpenClaw 核心概念:Gateway、Agent、Channel 一次讲清
- OpenClaw 定时自动化(Automations):让 AI 主动为你打工
- 【Webman+MySQL教程三】连接 MySQL:webman/database 安装与配置
- uniApp 新闻详情页语音播报,百度语音合成app端、H5端语音播报实例
- 大模型量化技术:INT8 与 INT4 是什么
- 一个人用 AI 把功能做到上线:时间其实花在这 4 段
- OpenClaw 技能(Skills)系统:让 AI 学会你的专属工作流
- OpenClaw 连接微信教程:openclaw-weixin 插件配置
- Vue Button按钮点击下载文件的方法

