你让 AI 帮你查一篇论文。它秒回了标题、作者、发表年份，格式完美。你一搜——这篇论文根本不存在。你质问它，它说"抱歉，我可能记错了"，然后又给你编了一个新的。
这不是 bug，这是 AI 的出厂设置。
上一篇我们聊了 Temperature，知道了 AI 的回答天然带有随机性。但 Temperature 只影响"措辞变不变"——今天聊的是更深层的问题：AI 不是在"撒谎"，它压根不知道自己在说什么。从底层机制上讲，它没有"不知道"这个概念。
不是在"编"，是在"接"
还记得咱们第一集讲的吗？大模型的本质是"接话"——给定前文，预测下一个最可能的 Token。它不是在数据库里查资料，不是在搜索引擎里找答案，它是在做概率续写。
这意味着什么？当 AI 遇到一个它训练数据里没有足够信息的问题时，它不会说"我不知道"。它会根据已有的模式，生成一个"看起来最合理"的答案。就像一个学生考试时遇到不会的题，与其交白卷，不如根据已知的知识编一段话——至少看起来像那么回事。
但 AI 编得比学生自信多了。它不会犹豫、不会标注"我不确定"、不会用"可能"来限定。它输出的每一个字都带着相同的确定性语气，不管内容是事实还是捏造。
AI 说"我不知道"？那是训练出来的
你可能会说——等等，我明明见过 AI 说"我不知道"啊。
没错，现在的 AI 确实会说"我不知道"。但这不是模型天生就会的，是后天训练出来的。
在模型训练的最后阶段，OpenAI、Anthropic 这些公司会用一种叫 RLHF（人类反馈强化学习）的技术，让人来给模型的回答打分——"这个回答诚实，这个在瞎编"。模型被反复纠正，慢慢学会了在某些时候表示不确定。有些产品还会在系统提示词里加一句"不确定的时候请说明"，相当于在模型耳边叮嘱一句。
但这里有一个根本问题：模型自己分不清哪些知识它真的掌握了，哪些是它根据语言模式"合理推断"出来的。对模型来说，这两者的内部置信度看起来差不多。它会对自己编出来的东西深信不疑。
所以，对齐训练能降低一部分幻觉，但无法根除。它只是让模型在某些明显的问题上学会了说"不知道"——但当它自信地编造一个看起来合理的答案时，训练和提示词都拦不住。
幻觉到底有多严重
2026 年 4 月，Vectara 发布了一份幻觉排行榜（基于 HHEM-2.3 评估模型），用同一篇文档让各家模型做摘要，然后检测它有没有"加料"。结果触目惊心：表现最好的模型幻觉率也有 1.8%，主流模型普遍在 5%-11% 之间。
具体来看几个数字。
GPT-5.4-nano，OpenAI 的轻量模型，幻觉率 3.1%，已经算很低了。GPT-4o（2024-08-06 版本），幻觉率 9.6%。Claude Sonnet 4，Anthropic 的主力模型，10.3%。DeepSeek-R1，深度求索的推理模型，11.3%。而推理型模型如 o3-pro，幻觉率高达 23.3%——推理能力越强不代表越"诚实"。
注意，这些是"摘要"场景的幻觉率——给了原文让模型概括，它还能编出原文没有的内容。如果你问的是开放性问题、冷门知识、或者需要精确数字的场景，幻觉率只会更高。
哪些场景最容易"中招"
幻觉不是均匀分布的。有些场景它特别爱编。
精确数字和引用。 你让它列参考文献、给论文引用、报具体数据，它经常编造不存在的论文、虚构的作者、错位的年份。2023 年纽约南区联邦法院就出过一个真实案例：律师 Steven Schwartz 用 ChatGPT 写法律文书，引用了 6 个完全不存在的判例——案例名称、判决书编号、引用段落全部是 AI 编造的。法官发现后，Schwartz 被罚款 5000 美元并面临纪律处分。
冷门知识。 训练数据里语料越少的领域，AI 越容易编。一个广为人知的历史事件它可能答得很准，但你问一个冷门公司的股权结构、某个小众学术概念的细节，它就开始"发挥想象力"了。
多步推理。 当一个问题需要连续推理好几步时，每一步的微小偏差会累积放大。就像传话游戏，传到最后面目全非。AI 做三步以内的推理通常还行，超过五步就开始出现明显的逻辑跳跃和事实错误。
最新信息。 大模型的知识有截止日期。你问它昨天的新闻、上周的股价、最新的产品发布，它的知识库里根本没有，但不会告诉你"我不知道"——它会根据已知信息"推断"一个看起来合理的答案。
为什么推理模型反而更容易编
你可能注意到了，刚才的数据里，推理模型（o3-pro 23.3%）的幻觉率反而比普通模型高得多。这违反直觉——推理能力更强，不应该更准确吗？
原因在于：推理模型擅长的是"自圆其说"，不是"查证事实"。当你给它一个复杂问题，它会生成很长的推理链条，每一步都看起来逻辑严密。但推理链越长，偏离事实的可能性越大。它不是在验证事实，而是在构建一个连贯的叙事——连贯不等于正确。
这就像一个口才特别好的人，他能把任何事情讲得头头是道，但你不能因为他说得好就信他说的是真的。
怎么减少被 AI 忽悠
既然幻觉是"出厂设置"，我们能做的不是消除它，而是学会和它共处。
关键事实必须二次验证。 AI 给你的任何具体数字、人名、论文、日期、法律条文，都要自己查一遍。AI 是你的初稿助手，不是你的事实来源。
让 AI 表达不确定性。 你可以在 Prompt 里加一句"如果你不确定，请说明"。这不能消除幻觉，但能降低它编造的自信程度。配合上一篇讲的低 Temperature 设置，输出会更稳定可控。
用限定性提问替代开放式提问。 "告诉我关于 X 的一切"比"X 的成立年份是哪年"更容易触发幻觉。问题越具体，AI 越不容易"跑偏"。
对高准确场景用 RAG。 对于需要高准确性的场景（法律、医疗、财务），考虑使用带检索增强（RAG）的工具。RAG 的原理是让 AI 先搜索相关文档，再基于搜索结果回答——相当于给它"开卷考试"的机会，幻觉率会大幅下降。
一句话总结
AI 幻觉的本质是：它在做概率续写，不是事实检索。它没有"不知道"这个选项，所以当你问它不确定的事，它会编一个看起来最合理的答案。知道这一点，你就不会再把 AI 的输出当权威——它是你的思考搭档，不是百科全书。
下一篇我们聊大模型 vs 搜索引擎。同样是"回答问题"，一个靠理解生成，一个靠检索匹配——它们的区别比你想象的大得多。而理解了幻觉，你就会明白为什么"搜索+AI"正在成为最靠谱的组合。