大模型越聪明越会撒谎，谁来给幻觉上把锁

过去一年，大模型的能力曲线陡峭得令人目眩，但与之同步上扬的还有另一条曲线——幻觉率。一个反直觉的现象正在发生：模型参数越大、推理能力越强，它编造事实时反而越自信、越连贯、越难被识破。这不再是早期那种“胡言乱语”式的低级错误，而是一种结构化的、带有逻辑自洽性的虚构。当模型学会用漂亮的论证包裹一个不存在的引用，用严密的推理链条推导出一个错误的前提，我们面对的已经不是技术瑕疵，而是一种新型的认知风险。

为什么越聪明的模型越会“撒谎”？从机理上看，大模型的本质是概率拟合，而非事实核查。训练目标驱动它生成“最可能被人类接受”的文本，而不是“最接近真相”的文本。当模型规模扩大，它对人类语言模式的捕捉更精细，对上下文意图的推断更准确，这意味着它更擅长“投其所好”地组织答案。换句话说，能力提升让模型更懂得如何让输出看起来可信，但“看起来可信”与“事实正确”之间没有必然因果关系。RLHF（基于人类反馈的强化学习）进一步放大了这一倾向：人类标注者偏好流畅、自信、结构完整的回答，模型便学会了用确定性语气掩盖不确定性。这不是模型在主观欺骗，而是优化目标与真实性之间天然存在的错位。

更棘手的是，幻觉正在从“事实性幻觉”向“推理性幻觉”迁移。早期模型编造的是不存在的论文、虚构的人物履历，这类错误尚可通过外部检索比对来拦截。但新一代模型在推理链条中埋入错误前提时，错误会沿着逻辑链传播，最终结论表面自洽，实则根基悬空。比如在多步数学推理或法律条文适用中，模型可能在某一步引入一个似是而非的假设，后续推导全部“合理”地偏离正轨。这类幻觉更难被传统评估指标捕获，因为输出文本的局部连贯性极高，只有回溯整个推理过程才能发现断裂点。

面对这种升级版的幻觉，单点修补已经不够。行业正在从三个层面尝试“上锁”。第一层是检索增强生成（RAG）的深度化。早期RAG只是把检索到的片段拼进提示词，现在更强调检索结果与模型内部知识的交叉验证，以及在生成过程中对关键事实进行实时溯源标注。第二层是推理链的可解释性约束。通过强制模型输出中间步骤并引入外部验证器（如代码执行、逻辑检查器），让推理过程变得可审计。第三层是训练阶段的“诚实性对齐”，即在SFT和RLHF中引入对“承认不知道”的奖励，降低模型在不确定时强行作答的概率。这三层各有局限：RAG依赖知识库质量，推理验证器覆盖范围有限，诚实性对齐则可能牺牲回答的完整性。

更深层的问题在于，幻觉的界定本身正在变得模糊。当模型生成一个尚无定论的前瞻性判断，或者将两个领域的知识进行创造性类比，这算幻觉还是洞见？如果一味追求“零幻觉”，可能会扼杀模型在开放性问题上的探索能力。因此，给幻觉上锁不是要造一个只会复述已知事实的数据库，而是要在“可信”与“有用”之间建立动态平衡。一个可行的方向是引入置信度校准机制：模型在输出时附带对自身陈述的不确定性估计，让使用者根据场景风险等级决定是否采信。这要求模型具备对自身知识边界的元认知能力，目前仍是前沿难题。

从工程落地角度看，企业级应用正在形成一套分层防御策略。在输入侧，通过提示工程约束模型的回答范围，明确要求“仅基于给定材料作答”；在生成侧，部署事实核查模块对关键实体和数值进行实时比对；在输出侧，设置人工复核或自动化抽检流程。这套组合拳无法消灭幻觉，但能把幻觉的破坏力控制在可接受范围内。值得注意的是，防御策略的成本与场景风险必须匹配——一个内部知识问答助手和一个面向公众的医疗咨询系统，对幻觉的容忍度天差地别，防御投入自然不同。

归根结底，大模型幻觉不是某个单一技术缺陷，而是概率生成范式与生俱来的副产品。越聪明的模型越会“撒谎”，恰恰说明它的语言能力越强，越能生成符合人类认知偏好的内容——包括那些我们愿意相信但并非事实的内容。给幻觉上锁，需要的是从训练目标、推理架构到应用流程的系统性工程，而非指望某一个“补丁”一劳永逸。在这个意义上，对幻觉的治理能力，或许比模型本身的参数规模更能衡量一个AI系统的成熟度。