When Bias Pretends to Be Truth: How Spurious Correlations Undermine Hallucination Detection in LLMs

尽管取得了长足进步，大语言模型仍会产生幻觉——生成看似合理却不正确的回复。本文揭示了一类此前被忽视但至关重要的幻觉类型：由伪相关驱动的幻觉——训练数据中表面但统计上显著的特征-属性关联（例如姓氏与国籍之间的关联）。我们证明伪相关导致的幻觉具有以下特征：生成时置信度极高、不随模型规模增大而消退、能够躲避现有检测方法，且在拒答微调后依然顽固存在。通过系统控制的合成实验以及对最先进开源和闭源 LLM（包括 GPT-5）的实证评估，我们表明现有幻觉检测方法——如基于置信度的过滤和内部状态探测——在伪相关面前从根本上失效。理论分析进一步阐明了为什么这些统计偏差在本质上会瓦解基于置信度的检测技术。这些发现凸显了亟需开发专门针对伪相关幻觉的新型检测方法。