👻 幻觉检测¶
🧠 NeurIPS2026 · 19 篇论文解读
📌 同领域跨会议浏览: 🎞️ ECCV2026 (20) · 📷 CVPR2026 (33) · 🔬 ICLR2026 (40) · 💬 ACL2026 (28) · 🧪 ICML2026 (21) · 🤖 AAAI2026 (15)
🔥 高频主题: 推理 ×3 · 多模态 ×3
- A Theory of Time-Sensitive Language Generation: Sparse Hallucination Beats Mode Collapse
-
本文在极限语言生成(Language Generation in the Limit)博弈框架中首次引入“时效性(Timeliness)”截止期限约束,从理论上证明了任何最终一致(无幻觉)的生成器在任意截止期限下都必然发生模式坍塌(密度下界为 0),并提出了一种带稀疏投机探索的黑盒归约算法(SBG),通过允许渐近趋零的稀疏幻觉,在任意超线性截止期限下恢复了 \(1/2\) 的最优时效生成密度下界。
- Actionable Hallucination Detection: Translating Latent Uncertainty into Agentic Critique
-
本文提出轻量级低秩适配器 Latent Critic,在与冻结基座 LLM 并发生成工具调用的单次前向过程中主动重构 Transformer 残差流,将内部潜在不确定性转化为参数级自然语言幻觉定位反馈(如
ungrounded: ["date"]),在 Qwen3-4B 上实现 0.966 的检测 AUROC 与超过 80% 的参数定位准确率,并以低于 10 ms 的推理开销赋能闭环智能体零样本自我纠错。 - Alleviating Hallucination in Reasoning Tasks with Training-Free Uncertainty-Guided Steering
-
提出无需训练的推理期激活引导方法 USteer,利用 Logit Lens 从中间层提取基于神经坍缩启发(NCI)的不确定性指标梯度,单步动态微调中间隐藏表征向高置信度区域移动,显著降低复杂多步推理中的模型幻觉。
- CHORD: Cross-Model Hallucination Detection via Relational Graph Discrimination
-
针对传统基于内部表征的幻觉检测器在跨模型时因表征语义不一致而退化至随机猜测的瓶颈,CHORD 提出将跨层、跨 Token 与特征块重组为联合关系图,通过关系感知注意力网络捕获可迁移结构信号,并结合 Feature-Critic 元学习在 8 款模型与 7 个任务基准上取得平均 0.8042 AUROC 的优异泛化表现。
- Dual-Pathway Circuits of Object Hallucination in Vision-Language Models
-
本文提出双通路回路分析(Dual-Pathway Circuit Analysis)框架,通过跨五种多模态架构的激活修补与条件通路分析(CPA),揭示了视觉语言模型中由“视觉接地通路”与“幻觉通路”构成的双通路机制及接地通路在幻觉样本上的因果极性翻转现象,并通过推理期对幻觉通路组件的标量缩放抑制将物体幻觉率最高降低 76%(准确率代价不超过 2 个百分点)。
- Entropy Distribution as a Fingerprint for Hallucinations in Generative Models
-
本文发现生成序列的词元级熵分布形状与尾部特征是独立于均值的幻觉指纹,据此将幻觉检测形式化为统计假设检验并提出校准熵分数(CES),仅需单次前向推理的黑盒词元概率即可在 10 个模型与 8 个问答基准上取得单次前向方法中的最优检测性能,且统计上与高成本多采样一致性方法持平。
- Generating in the Limit with Infinitely Many Hallucinations
-
本文将极限语言生成(Language Generation in the Limit)重构为精确率-召回率权衡框架,证明了当允许无限次但频率趋于零的幻觉(即放宽尾部精确率但保持全局精确率为 1)或允许固定比例的非新颖重复输出(\(\gamma < 1\))时,能够突破现有零幻觉算法在稀疏对抗暴露下的召回率上限,甚至实现精确率与召回率同时收敛至 1。
- Hallucination in World Models is Predictable and Preventable
-
本文揭示生成式世界模型的幻觉本质上是状态-动作空间的数据覆盖缺失问题,将其解耦为感知幻觉、动作边缘化与场景发散三种模式,提出了三种免标注且经场景动态性归一化的运行时幻觉预测器(与推演误差相关性达 \(\rho \approx 0.80\)),并通过任务级均匀采样与基于幻觉预测器的好奇心在线数据采集,仅用 50 条轨迹即可将 350M 参数的 Dreamer 4 世界模型高效适配至未见任务。
- HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models
-
基于显式的“参考世界模型(Reference World Model)”形式化定义,构建了横跨网格世界(Gridworlds)、国际象棋(Chess)和真实 Linux 终端任务(Terminal)的受控可扩展幻觉评测基准 HalluWorld,通过自动生成真值标签并解耦可观测性、序列化格式与冲突消解策略,系统揭示了前沿模型在感知、长程记忆、因果前向模拟及认知拒答上的差异化失败模式。
- How Fine-Tuning Objectives Shape Layer-Wise Information in LLM Hallucination Detection
-
本文揭示了在 LLM 二分类幻觉检测中,分类头微调(
cls)比生成式序列到序列微调(s2s)诱导了具有更强线性可解码性与双簇几何结构的任务表征,并通过静态部分信息分解(PID)与动态训练轨迹定位到中高层任务信号形成区(InfoWindow)及其上方的冗余平台,进而提出静态高层截断规则,在移除 Qwen3 模型 31% 层数的同时保持精度无损并带来 \(1.4\times\) 推理加速。 - Invisible Ink, Visible Lies: How Production Watermarking Causes LLMs to Hallucinate
-
揭示了生产级文本水印即使在文本流畅且上下文包含证据时仍会诱发模型事实性幻觉,解构出当步词元扰动与前缀注意力漂移双重机制,并提出了无损水印检测率的即插即用词元与注意力事实保持干预(FPTI 与 FPAI)。
- KG-Guard: Graph-Based Hallucination Detection for Knowledge Base Question Answering
-
本文将知识库问答(KBQA)中的大语言模型幻觉检测形式化为检索子图上的答案节点二分类问题,提出轻量级黑盒图检测器 KG-Guard,在比大模型基线参数量少约 305 倍且检测阶段零 LLM 调用的前提下,在 WebQSP、CWQ 和 PUGG 三个基准上取得最高 F1(82.0、87.4、84.3),并能通过节点级反馈引导迭代修正使下游 KBQA 的 Exact Match 提升 16.9–17.6 个百分点。
- Mitigating Factual Hallucination in Large Reasoning Models via Mixed-Mode Advantage Regularization
-
针对大推理模型在事实性问答中因显式思考反而把正确直答改错的“思考诱发幻觉”现象,本文提出将显式思考建模为直答倾向上的推理残差,并设计混合模式优势正则化框架 MARGO,通过在 GRPO 采样组中混入同模型的非思考轨迹作为参考基线来抑制有害思考漂移,在 6 个事实性问答基准上将 Qwen3-4B 和 Qwen3-8B 的平均准确率分别提升至 25.49% 和 29.57%,同时保持了数学推理能力。
- Mitigating Object Hallucination in Large Vision-Language Models via False Discovery Controlled Visual Data Splitting
-
本文提出无需训练的后处理框架 CORAL,通过对视觉特征施加正负对称扰动构建镜像视图并计算镜像统计量,在图像级显式控制虚假发现率(FDR),从而在抑制物体幻觉的同时保持对真实视觉物体的高检出功效(Power)。
- MotionHalluc: Diagnosing Kinematic Hallucinations in Fine-Grained Motion Reasoning
-
本文提出了首个面向跨视频细粒度动作对比的运动学幻觉诊断基准 MotionHalluc(涵盖方向性、属性归因与时序三类幻觉共 1,540 道问答),并设计了免训练的“感知-解析-验证”(PPV)管线,通过将自然语言指令解析为可执行的 3D 运动学测量查询并在推理时注入定量物理证据,在五种主流多模态大模型上平均带来 10.6% 的准确率提升。
- Robustness of Internal Signals for Hallucination Detection in Vision-Language Models
-
本文系统评估了基于视觉语言模型(VLM)单次前向内部信号的幻觉检测方法的鲁棒性,揭示了主流白盒检测器高度依赖“词元位置(Token Position)”表面捷径且缺乏真实视觉接地,并通过渐进集成证明结合黑盒与不同机理的白盒信号可将 LLaVA-1.5-13B 上的检测 AUPRC 大幅提升至 0.71(相对位置基线提升 +0.20)。
- SOPO: Socratic Guided Policy Optimization for Span-Level Hallucination Detection
-
针对片段级幻觉检测在可验证奖励强化学习(RLVR)中面临的定位信号模糊、困难样本奖励稀疏与推理长度膨胀三大瓶颈,本文提出苏格拉底引导策略优化框架(SOPO),在训练 rollout 中引入不泄露真值的教师逐步分析与启发式提问,并配合归一化前的轮次优势缩放与轮次均值奖励机制,使 4B 小模型在单轮推理下于 RAGTruth 测试集取得 63.3% 的 SOTA 片段级 F1(超越 GPT-5、o3 及 RL4HS-CAPO),同时将推理延迟降低 47.0%。
- The Commit-Abstain Circuit: Why Language Models Hallucinate Instead of Abstaining
-
论文从生成前的作答—弃答 logit 间隔定位稀疏的作答—弃答电路(Commit-Abstain Circuit,CAC),发现早期作答积累与晚期弃答纠偏不足的模式,再用分量级贡献训练轻量策略,将报告的平均决策准确率从 0.692 提升至 0.814,而非证明答案内容准确率提高。
- The Labeling Problem in Hallucination Detection Benchmarks: An Empirical Evaluation
-
本文系统揭示了开放域问答幻觉检测基准中“参考答案忠实度”与“事实正确性”的标准错配问题,通过900组人工标注问答对证实忠实度导向的自动标注器会产生严重的假阳性偏置,而显式区分“参考未提及”与“事实矛盾”的判定准则能大幅纠正该系统性偏差。