跳转至

👻 幻觉检测

💬 EMNLP2026 · 6 篇论文解读

📌 同领域跨会议浏览: 🧠 NeurIPS2026 (19) · 🎞️ ECCV2026 (20) · 📷 CVPR2026 (33) · 🔬 ICLR2026 (40) · 💬 ACL2026 (28) · 🧪 ICML2026 (21)

🔥 高频主题: LLM ×2

HaluMem: Evaluating Hallucinations in Memory Systems of Agents

HaluMem 提出了首个针对大模型智能体记忆系统的操作级幻觉评测基准,将传统黑盒问答解耦为记忆抽取、记忆更新与记忆问答三大独立阶段,通过六阶段构建长达百万 token 的多轮动态交互轨迹,揭示了上游记忆抽取遗漏向上向下游级联放大的核心规律。

Library Hallucinations in LLM-Generated Code: A Risk Analysis Grounded in Developer Queries

本文首次系统研究了真实开发者提示词变体(用户自然语言描述与控制拼写/虚构错误)对大模型代码生成中第三方库及成员幻觉的影响,揭示了模型对时间约束和用户拼写错误的极度脆弱性,并构建了首个代码库幻觉基准 LIBHALLUBENCH。

PVFH-Bench: Benchmarking Premise-Induced Visual Fixation Hallucinations in Vision-Language Models

本文提出针对大视觉-语言模型的新失效模式——前提诱导视觉固着幻觉(PVFH)及诊断基准 PVFH-Bench,揭示模型在错误空间前提诱导下会将画面中易混淆的可见物体锚定为虚构证据,并证实显式思维链推理非但不能纠正该错误,反而会通过脑补弱视觉线索显著加剧幻觉。

Teaching LLMs to Abstain via Fine-Grained Semantic Confidence Reward

针对现有大模型拒答对齐依赖粗粒度全局信号导致知识边界模糊的问题,本文提出基于细粒度语义置信度奖励的强化学习框架 FISCORE,利用语义聚类簇大小刻画样本级置信度并通过 GRPO 对齐,同时提出单调敏感的可靠性度量指标 F1rel。

The Trilemma of Truth in Large Language Models

针对传统线性探测方法将真实性简化为对称单轴二分类的缺陷,本文提出结合稀疏多示例学习与保形预测的多分类探测框架 sAwMIL,在十六个大语言模型与三个新数据集上揭示了真实、虚假与未知三值表征机制并实现了因果可干预性。

To Answer or to Abstain: Mitigating Search-Agent Hallucinations via Abstention-Aware Reinforcement Learning

本文针对搜索增强大模型智能体在检索失败或证据不足时强行编造答案的过度作答幻觉问题,提出了基于弃权感知的强化学习框架(AWA-RL),通过两阶段解耦估计查询级先验能力、非线性勇气因子映射与实时批次偏差惩罚动态重塑弃权奖励,在维持高回答准确率的同时显著提升精确率与可靠性指标 RA-F1。