跳转至

MedF^2Route: Evidence-Routed Graph Verification for Hallucination Detection in Clinical LVLMs

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/Agentic-CliniAI/MedF2Route
领域: 医疗NLP
关键词: 幻觉检测, 临床LVLM, 证据路由, 临床关系图, 事实性与忠实度

一句话总结

针对临床视觉语言模型在诊断推理中忠实度与事实性幻觉交织、证据异构且易错位的问题,MedF²Route 将自由文本转化为结构化临床图,提出动态证据路由与双路图验证框架,显著降低误报率并大幅刷新多主干幻觉检测精度。

研究背景与动机

临床多模态视觉语言模型(LVLMs)被寄予厚望用于辅助诊断推理,但其生成文本中频繁出现的幻觉严重制约了临床安全与实际部署。在真实的临床诊断场景中,多模态输入涵盖异构多源证据:一方面是患者特异性证据(主诉、病史文本与各类医学影像),关乎模型论述的忠实度(Faithfulness);另一方面是外在的通用医学知识与病理生理机制,关乎临床推断的事实性(Factuality)。然而,这两类幻觉在实际诊断中高度交织——一份合格的临床诊断报告既必须忠实锚定患者个体的图像病灶与病史表征,又必须在推断鉴别诊断与病因机制时严格遵循专业医学事实。

现有的黑盒幻觉检测范式大多基于原子断言级别(claim-level)的文本分解流程,通常仅关注单一维度。以忠实度为核心的方法往往利用自然语言推理(NLI)或跨模态定位指标,只孤立比对患者证据;而以事实性为核心的框架则将模型断言拆成碎片,通过通用检索增强事实核查(RAG)对齐外部文献。这种拆解不仅严重割裂了临床诊断推理中必不可少的上下文依赖关系(例如病灶位置、浸润范围与恶性风险之间的因果链条),而且面对混合输入的复杂报告时束手无策。少数尝试联合检测的方法(如 UniHD)将图像、文本与知识粗暴地拼接至同一无差别的 prompt 中,极易导致证据源混淆错位;而 GraphEval 则局限于单模态纯文本的忠实度匹配,无法有效介入复杂的多模态临床交互。

面对上下文割裂与证据源混淆的双重困境,黑盒临床幻觉检测的核心本质在于“证据路由问题”(Evidence Routing Problem)。若不能显式厘清每一个输出断言所依附的参照源,任何单一打分或混杂提示词都会在灵敏度与特异度之间顾此失彼。核心 idea:将多模态病历与模型输出显式建模为结构化临床关系图并解耦为查询顺应子图与推断子图,通过证据感知路由机制将每个响应三元组动态分发至患者文本、影像或局部医学知识图谱进行双路验证,最后经保守对齐映射为句子级裁决。

方法详解

整体框架

MedF²Route 采用分阶段解耦后验证的架构设计,串联四个核心阶段:(1) 临床图构建(Clinical Graph Construction),将自由文本的病历查询 \(X=\{x_t, x_v\}\) 与模型响应 \(Y\) 转化为保留修饰词的有向临床三元组图 \(G_{x_t}\) 与 \(G_y\);(2) 证据感知路由(Evidence-Aware Routing),将响应图 \(G_y\) 语义解耦为顺应查询的患者证据子图 \(G_y^{qry}\) 与外展推断的诊断知识子图 \(G_y^{inf}\),并进一步根据实体可观测性分流至文本、影像与外部知识图谱;(3) 双路验证(Dual-Path Verification),忠实度分支分别通过图匹配与跨模态 VLM 核验患者文本与影像,事实性分支借助自适应多hop扩展的知识子图 \(G_{ref}\) 核查病理因果;(4) 粒度对齐(Granularity Alignment),基于三元组到源句子的无歧义映射,执行保守最大汇聚判定句子级幻觉。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["多模态临床输入<br/>病历文本 x_t + 影像 x_v + LVLM 响应 Y"] --> B["临床图构建<br/>提取结构化三元组图 G_xt 与 G_y"]
    B --> C["证据感知路由<br/>语义解耦 (G_y^qry vs G_y^inf) + 证据源动态分发"]
    C -->|文本/影像分支| D["双路验证<br/>忠实度分支 (文本图匹配 / 影像视觉一致性)"]
    C -->|知识图谱分支| E["双路验证<br/>事实性分支 (充分性引导多跳扩展 KG 验证)"]
    D --> F["粒度对齐<br/>保守最大汇聚映射至句子级判定"]
    E --> F
    F --> G["句子级幻觉检测结果 z_hat<br/>精准定位非忠实或非事实病理关系"]

关键设计

1. 临床图构建:解决原子断言碎片化并保留细粒度临床语义修饰
针对传统 claim 级拆解断裂临床因果逻辑与上下文关系的缺陷,MedF²Route 引入提示引导的临床关系抽取器 \(\mathcal{G}\),将自由文本映射为有向临床关系图 \(G=(C, E)\)。概念集 \(C\) 严格覆盖症状、解剖结构、影像发现、诊断结论和诊疗步骤等医学概念;每条边为一个有向三元组 \(r = \langle c_h, \ell, c_t \rangle\)。特别关键的是,抽取器在规范化临床概念的同时,显式保留了对医学判读生死攸关的否定性(negation)、确定性(certainty)、解剖偏侧性(laterality)、时序(temporality)与严重程度(severity)修饰词。输入病历映射为查询图 \(G_{x_t} = (C_{x_t}, E_{x_t})\),输出文本拆分句子后映射为带有句子索引标记的响应图 \(G_y = (C_y, E_y)\)。这一图结构表达既保证了多步推理关系的拓扑完整性,又消除了后续句子级聚合归属的二义性。

2. 证据感知路由:解决异构证据源跨维度混淆与误对齐
针对将不同验证目标与异构证据混合在同一提示中引发的证据错位难题,MedF²Route 设计了两步序贯路由机制 \(\rho\): $\(\rho(G_y) \to \{G_y^{qry,txt},\, G_y^{qry,img},\, G_y^{inf,kg}\}\)$ 第一步为维度解耦:分析每个三元组语义,将其划分为顺应查询子图 \(G_y^{qry}\) 或诊断推断子图 \(G_y^{inf}\)。凡直接复述、归纳或总结输入病例中患者特异性表现的三元组均进入 \(G_y^{qry}\) 划归忠实度检验;凡涉及鉴别诊断推断、病理生理因果、病因解释及预后推测的三元组归入 \(G_y^{inf}\) 划归事实性检验。第二步为源路由:在 \(G_y^{qry}\) 内部,若三元组涉及病灶形态、解剖部位、信号密度、增强方式或空间轮廓等直接可观测的影像特征,被分配至影像证据 \(x_v\) 构成 \(G_y^{qry,img}\);其余临床主诉与实验室指标进入 \(G_y^{qry,txt}\)。在 \(G_y^{inf}\) 侧,证据源统一指定为参考知识图谱 \(G_{ref}\) 构成 \(G_y^{inf,kg}\)。该机制在三元组层面压缩了候选证据空间,阻断了跨模态信号干扰。

3. 双路验证:细粒度对齐患者多模态证据与充分性引导的知识推理
针对异构证据的差异化核验需求,MedF²Route 部署了双轨验证流程 \(\hat{y}_r = \mathcal{H}(r, E_r)\)。忠实度分支中,针对 \(r \in G_y^{qry,txt}\) 执行与查询图 \(G_{x_t}\) 的子图语义匹配,允许概念名称与关系的轻度词汇变体,但对超出病历记录的无端断言一律报出;针对 \(r \in G_y^{qry,img}\),将三元组与影像 \(x_v\) 提交给视觉语言核验器,严格从位置、边界、密度等肉眼可观测维度判断是否存在直接视觉相悖或无支持。事实性分支中,为克服静态 KG 检索不全或噪声冗余的问题,系统以查询与响应实体为种子节点从外部医学知识图谱 LMKG(含 32.7 万处理后英文实体)中检索一阶邻居并经语义相似度阈值(\(\delta=0.7\))初筛,随后执行“充分性引导的多跳扩展”(Sufficiency-guided multi-hop expansion):以最大深度预算 \(T=5\) 迭代拉入能连接首尾实体或提供病理因果路径的前沿节点,直至参考知识子图 \(G_{ref}\) 足以裁定断言成立或矛盾为止。最终事实性核验器依据 \(G_{ref}\) 裁定 \(r\) 是否医学真实。

4. 粒度对齐:保守最大汇聚保障临床高风险敏感性
针对临床诊断对低容忍度错误的严格安全要求,MedF²Route 建立了从微观三元组到宏观句子的确定性汇聚规则。设句子 \(s_t\) 抽取的临床三元组集合为 \(R(s_t)\),句子级二值预测标签 \(\hat{z}_t \in \{0, 1\}\) 按保守最大汇聚(conservative max-pooling)计算: $\(\hat{z}_t = \max_{r \in R(s_t)} \hat{y}_r\)$ 在临床决策中,即便一个句子中 90% 的解剖描述真实无误,只要混杂了任何一个凭空捏造的病灶或错误的恶性推断,整句临床指导意义即告失效。只要该句中存在任意一个三元组被核验为未受支持或相违背(\(\hat{y}_r = 1\)),该句子即被标记为幻觉(\(\hat{z}_t = 1\))。

实验关键数据

主实验

评估在包含 500 个病例、585 张影像(覆盖 CT、ECG、MRI、超声、X-ray)及 2,383 个标注句子的 MedF²Bench 基准上开展,统一在句子级粒度采用按病例平均协议(Case-averaged protocol)横比,主要指标为主干模型上的宏 F1(Macro-F1)。

主干模型 评测类别 方法 粒度 幻觉 P (%) 幻觉 R (%) 幻觉 F1 (%) 总体 Acc (%) 总体 Mac.F1 (%)
GPT-5.4-nano 忠实度 VLM-as-Judge 句子级 29.79 61.33 37.76 64.01 53.67
SelfCheckGPT 句子级 20.24 48.00 26.41 53.87 43.13
FActScore 断言级 20.47 70.22 30.97 38.60 34.60
UNIHD 断言级 24.83 91.96 37.74 36.60 32.21
FactSelfCheck 图结构 21.02 99.11 34.63 21.99 18.57
MedF²Route 图结构 36.68 66.67 45.03 67.44 59.64
事实性 VLM-as-Judge 句子级 42.96 84.73 54.11 68.13 62.76
SelfCheckGPT 句子级 42.94 86.18 53.55 63.36 59.19
FActScore 断言级 25.46 80.36 37.36 42.87 39.12
UNIHD 断言级 29.73 96.70 43.59 41.41 38.24
FactSelfCheck 图结构 21.63 99.27 35.42 22.40 18.80
MedF²Route 图结构 48.40 93.45 60.84 70.36 67.32
InternVL-3.5 忠实度 VLM-as-Judge 句子级 27.44 36.00 29.85 78.44 57.74
FactSelfCheck 图结构 20.71 98.22 34.15 21.96 18.20
MedF²Route 图结构 44.85 56.00 48.33 79.73 67.20
Gemini-3.1-flash-lite 忠实度 VLM-as-Judge 句子级 31.13 76.89 42.30 57.27 51.44
MedF²Route 图结构 46.20 73.78 54.61 76.46 68.58

消融实验

消融实验在 GPT-5.4-nano 主干下进行,采用“保持上下文”设计,评估各关键模块在句子级 Macro-F1 以及三元组级联合与分支 Macro-F1 上的直接贡献。

配置变体 句子级 Mac.F1 三元组级 Joint Mac.F1 三元组级 Fact. Mac.F1 三元组级 Faith. Mac.F1 说明
MedF²Route 完整模型 63.86 67.12 66.93 41.38 全系统端到端验证
w/o 证据感知路由 51.91 60.27 58.07 44.83 句子级大幅掉点 -11.95,事实性断崖下跌
w/o 知识图谱检索 60.60 65.28 64.24 41.38 事实性 Macro-F1 掉点 -2.69
w/o 多跳 KG 扩展 63.18 66.56 65.86 41.38 事实性 Macro-F1 掉点 -1.07
w/o 视觉证据选择 60.95 63.69 66.93 20.02 忠实度分支发生灾难性崩塌 -21.36

关键发现

  • 基线普遍存在“高召回虚胖与严重误报”缺陷:FactSelfCheck 和 UNIHD 在幻觉召回率上屡屡超过 90% 甚至达到 99% 以上,但幻觉精准率普遍徘徊在 20%–29% 的极低区间,整体准确率仅有 20%–40%,本质是将大量正常句子误报为幻觉。MedF²Route 在保持合理高召回的同时,将精准率大幅提升至 36.68%–48.40%,显著遏制了假阳性警报。
  • 证据路由是维持全链路性能的中枢神经:消融路由模块导致句子级宏 F1 暴跌 11.95 个百分点,事实性验证下挫 8.86 个点。这印证了若缺乏显式的证据边界划分,模型在面对混合知识时无法准确调配合适的医学知识,证据错配构成了幻觉检测性能劣化的主因。
  • 视觉证据独立分流是忠实度的命脉:去除视觉证据选择模块后,忠实度分支的三元组宏 F1 直接从 41.38 暴跌至 20.02(-21.36),证实了临床影像具备极高的空间与解剖独特性,绝不可与普通文本证据混同核查。
  • 细粒度拆解并非越细越好:在 InternVL 上进行事实性分析发现,将响应切得过细会孤立语句前后的全局临床推断语境,导致事实性判断难度增加;动态自适应匹配语境粒度与模型能力是未来重要方向。

亮点与洞察

  • 将黑盒幻觉检测本质形式化为“证据路由问题”:打破了过去单纯把检测当作 NLI 分类或简单 RAG 事实核查的定势,跳出“一个 prompt 通吃所有输入”的误区,构建了“图解耦—源路由—分路查”的严密逻辑链。
  • 充分性引导的多跳动态知识子图扩展:在医学 KG 核验中,不是无脑检索静态图,而是通过设立“充分性检查”动态决定是否引入桥接实体,既避免了医学图谱过大引入的语义漂移,又填补了单跳实体间的因果断层。
  • 兼顾高精度与低虚警的临床实用价值:临床辅助决策对“误杀”极度敏感,频繁误报会导致医生忽视检测结果。MedF²Route 在显著提纯幻觉精度的同时大幅超越 VLM-as-Judge,真正具备赋能下游幻觉自修复的工业落地潜力。

局限与展望

  • 主攻临床鉴别诊断场景:本研究主要聚焦于临床鉴别诊断任务,但对于放射影像报告生成(重度依赖影像忠实度)或用药推荐(重度依赖药物间相互作用与配伍禁忌事实性)等特定垂直工作流,其证据依赖权重截然不同,未来需进一步定制专用路由策略。
  • 受限于底层基础大模型的本征医学推理能力:在 InternVL 的事实性错误剖析中,69.90% 的错误来源于验证底座本身对真实三元组的误判,而非 KG 检索缺失。检测上限与基座的医学专业推理水平强绑定。
  • 知识图谱的覆盖度与时效性约束:依赖于 LMKG 等外部结构化知识库,由于医学知识更新迅速且罕见病长尾分布显著,KG 的实体缺失或时效滞后会对事实性裁决带来一定盲区。

相关工作与启发

  • vs VLM-as-Judge & SelfCheckGPT:通用黑盒句子级判别器缺乏显式的多模态与医学知识分流,对隐含在复杂句式中的细微解剖错误不敏感,且采样一致性检测开销巨大(需多次采样);MedF²Route 单次流程中依托结构化图匹配,不仅精度全面领先,而且逻辑可追溯。
  • vs FActScore & UNIHD:原子断言级方案将长篇医学推断粉碎,破坏了临床鉴别诊断的深层因果关系,且 UNIHD 将异构证据混入无差别 prompt 诱发证据错位;MedF²Route 采用关系图拓扑保持语境完整,用双路由规避了交叉信号干扰。
  • vs FactSelfCheck & GraphEval:GraphEval 仅聚焦单模态文本忠实度,FactSelfCheck 仅在采样生成的伪图之间做词频一致性统计;MedF²Route 首次打通了多模态真实影像、病史文本和真实外部知识图谱的三维交互验证。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次将多模态医学幻觉检测明确抽象为证据路由问题,设计了图结构解耦与双轨细粒度核验架构。
  • 实验充分度: ⭐⭐⭐⭐⭐ 构建 500 例多模态真实基准 MedF²Bench,跨 3 款主流 VLM 底座详尽对比,含三元组消融、成对 bootstrap 检验及误差归因。
  • 写作质量: ⭐⭐⭐⭐⭐ 逻辑严密,形式化定义清晰,消融实验设计科学(保持上下文不变),Prompt 附录公开完整。
  • 价值: ⭐⭐⭐⭐⭐ 为临床医疗多模态大模型的安全部署与事实核验提供了标准化基准与高精度检测工具,具有极强的学术与临床应用价值。