MedF2Route: Evidence-Routed Graph Verification for Hallucination Detection in Clinical LVLMs¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/Agentic-CliniAI/MedF2Route
领域: 医疗自然语言处理
关键词: 临床多模态大模型; 幻觉检测; 证据感知路由; 知识图谱验证; 医疗图结构
一句话总结¶
针对临床视觉语言模型在跨模态病患事实与外部医学常识上的复合幻觉问题,MedF2Route 将黑盒幻觉检测形式化为多源证据路由任务,通过将自由文本病历与模型诊断解析为结构化临床关系图,把响应三元组动态分发至病历文本、医学影像与外部知识图谱开展双路针对性验证,在大幅削减假阳性误报的同时显著提升临床判别精度。
研究背景与动机¶
多模态大语言模型(Clinical LVLMs)在现代辅助诊疗与医学报告生成中展现出强大的复杂推理潜力,但其输出中普遍存在的幻觉现象对临床决策的安全性构成了不可忽视的潜在风险。在真实的临床诊断场景中,幻觉呈现出多源且异构的二元维度特征:一是忠实度幻觉(Faithfulness-oriented Hallucination),即模型的生成陈述脱离或违背了患者专属的个性化临床证据,例如凭空编造患者未曾提及的既往病史、擅自捏造影像中不存在的阴影或篡改病灶解剖方位;二是真实度幻觉(Factuality-oriented Hallucination),即诊断推理过程违背了公认的医学客观机理与临床病理学常识,例如做出解剖学上不可行的归因、违背疾病因果发生规律或将良性病变误判为恶性转移。临床执业要求诊断必须在严密契合当前患者证据的同时严格依从客观医学常识,两类事实交织共存,极难在统一框架下精确剥离。
然而,现有的幻觉检测机制难以应对这一复合挑战,普遍陷入两难境地。一方面,主流基于原子命题分解的框架(如 FActScore)或单一忠实度度量工具(如各类 NLI 分类器、视觉定位指标)往往将模型长回答暴力切碎为孤立的微小断言,这一粉碎性切分不可避免地割裂了临床诊疗推导中至关重要的时序演进、因果衔接与修饰约束;另一方面,尝试联合评估两类维度的集成方案(如 UniHD)通常将异构的患者病历、医学图像与外部检索文档简单聚拢到一个未分化的提示词上下文中,由于缺乏证据源层面的精准隔离,往往造成异构多源证据的严重错位与语义干扰,导致检测器倾向于盲目提高召回率而产生海量假阳性误报,摧毁了下游自动纠错系统的可用性。
解决该瓶颈的核心在于认识到:黑盒多模态临床幻觉检测的本质不是非黑即白的单点模式匹配,而是一个严谨的「证据寻路与归因路由」问题。诊断回答中的不同语句有着截然不同的论证归宿——属于对患者体征陈述的,必须回溯至原始病史;属于影像学形态发现的,必须精确投射到医学影像对应像素分布;属于诊断鉴别与病因机制的,则必须接入权威医学知识库进行拓扑图验证。核心 idea:将临床黑盒幻觉检测重构为多源证据路由与图拓扑验证范式,构建病历与回答的结构化临床关系图并解耦为患者事实与诊断推断子图,通过两级动态路由将三元组精准分派至病史、影像与多跳知识子图进行双路验证,最终经由保守池化对齐至句子级决策。
方法详解¶
整体框架¶
MedF2Route 的整体检测流水线由四个紧密衔接的阶段构成: 1. 临床图结构构建:接收多模态临床问询 \(X=\{x_t, x_v\}\)(病例文本与医学影像)以及待测临床 LVLM 的诊断回答 \(Y\),利用指令微调的临床关系抽取器将自由文本病历与回答结构化映射为有向临床关系图 \(G_{x_t}\) 与 \(G_y\); 2. 证据感知动态路由:设计两步路由函数 \(\rho\),先将回答图 \(G_y\) 语义解耦为针对患者事实的问询依从子图 \(G_y^{\text{qry}}\) 与针对机理鉴别的推理子图 \(G_y^{\text{inf}}\),再进一步将 \(G_y^{\text{qry}}\) 拆分为图像分支 \(G_y^{\text{qry,img}}\) 和文本分支 \(G_y^{\text{qry,txt}}\),并将 \(G_y^{\text{inf}}\) 导向外部医学知识子图 \(G_{\text{ref}}\); 3. 证据特异性双路验证:在忠实度路径中,文本三元组与问询图 \(G_{x_t}\) 实施语义蕴含匹配,影像三元组与医学图像 \(x_v\) 进行可观测视觉一致性校验;在真实度路径中,依托 LMKG 外部知识库进行充分性引导的多跳扩展构建精简证据子图 \(G_{\text{ref}}\),对推断三元组开展医学合规性审查; 4. 保守型细粒度对齐:通过显式保留的三元组-句子锚定索引,利用保守的最大池化准则将三元组判定聚合为句子级判别向量 \(\hat{z}\),确保任何不可靠的局部医学关联均能灵敏触发警报。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
In["输入:病例输入 X={x_t, x_v} 与待检响应 Y"] --> D1["临床图结构构建<br/>文本病历与响应映射为临床关系图 G_{x_t} 与 G_y"]
D1 --> D2["证据感知动态路由<br/>解耦患者依从与推断子图,分发至病历/影像/知识库"]
D2 --> D3["证据特异性双路验证<br/>忠实度语义/视觉对齐 + 真实度多跳知识子图拓扑核验"]
D3 --> D4["保守型细粒度对齐<br/>保留句子锚定索引,执行最大池化映射句子级标签"]
D4 --> Out["输出:句子级幻觉判别向量 z_hat"]
关键设计¶
1. 临床图结构构建:上下文割裂与修饰丢失 -> 保留语义修饰的指令抽取器 -> 连贯图谱表征
以往的断言切分算法将诊断响应暴力切解为孤立文本片段,抹杀了疾病进展、因果关系以及对临床诊断起决定性作用的限定条件。针对该缺陷,MedF2Route 构建了统一的指令引导型临床关系抽取器 \(\mathcal{G}\),将自由文本病历 \(x_t\) 与模型响应 \(Y\) 转化为结构化临床三元组集合 \(r = \langle c_h, \ell, c_t \rangle\)。节点集合 \(\mathcal{C}\) 涵盖症状、解剖结构、影像发现、诊断结论及处置方案,边集合 \(\mathcal{E}\) 赋予简洁的关系谓词 \(\ell\)。更为核心的是,抽取过程显式捕捉并保留了否定词、确定性概率、解剖方位偏侧性(Laterality,如左右肺叶)以及病程严重度等高敏感修饰属性,杜绝了由于孤立切分造成的上下文断裂,形成了保真度极高的临床病历图 \(G_{x_t} = (\mathcal{C}_{x_t}, \mathcal{E}_{x_t})\) 与诊断响应图 \(G_y = (\mathcal{C}_y, \mathcal{E}_y)\)。
2. 证据感知动态路由:异构证据混杂与信号串扰 -> 语义解耦与来源分流两级路由 -> 零干扰定向派发
传统方法将文本与图像无差别地输入通用提示词,导致病史证据与医学通识互相混淆污染。本文提出两级证据路由机制 \(\rho\):
$\(\left( G_y^{\text{qry,txt}}, G_y^{\text{qry,img}}, G_y^{\text{inf,kg}} \right) = \rho(G_y)\)$
第一级路由在语义维度上执行子图解耦,判定三元组是属于直接陈述患者体征与检验结果的问询依从子图 \(G_y^{\text{qry}}\),还是属于阐述疾病病因、鉴别诊断及预后分析的知识推理子图 \(G_y^{\text{inf}}\)。第二级路由进行细化分流:对于 \(G_y^{\text{qry}}\),将描述病灶形态、轮廓、密度、信号增强、解剖方位等视觉属性的三元组划入影像分支 \(G_y^{\text{qry,img}}\) 并绑定影像 \(x_v\),其余临床表征划入病历文本分支 \(G_y^{\text{qry,txt}}\) 绑定 \(G_{x_t}\);对于 \(G_y^{\text{inf}}\),则统一分配至外部知识图谱检索分支 \(G_y^{\text{inf,kg}}\)。该机制构建了严格的边界约束,消除了跨维度信号的交叉串扰。
3. 证据特异性双路验证:单模态局限与常识盲区 -> 视觉/文本忠实度与多跳知识双路校验 -> 多维立体严查
针对路由后的异构三元组,MedF2Route 部署了专职的双路验证通道。在忠实度验证通路中,对文本三元组 \(r \in G_y^{\text{qry,txt}}\),基于问询图 \(G_{x_t}\) 进行受约束的语义蕴含匹配,容许规范化的近义词表述,但严禁引入病历未提及的任何额外患者体征;对影像三元组 \(r \in G_y^{\text{qry,img}}\),将三元组与原始医学图像 \(x_v\) 共同送入视觉判断器,重点核实病灶位置、边界清晰度与影像密度,视觉不支持或直接冲突即判定为忠实度幻觉。在真实度验证通路中,系统针对推理三元组 \(r \in G_y^{\text{inf,kg}}\) 从大规模医学知识图谱 LMKG 中提取种子实体,通过 BioLORD-2023 计算语义相似度并剔除低于阈值 \(\delta=0.7\) 的噪声节点,进而利用充分性验证(Sufficiency Checking)驱动多跳前沿扩展(深度上限 \(T=5\)),构建紧凑的局部先验证据子图 \(G_{\text{ref}}\);基于 \(G_{\text{ref}}\) 判定三元组是否具备病理学支撑或解剖合理性,有效解决了大模型利用臆造医学常识推导诊断结论的问题。
4. 保守型细粒度对齐:细粒度信号与任务目标不一致 -> 句子锚定与严格最大池化 -> 零容忍安全兜底
针对细粒度三元组判别信号难以直接对齐到下游段落级应用的问题,MedF2Route 建立了严格的保真映射。在响应图构建初期,每个三元组 \(r\) 均强制附带源句子索引编号,定义句子 \(s_t\) 所对应的三元组集合为 \(R(s_t)\)。在验证结束后,基于极其严格的医疗安全兜底原则,采用保守最大池化(Conservative Max-pooling)聚合三元组级预测标签 \(\hat{y}_r \in \{0, 1\}\):
$\(\hat{z}_t = \max_{r \in R(s_t)} \hat{y}_r\)$
该规则确保了在临床高危场景下的绝对严谨性:只要某个句子中蕴含的任意一个临床实体关系被判定为脱离病患事实或违背医学常理,该整句立即被标记为幻觉句子(\(\hat{z}_t = 1\)),从而为临床下游的自动审查与精准回退修正提供了可解释且确定性的证据锚点。
评估基准与实验设计¶
为了系统检验临床幻觉检测工具在实际辅助诊断场景中的能力,论文构建了包含 500 个真实临床多模态病例的评估基准 MedF2Bench。该数据集脱胎于开源临床报告数据库 MultiCaRe,涵盖了 CT、ECG、MRI、超声(Ultrasound)以及 X 光(X-ray)等 5 种常见影像模态,累计包含 585 幅专业医学影像与 2,383 句标注诊断回答。基准遵循 FactCC 与 HaluEval 的可控扰动规范,在保证整体回答连贯的前提下,通过精确扰动分别引入病历/影像忠实度错误与医学常识真实度错误。评价协议采用以病例为单位先计算再平均的 Case-averaged 模式,主评价指标为能够克服类别不平衡的宏平均 F1(Macro-F1)、幻觉类别精度(Precision)、召回率(Recall)及综合准确率(Accuracy)。
实验关键数据¶
主实验¶
在 MedF2Bench 基准上,以 GPT-5.4-nano、InternVL-3.5 与 Gemini-3.1-flash-lite 三种不同架构和尺度的模型作为主干网络,MedF2Route 与代表性的句子级(VLM-as-Judge、SelfCheckGPT)、断言级(FActScore、UNIHD)以及图结构基线(FactSelfCheck)进行了对比,所有方法均通过统一的保守聚合规则映射至句子级输出。
| 模型主干 | 幻觉类别 | 评测方法 | 幻觉精度 P (%) | 幻觉召回 R (%) | 幻觉 F1 (%) | 总体准确率 Acc (%) | 宏平均 Macro-F1 (%) |
|---|---|---|---|---|---|---|---|
| GPT-5.4-nano | 忠实度 (Faithfulness) | VLM-as-Judge | 29.79 | 61.33 | 37.76 | 64.01 | 53.67 |
| GPT-5.4-nano | 忠实度 (Faithfulness) | SelfCheckGPT | 20.24 | 48.00 | 26.41 | 53.87 | 43.13 |
| GPT-5.4-nano | 忠实度 (Faithfulness) | FActScore | 20.47 | 70.22 | 30.97 | 38.60 | 34.60 |
| GPT-5.4-nano | 忠实度 (Faithfulness) | UNIHD | 24.83 | 91.96 | 37.74 | 36.60 | 32.21 |
| GPT-5.4-nano | 忠实度 (Faithfulness) | FactSelfCheck | 21.02 | 99.11 | 34.63 | 21.99 | 18.57 |
| GPT-5.4-nano | 忠实度 (Faithfulness) | MedF2Route (本文) | 36.68 | 66.67 | 45.03 | 67.44 | 59.64 |
| GPT-5.4-nano | 真实度 (Factuality) | VLM-as-Judge | 42.96 | 84.73 | 54.11 | 68.13 | 62.76 |
| GPT-5.4-nano | 真实度 (Factuality) | SelfCheckGPT | 42.94 | 86.18 | 53.55 | 63.36 | 59.19 |
| GPT-5.4-nano | 真实度 (Factuality) | FActScore | 25.46 | 80.36 | 37.36 | 42.87 | 39.12 |
| GPT-5.4-nano | 真实度 (Factuality) | UNIHD | 29.73 | 96.70 | 43.59 | 41.41 | 38.24 |
| GPT-5.4-nano | 真实度 (Factuality) | FactSelfCheck | 21.63 | 99.27 | 35.42 | 22.40 | 18.80 |
| GPT-5.4-nano | 真实度 (Factuality) | MedF2Route (本文) | 48.40 | 93.45 | 60.84 | 70.36 | 67.32 |
| InternVL-3.5 | 忠实度 (Faithfulness) | VLM-as-Judge | 27.44 | 36.00 | 29.85 | 78.44 | 57.74 |
| InternVL-3.5 | 忠实度 (Faithfulness) | MedF2Route (本文) | 44.85 | 56.00 | 48.33 | 79.73 | 67.20 |
| Gemini-3.1-flash-lite | 忠实度 (Faithfulness) | VLM-as-Judge | 31.13 | 76.89 | 42.30 | 57.27 | 51.44 |
| Gemini-3.1-flash-lite | 忠实度 (Faithfulness) | MedF2Route (本文) | 46.20 | 73.78 | 54.61 | 76.46 | 68.58 |
| Gemini-3.1-flash-lite | 真实度 (Factuality) | VLM-as-Judge | 43.04 | 91.64 | 55.53 | 64.27 | 61.12 |
| Gemini-3.1-flash-lite | 真实度 (Factuality) | MedF2Route (本文) | 42.94 | 71.64 | 51.62 | 74.45 | 66.05 |
消融实验¶
在 GPT-5.4-nano 基线下,通过保持下游上下文连贯的独立剥离实验,考察了证据感知路由、知识图谱检索、多跳知识扩展及视觉证据选择等核心模块的性能贡献:
| 消融配置 | 句子级宏平均 Sent. Mac.F1 (%) | 三元组联合宏平均 Joint Mac.F1 (%) | 真实度分支宏平均 Fact. Mac.F1 (%) | 忠实度分支宏平均 Faith. Mac.F1 (%) | 模块设计机理与效果分析 |
|---|---|---|---|---|---|
| 完整模型 (MedF2Route) | 63.86 | 67.12 | 66.93 | 41.38 | 全模块协同,在双维度均达到最优均衡 |
| 移除证据感知路由 (w/o Routing) | 51.91 (-11.95) | 60.27 (-6.85) | 58.07 (-8.86) | 44.83 (+3.45) | 丢失动态协调与上下文感知,真实度大幅滑坡 |
| 移除知识图谱检索 (w/o KG Retrieval) | 60.60 (-3.26) | 65.28 (-1.84) | 64.24 (-2.69) | 41.38 (持平) | 缺乏结构化外部医学事实注入,真实度判别下降 |
| 移除多跳知识扩展 (w/o Multi-hop) | 63.18 (-0.68) | 66.56 (-0.56) | 65.86 (-1.07) | 41.38 (持平) | 缺少桥接概念导致复杂推断证据链不充分 |
| 移除视觉证据选择 (w/o Visual Selection) | 60.95 (-2.91) | 63.69 (-3.43) | 66.93 (持平) | 20.02 (-21.36) | 忠实度断崖式暴跌,丧失对病灶影像的一致性锚定 |
关键发现¶
- 精度优先与召回率陷阱的破解:诸如 UNIHD 与 FactSelfCheck 等基线模型虽然取得了极高的召回率(甚至逼近 99%~100%),但其实际精度仅徘徊在 20%~29% 左右,这意味着它们倾向于将大量临床正确的推理盲目判为幻觉,在实际辅助诊断场景中会造成严重的「狼来了」假报警;MedF2Route 在 GPT-5.4-nano 忠实度场景下将精度提升至 36.68%,在真实度场景下达到 48.40%,且在 InternVL-3.5 忠实度检测中将精度拉升至 44.85%(较 VLM-as-Judge 提升 17.41 个百分点),实现了精准度与召回率的良性平衡。
- 证据感知路由的核心中枢地位:消融数据显示,剥离路由机制导致句子级宏 F1 暴跌 11.95 个百分点,三元组真实度宏 F1 暴跌 8.86 个百分点。虽然无路由时模型在直观忠实度上有虚假的轻微上升(+3.45),但这是因为模型对复杂医学常识失去鉴别敏感度所致,印证了分流路由在控制跨维度干扰中的决定性作用。
- 视觉选择对忠实度的决定性支撑:移去视觉证据选择模块使得三元组忠实度宏 F1 发生断崖式暴跌(从 41.38% 跌落至 20.02%,跌幅达 21.36 个百分点),而真实度分支完全不受影响,雄辩地证明了双路解耦机制的模块正交性与视觉定位的不可替代性。
- 开销与性能的实用权衡:根据推理开销分析(Table 14),相比于采样多轮并耗费大量 API 的 SelfCheckGPT(平均 23.06 次调用、6,808 tokens)或检索海量长文本的 FActScore(34,203 tokens),MedF2Route 单样本平均 API 调用次数为 12.92 次,平均消耗 16,735 tokens,在获得最高 Macro-F1(0.6386 vs 0.5867 / 0.3709)的同时保持了极佳的工程部署可行性。
亮点与洞察¶
- 多源证据路由的范式跃迁:摆脱了以往「先切碎句子再盲目检索」的被动比对思维,从底层将黑盒临床幻觉检测形式化为语义-物理-知识三位一体的证据分发问题。该设计通过图谱结构精准隔离了病患独占事实与通用病理常识,巧妙规避了多源异构证据之间的相互污染。
- 保留临床语义修饰的图抽取协议:在关系抽取阶段严格约束模型提取并保留解剖偏侧性(如左肺/右肺)、否定修饰与严重程度。这一举措极大避免了医学语言处理中常见的「提取了实体却弄反了病情」的致命语义翻转错误。
- 充分性引导的知识图谱紧凑扩展:引入动态终止条件的多跳拓扑扩展,在有限预算下仅吸纳具备论证桥接作用的前沿节点,避免了外部知识库的大规模冗余膨胀,兼顾了事实判别的完备性与高效性。
局限与展望¶
- 主干模型内部临床推断能力的制约:错误归因分析表明,在 InternVL 发生误判的 196 个案例中,有高达 69.90%(137 例)归因于模型底层内在临床推理能力的不足(例如将原本合乎逻辑的病理关联误判为冲突);这表明黑盒检测框架的判定上限仍受制于评判主干模型的医学认知水平。
- 外部知识图谱覆盖度的物理天花板:本地 LMKG 对 MedF2Bench 提取实体的匹配覆盖率约为 70%,仍有 14.29% 的事实性误判源于专科罕见病或最新临床术语的收录缺失。未来需探索具有自我演进与文献动态检索能力的混合知识引擎。
- 任务形态向处方推荐等下游工作流拓展:当前研究主要聚焦于辅助鉴别诊断场景,未涵盖涉及复杂药物相互作用(Drug-Drug Interactions)及药理毒性禁忌的治疗处方推荐任务,未来可进一步拓展图验证路径以适配更广阔的临床决策链。
相关工作与启发¶
- vs FActScore / UniHD: FActScore 仅针对文本原子断言开展无差例文档检索,彻底丧失多模态对齐能力;UniHD 虽引入工具调用,但将文本、图像与网页检索结果杂糅在同一提示词中。MedF2Route 的根本区别在于通过显式拓扑子图构建,在源头上完成了患者证据与外部知识的物理隔离与定向派发。
- vs GraphEval / FactSelfCheck: GraphEval 仅面向单模态文本生成,无法处理复杂放射学或超声图像的视觉印证;FactSelfCheck 依赖昂贵的多轮采样比对生成虚拟图谱,容易出现共识性幻觉。MedF2Route 直接利用真实图像像素分布与权威实体知识图谱双重锚定,判定证据链更加透明、坚实且具备严格的临床可解释性。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ [首次将临床 LVLM 幻觉检测形式化为证据路由问题,提出病患事实与知识推断子图解耦架构]
- 实验充分度: ⭐⭐⭐⭐⭐ [自建涵盖 5 种影像模态的 500 例真实病例基准 MedF2Bench,覆盖三款主流多模态模型,包含充分的消融、人工抽检及统计显著性检验]
- 写作质量: ⭐⭐⭐⭐⭐ [逻辑链条严丝合缝,图文表达精准,形式化定义清晰无歧义]
- 价值: ⭐⭐⭐⭐⭐ [有效解决了临床幻觉检测中高误报率与上下文割裂的临床痛点,为高风险医疗场景的大模型安全落地提供了标准可信的审计工具]