VERDICT: Training-Free Step-Wise Verification of Multimodal Reasoning via Disagreement-Aware Consensus¶

会议: ECCV 2026
论文: ECCV 2026 Poster 4674
代码: 待开源
领域: 多模态VLM / LLM推理
关键词: 多模态推理, 逐步验证, 跨模态分歧, 无需训练验证器, 协调博弈

一句话总结¶

针对多模态大模型思维链推理中局部合理但全局错误的步级幻觉传播问题，VERDICT 提出一种无需训练且即插即用的逐步验证框架，通过构建视觉、逻辑与上下文三个异构专家的协调博弈闭式解，利用跨模态分歧结构实现步级过滤与置信度排序，在六大基准上实现最高 +5.95% 的精度提升。

研究背景与动机¶

多模态大语言模型（MLLMs）在图文联合的多步推理任务中展现出了强大的解决复杂问题的潜力。通过将复合问题逐步拆解为中间推理步骤，模型能够逐步建立感知对齐与逻辑推导。然而，长链条推理过程中往往伴随着隐蔽的步级错误，例如缺乏视觉依据的幻觉推断、局部看似合理但脱离语境的逻辑跳跃，以及空间关系的虚构。由于这些错误在局部单步中常常语法通顺且貌似合理，传统基于最终答案的验证难以在早期阻断错误累积，导致初始细微偏差沿链条级联放大，最终走向完全错误的结论。

现有的逐步验证技术通常分为两类，但均存在显著瓶颈。一类是依赖监督训练的过程奖励模型（PRMs）或领域特定批评模型（如 VisualPRM、Sherlock、LLaVA-Critic），它们需要通过昂贵的人工标注或大规模蒙特卡洛采样生成步级监督信号；更严重的是，这些训练得到的判别器表现出极差的跨任务泛化性，在一个基准上学到的评估偏好往往会在另一任务上破坏模型性能。另一类是无需训练的简单聚合方法（如打分平均、多数投票或方差过滤），它们将多个维度的打分视为对称平等的标量输入，无法区分“全员中度认可（如 0.7, 0.7, 0.7）”与“剧烈跨模态冲突（如 0.9, 0.3, 0.9）”这两种均值相同但稳定性截然不同的评估状态。

多模态大模型自身内在的能力张力（如视觉感知与纯语言逻辑的冲突、长上下文中的历史漂移）决定了不同视角的评测者会对同一个推理步骤产生合理的观点分歧。如果一个推理步骤是真实有效的，那么专注于视觉接地、逻辑连贯与上下文相关的三个独立判别者在互相考量对方观点后理应达成一致；反之，若即使在协商后仍存在无法消除的残留分歧，则该步骤必然处于脆弱不稳定的状态。核心 idea：将多模态逐步验证形式化为冻结异构专家间的耦合打分协调博弈，通过推导其唯一的闭式纳什均衡解捕捉跨模态分歧结构，并结合双重准则实现分歧感知的步级过滤与置信度稳定排序。

方法详解¶

整体框架¶

在多模态思维链生成的每个推理步骤 $t$，基础 MLLM 基于输入图像 $I$、问题 $Q$ 以及先前已被接受的历史轨迹 $r_{1:t-1}$，通过温度采样生成 $n$ 个候选延续步骤 $\{r_t^{(1)}, \dots, r_t^{(n)}\}$。VERDICT 将每个候选步骤交由三个具有正交评估维度的冻结智能体进行独立评分，随后通过协调博弈闭式解将原始置信度映射为共识调整后的均衡打分，并依据均值置信度与共识离散度构成的双重接受准则进行候选筛选，最后挑选最具稳定性的步骤扩展推理链。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["多模态上下文 (I, Q, r1:t-1) + 候选步骤生成"] --> B["异构专家独立评分<br/>视觉 / 逻辑 / 上下文智能体"]
    B --> C["耦合打分协调博弈<br/>闭式纳什均衡求解"]
    C --> D["双重接受准则过滤<br/>均值置信度 > τ 且 共识离散度 < ε"]
    D -->|存在通过候选| E["最高共识置信度选择"]
    D -->|全员未通过| F["残差回退连续排序<br/>按 s* - Δ* 选优"]
    E --> G["输出选定验证步 rt* 并延续推理"]
    F --> G

关键设计¶

1. 异构专家独立评分：正交覆盖多模态推理的核心失效模式

现有的通用标量打分器往往掩盖了具体是哪种模态出现了幻觉或逻辑断裂。VERDICT 构建了三个完全冻结的评测智能体，各自仅依据自身提示词从特定维度出具 $[0, 1]$ 之间的原始置信度 $\hat{s}_i$： - 视觉智能体（Visual Agent, V）：专门核对候选推理步骤中提及的物体、属性与空间几何关系在输入图像中是否具备明确可见的视觉支撑，针对无图凭空的视觉幻觉。 - 逻辑智能体（Logical Agent, L）：不依赖图像细节，专注推导该步骤是否合乎逻辑地紧接于历史前置步骤 $r_{1:t-1}$，且是否朝着解答目标迈出确定的一步，针对推理跳步与矛盾。 - 上下文智能体（Contextual Agent, C）：监控该步骤是否紧扣原始问题目标，防止推理链在长上下文中引入发散的猜测或离题讨论。所有智能体在单步评估时互相隔离，不共享中间打分，确保输入证据来源的纯粹与正交。

2. 耦合打分协调博弈：非对称顽固度驱动的闭式共识解

简单平均假设各专家地位均等且独立，彻底抹去了“谁与谁分歧”的拓扑信息。VERDICT 将多专家打分构建为一种非对称协调博弈。每个智能体 $i$ 在报告调整打分 $s_i \in [0, 1]$ 时，需要同时权衡两个目标：一方面尽可能协调靠近其他专家的平均打分 $\bar{s}_{-i} = \frac{1}{m-1} \sum_{j \neq i} s_j$，另一方面保持对自身独立观测证据的忠诚度，其收益函数定义为： $$u_i(s_i, s_{-i}) = - (s_i - \bar{s}_{-i})^2 - \lambda_i (s_i - \hat{s}_i)^2$$ 其中 $\lambda_i > 0$ 为代表智能体 $i$ 对自身证据“顽固度（stubbornness）”的超参数。顽固度越高的专家越抵抗从众压力。针对多模态感知易被纯文本语言捷径带偏的特点，论文设定非对称权重 $\lambda_V = 1.5, \lambda_L = 1.0, \lambda_C = 0.8$，即赋予视觉感知最高的坚持权重，上下文相关性则相对灵活。由于该效用函数严格凹（$\frac{\partial^2 u_i}{\partial s_i^2} = -2(1+\lambda_i) < 0$），根据 Rosen 凹博弈理论，系统存在唯一的闭式纳什均衡解： $$(1 + \lambda_i) s_i^* - \frac{1}{m-1} \sum_{j \neq i} s_j^* = \lambda_i \hat{s}_i, \quad i \in \{1, \dots, m\}$$ 该线性方程组可直接以矩阵逆的闭式解求解，无需迭代优化。博弈均衡具备严格的平均保持性：$\bar{s}^* = \frac{1}{m} \sum_{i=1}^m s_i^* = \frac{1}{m} \sum_{i=1}^m \hat{s}_i$。它不会虚增整体置信度，而是将分歧转化为非对称的均衡分布。数学证明（Proposition 1）表明，经由耦合得到的共识离散度无法由任何单一打分的加权平均可分离函数分解，这赋予了其捕捉非线性跨模态冲突的核心能力。

3. 双重接受准则与连续残差回退：兼顾筛选严谨性与生成连贯性

在获得各候选步骤的均衡打分 $\{s_i^*\}$ 后，VERDICT 计算两个核心统计量：反映群体整体认可强度的均值共识置信度 $\bar{s}^* = \frac{1}{m} \sum_{i=1}^m s_i^*$，以及度量协调后残余分歧的共识离散度 $\Delta^* = \frac{1}{m} \sum_{i=1}^m |s_i^* - \bar{s}^*|$。候选步骤被接受当且仅当满足双重门限： $$\text{accept}(r_t^{(j)}) \iff \bar{s}^{*(j)} > \tau \quad \wedge \quad \Delta^{*(j)} < \epsilon$$ 默认阈值设为 $\tau = 0.6, \epsilon = 0.1$。离散度检测负责剔除那些虽然平均分较高但视觉与逻辑产生不可调和冲突的不稳定步骤；置信度检测负责拦截集体存疑步骤。在通过双重准则的合格候选集中，选择均值置信度 $\bar{s}^*$ 最高者作为推进步骤。若某个推理位置的所有采样候选均未能同时满足双重准则，系统自动触发软性残差回退排序：按照 $\bar{s}^* - \Delta^*$ 的连续指标选取最优候选，保证推理链永不卡死中断，同时最大限度偏好分歧最小的相对稳定步。

一个完整示例¶

假设在空间位置判断任务中，模型生成了候选步骤 $A$ 与候选步骤 $B$： - 候选 A（局部幻觉型错误）：视觉、逻辑、上下文给出的原始打分分别为 $\hat{\mathbf{s}}_A = (0.9, 0.3, 0.9)$。其原始算术均值为 $0.70$。视觉智能体确信看到目标物体（$0.9$），但逻辑智能体敏锐检测到该推论与前序步骤矛盾（$0.3$）。在博弈耦合调整后（$\lambda_V=1.5, \lambda_L=1.0, \lambda_C=0.8$），均衡解得 $\mathbf{s}^*_A \approx (0.80, 0.55, 0.77)$，均值仍为 $\bar{s}^* \approx 0.71$，但共识离散度 $\Delta^* \approx 0.11 > \epsilon = 0.10$。尽管置信度通过，但离散度超标，判定为跨模态不稳定，被果断拒绝。 - 候选 B（稳健一致型推断）：原始打分 $\hat{\mathbf{s}}_B = (0.7, 0.7, 0.7)$。各专家原始打分完全一致，均衡解保持 $\mathbf{s}^*_B = (0.7, 0.7, 0.7)$，均值 $\bar{s}^* = 0.70$，共识离散度 $\Delta^* = 0.00 < \epsilon$。双重准则均达标并被成功采纳。单纯使用传统打分平均时，候选 A（0.70）甚至略高于候选 B，导致采纳有毒步骤；而 VERDICT 依靠非对称博弈耦合精准识别出 A 的内在冲突，实现了正确纠偏。

实验关键数据¶

主实验¶

论文使用 Qwen2.5-VL-7B-Instruct 作为基础推理模型与评测专家底模，在涵盖 3D 空间推理、2D 视觉感知、多模态细粒度理解的六大基准上进行全面评估。与基于全量标注微调的领域批评模型（Domain-Specific Critics）以及多种免训练标量聚合基线进行了对照。

方法 / 策略	类型	3DSRBench	CV-Bench-3D	CV-Bench-2D	BLINK	MMStar	AI2D	平均分 (Avg.)
Base Model	无验证基线	56.12	76.39	74.27	48.31	61.25	81.52	66.31
领域特定批评模型 (需训练)
LLaVA-Critic	监督微调判别器	52.71 ±0.83	81.58 ±0.91	67.52 ±0.82	49.22 ±0.77	64.07 ±0.61	81.81 ±0.44	66.15
Critic-V (CVPR 25)	多模态批评微调	53.25 ±0.73	77.66 ±0.81	75.38 ±0.79	46.17 ±0.86	55.83 ±0.59	80.17 ±0.75	64.74
Sherlock (NeurIPS 25)	自校正推理微调	48.11 ±0.93	58.13 ±1.10	68.78 ±1.98	49.07 ±0.89	57.26 ±0.96	82.77 ±0.52	60.69
VisionSR1 (ICLR 26)	自奖励分解模型	53.05 ±1.82	54.18 ±1.05	73.10 ±1.91	30.09 ±1.45	57.20 ±2.73	80.25 ±0.97	57.98
DreamPRM (NeurIPS 25)	过程奖励微调	53.08 ±1.88	63.39 ±0.98	75.58 ±1.61	49.89 ±0.82	61.23 ±0.59	81.21 ±0.49	64.06
领域不可知免训练基线
Variance (方差过滤)	对称方差门限	57.21 ±0.57	78.16 ±0.68	76.43 ±0.53	49.61 ±0.49	63.09 ±0.47	81.41 ±0.34	67.65
Mean (算术均值优选)	简单标量平均	58.34 ±0.53	79.77 ±0.61	77.57 ±0.51	50.17 ±0.58	64.14 ±0.44	82.18 ±0.36	68.70
Min (最差表现优先)	保守下界选择	56.11 ±0.58	77.21 ±0.63	75.17 ±0.59	49.39 ±0.55	62.41 ±0.46	81.09 ±0.42	66.90
Majority (多数投票)	多数门限筛选	57.58 ±0.62	77.37 ±0.73	75.53 ±0.68	48.43 ±0.66	62.10 ±0.52	81.78 ±0.48	67.13
Max (最高单项打分)	乐观上界选择	57.37 ±0.55	78.16 ±0.56	76.46 ±0.63	49.17 ±0.43	63.42 ±0.58	82.12 ±0.54	67.78
VERDICT (本文方法)	博弈共识闭式解	59.02 ±0.45	82.34 ±0.51	79.22 ±0.53	51.32 ±0.48	65.88 ±0.37	83.14 ±0.32	70.15
相比 Base 净提升		+2.90	+5.95	+4.95	+3.01	+4.63	+1.62	+3.84

消融实验¶

为解构 VERDICT 的各个组成部件及其机理，论文在各个基准上对“拒绝过滤机制”与“排序选择机制”进行了消融分解，并在 3DSRBench 上分析了专家顽固度与评测模型规模的影响。

评估配置	核心机制描述	3DSRBench 准确率 (%)	相比 VERDICT 变动
VERDICT (完整方法)	双重准则过滤 + 最高共识置信度排序	59.02	-
No Rejection (无过滤)	跳过双重准则门限，直接按 $\bar{s}^* - \Delta^*$ 排序全部候选	58.21	-0.81
No Selection (无优选)	仅保留过滤准则，在合格候选集合中随机选取	57.18	-1.84
Raw Average (原始均值)	相同双重结构，但使用原始均值与无耦合方差替换共识打分	56.43	-2.59
Random (随机基线)	不过滤、不排序，随机选择延续步骤	56.18	-2.84
顽固度权重非对称性消融
交换 L 与 C ($\lambda_V=1.5, \lambda_L=0.8, \lambda_C=1.0$)	保持视觉高顽固度不变	58.61	-0.41
交换 V 与 L ($\lambda_V=1.0, \lambda_L=1.5, \lambda_C=0.8$)	降低视觉专家权重	57.83	-1.19
交换 V 与 C ($\lambda_V=0.8, \lambda_L=1.0, \lambda_C=1.5$)	视觉专家降为最弱权重	57.26	-1.76
评测专家模型规模对算法增益的解耦 (Base=56.12%)
7B 专家 (VERDICT vs Mean)	VERDICT: 59.02% / Mean: 58.34%	59.02	净优势 +0.68
4B 专家 (VERDICT vs Mean)	VERDICT: 57.45% / Mean: 56.56%	57.45	净优势 +0.89
2B 专家 (VERDICT vs Mean)	VERDICT: 55.68% / Mean: 54.47%	55.68	净优势 +1.21

关键发现¶

双重机制分工明确，智能排序贡献更大：消融显示去掉候选筛选（No Rejection）导致性能下降 0.26~1.08 个百分点，而去掉智能排序（No Selection）直接导致 1.17~2.17 个百分点的剧烈下滑。这证明通过耦合博弈获得的共识分数的连续排序能力是提升整体推理质量的核心引擎。
有监督批评模型的严重跨域泛化崩塌：所有的受监督 PRM 和领域批评模型均在至少两个基准上跌破 Base 模型。例如 VisionSR1 在 CV-Bench-3D 上崩塌 22.21 点、在 BLINK 上崩塌 18.22 点；LLaVA-Critic 虽然在 CV-Bench-3D 取得了 81.58 的高分，却在同属一族的 CV-Bench-2D 上狂跌 6.75 点。这揭示了单模态/任务微调引入的归纳偏置难以抵御多任务数据漂移。
专家越弱，耦合算法的纠错溢价越高：当把评测专家从 7B 降级至 2B 时，单纯打分平均（Mean）直接比 Base 模型低 1.65 点（产生负优化），而 VERDICT 仅微降 0.44 点，对 Mean 的领先幅度从 +0.68 逆势扩大到 +1.21。这实证证明了闭式共识离散度能够有效抵消弱模型评分的高噪声扰动。

亮点与洞察¶

跨模态分歧从负面噪声转变为一级诊断信号：传统方法极力消除或掩盖评估分歧，VERDICT 首次从理论与算法上将多专家打分分歧显式建模为对推理局部脆弱性的探测器，构思非常深刻。
博弈论纳什均衡与闭式计算的完美结合：规避了多智能体辩论（Multi-Agent Debate）中常见的昂贵多轮迭代对话与 token 消耗，通过优雅的凹协调博弈推导出一步线性方程组闭式解，使得在推理运行时引入博弈论决策成为零额外训练的高效方案。
极具通用性的即插即用范式：不仅能直接集成至任意开源多模态底座（如 Qwen-VL），其“非对称自私度/顽固度 + 均值保持共识计算”的框架可无缝泛化至强化学习奖励模型集成（Reward Ensembles）、代码生成自反思与 Agent 决策审计中。

局限与展望¶

全员同质性错误无法拦截：如果候选步骤虽然错误但在当前三位专家的共有盲区内，三个专家均给出了高置信度（即“自信地答错”），博弈均衡仍会收敛至错误的高分共识，无法修复根源性幻觉。
采样候选空间的上限瓶颈：若基础推理模型生成的 $n$ 个采样续写中无一包含正确推断分支，无论验证器如何精准筛选与残差回退，都无法凭空创造正确答案。
串行执行下的推理耗时放大：虽然每次打分仅消耗 1~5 个输出 token，但在未做并发优化的串行环境下，相比基础模型生成带来约 3.80 倍的运行时间开销。未来可结合自适应验证（仅在生成不确定性高的步骤调用）进行轻量化剪枝。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [将多模态推理验证抽象为协调博弈闭式解，首倡将跨模态分歧结构作为诊断信号]
实验充分度: ⭐⭐⭐⭐⭐ [横跨六大基准，与 5 种训练批评模型及 5 种免训练聚合基线对比，提供了深入的解耦与敏感度分析]
写作质量: ⭐⭐⭐⭐⭐ [动机叙述极其流畅连贯，博弈论数学推导严密自洽，图表与实验分析针对性极强]
价值: ⭐⭐⭐⭐⭐ [作为一种无需训练且性能稳健的即插即用验证插件，对多模态 Test-Time Compute 具有极高实用参考价值]