Uncertainty Quantification for Multimodal Large Language Models with Incoherence-adjusted Semantic Volume¶

会议: NeurIPS 2026
arXiv: 2602.24195
OpenReview: https://openreview.net/forum?id=VRTV8c5uuB
代码: https://github.com/daohieu17ctt/UMPIRE
领域: 多模态 VLM
关键词: 不确定性量化, 多模态大模型, 语义体积, 质量多样性核, 幻觉检测

一句话总结¶

针对多模态大模型易生成看似合理却与视觉/音频/视频输入相悖的虚谈错误，提出免训练且无需外部检验工具的通用不确定性量化框架 UMPIRE，通过在模型固有嵌入空间构建由条件概率不协调度加权的行列式点过程（DPP）质量-多样性核，有机结合全局语义体积与二次熵估计，在图文、音频和视频等多种任务上显著超越现有基线并具备极高计算效率。

研究背景与动机¶

多模态大语言模型（MLLMs）在图像理解、音视频问答及医疗多模态推理等高风险场景中的应用日益广泛，然而其在面对复杂、模糊或分布外的多模态输入时，极易产生看似流畅可信却包含事实错误的“虚谈”（confabulation）。在临床辅助诊断或自动驾驶等安全关键领域，模型的不确定性若无法被精确量化，系统便无法可靠地将高风险预测转交人工专家或更大参数的模型进行风险兜底。尽管已有针对文本 LLM 的不确定性估计方法（如 Semantic Entropy、Length-Normalized Entropy），但它们无法感知多模态输入间的接地一致性；而少数针对多模态提出的方法往往过度特化于图文任务，重度依赖外部验证模型（如 VQG 生成器或 DeBERTa 自然语言推理器）或昂贵的样本特征工程，导致单样本评估延迟激增数千倍，难以跨越不同输入甚至输出模态进行泛化。

这种困境的核心矛盾在于：多模态不确定性既包含模型全局语义假设的发散性（即回答是否存在互不相容的多种语义模式），又包含局部响应与输入跨模态证据间的脱节程度（即回答是否缺乏输入线索的接地支撑）。纯粹基于 token 概率的指标能够反映模型的局部拟合不确定性，却无法区分句式改写的表面离散与真实语义的分歧；而纯粹依赖嵌入空间协方差或聚类的多样性指标，又往往将等权重的不同候选视为同等质量，极易被模型高置信的集中错判或低置信的紧致数字聚集所蒙蔽，且计算开销高昂。

本文的切入角度是：高性能 MLLM 自身内部已经内嵌了跨模态对齐的多模态特征空间以及联合条件概率信号，无需借助任何外置模型即可同时充当“表征器”与“自省器”。核心 idea：将多模态不确定性量化形式化为内生语义空间中的不协调度加权语义体积，借鉴行列式点过程（DPP）的质量-多样性核结构，将局部序列条件概率转化为二次熵不协调度权重，与最后一层嵌入构成的 Gram 矩阵对数行列式相耦合，实现兼具判别力、风险线性度与跨模态一致性的轻量化评估。

方法详解¶

整体框架¶

UMPIRE（Uncertainty using Model Probability Indicators and Response Embeddings）是一个完全处于推理阶段的免训练框架。给定多模态输入查询 $q_t$（可为文本与图像、音频或视频的组合），框架首先利用模型自身在标准采样温度下生成 $k$ 个候选输出响应，随后直接抽取每个响应对应的内部多模态特征与生成联合概率，无需调用任何外部模型或分类器即可计算出最终的不确定性标量 $V_t$。

方法的整体流程由四个紧密协作的阶段构成：多模态采样生成候选集、提取归一化末层 EOS 标记嵌入构建语义 Gram 矩阵、依据自回归条件概率计算响应不协调度尺度、以及通过 Cholesky 分解计算加权语义体积对数行列式。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["多模态输入查询与响应采样<br/>输入包含图/音/视/文，自回归采样 k 个候选响应"] --> B["语义体积度量<br/>提取末层 EOS 嵌入构建正则化 Gram 矩阵"]
    A --> C["条件概率不协调度与二次熵估计<br/>计算序列条件概率导出无偏二次熵估计"]
    B --> D["质量-多样性核分解与正定容积计算<br/>对角不协调度矩阵缩放 Gram 阵并求对数行列式"]
    C --> D
    D --> E["无监督自适应平衡策略与黑盒代理评估<br/>中位数比值自适应确定 α 融合输出 Vt"]

关键设计¶

1. 语义体积度量：刻画多模态响应的全局多样性 针对现有基于外部聚类或 NLI 模型的语义熵方法计算极其缓慢且难以跨模态迁移的问题，UMPIRE 利用 MLLM 本身丰富的多模态表征能力来直接度量回答的语义发散程度。对于采样的 $k$ 个回答 $\{y_i\}_{i=1}^k$，提取其最后一层 EOS 标记的隐状态向量并进行 $L_2$ 归一化得到 $\phi_i \in \mathbb{R}^d$（其中 $d > k$），所有样本构成嵌入矩阵 $\Phi_t \in \mathbb{R}^{k \times d}$。各响应投射在超球面上，其几何散度反映了候选答案间的语义分歧。引入微小扰动项 $\epsilon > 0$ 保证数值稳定性，未加权语义体积定义为 Gram 矩阵的正则化对数行列式： $$U_t \coloneqq \frac{1}{2k} \log \det (\Phi_t \Phi_t^\top + \epsilon I_k)$$ 从几何角度看，$\det(\Phi_t \Phi_t^\top + \epsilon I_k)$ 代表了这些嵌入向量在特征空间中张成的平行多面体体积的平方。理论分析证明，当多模态回答出现模式分离、类间协方差增大时，$U_t$ 严格单调递增；当所有回答语义高度相同时，嵌入向量共线导致张成体积趋近于 $\epsilon^k$，从而有效捕捉到多模态生成中出现的全局语义分支发散。

2. 条件概率不协调度与二次熵估计：刻画局部置信度与概率离散 纯几何体积无法感知各候选答案在模型眼中的真实置信度，更无法判断回答是否与输入的多模态线索存在 grounding 脱节。为此，UMPIRE 显式利用 MLLM 输出序列的条件生成概率： $$p_i \coloneqq \mathbb{P}_{\mathcal{M}}(y_i \mid q_t) = \exp \left( \sum_{j=1}^{N_i} \log \mathbb{P}_{\mathcal{M}}(w_{i,j} \mid q_t, w_{i,1:j-1}) \right)$$ 将每个回答的不协调度定义为 $f_i(\mathcal{M}, t) = 1 - p_i$。该设计具有坚实的理论支撑：经验均值 $Q_t = \frac{1}{k} \sum_{i=1}^k (1 - p_i)$ 恰好是响应分布二次熵（Quadratic Entropy / Gini-Simpson 散度）的无偏蒙特卡洛估计： $$\mathbb{E}_{Y \sim \mathbb{P}_{\mathcal{M}}(\cdot \mid q_t)} [1 - \mathbb{P}_{\mathcal{M}}(Y \mid q_t)] = 1 - \sum_{y} \mathbb{P}_{\mathcal{M}}(y \mid q_t)^2 = H_2(Y)$$ 二次熵衡量了从模型分布中独立抽取两个样本互不匹配的概率。相比于常用香农熵对对数长尾微小概率极度敏感的缺陷，二次熵方差极低且对小样本采样（如 $k=5$）具备极高的稳健性。理论推导进一步证明，较小的 $Q_t$ 从数学上直接给主导语义模式的概率质量提供了强下界约束（$w_{\max} \ge 1 - Q_t$），排除了存在多个高置信度语义分支的可能。

3. 质量-多样性核分解与正定容积计算：协同消除互盲区 针对单一指标在某些边界情形下失效的痛点（如纯数字计数任务中预测分散但嵌入聚拢导致 $U_t$ 失效，或模型在错误答案上过度自信导致 $Q_t$ 失效），UMPIRE 借鉴行列式点过程（DPP）中的质量-多样性核构造，构建对角不协调度缩放矩阵 $C_t \coloneqq \text{diag}(\exp(\alpha (1 - p_i)))$，并定义不协调度加权语义体积： $$V_t \coloneqq \frac{1}{2k} \log \det [C_t (\Phi_t \Phi_t^\top + \epsilon I_k) C_t]$$ 利用矩阵行列式的乘积性质，该式可严格且优美地精确解耦为两项之和： $$V_t = U_t + \alpha Q_t = \frac{1}{2k} \log \det (\Phi_t \Phi_t^\top + \epsilon I_k) + \frac{\alpha}{k} \sum_{i=1}^k (1 - p_i)$$ 这种结构让几何多样性 $U_t$ 与概率离散度 $Q_t$ 形成天然互补。似然比检验（Likelihood Ratio Test, LRT）证实 $U_t$ 在 $Q_t$ 基础上提供了极具统计显著性（$p < 0.0001$）的额外判别信息；同时基于 McDiarmid 不等式的理论分析证明，$V_t$ 具有亚高斯集中性质，其偏离均值的概率随 $k$ 指数级衰减，保证了正确与错误样本间排位的一致性。

4. 无监督自适应平衡策略与黑盒代理评估 在实际部署中，权重系数 $\alpha$ 决定了语义体积与二次熵的相对贡献。UMPIRE 提出了无需任何标注验证集的“自适应 $\alpha$”启发式方案：仅利用少量未标注的多模态任务样本，分别计算 $U_t$ 与 $Q_t$ 的中位数，并将其比值作为任务特异的常数 $\alpha \coloneqq \text{Median}(U_t) / \text{Median}(Q_t)$。该策略使两项在期望尺度上达到均衡，实验表明其效果逼近在完全标注集上进行网格搜索的最优性能。此外，针对商业闭源大模型（如 GPT-4o、Claude 3.5）无法直接获取内部隐层表征与 logits 的局限，UMPIRE 引入轻量级开源白盒模型（如 LLaVA-1.5-13B）作为表征代理，通过代理模型对黑盒输出计算嵌入与条件概率，在极低额外开销下成功实现对闭源 API 的高精度不确定性量化。

损失函数 / 训练策略¶

UMPIRE 属于全流程免训练（Training-free）的推理期算法。算法无需对 MLLM 的任何参数进行微调或更新，输入仅需多模态模型 $\mathcal{M}$、输入查询 $q_t$、采样数 $k$、扰动系数 $\epsilon$（实验中设为 $10^{-8}$）以及平衡系数 $\alpha$。在数值实现上，算法直接利用 $V_t = U_t + \alpha Q_t$ 的分解形式，通过对 $k \times k$ 正定矩阵进行 Cholesky 分解计算 $\log \det$，避免了直接显式构造大规模协方差矩阵或进行复杂的特征值全分解（SVD），其矩阵计算复杂度仅为 $O(k^3)$（在实际 $k=5 \sim 50$ 时延迟在亚毫秒级，耗时约 $8 \times 10^{-4}$ 秒），主要计算开销完全由大模型自身的批量并行生成主导。

实验关键数据¶

主实验¶

论文在多模态理解基准上全面对比了 UMPIRE 与代表性基线模型。评测指标涵盖： 1. 错误判别力（R1）：AUROC（越大越好）； 2. 风险线性度（R2a）：校准皮尔逊相关系数（CPC，越大越好）； 3. 未标注校准度（R2b）：期望校准误差（ECE，越小越好）。评测涵盖图像-文本 [I]（VQAv2, OKVQA, AdVQA, MathVista, VQA-RAD）、音频-文本 [A]（SLUE, SpokenSQ）和视频-文本 [V]（VidMME）三大模态。

数据集	指标	NC (图文特化)	LN-Ent (文本自回归)	Sem.Ent (语义熵)	Eigen (特征值对数)	本文 (UMPIRE)
[I] VQAv2	AUROC ↑ CPC ↑ ECE ↓	76.5 ± 0.1 78.4 ± 1.3 0.343 ± 0.009	78.6 ± 0.1 62.6 ± 8.9 0.049 ± 0.017	84.7 ± 0.3 84.9 ± 5.0 0.045 ± 0.002	86.7 ± 0.2 93.9 ± 0.6 0.048 ± 0.009	88.1 ± 0.2 94.6 ± 0.1 0.038 ± 0.004
[I] OKVQA	AUROC ↑ CPC ↑ ECE ↓	53.9 ± 0.9 31.9 ± 40.3 0.484 ± 0.017	70.3 ± 0.1 71.9 ± 12.0 0.039 ± 0.002	71.6 ± 0.1 28.8 ± 1.8 0.194 ± 0.042	73.7 ± 0.1 85.2 ± 8.9 0.152 ± 0.010	75.3 ± 0.1 96.7 ± 0.7 0.045 ± 0.007
[I] AdVQA	AUROC ↑ CPC ↑ ECE ↓	65.7 ± 0.6 62.4 ± 9.5 0.335 ± 0.012	64.8 ± 0.2 87.0 ± 4.5 0.077 ± 0.006	76.4 ± 0.2 75.5 ± 0.1 0.156 ± 0.015	77.5 ± 0.3 89.2 ± 1.3 0.216 ± 0.005	78.7 ± 0.2 98.0 ± 0.1 0.039 ± 0.003
[I] MathVista	AUROC ↑ CPC ↑ ECE ↓	75.6 ± 0.2 61.5 ± 7.9 0.087 ± 0.011	66.9 ± 0.3 82.6 ± 2.0 0.125 ± 0.018	81.0 ± 0.7 76.7 ± 2.4 0.189 ± 0.051	81.8 ± 0.6 69.5 ± 2.8 0.314 ± 0.016	82.6 ± 0.6 83.9 ± 2.7 0.089 ± 0.015
[I] VQA-RAD	AUROC ↑ CPC ↑ ECE ↓	69.7 ± 1.3 47.6 ± 4.9 0.139 ± 0.003	62.9 ± 1.1 87.1 ± 3.4 0.100 ± 0.012	76.8 ± 0.4 63.8 ± 1.2 0.376 ± 0.019	79.5 ± 0.6 62.9 ± 4.2 0.352 ± 0.025	80.7 ± 0.3 80.8 ± 7.1 0.072 ± 0.009
[I] 平均	AUROC ↑ CPC ↑ ECE ↓	68.3 ± 0.6 56.3 ± 12.8 0.278 ± 0.010	68.7 ± 0.4 78.2 ± 6.2 0.078 ± 0.011	78.1 ± 0.3 65.9 ± 2.1 0.192 ± 0.026	79.8 ± 0.4 80.1 ± 3.6 0.217 ± 0.013	81.1 ± 0.3 90.8 ± 2.1 0.057 ± 0.008
[A] SLUE	AUROC ↑ CPC ↑ ECE ↓	— — —	75.6 ± 0.5 74.0 ± 5.5 0.100 ± 0.023	80.0 ± 1.1 84.2 ± 2.7 0.224 ± 0.010	78.8 ± 0.3 85.1 ± 2.7 0.164 ± 0.006	82.2 ± 0.3 93.6 ± 0.5 0.054 ± 0.009
[A] SpokenSQ	AUROC ↑ CPC ↑ ECE ↓	— — —	70.7 ± 0.2 76.7 ± 13.8 0.070 ± 0.003	76.7 ± 0.2 87.4 ± 2.5 0.291 ± 0.019	77.5 ± 0.1 87.8 ± 4.3 0.244 ± 0.009	79.7 ± 0.1 97.8 ± 0.5 0.031 ± 0.002
[V] VidMME	AUROC ↑ CPC ↑ ECE ↓	— — —	71.3 ± 1.6 69.1 ± 2.4 0.082 ± 0.006	71.9 ± 1.3 75.9 ± 7.3 0.210 ± 0.017	81.2 ± 0.9 76.3 ± 3.2 0.325 ± 0.008	81.9 ± 0.4 77.8 ± 4.3 0.126 ± 0.026
全模态平均	AUROC ↑ CPC ↑ ECE ↓	— — —	70.1 ± 0.5 76.4 ± 6.6 0.080 ± 0.011	77.4 ± 0.5 72.1 ± 2.9 0.211 ± 0.022	79.6 ± 0.4 81.2 ± 3.5 0.227 ± 0.011	81.2 ± 0.3 90.4 ± 2.0 0.062 ± 0.009

消融实验¶

论文详细检验了未调整语义体积 $U$、二次熵不协调度 $Q$ 以及不同超参数配置下完整指标 $V$（自适应 $\alpha$ 对应的 $V_{\text{adap}}$ 与在标注集上调优的 $V_{\text{best}}$）的贡献分解。

配置	AUROC ↑ (图文均值 / 全模态均值)	CPC ↑ (图文均值 / 全模态均值)	ECE ↓ (图文均值 / 全模态均值)	说明
纯语义体积 $U$ ($\alpha=0$)	79.9 ± 0.4 / 79.7 ± 0.4	80.6 ± 2.5 / 80.6 ± 2.5	0.218 ± 0.011 / 0.230 ± 0.009	仅依靠嵌入空间行列式，缺乏生成置信度信号，严重欠校准 (ECE高)
纯二次熵不协调度 $Q$	81.2 ± 0.3 / 81.3 ± 0.2	87.3 ± 2.6 / 84.4 ± 2.9	0.071 ± 0.006 / 0.071 ± 0.005	判别力较强，但无法区分语义模式发散与同义改写
UMPIRE (自适应 $\alpha$, $V_{\text{adap}}$)	81.1 ± 0.3 / 81.2 ± 0.3	90.8 ± 2.1 / 90.4 ± 2.0	0.057 ± 0.008 / 0.062 ± 0.009	无需任何标签，CPC 提升 6.0，ECE 降低 12.7%，兼具高判别与优异校准
UMPIRE (最优调优 $\alpha$, $V_{\text{best}}$)	81.0 ± 0.2 / 81.2 ± 0.3	92.6 ± 3.7 / 91.7 ± 3.4	0.050 ± 0.012 / 0.048 ± 0.010	基于 10% 标注集调优，进一步微调风险线性度与绝对误差校准

关键发现¶

双重互补消除盲区：$Q_t$ 是强判别器，但在模型对错误回答高度自信（如将“禁止乱扔垃圾”高置信误判为“停车”，但采样回答散布为“交通/倾倒/卡车”）时失效；此时 $U_t$ 依靠空间大分散纠偏。反之，在计数或是否题等低语义方差任务中（数字“6, 7, 8”嵌入紧密聚拢导致 $U_t$ 极小），$Q_t$ 凭借平坦的条件概率分布精准识别出高不确定性。
卓越的计算效率与样本利用率：UMPIRE 避开了 Sem.Ent 昂贵的成对 NLI 调用（耗时约 9 秒/样本），计算额外开销仅为 $8 \times 10^{-4}$ 秒，提速上万倍；在采样预算压缩至仅 $k=5$ 时，仍能取得 0.873 (VQAv2)、0.774 (AdVQA) 的高 AUROC，显著抛离单样本基线（如序列概率或困惑度）。
多模态接地与生成任务泛化：在图像输入加入高斯噪声、涂黑或完全移除后，UMPIRE 的表现发生符合常理的阶段性显著衰减（图文接地性 R4），而 Eigen 等基于文本协方差的基线对图像丢失毫无感知。在非文本输出任务（图像/音频生成）中，UMPIRE 与生成结果的 CLIP/CLAP 真实质量表现出高达 0.815 和 0.759 的负相关性，显著优于专用图像不确定性度量 PUNC。

亮点与洞察¶

质量-多样性核的跨领域迁移：将行列式点过程（DPP）经典的质量-多样性分解优雅地映射到 MLLM 的不确定性估计中，把几何体积作为多样性测度、条件概率作为质量测度，形式优雅且具备解析解耦特性。
免标注自适应超参策略：发现 $U_t$ 与 $Q_t$ 的中位数比值可作为极佳的无监督标度基准，彻底解决了不确定性量化方法落地时强依赖标注验证集调参的痼疾。
白盒代理赋能商业闭源大模型：利用较小的本地开源多模态模型（LLaVA-13B）为黑盒商业 API（GPT-4o、Claude 3.5）提供表征与概率评估，开辟了一条经济实用的闭源 MLLM 风险审查落地路径。

局限与展望¶

长文本思维链推理的数值下溢挑战：对于生成长篇 reasoning 复杂解答的任务，累积序列联合概率 $p_i$ 会随着 token 增长呈指数衰减并趋近于零，导致 $Q_t$ 饱和。尽管附录尝试了长度归一化，未来仍需探索限定关键回答跨度（answer span）或基于 token 熵动态衰减的适应机制。
黑盒代理假设的特征一致性约束：使用白盒模型代理黑盒闭源 API 时，隐含假设了两者在特征空间及相对置信度上的粗粒度对齐；若代理模型与黑盒模型在领域先验上差距过大，代理评估精度将受损。
未来方向：可进一步将 UMPIRE 拓展至多模态主动学习（Active Learning）与多模态强化学习的拒绝采样和高风险实例动态路由管线中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙融合 DPP 质量-多样性核与二次熵理论，成功统一语义几何体积与局部概率离散。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖图/音/视多模态理解与图/音生成，包含黑盒代理、消融及似然比统计检验。
写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨自洽，动机与机制阐述明晰透彻。
价值: ⭐⭐⭐⭐⭐ 免训练、无外部依赖且计算开销仅亚毫秒级，极具工业级高风险部署实用价值。

配置	AUROC ↑ (图文均值 / 全模态均值)	CPC ↑ (图文均值 / 全模态均值)	ECE ↓ (图文均值 / 全模态均值)	说明
纯语义体积 \(U\) (\(\alpha=0\))	79.9 ± 0.4 / 79.7 ± 0.4	80.6 ± 2.5 / 80.6 ± 2.5	0.218 ± 0.011 / 0.230 ± 0.009	仅依靠嵌入空间行列式，缺乏生成置信度信号，严重欠校准 (ECE高)
纯二次熵不协调度 \(Q\)	81.2 ± 0.3 / 81.3 ± 0.2	87.3 ± 2.6 / 84.4 ± 2.9	0.071 ± 0.006 / 0.071 ± 0.005	判别力较强，但无法区分语义模式发散与同义改写
UMPIRE (自适应 \(\alpha\), \(V_{\text{adap}}\))	81.1 ± 0.3 / 81.2 ± 0.3	90.8 ± 2.1 / 90.4 ± 2.0	0.057 ± 0.008 / 0.062 ± 0.009	无需任何标签，CPC 提升 6.0，ECE 降低 12.7%，兼具高判别与优异校准
UMPIRE (最优调优 \(\alpha\), \(V_{\text{best}}\))	81.0 ± 0.2 / 81.2 ± 0.3	92.6 ± 3.7 / 91.7 ± 3.4	0.050 ± 0.012 / 0.048 ± 0.010	基于 10% 标注集调优，进一步微调风险线性度与绝对误差校准