MM-JudgeBias: A Benchmark for Evaluating Compositional Biases in MLLM-as-a-Judge¶

会议: ACL 2026
arXiv: 2604.18164
代码: 论文 project page + GitHub（abstract 中标注）
领域: 多模态评测 / MLLM-as-a-Judge / 偏见 benchmark
关键词: MLLM-as-a-Judge、compositional bias、modality bias、Bias-Deviation、Bias-Conformity

一句话总结¶

作者把"MLLM 当 judge 时是否真的把图像、查询、回答三者综合起来评判"形式化为 Compositional Bias，并构建 MM-JudgeBias——一个含 9 类偏见、1804 条来自 29 个源 benchmark 样本的诊断集，用 Bias-Deviation（语义破坏后该降分但没降）+ Bias-Conformity（语义保不变时该稳但不稳）两个互补指标，发现 26 个 SOTA MLLM judge（含 Gemini-3 Pro、GPT-5.1、Claude Opus 4.5）都存在严重的 modality neglect。

研究背景与动机¶

领域现状：MLLM-as-a-Judge 已成为多模态生成（captioning、VQA、visual reasoning）的主流自动评测范式，从早期用 GPT-4o 直接当 judge，到现在专门微调 Prometheus-Vision、LLaVA-Critic 这类 critic model。

现有痛点：LLM-as-a-Judge 已有 12 类偏见的系统研究，但 MLLM judge 的可靠性研究还停留在"position bias / verbosity / length"这种从 LLM 直接照搬的浅层维度上，没人系统问过——"当 judge 缺失了图像、或图像和回答错位、或加了无关 caption 时，judge 还会不会乱给分？"这是 multimodal judge 独有的失败模式。

核心矛盾：MLLM judge 经常被发现"看不看图都打一样分"——这并不是单纯的能力不足，而是 verification integrity 的失败：judge 的本职是 conditional verification，但模型却把它退化成 unconditional prediction，根据 response 表面流畅度就给满分。

本文目标：(1) 给出多模态 judge 偏见的形式化框架；(2) 构造可控扰动的诊断集；(3) 用 26 个 MLLM 把这件事的严重程度量化出来。

切入角度：把"reliable judge 应有的行为"拆成三类——Integrality（缺组件就该扣分）、Congruity（组件互相矛盾就该扣分）、Robustness（语义不变的扰动不该影响分数）。前两个用 Bias-Deviation 度量（扰动后该掉分掉了多少），后者用 Bias-Conformity 度量（扰动后分数稳不稳）。

核心 idea：用 9 种受控扰动 × 1804 条数据 × 两个互补指标，把"compositional bias"系统化、可测量化。

方法详解¶

整体框架¶

MM-JudgeBias 的构造分 4 个阶段：(a) 从 29 个源 benchmark（COCO、MathVista、DocVQA、ChartQAPro 等）按 4 任务类型 × 12 领域采样；(b) 用 Gemini-2.5-Pro 为每条样本生成 3 个 query，再走 model+human 两轮 review 选出 best-Q，确保 query 真的需要多模态信息才能答；(c) 平行构造一个纯文本 query 集（用于 unnecessary-image 偏见）；(d) 用 GPT-5 mini / Gemini-2.0-Flash-Lite / Qwen2.5-VL-7B 多模型平衡生成 response，保证分数分布多样；(e) 按 9 类偏见对原始三元组 \((Q, I, R)\) 做扰动，得到 \((Q', I', R')\)；(f-g) 让 26 个 MLLM judge 对二者各打 1-10 分，按 BD / BC 量化。最终 1804 条样本，覆盖 9 偏见 × 4 任务 × 12 领域。

关键设计¶

9 类偏见三维度的 taxonomy:
- 功能：把 "judge 失败" 拆成可独立度量的 9 个细粒度类型。
- 核心思路：Integrality (3 类) = Text-Dominance / Image-Dominance / Response-Dominance，分别用 null image、null query、二者都 null 替换；Congruity (2 类) = Instruction-Misalignment / Image-Misalignment，用随机不相关的 query / image 替换；Robustness (4 类) = Detail-Description（query 后拼图像 caption）/ Unnecessary-Image（纯文本任务加无关图）/ Visual-Transformation（语义保留的图像增广）/ Texture-Insertion（在图像上叠加 query 关键词文本）。
- 设计动机：前两维（Integrality + Congruity）测的是"该敏感的时候敏不敏感"，后一维（Robustness）测的是"该稳的时候稳不稳"——这种"sensitivity 与 stability 双向考察"避免了单一 metric 把"全打满分"和"全打 0 分"两种 trivial 行为都误判为高分。
Bias-Deviation (BD) 与 Bias-Conformity (BC) 双指标:
- 功能：给"该掉分"和"该不掉分"两种期待分别量化。
- 核心思路：BD 用于 Integrality/Congruity 类，公式 \(\text{BD} = \mathbb{E}_{(y, \hat{y}) \sim D}[(y - \hat{y})_+ / (y - 1) | y > 1]\)，把"扰动后实际下降量"对"最大可能下降量"做归一化，越高越好（说明 judge 真的看穿了扰动）。BC 用于 Robustness 类，公式 \(\text{BC} = \mathbb{E}_{(y, \hat{y}) \sim D}[1 - |y - \hat{y}| / \max(y-1, S-y)]\)，越接近 1 越好（说明 judge 没被无关扰动晃动）。两者按偏见类型选择性使用，不是同一组对比。
- 设计动机：单看 BC 一个简单的"对所有样本打同一分"就能拿满分（毫无 discriminative power）；论文专门额外报告 inter-sample variance 来抓"trivial constant judge"。BD 排除 \(y=1\) 的样本，因为没有再下降的空间，避免 metric 被边界效应污染。
Human-in-the-loop 高质量数据合成:
- 功能：保证 query 真的需要 image+text 联合推理才能答，不是只看一边就能蒙对。
- 核心思路：每条样本让 Gemini-2.5-Pro 生 3 个候选 query → 模型自检 → 人审选 1 个；对图像扰动里需要语义不变的 augmentation（VisualTrans）用预设 pipeline 组合，需要语义破坏的扰动（如 texture insertion）用模型生成。每条偏见类型都有难度三档（easy / mod / hard），并按任务和领域做分层抽样。
- 设计动机：如果 query 只看 image 或只看 text 就能答，那扰动后 judge 没掉分就不是 bias 而是合理；human review 是过滤这一陷阱的必要保证。

损失函数 / 训练策略¶

MM-JudgeBias 是 benchmark 不是模型，无训练。评测时所有 judge model 用 max_tokens=16384，reasoning effort 设为 "high"（针对支持 thinking 模式的模型如 Gemini-2.5、o3、Claude Opus 4.5），其余超参用默认；三次独立采样取均值，并报告 inter-run / inter-sample variance。

实验关键数据¶

主实验：26 个 MLLM 在 9 类偏见上的 BD/BC（节选，越高越好）¶

模型 (Think)	Integrality 平均 BD	Congruity 平均 BD	Robustness 平均 BC	Overall
Gemini-3-Pro (high) ✓	0.726	0.969	0.926	0.869
Claude-Opus-4.5 ✓	0.729	0.973	0.897	0.858
Gemini-2.5-Pro ✓	0.755	0.952	0.913	0.869
Gemini-2.5-Flash ✓	0.486	0.879	0.908	0.761
o3 (high) ✓	0.409	0.661	0.880	0.675
GPT-5.1 (high) ✓	0.201	0.648	0.912	0.616
GPT-5 mini (high) ✓	0.228	0.588	0.914	0.613
Qwen3-VL-30B-Thinking ✓	0.481	0.730	0.879	0.713
Qwen2.5-VL-72B-Instruct	0.154	0.598	0.858	0.566
LLaVA-Critic-72B	0.214	0.620	0.943	0.628
Prometheus-Vision-13B	0.288	0.528	0.785	0.563
All 26 models 平均	0.384	0.746	0.868	0.679

消融 / 干预实验：prompt-level intervention（3 个代表 judge）¶

模型	Original	+Score Guide	+Modality Constraint	+Modality Reasoning
GPT-5 mini	0.612	0.609	0.644	0.645
Qwen3-VL-8B-Thinking	0.660	0.674	0.694	0.726
LLaVA-Critic-7B	0.647	0.631	0.600	0.653

另一组消融：加 N/A 抽签选项 abstention-aware 评测，发现 abstention 率有限（GPT-5 17.2%、Qwen3-VL 26.1%、LLaVA-Critic 6.5%），剔除后 overall 分数变化不大，验证 benchmark 不是"强迫无效样本打分"导致虚高。

关键发现¶

Integrality 是最大短板：所有 26 个模型平均 Text-Dominance BD 仅 0.287、Image-Dominance 仅 0.317——即使把整张图换成黑图，judge 仍只是略微下调分数，说明 judge 根本没把图像作为评判的必要条件。
Response-Dominance 触目惊心：把 query 和 image 都置空、只留 response，平均 BD 仍只有 0.547——意味着差不多一半场景下 judge 只凭 response 流畅度就给高分。
Reasoning 提升一致性，但不是万灵药：开 think 模式的 Gemini 2.5 Pro / Claude Opus 4.5 显著优于非 think 同款，但 o3 / GPT-5 mini 加 reasoning 也救不了 modality neglect；Qwen3-VL-8B 甚至加了 think 反而退步，说明训练 recipe 影响比 reasoning capability 更大。
Critic 模型并非更可靠：LLaVA-Critic-72B 比 7B overall 分数还低（0.628 vs 0.647），说明专门的 critic SFT 数据并没解决底层 modality 整合问题。
scale ≠ reliability：同家族下加大参数不一定提升 BD/BC，证明 judgment reliability 是和 general capability 正交的能力维度。
Position / verbosity / self-enhancement bias 依然存在：作为补充实验，verbosity bias 比 position bias 更严重，自打分偏好仍未消除。

亮点与洞察¶

"Compositional Bias" 这个概念命名得很准：把 modality bias 从单纯的 task-solving 缺陷重新框定为 judge 维度的 verification integrity 失败，立刻显示出"为什么 judge 比 solver 更需要被严格测试"——这种 reframing 让以前散落的现象都有了统一的解释。
BD/BC 双指标避免了 metric gaming：单看 BC 会被"打同一分"骗，单看 BD 会被"过度敏感"骗；二者按偏见类型选择性应用 + inter-sample variance 当哨兵，是个值得复用的 metric design 模式（reward model 评测、agent 评测都能借鉴）。
9 类偏见对应 9 种 perturbation 配方：null image / null query / random Q / random I / detail caption / overlay text，每类都极简、可复现、易扩展；这种"扰动空间清单 + 评测指标清单"的组合是构造诊断 benchmark 的最佳实践模板。
结构化 prompt 能部分缓解：modality reasoning prompt 让 Qwen3-VL-8B 的 overall 从 0.660 升到 0.726，意味着 inference-time 的 prompt 工程仍有空间，但不同模型反应不一致，需要 case-by-case 调。

局限与展望¶

作者承认：(1) 只覆盖 vision+language，没扩到 video/audio/任意模态；(2) 只用 pointwise scoring，没做 pairwise 或 batch ranking；(3) 没覆盖文化、社会、地域等更广 bias。
个人观察：1-10 离散打分本身就有上界效应，BD 公式排除 \(y=1\) 已经处理了一部分，但仍可能受到模型默认偏分布（如 LLM 喜欢打 7 分）的影响；benchmark 也偏向英文场景。
改进思路：把 metric 推到 pairwise（"无图 vs 有图，judge 是否仍偏向有图"）能进一步控制 baseline 效应；可补加 calibration-conditioned BD（每个模型对自己默认分布归一化后再比 BD）来公平地比较不同分数偏好的 judge。

评分¶

新颖性: ⭐⭐⭐⭐ Compositional Bias 这个 framing + BD/BC 双指标是新的；但单个 perturbation 配方（null image、random query 等）是从 LLM judge 偏见研究直接移植。
实验充分度: ⭐⭐⭐⭐⭐ 26 个模型 × 9 偏见 × 1804 样本 + 三种 prompt 干预 + abstention 验证，规模和广度都拉满。
写作质量: ⭐⭐⭐⭐⭐ taxonomy 清晰、metric 定义严谨、表 2 信息密度极高，附录覆盖到每个细节。
价值: ⭐⭐⭐⭐⭐ 直接产出可复现的诊断套件 + 26 个 SOTA model 的可靠性排名，对 multimodal alignment / reward model / leaderboard 建设都是必备工具。