跳转至

Large Language Models Systematically Favor Popular Options: Evidence, Mechanisms, and Mitigation

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/DataScienceUIBK/PopMCQ
领域: NLP理解
关键词: 流行度偏差, 选择题评测, 置信度失准, 推理期去偏, PopMCQ

一句话总结

论文揭示了大语言模型在多项选择题中系统性偏好高流行度错误干扰项的“流行度偏差”,提出六种受控生成策略构建的基准 PopMCQ,并设计出无需重训练、单次前向推理的先验剥离算法 PopDebias,使多模型平均准确率最高提升 31.9 个百分点。

研究背景与动机

多项选择题(MCQ)已成为当前大语言模型能力评测(如 MMLU、ARC、AGIEval、C-Eval)的核心基准,通常假设模型在固定选项间的相对概率能够忠实反映其参数化知识储备与事实推理能力。然而,实证研究表明大模型在预训练阶段对不同实体的记忆强度具有显著的长尾分布特征,高频出现的著名实体往往具有更高的召回率。当这种从海量语料中习得的先验熟悉度被直接带入多项选择题时,就会引发一个根本性的潜在冲突:一旦题目设置了高知名度但事实错误的干扰项,模型的决策机制究竟是忠于真实事实,还是被实体的表层流行度所劫持?

现有工作在研究选择题评测鲁棒性时,主要聚焦于选项顺序偏好等与语义无关的位置偏差,对选项实体本身的流行度如何作为强混淆因子干扰评估缺乏因果层面的系统剖析。更关键的是,在标准选择题中,干扰项的流行度往往是随机且未受控的,导致研究者无法分辨模型的答错究竟是因为缺乏特定知识(知识盲区),还是在决策时刻受到了著名干扰项的强力诱导。此外,模型输出的置信度在面对流行实体时常常严重虚高,即使答案彻底错误,预测分布依然表现出对热门实体的高度确定性,加剧了评测失真。

针对这一核心矛盾,本文提出不能将评测错误简单归因于模型知识不足,而应将选项流行度显式解耦为独立控制变量进行因果压力测试。核心 idea:通过构建严格控制干扰项流行度梯度的基准 PopMCQ 证明流行度偏差源于决策期吸引而非单纯知识盲区,并将流行度形式化为可分离的乘性先验,在推理期通过自适应置信度退火与逆先验重加权实现免训练、低开销的轻量级去偏。

方法详解

整体框架

PopDebias 的整体流程旨在从黑盒或白盒语言模型预测出的选项概率分布中剥离出实体的流行度先验,纠正因著名实体引发的模型置信度过度膨胀与错误决策。系统输入为一个包含 \(K\) 个选项(实验中 \(K=4\))的选择题实例,基础语言模型输出各选项的未校准原始概率分布 \(p = (p_1, \dots, p_K)\),同时各选项映射至维基百科页面浏览量并归一化获得相对流行度标量 \(Pop(o_i) \in [0, 1]\)。随后,系统首先根据当前题目的流行度分布方差、极值以及模型当前预测选择的流行度特征动态估计该样本面临的偏差强度;接着构建线性化逆先验权重抑制热门选项的过度激活;最后根据流行度分布的信息熵计算流行度压力因子,并自适应调节置信度退火系数,输出最终去偏概率分布 \(\tilde{p}\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["MCQ输入与模型原始预测<br/>选项实体与概率分布 p"] --> BiasEst["流行度特征提取与偏差强度估计<br/>多维特征感知 + 轻量级回归/启发式"]
    BiasEst --> Reweight["线性化逆先验重加权<br/>抑制高频实体虚高权重并归一化"]
    Reweight --> Tempering["自适应置信度退火<br/>结合分布熵与模型置信度动态校准"]
    Tempering --> Out["输出去偏后预测分布<br/>校准概率分布 p_tilde 与最终选择"]

关键设计

1. 流行度特征提取与偏差强度估计:全局盲目去偏易损有益信号 -> 局部动态特征回归 -> 自适应判定干扰风险 由于在某些题目中正确选项本身恰好就是最著名的实体,若采用一刀切的全局惩罚机制反而会严重误伤正确预测。针对这一痛点,该设计首先提取当前题目在推理期完全可得的 5 维无标签统计特征: $\(f = \left[ \text{Var}(Pop),\, \max_i Pop(o_i),\, Pop(o_{\hat{\imath}}),\, \text{rank}_{pop}(o_{\hat{\imath}}),\, \max_i p_i \right]\)$ 其中 \(\hat{\imath} = \arg\max_i p_i\) 表示模型当前的最高预测选项。该特征向量敏锐捕捉到了“模型是否在低方差/极端流行的选项上给出了过高的置信度”。在仅需 10% 样本的微型校准集上,训练一个超轻量级线性回归器 \(f_\theta\) 去预测模型当前选择与真实答案之间的流行度差距(\(Pop(o_{\hat{\imath}}) - Pop(o^\star)\)),从而在测试阶段以标签无关(label-free)方式输出非负偏差强度 \(b = \text{clip}(f_\theta(f), 0, b_{\max})\);在无校准集时,亦可退化为包含流行度比值、置信度与方差倒数的解析启发式公式。

2. 线性化逆先验概率重加权:流行度与正确性乘性混叠 -> 局部有界逆加权 -> 平滑剥离流行度溢价 模型输出的表层预测概率实际上由客观信念与流行度先验复合而成(\(p_i \propto \pi_i \cdot \phi_i\))。若直接以严格的概率相除(\(\phi_i \propto p_i / \pi_i\))进行逆先验还原,在小样本或流行度接近零的尾部选项上极易导致数值爆炸或除以零的严重失稳。为此,设计采用了一阶线性化逆先验加权方案: $\(w_i = \text{clip}\left(1 - b \cdot \frac{Pop(o_i)}{\max_j Pop(o_j) + \varepsilon},\, 0,\, 1\right)\)$ 该权重将流行度极值归一化,直接根据估计出的偏差强度 \(b\) 动态压制高流行度实体的权重,并在选项间重新归一化得到中间分布 \(q_i = \frac{p_i w_i}{\sum_j p_j w_j}\)。这种平滑操作既能在对抗性极强的高知名度干扰项上削减高达数倍的虚高概率,又避免了极端值扰动。

3. 基于流行度压力因子的自适应置信度退火:热门选项引发确定性失准 -> 结合分布熵与置信度平滑 -> 全局概率重校准 实证发现模型在选择热门错误选项时,置信度不仅没有下降反而持续偏高,产生极大的期望校准误差(ECE)。为防止去偏过程矫枉过正或在模型本就犹豫时造成过度扰动,该设计引入了基于流行度熵的自适应温度混合机制。定义归一化流行度概率分布 \(r_i \propto Pop(o_i)\),其流行度压力因子形式化为: $\(\psi = 1 - \frac{H(r)}{\log K}, \quad H(r) = -\sum_{i=1}^K r_i \log(r_i + \varepsilon)\)$ 当题目中存在一到两个极具统治力的超热门干扰项时,流行度分布的熵极低,导致压力因子 \(\psi \to 1\);反之,若各选项流行度相近,\(\psi \to 0\)。结合模型最高置信度 \(c = \max_i p_i\) 与偏差强度 \(b\),计算退火保留系数 \(\gamma = \text{clip}(1 - \beta b c \psi, 0, 1)\),并将重加权分布 \(q\) 与均匀分布按比例平滑混合: $\(\tilde{p}_i = \gamma q_i + \frac{1 - \gamma}{K}\)$ 这一机制使得在面临极端“流行陷阱”且模型盲目自信时,显著拉平失准分布以实现纠偏;而在流行度均匀或模型原本就低置信度时保持 \(\gamma \approx 1\),完美保留原始相对排序。

形式化定义与评估协议

为了科学度量并消除选择题评测中的流行度偏差,论文建立了统一的形式化指标与评估流程: - 实体流行度外部代理:将各选项实体对齐至维基百科页面,提取 2015 年 1 月至 2024 年 12 月的月度平均访问量并经过 Min-Max 归一化为 \([0, 1]\) 标量,在题内进行最大值相对化处理 \(Pop(o_i) \leftarrow Pop(o_i) / \max_j Pop(o_j)\)。 - 流行度相关性(Spearman \(\rho\)):计算预测正确性指标(二值指示变量 \(\mathbf{1}\{\hat{o} = o^\star\}\))与所选选项流行度 \(Pop(\hat{o})\) 之间的斯皮尔曼等级相关系数。强烈的负相关(\(\rho \ll 0\))标志着模型系统性将流行实体作为答题捷径。 - 高流行度选择率(HPSR)与流行度差距(POPGAP):\(\text{HPSR} = \mathbb{E}\left[\mathbf{1}\{\text{rank}_{pop}(\hat{o}) \le \lfloor K/2 \rfloor\}\right]\),统计模型选入流行度前 50% 选项的频率(基线随机概率为 50%);\(\text{POPGAP} = \mathbb{E}[Pop(\hat{o}) - Pop(o^\star)]\),衡量预测选项与金标选项的平均流行度落差。 - PopMCQ 六大受控生成策略:固定原题干与金标答案,通过 GPT-4o 生成包含高/中/低三档流行度的 20 个候选干扰项池,再由程序化规则确定性装配: - S1(Baseline):无流行度约束随机采样 3 个干扰项; - S2(Popular Trap):选取流行度严格高于正确答案的 Top-3 最热门干扰项,施加最大流行压力; - S3(Gradient):选取流行度严格递减且均高于正确答案的 3 个干扰项; - S4(Direct Contest):1 个最高流行度干扰项 + 2 个中流行度干扰项; - S5(Reverse Control):所有干扰项流行度均低于正确答案(正确项最热门,正向对照); - S6(None of the Above):正确答案设为“以上都不是”(流行度为 0),干扰项设为 1 个超热门 + 2 个低热门实体,测试在流行度诱导下的弃权拒绝能力。 - 开放召回诊断协议(Open-Recall Diagnostic):为了严格判定 S2 错误究竟源于知识盲区还是选项诱导,首先在无选项提示下要求模型进行自由生成(Free-form QA),经过规范化别名匹配后,仅在模型自身完全能够正确回忆的“已知子集”上再行测试 S2 干扰。

实验关键数据

主实验

论文对 22 个开源大语言模型(涵盖 Llama、Qwen2.5、Gemma、Phi、DeepSeek、Falcon、Mistral 等家族,参数量跨越 0.5B 至 32B)在四大问答数据集(EntityQuestions、Natural Questions、MuSiQue、WebQuestions,共 12,210 题)上展开全量评测。下表展示了聚合 22 个模型与 4 个数据集在六种受控策略下应用 PopDebias 前后的核心指标对比。

评估策略 准确率 Acc (%)
[Before]
准确率 Acc (%)
[After]
准确率提升
\(\Delta\text{Acc}\) (pp)
高流行项选择率 HPSR (%)
[Before \(\to\) After]
流行度相关性 Spearman \(\rho\)
[Before \(\to\) After]
S1 (Baseline) 42.5 49.6 +7.2 46.4 \(\to\) 32.5 -0.288 \(\to\) -0.113
S2 (Popular Trap) 43.8 75.8 +31.9 53.6 \(\to\) 21.6 -0.879 \(\to\) -0.679
S3 (Gradient) 42.4 64.5 +22.1 49.4 \(\to\) 23.9 -0.754 \(\to\) -0.560
S4 (Direct Contest) 40.1 55.9 +15.7 48.6 \(\to\) 28.7 -0.570 \(\to\) -0.422
S5 (Reverse Control) 43.3 45.8 +2.5 55.9 \(\to\) 48.8 +0.193 \(\to\) +0.266
S6 (None of the Above) 14.5 25.9 +11.4 56.3 \(\to\) 32.6 -0.475 \(\to\) -0.641

消融实验与机制分析

下表展示了在 MuSiQue 数据集 S2(Popular Trap)极限制约下,代表性开源模型在开放召回(Open-Recall)诊断实验中的表现,以及 PopDebias 与基于选项位置置换去偏基线(PrideDebias)的横向对照。

模型 开放生成准确率
Open Acc (%)
严格已知题量
Known \(N\)
已知子集上 S2 准确率
S2 Acc on Known (%)
已知子集错误中选更热门项比例
\(W \to MP\) (%)
PopDebias 净提升
\(\Delta\text{Acc}\) / \(\Delta\text{HPSR}\)
PrideDebias 净提升
\(\Delta\text{Acc}\) / \(\Delta\text{HPSR}\)
Llama-3-8B 38.5 336 61.0 99.6 +21.5 pp / -22.3 pp -0.2 pp / +0.3 pp
Qwen2.5-7B 35.8 313 56.5 99.8 +34.1 pp / -35.1 pp -1.5 pp / +1.1 pp
Gemma-2-9B 26.2 229 33.5 100.0 +20.7 pp / -21.2 pp +0.9 pp / -1.1 pp
Phi-4 (14B) 45.0 393 65.0 99.5 +21.4 pp / -21.4 pp +0.3 pp / -0.9 pp
DeepSeek-V2-Lite 29.5 258 42.0 100.0 +54.1 pp / -54.7 pp -0.8 pp / +0.6 pp
Pooled (全量汇聚) 34.9 1,529 52.0 99.8 +31.9 pp / -32.0 pp +0.2 pp / -0.1 pp

关键发现

  • 决策期诱导而非缺乏知识:开放召回诊断证实,即使在模型已能以纯文本生成完全答对的“已知答案”子集上,一旦引入 S2 流行陷阱,模型准确率依然发生灾难性下滑(整体仅剩 52.0%),且在犯错的所有样本中,高达 99.8% 的错误选项流行度均高于正确答案;此外,跨策略对比显示 29.1% 的 S2 错误在反转控制 S5 下能被同一模型正确答对。
  • 流行度诱发极度置信度失准:对预测选项按流行度分桶统计发现,在低流行度区间(\(\le 0.3\))模型平均置信度为 0.526、准确率为 0.464(差距仅 0.062);而在高流行度区间(\(> 0.7\)),置信度维持在 0.524,但真实准确率直接崩塌至 0.035,形成了高达 0.489 的虚假置信度黑洞。
  • 模型缩放无法根除偏差:在 Qwen2.5 家族内横跨 0.5B 至 32B(64 倍参数扩展),模型准确率从 37.4% 上升至 57.8%,但其负相关性始终牢牢锚定在 \(\rho \in [-0.895, -0.845]\);即使是前沿推理模型 o1-mini 和 QwQ-32B,在 S2 下相关性依然为负(\(\rho = -0.41\) 与 \(-0.55\))。
  • 提示工程与位置去偏彻底失效:显式增加“注意不要根据实体常见程度答题”的 Bias Warning 或使用思维链(CoT)推理,仅能带来 0-4 pp 的微弱波动,\(\rho\) 仍保持在 -0.85 左右;针对位置偏差的置换方法 PrideDebias 无法解决内容层面的流行度冲突,净增益接近 0。

亮点与洞察

  • 将流行度从主观概念转化为严格可量化的外部因果变量:利用维基百科长周期访问量结合多档受控构造(S1-S6),把难以捉摸的模型“记忆熟悉度”精确定位为多项选择题评测中的混淆变量。
  • 免训练、免标签的极速后处理设计:PopDebias 仅基于单次前向输出概率及外置实体访问量特征,通过 \(O(K)\) 线性运算剥离先验,既不破坏模型原始表征,又完美避免了需要生成多轮排列的指数级计算代价。
  • 对评测公平性的深远警示:当前以 MMLU 为首的选择题大模型基准排名,极有可能在评测“谁更能踩中或避开热门实体”,而非纯粹的事实理解与逻辑推理能力。

局限与展望

  • 依赖预构建的实体流行度外部代理:当前以维基百科英文页面浏览量作为流行度代理,虽然与各大模型对实体的先验激活度具有较强相关性(平均 \(\rho = 0.70\)),但在非英语小语种、特定垂直工业领域或合成语料实体上,可能无法完全贴合模型的内部先验。
  • 局限于封闭式选择题与可得概率模型:去偏算法依赖选项的原始预测对数几率(logits),对于仅返回文本字符串且隐藏内部概率分布的商业闭源 API 模型,无法直接进行单步概率校准。
  • 未来方向:探索无须外部维基统计的模型内生流行度度量指标(如基于无上下文实体先验困惑度),并将流行度去偏范式推广至开放域问答与自由文本生成评估中。

相关工作与启发

  • vs PrideDebias (Zheng et al., 2024): PrideDebias 针对的是选择题中的位置偏差(如倾向选 A 或 C),通过枚举所有选项位置组合(\(K!\) 次前向计算)取平均;PopDebias 识别出内容实体的语义流行度才是更深层的捷径漏洞,不仅单次前向即可完成,且在流行度干扰下取得了 20-35 个百分点的绝对领先。
  • vs PopQA / Long-tail Knowledge (Mallen et al., 2023; Kandpal et al., 2023): 既有工作证明了模型更难召回长尾低频实体(知识获取侧);本文进一步指出在判别评测阶段(选择题做题侧),高频实体会主动充当“致命陷阱”诱导模型发生决策偏转,首次建立了选择题流行度诱导的完整因果分析链条。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ [首次系统界定选择题评测中的流行度偏差,并构建因果隔离基准与免训练去偏算法]
  • 实验充分度: ⭐⭐⭐⭐⭐ [覆盖 22 个开源模型、前沿闭源模型、推理模型及四大经典问答集,诊断分析细致深入]
  • 写作质量: ⭐⭐⭐⭐⭐ [逻辑层层递进,从现象观察、机理解析、因果隔离到轻量算法设计一气呵成]
  • 价值: ⭐⭐⭐⭐⭐ [对当下大模型选择题评测的基准信度构成重大警醒,具有极高的方法论价值]