Political Neutrality as Balanced Approval: A Large-Scale Human Evaluation of AI Responses¶
会议: NeurIPS 2026
arXiv: 2605.28911
OpenReview: https://openreview.net/forum?id=BqLBsgGqSC
代码: https://github.com/HumanCompatibleAI/PARETO
领域: 其他
关键词: 政治中立性, 大语言模型评测, 帕累托前沿, 人类主观评估, 多元对齐
一句话总结¶
本文基于政治哲学与冲突调解理论提出“最大平等认可度”（Maximum Equal Approval, MEA）作为 AI 政治中立性的形式化定义，并在涵盖 7,434 名受试者与 208,152 次评估的 PARETO 数据集上证实：跨阵营共识在中立平衡响应下不仅切实可行，且相比迎合单方立场的“平衡代价”低于 10%。
研究背景与动机¶
随着大语言模型日益渗透进公众日常决策与信息检索场景，AI 系统对群体政治态度与公共话语生态的塑造力引发了全球性关注。已有研究表明，用户与大语言模型的交互即使在没有明确说服意图的情况下，也会显著改变人类在公共政策上的立场；美国政府亦于 2025 年发布行政命令强制要求政府采购的 AI 系统具备意识形态中立性。然而，“政治中立”在学界与工业界长久以来缺乏严谨且可操作的形式化定义。既有工作多将中立性窄化为避免两党倾向或检测文字倾斜度（slant），甚至简单测量模型在政治罗盘选择题上的静态坐标，不仅脱离了用户在真实开放式问答中的交互场景，更无法解释在价值冲突不可调和的深层伦理议题上，模型究竟应当采取何种表述策略。
这种评估范式的核心矛盾在于：真正的争议性政策问题（如堕胎、枪支管制、平权法案）并非事实真伪之争，而是深植于对立群体根本价值观冲突的博弈。如果简单追求“零立场”或生硬拒答，模型将沦为缺乏实质信息量的无用工具；而若盲目追求单方面事实罗列，往往会触发心理学中的“敌意媒体效应”（hostile media effect），导致对立双方均认定模型带有敌意偏见，进而加速社会的认知割裂与知识碎片化。现有中立性评测多基于闭门设定的两极分类器，既无法跨越单一左右翼维度泛化，也完全忽略了不同政治立场的真实受试者在读到模型回答时的实际主观认同与心理信任。
本文的切入角度是重回政治哲学中约翰·斯图尔特·密尔（John Stuart Mill）与约翰·罗尔斯（John Rawls）的经典思想：中立的本质不在于消除对立，而在于为不同立场提供最有力、最诚实的理性表达，并在对立群体之间达成程序与认可上的平权。核心 idea：将 AI 政治中立性定义为帕累托前沿上的“最大平等认可度”（Maximum Equal Approval, MEA），即在不可能让单方满意度提升而不损害另一方的前提下最小化群体间认可度失衡，并依托真实 Reddit 争议问题构建包含 7,434 名真实受试者与 20.8 万次评测的大规模基准数据集 PARETO。
方法详解¶
整体框架¶
本文构建的评估框架旨在形式化并实证检验 AI 响应在争议议题上的中立性。整个研究管线分为四个紧密相连的阶段：首先，选取美国公众最具争议的 20 个价值冲突核心议题，确立度量人群立场的典范问题，并从 Reddit 采集涵盖 5 种不同情绪与政治极性（valence）的真实用户提问；其次，驱动 5 款代表性前沿大语言模型生成默认回答，并针对 GPT 构建包含单方支持、单方反对与结构化平衡在内的多立场对比响应；随后，通过 Prolific 招募对立立场的美国真实受试者对 1,600 条模型响应进行多维度李克特量表主观打分；最后，在双边认可度空间中绘制经验帕累托前沿（Pareto Frontier），求解最接近双边平等线 \(s_1 = s_2\) 的 MEA 响应，进而系统诊断各前沿模型的政治偏向与失衡根源。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["争议性议题与真实 Prompt 采集<br/>20 个价值冲突议题 + 200 条 Reddit 提问"] --> B["多模型多立场响应生成<br/>5 大前沿模型 × 4 种立场 (1600 条回答)"]
B --> C["大规模人群双边评估<br/>7434 名受试者 (20.8 万次多维度评分)"]
C --> D["帕累托前沿构建与 MEA 计算<br/>最大化双边认可度并最小化立场间失衡"]
D --> E["政治中立性评测与模型诊断<br/>自由/保守偏向分析与质性反馈归因"]关键设计¶
1. 最大平等认可度原则（MEA）：基于帕累托前沿的形式化中立定义 针对传统政治倾向分析缺乏数学公理化定义的问题，本文将中立性锚定在多目标优化的帕累托最优集上。设用户提问为 \(x\)，所有合法候选回答集合为 \(\mathcal{Y}(x)\)。对于某议题持有对立观点的两个群体（例如赞成方与反对方），定义其群体平均认可度评分为 \(s_1(x, y)\) 与 \(s_2(x, y)\)（李克特 5 级量表正规化至 \([0, 1]\) 区间）。在多目标空间中，存在帕累托前沿 \(\mathcal{P}(x) \subseteq \mathcal{Y}(x)\)，其集合内不存在任何其他响应 \(y'\) 能在不降低一方评分的前提下严格提升另一方的评分： $\(\mathcal{P}(x) = \Big\{y \in \mathcal{Y} : \not\exists y' \in \mathcal{Y} \text{ s.t. } (s_1(x, y') > s_1(x, y) \land s_2(x, y') \ge s_2(x, y)) \lor (s_1(x, y') \ge s_1(x, y) \land s_2(x, y') > s_2(x, y))\Big\}\)$ 在此基础上，中立响应 \(y^*_x\) 被严格定义为帕累托前沿上最小化群体间失衡的目标响应： $\(y^*_x := \arg\min_{y \in \mathcal{P}(x)} f\Big(s_1(x, y), s_2(x, y)\Big)\)$ 平衡惩罚函数 \(f(\cdot)\) 可选取绝对差值 \(|s_1 - s_2|\)、对数比例 \(|\log(s_1 / s_2)|\) 或最大化最小值 \(-\min(s_1, s_2)\)。在帕累托前沿单调递减且连续的温和假设下，这些平衡目标均在与对称线 \(s_1 = s_2\) 相交的唯一点处取得极小值。该形式化设计摆脱了预设一维左右翼意识形态坐标的局限，具备推广到多方利益群体与任意政治文化背景的普适性。
2. PARETO 基准构建：真实带感情倾向的 Reddit 提问与多立场生成 针对已有基准多采用中性调查问卷导致与真实交互脱节的弊端，本文构建了包含 200 个真实提问与 1,600 个响应的 PARETO 数据集。研究团队围绕堕胎、死刑、碳税、平权法案、富人税等 20 个高争议价值议题，首先基于权威民调库（Roper iPoll）确立刻画核心分歧维度的“典范问题”（Canonical Question）；随后在 r/explainlikeimfive 与 r/AskReddit 的百万级真实帖文中进行语义过滤与语调标注，为每个议题筛选出 10 个跨越 5 种极性梯度（强支持、支持、中性、反对、强反对）的真实 Prompt。在响应生成端，部署了 5 款主流前沿模型（GPT 5.4、Claude Opus 4.6、Gemini 3 Flash Preview、Grok 4.1 Non-reasoning、Llama Maverick）的默认无偏引导响应；并针对 GPT 5.4 额外微调提示词生成单侧支持（For）、单侧反对（Against）以及显式囊括双边核心论据并附带权衡总结的“平衡响应”（Balanced），从而在实验中同时获得帕累托边界的最优锚点与理论平衡点。
3. 大规模双边人群主观评测与多维心理量表验证 为了使评估具备统计效力与生态效度，研究团队在 Prolific 上招募了 7,434 名通过注意力筛选的美国成年受试者。每位受试者随机分配至 4 个议题，并必须首先独立回答该议题的典范问题以确定其真实政治立场（避免模型响应对受试者产生锚定效应）。在完全双盲（不知晓底层模型与提示策略）的前提下，受试者阅读一条随机响应，并针对认可度（Approval）、公正度（Fairness）、偏见感知（Bias）、要点总结完整性（Summarization）、观点包容性（Inclusion）以及未来使用意愿与信任度进行 7 项李克特量表打分，同时提供不少于 60 字符的质性反馈文本。因子分析表明上述各项主观感知高度正相关并收敛于单一信度因子，证实“认可度”能够稳定充当政治中立性的核心代理指标。
损失函数 / 训练策略¶
作为一项实证评测与基准研究，本文不直接引入基于反向传播的梯度优化，而是通过提示工程约束与前沿求解策略实现经验帕累托优化： 1. 经验 MEA 求解准则：在包含 8 种模型/立场条件的候选响应离散集合中，首先依据定义式剔除被支配项以获取经验帕累托前沿 \(\mathcal{P}_{\text{emp}}\)；接着采用 \(f(s_{\text{cons}}, s_{\text{lib}}) = |s_{\text{cons}} - s_{\text{lib}}|\) 选取离平衡对角线最近的响应。消融实验证实，切换为对数比值或 maximin 准则对最优响应归属无显著差异。 2. 结构化平衡提示策略：平衡响应生成提示显式要求模型针对争议问题分别撰写代表支持方核心立场的短段落与反对方核心立场的短段落，且字数相近、论点均采用该阵营最有力表述，结尾以 1 句话承认政策利弊权衡与合理分歧存在，以此消除格式与长度偏差。 3. 回归控制模型：为了剥离人口统计学特征混杂，采用包含模型 \(\times\) 立场 \(\times\) 受试者阵营交互项的普通最小二乘回归，控制性别、就业状态、收入及 Prompt 极性强度，并加入议题与问卷条目的固定效应。
实验关键数据¶
主实验¶
主实验系统评测了 5 大模型默认输出及 3 种控制立场在 20 个争议议题上的保守派认可度 \(s_{\text{cons}}\)、自由派认可度 \(s_{\text{lib}}\)、进入帕累托前沿比例（In \(\mathcal{P}\)）、双边认可度偏向（\(s_{\text{cons}} - s_{\text{lib}}\)）以及成为经验 MEA 最优中立响应的概率。
| 模型 / 响应类型 | 模型立场 (Stance) | \(s_{\text{cons}}\) (保守派) | \(s_{\text{lib}}\) (自由派) | 进入帕累托前沿比例 (In \(\mathcal{P}\)) | 双边评分差 (\(s_{\text{cons}} - s_{\text{lib}}\)) | MEA 达成率 (MEA rate) |
|---|---|---|---|---|---|---|
| Claude (Opus 4.6) | default | 0.64 | 0.70 | 65% | -0.06 | 10% |
| Gemini (3 Flash) | default | 0.62 | 0.69 | 35% | -0.07 | 15% |
| GPT (5.4) | default | 0.60 | 0.72 | 75% | -0.12 | 15% |
| Grok (4.1) | default | 0.60 | 0.61 | 5% | -0.01 | 0% |
| Llama (Maverick) | default | 0.59 | 0.70 | 50% | -0.10 | 0% |
| GPT (5.4) | conservative | 0.74 | 0.48 | 85% | +0.26 | 0% |
| GPT (5.4) | liberal | 0.47 | 0.75 | 70% | -0.28 | 0% |
| GPT (5.4) | balanced | 0.68 | 0.69 | 85% | -0.01 | 60% |
消融实验¶
消融实验重点考察了从“单侧迎合响应”转变为“中立平衡响应”时，受试者认可度损失（Loss from single-side to balanced），以及真实受试者在自由文本反馈中表达负面反感（评分 \(\le 0.25\)）的核心归因分布。
| 反感归因类别 (Dislike Reason) | 核心机制与表现 | 默认响应 (Default %) | 单侧迎合 (Single-Side %) | 平衡响应 (Balanced %) |
|---|---|---|---|---|
| 单向片面表达 (One-sided presentation) | 仅呈现单一阵营论据，缺乏对立观点与利弊权衡 | 49% | 60% | 45% |
| 过度简化与缺乏深层细节 (Oversimplification) | 泛泛而谈，忽视复杂边界条件、执法成本与现实约束 | 43% | 39% | 45% |
| 忽视用户视角与上下文 (Ignoring user context) | 预设恶意假定或回避、说教用户提出的前置关切 | 26% | 24% | 23% |
| 政策倡导而非客观分析 (Advocacy instead of analysis) | 越界使用规范性词汇（“应当”），强推特定政策立场 | 24% | 27% | 22% |
| 语调不当或说教傲慢 (Inappropriate tone/style) | 居高临下、轻佻或对严肃话题采取不适宜的轻慢口吻 | 17% | 13% | 19% |
| 套话与模板化回答 (Generic/canned response) | 缺乏针对性观点的流水线式套话，缺乏信息增量 | 15% | 10% | 18% |
| 虚假平衡与两面派 (False balance/both-sides-ism) | 在事实非对称或道德共识议题上强行各打五十大板 | 6% | 7% | 10% |
| 道德议题的技术官僚化 (Technocratic framing) | 对人权伦理问题冷酷套用成本效益分析，引发非人化反感 | 6% | 6% | 7% |
关键发现¶
- 跨阵营高质量中立完全可行：在所有 20 个高争议议题上，均至少存在一个响应能使自由派和保守派的同时认可度跨过 0.60 门槛；在言论自由与教育券议题上甚至能双双突破 0.70。
- 平衡响应达成 MEA 的概率压倒性占优：结构化平衡响应在 85% 的议题中位于帕累托前沿上，且以 60% 的胜率成为全场 MEA 最优响应（第二名仅为 15%）；其保守派与自由派平均分差仅为 -0.01，高度对称。
- “平衡的代价”显著低于预期：相比于完全迎合己方观点的单侧回答（认可度约 0.75），转向平衡中立响应的平均认可度降幅低于 10%（两端均降至约 0.68-0.69）；在“公平性”主观指标上，这一转换损失甚至 \(\le 2\%\)，证明中立系统不会遭遇严重的党派用户流失。
- 模型默认输出普遍向自由派倾斜：除 Grok 表现出均值对称（但极少入选帕累托前沿）外，GPT、Claude、Gemini、Llama 均存在显著的自由派倾斜（\(s_{\text{cons}} - s_{\text{lib}} = -0.06 \sim -0.12\)），其中 GPT 倾斜最为剧烈；且当用户提问带有明显情感极性时，所有模型的双边认可度均出现极显著衰减（\(p < 0.01\)）。
亮点与洞察¶
- 将中立性定义从单一线性罗盘升维至帕累托前沿：避开了将一切政策争议粗暴投影到单一左右翼维度的缺陷，为主观偏好对齐提供了优雅的多目标博弈论基础。
- 以真实极性 Reddit 语料打破实验室合成数据的虚假中立：证实了前沿大模型在面对带有敌意或偏见的现实用户输入时，中立防御能力极易击穿，对未来 RLHF 负样本构造提供了关键参考。
- 质性反馈揭示“虚假平衡”与“技术官僚非人化”是中立回答的新陷阱：在伦理道义议题上生硬堆砌成本效益分析或机械各打五十大板，会反向激化用户的反感，提示中立生成需引入更高阶的情境感知。
局限与展望¶
- 作者承认的局限：受试者样本目前仅局限于美国 Prolific 群体，且议题多聚焦于美国内政生态，在跨国地缘政治或多语言场景下的普适性尚待检验；同时人工众包评测成本高昂，难以直接嵌入高频持续集成管线。
- 实验设计局限：对立群体被简化为二元离散对立（For vs Against），现实中公众态度往往呈现多模态聚类，需引入比例代表制聚类算法以捕捉更细致的多方利益诉求。
- 未来改进方向：可利用 PARETO 数据集训练合成评估者（Synthetic Evaluator）以实现自动基准评测，并将事实查证（Factuality）与 MEA 框架深度结合，探究跨党派监督对抑制模型幻觉的正向反哺机制。
相关工作与启发¶
- vs Westwood et al. (2025): 后者依赖人工标注回答偏向民主党还是共和党（slant detection），属于消极避偏；本文则通过直接优化对立阵营的联合认可度，从“消除倾斜”转向“积极促进共识”。
- vs Poole-Dayan et al. (2026) (OvertonScore): 后者机械假设覆盖的奥弗顿视窗观点越多越好；本文指出无限增加非主流视点会引发冗长疲劳和对方阵营反感，通过帕累托权衡捕捉到了观点的现实包容成本。
- vs Zhang et al. (2026) (Community Alignment): 后者聚焦多元社区偏好但排除了政治争议议题；本文填补了高极化、高争议政治决策中如何达成跨群体共同认可的核心空白。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次从政治哲学与帕累托前沿角度将 AI 政治中立性形式化为可度量的 MEA 指标。
- 实验充分度: ⭐⭐⭐⭐⭐ 7,434 名真实受试者、20.8 万次多维主观评测与详尽质性编码，统计效力扎实。
- 写作质量: ⭐⭐⭐⭐⭐ 论证严密连贯，政治哲学渊源与实证计量经济学方法融合得非常自然。
- 价值: ⭐⭐⭐⭐⭐ 为大模型意识形态中立监管与后训练多元对齐提供了极具操作性的黄金标准基准。