跳转至

AI-Mediated Communication Can Steer Collective Opinion

会议: NeurIPS 2026
arXiv: 2605.16245
OpenReview: https://openreview.net/forum?id=2jvTv6EcKS
代码: https://github.com/stsirtsis/llm-opinion-formation
领域: 社会计算
关键词: AI-mediated communication, opinion dynamics, Friedkin-Johnsen model, algorithmic bias, collective opinion

一句话总结

本文揭示了主流大语言模型在润色和撰写有争议议题时普遍存在方向性偏见，并通过拓展经典 Friedkin-Johnsen 观点动力学模型与真实社交网络模拟，证明网络传播机制会放大单次 AI 偏见达 9.2 倍，进而系统性操纵群体长期意见演化。

研究背景与动机

生成式人工智能正深度嵌入现代社交网络与人际交流基础设施中。从 LinkedIn 的“润色我的帖子”（Improve my post），到 YouTube 的视频摘要提取，再到 X 平台的“解释此推文”（Explain this post），大型语言模型（LLM）的角色已经从孤立的人机单向交互，转变为调解（mediate）人与人之间日常思想交流的隐形滤镜。过去的研究多侧重于分析大模型在直接问答中的显式立场偏见，或者在人机对话与定向游说中对个体观点的微观说服力。然而，当数以百万计的网络用户依赖同一类具有内在偏见的算法来润色推文、草拟观点或解读他人发言时，这些微小的个体偏见如何在复杂的群体社交拓扑中扩散并塑造集体意见演化，学术界一直缺乏兼具严密实证与数学理论的系统考察。

这种现象的核心矛盾在于：用户往往误以为大语言模型仅提供了无害的“语法润色”或“中立客观的事实背景补充”，而忽略了模型生成的文本会悄然注入系统性的方向性倾向（directional bias）。更严峻的是，传统社会网络观点动力学认为个体的顽固程度与群体交互会逐渐收敛至某种由初始观点主导的稳定状态；但当算法作为通信中介全局介入人际信息流时，它扮演了具有固定倾向的“无形邻居”，持续在每一次社交曝光中对群体认知产生牵引力。现有监管框架（如欧盟的《人工智能法案》AI Act 与《数字服务法案》DSA）对“系统性风险”的界定大多局限于违法违规内容或深度伪造视频的水印要求，完全无法规制这种在合法合规言论掩护下的隐性集体偏向操控。

本文的核心 idea 是将大语言模型建模为人际通信中的非线性观点变换函数，将其嵌入经典 Friedkin-Johnsen 观点动力学框架中求得闭式收敛解，结合跨多模型家族的争议议题实证测量与真实社交网络（Twitter、Facebook、Google+）仿真，从机理上揭示并量化社交网络拓扑如何将 AI 的微小单次偏见放大数倍并重塑长期群体共识。

方法详解

整体框架

本文构建了一套将“经验偏见测量”、“网络观点动力学解析建模”以及“平台设计反思与审计”相融合的端到端研究体系。在经验测量阶段，收集涵盖 13 个极具争议社会议题的人类原始文本（来自 UKP 与 SemEval 数据集），输入主流开源大模型进行起草（drafting）与润色（improvement），通过微调文本嵌入分类器集成量化其观点偏移；在动力学建模阶段，将网络中的个体观点更新拓展为包含 AI 变换算子的动力系统，严格推导平衡态存在性与放大系数；最后，深入审计 X 平台上的“Explain this post”机制，剖析偏见注入的底层 Prompt 工程根源。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入：人类原始争议言论<br/>UKP / SemEval (13个社会议题)"] --> B["阶段1：经验偏见测量与嵌入分类集成<br/>评估Llama-3.1 / Gemma-3 / Mistral / Qwen"]
    B --> C["阶段2：AI中介观点动力学建模与理论平衡态分析<br/>拓展Friedkin-Johnsen动态方程求解闭式解"]
    C --> D["阶段3：大规模真实社交网络动力学仿真<br/>Twitter / Facebook / Google+ 拓扑演化"]
    D --> E["阶段4：平台机制反向审计与欧盟法规穿透分析<br/>审计 X (Grok) 'Explain this post' 提示词规则"]

关键设计

1. 经验偏见测量与嵌入分类集成：剥离表面修辞量化连续观点位移

针对以往研究仅凭粗粒度分类或直接问答难以捕捉修辞润色中细微偏向的痛点，该设计构建了一套鲁棒的连续观点度量体系。将个体对争议议题的立场映射至连续闭区间 \([0, 1]\)，其中 \(0\) 表示强烈反对（against），\(1\) 表示强烈支持（in favor）。为避免单个预训练模型引入表征假象，系统集成了 5 个异构预训练文本嵌入模型（包括 Qwen3-Embedding-8B、KaLM-Embedding-Gemma3-12B-2511、SFR-Embedding-Mistral 等），针对每个议题先提取人类支持与反对标注样本的均值参考向量，计算候选文本嵌入与两类参考中心的余弦相似度并经过温度缩放的 Softmax 归一化，最终根据各基分类器在留出集上的准确率加权平均得出预测置信度：

\[s(x) = \sum_{k=1}^{5} \omega_k \cdot \frac{\exp(\cos(e_k(x), \mu_{k,\text{for}}) / \tau_k)}{\exp(\cos(e_k(x), \mu_{k,\text{for}}) / \tau_k) + \exp(\cos(e_k(x), \mu_{k,\text{against}}) / \tau_k)}\]

在此基础上，构建贝叶斯线性混合效应模型（Bayesian linear mixed-effects model），因变量设为单条文本的观点偏移量 \(\beta_i = y_i - x_i\)，将人类原始立场作为固定效应，将文本母本与提示词变体作为随机效应：\(\beta \sim 1 + \text{original\_stance} + (1 \mid \text{text}) + (1 \mid \text{prompt})\)。截距项的后验分布直接揭示了模型是否存在跨语境的固有偏见。

2. AI中介观点动力学建模与理论平衡态分析：解析网络拓扑对算法偏见的倍数放大

针对传统观点动力学未考虑通信中介技术介入的问题，设计将经典 Friedkin-Johnsen（F-J）模型推广至 AI 中介场景。设网络由 \(N\) 个个体构成，行随机矩阵 \(W\) 表示人际影响力权重（\(\sum_j W_{ij} = 1\)），对角矩阵 \(\Lambda = \text{diag}(\lambda_1, \dots, \lambda_N)\) 刻画各节点的顽固程度（stubbornness，\(\lambda_i \in (0, 1)\)）。当节点 \(j\) 向邻居传递观点时，其底层真实认知 \(x_j(t)\) 经由平台 AI 系统变换为感知观点 \(y_j(t) = f(x_j(t))\)。在紧凑向量形式下，系统观点更新映射为：

\[x(t+1) = G(x(t)) := \Lambda x(0) + (I - \Lambda) W F(x(t))\]

为实现解析求解，引入线性变换函数 \(f_{\text{lin}}(x) = mx + b = mx + (1-m)\nu\)，其中 \(\nu = b / (1-m)\) 表示 AI 系统内在的中立锚点，实数 \(m \in (0, 1)\) 控制拉向锚点的强度。此时动态方程可严谨分解为三部分：固有观点项、缩放后的人际社会影响项，以及由算法介入产生的偏见牵引项 \((1-m)\nu(I-\Lambda)\mathbf{1}\)。理论证明，当收缩因子 \(\rho = m \|I-\Lambda\|_\infty < 1\) 时，系统指数收敛至唯一全局平衡态 \(\tilde{x}\)。对比无 AI 介入下的传统平衡态 \(x^* = (I - (I-\Lambda)W)^{-1}\Lambda x(0)\)，诱导的观点转移严格满足：

\[\tilde{x} - x^* = (1-m)(I - m(I-\Lambda)W)^{-1}(I-\Lambda)[\nu \cdot \mathbf{1} - W x^*]\]

当网络满足影响力双随机（如无向对称社交圈）且顽固度同质（\(\lambda_i = \lambda\)）时，全网平均平衡态偏移量与单次非中介偏见 \(B_{\text{one-off}} = (1-m)(\nu - \bar{x}(0))\) 的比值显式表示为 \(\frac{\bar{x} - \bar{x}^*}{B_{\text{one-off}}} = \frac{1-\lambda}{\lambda + (1-\lambda)(1-m)}\)。只要满足条件 \(m(1-\lambda) > \lambda\)，网络扩散的放大倍数严格大于 1。

3. 真实网络非线性仿真与平台机制审计：揭示提示词规则对现实偏向的结构化驱动

理论闭式解虽然优雅，但现实社交网络具备高度非线性的拓扑偏好，且大模型的实际变换曲线 \(f(\cdot)\) 呈现非参数特征。因此，第三项关键设计采用高斯核 Nadaraya-Watson 非参数核回归直接拟合经验数据中的 \((x_i, y_i)\) 对应关系，并在 Twitter（约 8 万节点、170 万边）等真实拓扑上进行动力学演化仿真。设定 AI 采纳者比例 \(\phi\)，并在步长 \(t=100\) 内观察微观意见演进与宏观均值收敛行为。

进一步地，为了验证平台机制设计是否能够人为引入或纠正此类偏见，针对 X 平台公开的 Grok “Explain this post”真实 Prompt 模板展开对照消融实验。设计了支持偏见（\(\beta_{\text{sup}}\)）与对抗偏见（\(\beta_{\text{opp}}\)）指标，并通过贝叶斯多项分类混合效应模型（Bayesian categorical mixed-effects model）将各条生成论据的立场映射回系统指令中的四项指导原则，精准锁定了平台注入意识形态倾向的具体规则。

实验关键数据

主实验

本研究跨越 4 个主流大语言模型家族，在 SemEval 与 UKP 数据集涵盖的 13 项争议议题上进行了系统测量。下表汇总了嵌入集成分类器在代表性议题上的分类精度，以及在 Twitter 真实网络中，当 AI 采纳率 \(\phi = 0.6\) 且先验倾斜度 \(\kappa = 0.4\)、顽固度 \(\lambda = 0.3\) 时，AI 偏见对长期平均意见的实际转移效果。

数据集 议题 / 实验设定 嵌入集成准确率 (%) 宏 F1 值 AI 固有偏见 \(\beta\) (后验均值) 长期平均观点偏移 (\(\phi=0.6\)) 放大倍数 (vs. 单次偏见)
UKP 堕胎 (Abortion) 83.75 0.8362 +0.082 +0.142 4.8×
UKP 死刑 (Death penalty) 92.98 0.9159 +0.076 +0.138 5.2×
UKP 枪支管控 (Gun control) 82.58 0.8252 +0.114 +0.198 6.4×
UKP 克隆技术 (Cloning) 93.40 0.9331 +0.065 +0.115 4.1×
SemEval 女性主义 (Feminism) 81.64 0.7992 +0.128 +0.224 7.1×
SemEval 无神论 (Atheism) 85.71 0.8211 -0.062 -0.110 4.3×
SemEval 气候变化 (Climate change) 91.97 0.7984 +0.095 +0.165 5.6×
SemEval 堕胎 (平衡边缘情况) 87.62 0.8430 +0.088 +0.211 9.2×

消融实验

针对 X 平台官方公布的 Grok “Explain this post” 生产提示词模板（包含 4 条指导原则），对收集到的 78 条真实用户推文（39 条支持生命权 pro-life，39 条支持选择权 pro-choice）生成的 1,170 条单句论证进行全因子消融分析。通过贝叶斯多项分类模型评估支持偏见增量 \(\Delta^{(k)}_{\text{sup}}\) 与对抗偏见增量 \(\Delta^{(k)}_{\text{opp}}\)（去除某项规则与完整模板的差异）：

实验配置 规则描述 支持生命权推文的下发支持率 (%) 支持选择权推文的下发支持率 (%) 支持偏见增量 \(\Delta^{(k)}_{\text{sup}}\) (95% CI) 对抗偏见增量 \(\Delta^{(k)}_{\text{opp}}\) (95% CI) 结论
完整提示词模板 包含全部 4 项原则 58.2 35.1 基准 (\(\beta_{\text{sup}}=0.24\)) 基准 (\(\beta_{\text{opp}}=0.04\)) 显著偏向 pro-life
移除规则 1 仅包含上下文/背景/世界事件 51.4 28.6 -0.02 [-0.09, 0.05] +0.01 [-0.02, 0.04] 中立表述比例下降
移除规则 2 避免陈词滥调或简单反应 56.9 34.0 -0.01 [-0.07, 0.06] 0.00 [-0.03, 0.03] 影响不显著
移除规则 3 提供真实见解，必要时挑战主流叙事 37.8 36.2 -0.20 [-0.28, -0.11] -0.05 [-0.08, -0.02] 偏见完全消失
移除规则 4 纳入相关同行评议研究/数据支持 64.5 39.7 +0.03 [-0.04, 0.11] +0.01 [-0.02, 0.05] 增强了双方立场论证

关键发现

  • 网络动力学放大效应显著：社交网络的拓扑结构会剧烈放大单次算法交互中的细微偏差。在用户顽固度较低（\(\lambda=0.3\)）且网络意见势均力敌但 AI 偏袒少数派的临界状态下，长期平均观点的偏移量达到了单次偏见均值的 9.2 倍。
  • 直接表达与中介润色的非对齐性：大模型直接回答问题时展现的立场与其在“中介润色”时引入的偏见并不完全一致。例如在“无神论”议题上，模型直接表述时倾向于肯定，但在润色人类推文时却系统性地压低无神论倾向并向有神论偏移。这证明传统的“立场问卷测试”无法防范中介通信风险。
  • 提示词工程的偏见靶向性：在 X 平台的真实案例中，Grok 表现出的强烈 pro-life 偏见几乎完全由单条系统提示词（“挑战主流叙事”）单独驱动。去除该提示词后，模型生成支持与反对论据的非对称性降至统计不显著区间。

亮点与洞察

  • 从个体说服跃迁至拓扑级网络观点动力学：传统研究将 LLM 视作单个聊天机器人或孤立节点，而本文首次将 AI 形式化为图拓扑边上的传递函数算子 \(F(x)\)，利用紧缩映射与代数图论解析了其作为“全局隐形邻居”重构社会共识的数学机制。
  • 抓获真实工业部署中的偏见微观机理：不仅停留在学术基准，而且通过审计 X 平台上公开的 Grok 逆向模板，直接确证了平台运营方的工程 Prompt 指令如何具体扭曲社会议题信息呈现。
  • 指明欧盟技术法规的实质性监管真空：深入剖析了欧盟《人工智能法案》（AI Act）与《数字服务法案》（DSA），尖锐指出当前的法条对未达“非法/仇恨言论”门槛、但具备大规模社会意识形态重塑能力的隐性中介润色偏见完全无能为力。

局限与展望

  • 理论假设的简化约束：解析推导主要基于线性变换 \(f_{\text{lin}}(x)\) 与双随机影响力矩阵；虽然非参数核回归与真实网络仿真表明结论在非线性场景下依然成立，但有界信任模型（如 Hegselmann-Krause）与动态演化图下的严密数学收敛界仍待进一步拓展。
  • 缺乏真实人机在线双盲对照：论文观点演化仿真基于代理假设（Agent-based assumption），未在真实世界社交网络中直接追踪活体用户采纳 AI 建议后的长期心理态度迁移。
  • 多轮算法反馈闭环未完全展开：若人类将 AI 润色后的文本大量发布至公开网络，而未来 LLM 又基于这些合成文本迭代训练，可能引发更深层次的模型崩溃（Model Collapse）与意识形态极化，这一长期协同演化机制值得深入探索。

相关论文