跳转至

RATF: Robust Adaptive Tri-Encoder Framework for Fake News Detection against Style-Confusion Attacks from LLMs

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/Iceldancer/RATF
领域: LLM 其他
关键词: 虚假新闻检测、风格混淆攻击、三编码器架构、条件概率曲率、自适应门控

一句话总结

针对大语言模型驱动的风格混淆攻击使虚假新闻检测器在“信任风格易被欺骗”与“无视风格损失洁净性能”之间陷入两难的困境,本文提出 RATF 框架,通过大模型解耦内容与风格特征并计算条件概率曲率重写分数,利用重写分数条件化的交叉注意力融合与可学习参数化门控自适应平衡各流表征,在对抗攻击下显著超越现有 SOTA 并保持高泛化性。

研究背景与动机

虚假新闻在社交网络上的肆意扩散对政治选举、公共卫生与社会信任造成了深远危害。早期自动化事实核查与虚假新闻检测模型高度依赖内容事实与语言学风格特征的双重支撑;由于不可靠信源与造谣者倾向于采用煽动性词汇、极端情绪化表达或党派偏见叙事,这种与专业客观新闻截然不同的文风模式往往构成了高辨识度的分类判据。然而,随着大语言模型(LLM)生成能力的爆发式演进,恶意攻击者不再局限于粗制滥造虚假文本,而是能够以极低边际成本将核心虚假主张与原有的煽动性表述剥离,利用 LLM 将其重写为权威、克制且符合主流严肃媒体规范的语言风格。这种“风格洗稿”(style laundering)并未改变捏造事实的本质,却极大增强了虚假信息的隐蔽性,诱发了更致命的“风格混淆攻击”(Style-Confusion Attacks)。

在风格混淆攻击场景下,攻击者将未经篡改的原始新闻与经过风格伪装的生成新闻按未知比例混合投放,直接击溃了传统检测系统的基本假设。实验表明,常规微调预训练语言模型(如 RoBERTa、DeBERTa)随着风格攻击比例的上升,准确率发生断崖式下跌;而以 Sheepdog 为代表的风格不变性(style-invariant)防御范式虽然通过对抗训练或多风格重构强行抹平风格差异,但由于其在原理层面“一刀切”地完全废弃所有风格特征,导致在未受攻击的纯净真实新闻上付出了惨重的性能代价,无法有效利用原生态新闻中本身具有极高诊断价值的文风线索。这就构成了虚假新闻检测在生成式 AI 时代的核心两难矛盾:轻信风格特征则系统漏洞百出,彻底丢弃风格特征则模型性能上限被严重压制。

面对这一两难困境,本文没有将语言风格视作非黑即白的静态特征,而是开创性地将“风格本身的真实性与可信度”定义为一个连续可测的动态潜变量。若能准确预估一篇文章被大模型算法重写的置信概率,系统便可在文本呈现人工原创特征时充分调动其风格证据以增强判决置信度,而在检测到算法重写痕迹时自适应衰减甚至阻断风格通路,将决策重心完全锚定在经过客观化蒸馏的事实内容之上。核心 idea:利用通用大模型解耦新闻的客观内容与主观风格,并基于生成模型条件概率曲率量化重写置信分数,以此连续分数驱动条件交叉注意力融合与端到端可学习参数化门控,实现语义、内容与风格表征在对抗攻击下的鲁棒自适应校准。

方法详解

整体框架

RATF 的整体执行流包含三大串行与并行协同的阶段:首先是大模型驱动的特征解耦工程与基于条件概率曲率的重写分数检测,将原始输入文章 \(A\) 解构为客观内容特征 \(A_{\text{con}}\)、风格描述特征 \(A_{\text{sty}}\) 并输出重写置信分数 \(s_{\text{rw}} \in [0, 1]\);其次是三编码器模块,使用三个独立的预训练 DeBERTa-v3-base 骨干分别将原始语义、内容特征与风格特征映射为池化向量与词元级隐层状态;最后是重写分数驱动的融合与决策网络,通过以内容为查询的条件交叉注意力检索语义与风格证据,结合参数化连续门控衰减可能被操纵的通路,最终拼接并通过前馈分类器给出真伪研判。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    IN["原始新闻文本 A<br/>(真实/虚假,原始/重写混合)"] --> FE["大模型双流解耦与曲率重写检测<br/>Qwen2.5 解耦事实/文风 + GPT-Neo 采样计算曲率偏差得 srw"]
    FE --> TRI["三编码器表征提取<br/>DeBERTa-v3 独立编码原始语义 A、内容 Acon 与风格 Asty"]
    TRI --> CAF["重写分数条件化交叉注意力融合<br/>以 pcon 注入 srw 偏置为查询,交互检索 Hsem 与 Hsty"]
    CAF --> GATE["自适应可学习参数化门控校准<br/>端到端可学习 Sigmoid 衰减曲线动态调节 wsem 与 wsty"]
    GATE --> OUT["特征拼接投影与真伪分类输出<br/>Cross-Entropy 监督优化,输出最高置信度预测"]

关键设计

1. 大模型双流解耦与曲率重写检测:对抗性洗稿隐蔽性强且风格真伪难辨 -> 提示词解耦核心事实与文风描述并以条件概率曲率量化重写置信度 -> 建立可信事实基底与动态调制信号

为了消除传统人工特征工程或预定义词表的局限,RATF 首先通过精心设计的复合提示词引导通用大模型(Qwen2.5-7B-Instruct)对输入文本 \(A\) 进行单阶段离线特征提炼,将其解耦为两路纯文本流:客观描述性改写的主干事实 \(A_{\text{con}}\)(剥离所有修辞色彩与情绪煽动),以及对原文写作风格、语气与遣词造句特征的显式自然语言描述 \(A_{\text{sty}}\)。在此基础上,针对攻击者伪装风格导致的真实性模糊问题,模型基于 Fast-DetectGPT 原理,利用自回归模型(GPT-Neo)考察文本词元的条件选择概率分布差异。人类写作在选词上具有更高的条件熵与变异度,而大语言模型倾向于采样高概率、可预测的词元。对于输入序列中的各位置 \(i\),系统在条件分布 \(p_\theta(\cdot|x_{<i})\) 下采样 \(N\) 个替代词元构造扰动序列集,计算候选序列对数似然的均值 \(\tilde{\mu}\) 与方差 \(\tilde{\sigma}^2\):

\[\tilde{\mu} = \frac{1}{N} \sum_{j=1}^N \log p_\theta(\tilde{x}^{(j)}), \quad \tilde{\sigma}^2 = \frac{1}{N} \sum_{j=1}^N \left(\log p_\theta(\tilde{x}^{(j)}) - \tilde{\mu}\right)^2\]

通过将原始文本的真实对数概率对替代分布做标准化 Z-score 变换,得出条件概率曲率 \(d(x, p_\theta) = (\log p_\theta(x) - \tilde{\mu}) / \tilde{\sigma}\)。该指标经归一化与截断后映射为连续概率标量 \(s_{\text{rw}} \in [0, 1]\),作为衡量文章是否经历算法洗稿的精准动态指针。

2. 重写分数条件化交叉注意力融合:文本各流异构且操纵程度未知导致特征污染 -> 以可信内容表示为查询注入重写偏差检索语义与风格隐层证据 -> 实现事实导向且感知重写强度的多视图交互

在得到解耦后的原始语义流 \(A\)、内容流 \(A_{\text{con}}\) 和风格流 \(A_{\text{sty}}\) 后,系统通过三个独立的 DeBERTa-v3-base 编码器(\(E_{\text{sem}}, E_{\text{con}}, E_{\text{sty}}\))提取各自的池化向量 \(h_{\text{sem}}, h_{\text{con}}, h_{\text{sty}} \in \mathbb{R}^{d_h}\) 及词元级隐藏序列 \(H_{\text{sem}}, H_{\text{sty}}\),再经线性投影得到 \(p_{\text{sem}}, p_{\text{con}}, p_{\text{sty}}\)。由于内容流在经过 LLM 客观化改写后最大程度保留了核心事实框架,因而在面对风格混淆攻击时被视为主干基石。为了使模型在交互表征时不被可能受污染的虚假风格主导,RATF 采用内容投影向量作为检索 Query,并通过一个轻量级 MLP 网络 \(\phi(\cdot)\) 将标量重写分数映射为偏置向量注入查询中:

\[q = \text{LayerNorm}(p_{\text{con}} + \phi(s_{\text{rw}}))\]

利用融合了重写置信先验的查询向量 \(q\),分别对原始语义隐藏序列 \(H_{\text{sem}}\) 和风格描述隐藏序列 \(H_{\text{sty}}\) 执行多头交叉注意力检索(Multi-Head Cross-Attention),并配合残差连接完成跨视图强化:

\[h_{\text{sem}}^{\text{ca}} = \text{MHA}(q, H_{\text{sem}}, H_{\text{sem}}), \quad h_{\text{sty}}^{\text{ca}} = \text{MHA}(q, H_{\text{sty}}, H_{\text{sty}})$$ $$h_{\text{sem}}' = p_{\text{sem}} + h_{\text{sem}}^{\text{ca}}, \quad h_{\text{con}}' = p_{\text{con}}, \quad h_{\text{sty}}' = p_{\text{sty}} + h_{\text{sty}}^{\text{ca}}\]

该设计确保了信息检索过程严格以事实内容为主导,并使注意力分布能根据重写强度自适应偏置,避免低可靠性特征逆向破坏核心事实判断。

3. 自适应可学习参数化门控校准:风格不可知防御一刀切丢弃文风导致干净样本掉点 -> 基于重写分数动态学习软衰减曲线自适应调整风格与语义权重 -> 兼顾对抗鲁棒性与洁净文本下的风格利用率

传统的固定阈值过滤或直接抛弃风格特征的做法极其生硬,难以适应现实世界中连续变化的改写程度与复杂的文本分布。RATF 设计了端到端可学习的参数化连续门控机制,将重写分数 \(s_{\text{rw}}\) 作为门控网络的唯一输入,动态推导三路特征的校准权重。由于客观内容流始终保持事实中立且不可或缺,其权重被刚性锚定为 \(w_{\text{con}}(s_{\text{rw}}) = 1\);而对于原始语义和风格特征,门控通过可优化的 Sigmoid 衰减函数进行弹性平滑抑制:

\[w_{\text{sem}}(s_{\text{rw}}) = \sigma\left(-k_{\text{sem}}(s_{\text{rw}} - b_{\text{sem}})\right), \quad w_{\text{sty}}(s_{\text{rw}}) = \sigma\left(-k_{\text{sty}}(s_{\text{rw}} - b_{\text{sty}})\right)\]

其中,\(k_{\text{sem}}, k_{\text{sty}} > 0\) 为控制衰减斜率的可学习陡度参数,\(b_{\text{sem}}, b_{\text{sty}} \in (0, 1)\) 为衰减中心位移参数,所有参数与主分类器联合反向传播优化。实验中初始斜率与中心分别设为 \(k_{\text{sem}}=4.0, b_{\text{sem}}=0.6\) 和 \(k_{\text{sty}}=15.0, b_{\text{sty}}=0.5\)(风格衰减速度显著快于整体语义)。当 \(s_{\text{rw}}\) 趋近于 0(纯人工原创真实新闻)时,\(w_{\text{sty}}\) 与 \(w_{\text{sem}}\) 保持高权重,模型全面释放风格模式识别优势;当 \(s_{\text{rw}}\) 趋近于 1(确信为 LLM 算法洗稿)时,\(w_{\text{sty}}\) 迅速被压缩逼近于 0,迫使模型依托不可篡改的内容流 \(h_{\text{con}}'\) 做出客观真实性推断。

损失函数 / 训练策略

经门控加权校准后的特征向量表示为 \(\hat{h}_{\text{sem}} = w_{\text{sem}} h_{\text{sem}}'\)、\(\hat{h}_{\text{con}} = w_{\text{con}} h_{\text{con}}'\) 与 \(\hat{h}_{\text{sty}} = w_{\text{sty}} h_{\text{sty}}'\)。模型将三者拼接为统一表征 \(h_{\text{merged}} = [\hat{h}_{\text{sem}}; \hat{h}_{\text{con}}; \hat{h}_{\text{sty}}]\),送入全连接前馈层结合 LayerNorm 与 ReLU 激活函数得到 \(h_{\text{fused}}\),最终投影至分类对数几率 \(z \in \mathbb{R}^2\)。模型采用标准交叉熵损失(Cross-Entropy Loss)进行端到端有监督训练:

\[\mathcal{L}_{\text{CE}} = - \sum_{c=1}^2 y_c \log \frac{\exp(z_c)}{\sum_{j=1}^2 \exp(z_j)}\]

优化器选用 AdamW,初始学习率设为 \(2 \times 10^{-5}\),权重衰减为 0.01,配合无预热阶段(no warmup)的线性衰减学习率调度器,批大小(batch size)设为 32。模型在验证集最佳评估检查点处收敛并保存测试。

实验关键数据

主实验

实验在两个公认权威的虚假新闻基准 PolitiFact 和 GossipCop 上展开,严格遵循 FakeNewsNet 的时间切分协议,并引入包含耸人听闻(Sensational)、客观客观化(Objective)、党派立场(Partisan)等多种风格改写变体的对抗攻击混淆集(混淆比例为 50% 原始文章 + 50% 风格重写文章,正负标签严格 1:1 平衡)。对比基线涵盖三大阵营:零样本大模型(G1: Gemini 2.5 Flash, GPT5.4)、常规微调小模型(G2: RoBERTa, DeBERTa, PET)以及 LLM 增强的专用防御模型(G3: Sheepdog, ARG, TED)。

数据集 模型类别 / 基准方法 Accuracy Weighted-F1 Precision Recall
PolitiFact (confusion) G1: Gemini 2.5 Flash 0.6638 0.6852 0.6476 0.7083
PolitiFact (confusion) G1: GPT5.4 0.7149 0.7124 0.7155 0.7129
PolitiFact (confusion) G2: RoBERTa 0.7528 0.7634 0.7030 0.8353
PolitiFact (confusion) G2: DeBERTa 0.7921 0.7702 0.8158 0.7249
PolitiFact (confusion) G2: PET 0.7536 0.7651 0.7124 0.7847
PolitiFact (confusion) G3: Sheepdog (风格不变基线) 0.8258 0.8238 0.8380 0.8258
PolitiFact (confusion) G3: ARG (LLM多视角推理) 0.8467 0.8465 0.8475 0.8464
PolitiFact (confusion) G3: TED (多智能体辩论) 0.8378 0.8379 0.8382 0.8376
PolitiFact (confusion) Ours (RATF) 0.8820 0.8823 0.8820 0.8819
GossipCop (confusion) G1: Gemini 2.5 Flash 0.6039 0.6023 0.5803 0.6192
GossipCop (confusion) G1: GPT5.4 0.6353 0.6261 0.6292 0.6337
GossipCop (confusion) G2: RoBERTa 0.7361 0.7409 0.7207 0.7621
GossipCop (confusion) G2: DeBERTa 0.7554 0.7523 0.7540 0.7506
GossipCop (confusion) G2: PET 0.7374 0.7362 0.7343 0.7385
GossipCop (confusion) G3: Sheepdog (风格不变基线) 0.7749 0.7747 0.7753 0.7748
GossipCop (confusion) G3: ARG (LLM多视角推理) 0.7456 0.7657 0.7726 0.7641
GossipCop (confusion) G3: TED (多智能体辩论) 0.7538 0.7540 0.7659 0.7636
GossipCop (confusion) Ours (RATF) 0.7813 0.7816 0.7811 0.7807

在未受攻击的原生洁净测试集(Table 5)上,RATF 同样取得最优性能:PolitiFact 上 Acc/F1 达到 92.17% / 92.26%(大幅超越 Sheepdog 的 88.44%/88.39% 与 TED 的 90.25%/90.37%);GossipCop 上达到 76.51% / 76.51%(高于 Sheepdog 的 75.77%/75.75% 与 TED 的 76.12%/76.17%)。

消融实验

为了严格分离各核心组件对整体防御鲁棒性的赋能效果,作者在两个测试集上对 RATF 实施了系统性消融分析:

模型配置 / 变体 PolitiFact Acc PolitiFact F1 GossipCop Acc GossipCop F1 说明
Ours (RATF 完整模型) 0.8820 0.8823 0.7813 0.7816 完整三编码器 + SC-CAF + 可学习门控
w/o Rewritten Score 0.8487 0.8464 0.7526 0.7524 剥离重写分数(退化为无条件注意力与等权融合)
SC-CAF Only 0.8743 0.8754 0.7566 0.7561 仅保留分数条件化交叉注意力,移除参数化门控
Learnable Gate Only 0.8516 0.8507 0.7604 0.7615 仅保留参数化门控,移除交叉注意力特征检索
Content-Only 0.8315 0.8308 0.7431 0.7429 单流基线:仅依赖 LLM 生成的客观内容特征
Style-Only 0.7753 0.7744 0.7052 0.7044 单流基线:仅依赖 LLM 生成的语言风格描述

此外,在骨干网络适配性评测中(Table 4),将不同通用编码器嵌入 RATF 架构后,加权 F1 均实现大幅飞跃:RoBERTa 在 PolitiFact 从 76.34% 提升至 87.85%(+11.51%),GossipCop 从 74.09% 升至 77.94%(+3.85%);BERT 从 75.36%/73.11% 提升至 86.31%/75.68%;DeBERTa 从 77.02%/75.23% 提升至 86.72%/77.89%,充分证明该框架具备出色的骨干即插即用泛化性。

关键发现

  • 重写置信分数是自适应融合的神经中枢:一旦移除重写分数驱动(w/o Rewritten Score),PolitiFact 和 GossipCop 的 F1 骤降 3.59% 和 2.92%,表明如果模型缺乏对文本生成概率偏离的显式量化,交叉注意力与门控将沦为盲目融合,无法抵抗洗稿噪声的渗透。
  • 交叉注意力与参数化门控相辅相成:SC-CAF Only 在 PolitiFact 上表现优异(F1 达 0.8754),但缺少门控在 GossipCop 上掉点明显;而 Learnable Gate Only 能够全局压制受污染流,却缺乏 token 级精细证据检索。两者结合才能达成全局最优。
  • 纯内容单流具备坚实下限,但风格证据提供不可替代的增量上限:Content-Only 模型在无原文及风格辅助下仍取得 0.8308 / 0.7429 的 F1,验证了 Qwen2.5 提炼事实骨架的可靠性;而 Style-Only 仅有 0.7744 / 0.7044,印证了单一风格在混淆攻击下的极度脆弱。完整模型相较 Content-Only 提升超过 5 个百分点,表明被自适应过滤后的纯净风格信息具有重要的正向增益。
  • 政治新闻对风格操纵更敏感:PolitiFact 上的提升幅度显著大于 GossipCop。原因在于政治陈述篇幅更长、修辞与党派偏见浓厚,LLM 重写引发的分布偏移更加剧烈;而娱乐新闻短小且套路化,风格迁移带来的边际区分度相对更温和。

亮点与洞察

  • 将风格利用由“硬性二元选择”转变为“软性置信调节”:以往研究纠结于“完全信任风格导致脆弱”或“风格无关训练导致掉点”,本文跳出非黑即白的思维定势,将文本本身的“被算法重写概率”引入作为调控闸门,在攻击文本上自动关断风格,在洁净文本上充分释放风格价值,构思极为巧妙。
  • 利用零样本条件概率曲率破解黑盒洗稿检测:绕过了对外部大模型微调判别器的依赖,借鉴文本生成几何曲率特性(Fast-DetectGPT),以无监督方式高精度识别 LLM 采样痕迹,使重写分数具备极强的鲁棒性与模型无关性。
  • 模块化解耦与骨干网高兼容性:特征提取阶段仅需单次大模型推理生成,不涉及复杂的多轮多智能体交互辩论开销,下游三编码器可自由替换为 BERT、RoBERTa 或 DeBERTa,工程落地和工业部署代价受控。

局限与展望

  • 外部大模型依赖与推理延迟:特征工程依赖 Qwen2.5-7B 进行解耦,重写分数依赖 GPT-Neo 计算概率曲率。尽管相比多智能体辩论框架(如 TED)已显著精简,但相比纯轻量级小模型,前置推理开销仍难以满足超大规模工业流式实时审核(如社交媒体瞬时流)的要求。
  • 基准覆盖面有待拓展:目前实验仅在 PolitiFact 与 GossipCop 两个英文数据集上验证,针对多语种复杂虚假新闻、跨语种洗稿攻击及图文多模态虚假新闻的鲁棒性尚未得到充分实证。
  • 缺乏外部知识库事实检索机制:当前判断仍依托文本自身语义与内部先验闭环,未来若能将 RATF 的风格自适应机制与检索增强生成(RAG)或动态知识图谱对齐结合,将显著提升对深度事实伪造的核查精度。

相关工作与启发

  • vs Sheepdog (KDD 2024):Sheepdog 采用 LLM 离线生成多种风格重述,通过对抗性风格不变学习强制检测器完全忽视风格特征。其虽然鲁棒性良好,但在洁净真实新闻上性能天花板明显受阻;RATF 通过概率曲率自适应动态加权,在防御对抗攻击的同时完好保留了洁净文本的检测优势。
  • vs ARG (AAAI 2024) / TED (SIGIR 2025):ARG 依靠 LLM 输出多视角理由,TED 引入正反双方多智能体辩论。然而当虚假新闻经过高质量专业媒体文风润色后,LLM 的论证与辩论极易被表面文字所蒙蔽诱导;RATF 显式计算底层语言生成概率曲率并锚定客观内容流,不易受表层修辞欺骗,防御抗性更强且推理开销显著降低。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次系统性提出风格混淆攻击威胁模型,并创新性融合概率曲率检测与参数化三编码器门控架构。
  • 实验充分度: ⭐⭐⭐⭐⭐ 涵盖双基准、三类基线(共8种对比方法)、完整消融、四种骨干适配及纯净集回归测试,论证非常严密。
  • 写作质量: ⭐⭐⭐⭐⭐ 论文动机环环相扣,从问题分析、数学推导到模块设计逻辑极其顺畅,图表呈现规范清晰。
  • 价值: ⭐⭐⭐⭐⭐ 为生成式 AI 时代的对抗性事实核查与社交媒体虚假信息治理提供了极具前瞻性和实用性的防御范式。