RIPPLE: Attacking Backdoor-based LLM Fingerprinting via Latent Representation Perturbation¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/CAU-ISS-Lab/LLM-Fingerprint-and-Attacks/tree/main
领域: 大模型安全
关键词: 大模型指纹, 后门攻击, 隐表征扰动, 模型水印, 所有权验证
一句话总结¶
揭示后门指纹在受到扰动时具有异常高置信度与高鲁棒性的内在机理,提出通过末层隐状态高斯扰动与双重视角检测(原始置信度与鲁棒性)阻断黑盒所有权验证的无损攻击框架 RIPPLE。
研究背景与动机¶
随着大语言模型(LLM)在各行各业的规模化落地,模型的训练开销与高质量数据成本急剧攀升,模型版权与知识产权(IP)保护成为核心诉求。为了防止模型权重被未授权盗用或二次商业化,基于后门的模型指纹技术(Backdoor-based LLM Fingerprinting,如 Instructional Fingerprinting、UTF、Chain&Hash、Implicit Fingerprinting)逐渐成为主流防御手段。这类方案通过在训练阶段将特定的触发词(Trigger)与预定义指纹响应(Fingerprint Response)进行过参数化绑定,版权方仅凭黑盒 API 接口输入触发词并检测输出文本,即可完成低成本的所有权验证。
然而,后门指纹的广泛采用也引发了针对指纹鲁棒性的攻防对抗。现有的指纹攻击方案大致分为两类,但均陷入了有效性、无害性与泛化性难以兼得的困境。一类是参数修改型攻击(如增量微调 FT、模型融合 Merge、两阶段遗忘微调 MEraser),此类方法试图改写或抹除后门权重,但微调强度若过弱则无法清除顽固指纹,若过强则会导致模型下游通用任务性能与生成流畅度断崖式暴跌,且超参数通常严重依赖指纹攻击成功率(ASR)的先验反馈;另一类是非参数修改型攻击(如基于思维链提示的语义重定向 GRI、无条件 Token 强制搜索),虽然在推理端保留了模型原始能力,却只能应对特定简单指令指纹,面对更隐蔽鲁棒的密码学或隐写指纹完全失效。攻击者无法在缺乏指纹先验知识的前提下,同时做到高 ASR、零通用性能损伤以及跨模型架构和不同指纹机制的稳定泛化。
本文的突破口在于重新审视后门指纹生成过程的底层统计特性:由于后门训练强制模型对特定输入拟合固定的确定性输出,导致指纹响应在生成过程中不仅表现出异常高的 Token 预测概率,而且在面临微小扰动时表现出对原始预测概率的极强抗扰鲁棒性,而良性输入的生成置信度则在扰动下急剧衰退。核心 idea:利用后门指纹在扰动下呈现“异常高置信度 + 强抗扰鲁棒性”的内在特征,将不同输入/参数级扰动统一映射为末层隐表征空间的高斯扰动,构建结合原始置信度与扰动鲁棒性的双重视角检测器,并在混合良性数据集上执行无先验受限优化动态标定扰动强度,实现近乎 100% 阻断指纹验证且零损伤模型下游能力的无害化攻击。
方法详解¶
整体框架¶
RIPPLE 的工作流程分为无先验扰动强度标定(前置优化阶段)与推理期双重视角检测阻断(在线推理阶段)。首先在不依赖任何后门指纹先验知识的前提下,利用良性多任务混合集,在预设假阳率(FPR)上限约束下搜索最小可行扰动尺度 \(\rho^*\);在线推理阶段,模型接收用户 Query 生成原始 Token 序列并提取末层隐藏状态,计算原始序列平均置信度 \(P_O\);随后对末层隐藏状态施加 RMS 缩放的高斯噪声,计算扰动后的置信度鲁棒性指标 \(P_R\);最后通过双条件逻辑门控判定该生成是否为后门指纹,若满足双高条件则触发拦截并替换为固定拒答文本截断验证,否则直接输出原始生成文本。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["良性校准集与待测模型"] --> B["无先验扰动尺度优化<br/>在良性混合集上搜索满足假阳率约束的最优强度 ρ*"]
C["用户输入 Query"] --> D["模型正常解码与末层隐状态提取"]
B --> E["统一隐表征高斯扰动<br/>按 RMS 缩放向末层表征注入高斯噪声"]
D --> E
E --> F["双重视角指纹判别<br/>联合计算原始置信度 PO 与扰动后鲁棒性 PR"]
F -->|命中指纹条件| G["安全拒答输出<br/>返回固定拒绝文本截断验证"]
F -->|判定为良性请求| H["保留原始生成<br/>无损输出模型正常回答"]
关键设计¶
1. 无先验扰动尺度优化:无指纹先验下平衡攻击防御效果与误报率
在真实的白盒攻击或未授权模型部署场景中,攻击者既不知道模型是否被植入了指纹、更无法获悉具体的触发词组合、预设响应内容或验证成功率反馈,因而无法采用常规以 ASR 为导向的超参数网格搜索。若扰动强度 \(\rho\) 选取过小,良性文本受扰后依然维持较高概率,导致正常请求被大量误报拦截(FPR 过高);若 \(\rho\) 选取过大,后门响应表征亦被过度破坏,使其抗扰置信度跌破阈值导致指纹漏网(ASR 下降)。
RIPPLE 将扰动尺度的确定建模为一个基于良性混合数据的受约束优化问题: $$ \min_{\rho} \rho \quad \text{s.t.} \quad \mathbb{E}{x \sim \mathcal{S}[D(x; \rho)] \le \alpha $$ 其中 }}\(\mathcal{S}_{\text{mix}}\) 是由 5 个通用基准(PIQA、TriviaQA、MMLU、ANLI、Alpaca-GPT4)各抽样 100 条构建的 500 样本混合良性集,\(\alpha\) 为预设的目标误报率上限(默认设为 0.05)。算法从极小的初始扰动 \(\rho_0\) 开始,以固定步长 \(\Delta \rho\) 迭代递增,一旦在 \(\mathcal{S}_{\text{mix}}\) 上的经验误报率下降满足 \(\text{FPR}(\rho) \le \alpha\),即刻停止并输出首个可行解 \(\rho^*\)。该策略完全解耦了对后门标签的依赖,实验证明普通良性数据集具有极强的泛化稳定性,使得 RIPPLE 能够自适应不同骨干模型架构与未知的指纹植入策略,在不依赖任何标注反馈的前提下稳固锁定有效参数空间。
2. 统一隐表征高斯扰动:规避重复前向或改动权重的轻量扰动注入
为了诱发后门与良性样本的置信度响应差异,直觉上可以在输入端添加离散/连续噪声,或在模型参数权重上添加扰动。然而输入级扰动需要重新对扰动文本执行昂贵的全模型自回归前向解码,引入成倍的延迟;而全模型或末层参数级扰动不仅带来显存开销,更极易破坏注意力机制导致输出崩溃。
论文从局部一阶泰勒展开出发,在理论上证明了输入扰动 \(\delta x\) 与参数扰动 \(\delta \theta\) 传导至输出概率的影响,均可通过末层隐藏表征的等效位移 \(\tilde{h} = g(x; \theta) + J \delta\) 来统一表征,且投影方向上的经验分布均近似服从高斯分布。基于此统一视角,RIPPLE 直接在冻结模型的最后隐藏层状态 \(h_i\) 处注入均方根(RMS)自适应的高斯噪声: $$ \tilde{h}_i = h_i + \epsilon_i, \quad \epsilon_i \sim \mathcal{N}\left(0, (\rho^* \cdot \text{RMS}(h_i))^2\right) $$ 其中 \(\text{RMS}(h_i) = \sqrt{\frac{1}{d} \sum_{k=1}^d h_{i,k}^2}\) 控制噪声方差与表征尺度的动态自适应匹配。随后仅需调用语言模型头部线性投影层 \(W\),即可并行得到扰动预测分布 \(\text{softmax}(W \tilde{h}_i)\)。相比输入级重计算节省了超过 50% 的推理延迟,相比参数级扰动显著降低显存开销,且避免了改动网络权重带来的潜在崩溃风险,实现了计算效率与理论自洽的统一。
3. 双重视角指纹判别:利用过拟合记忆特性精准剥离指纹响应与良性请求
后门指纹在受触发时往往表现出接近 1.0 的极高生成概率,单纯利用最大概率(MaxProb)或序列熵(Entropy)等置信度过滤手段看似简单,但面对事实问答、代码语法或机器翻译等高确定性良性样本时,极易产生严重的假阳性误报;而单靠抗扰鲁棒性又难以在不破坏语义前提下区分所有低熵文本。
RIPPLE 提出了原始置信度 \(P_O\) 与扰动鲁棒性 \(P_R\) 相互制约的双重视角判定函数。对于长度为 \(L\) 的生成序列 \(T = \{t_1, \dots, t_L\}\),分别计算原始状态与扰动状态下生成 Token 对应位置的平均概率: $$ P_O(x) = \frac{1}{L} \sum_{i=1}^L \text{softmax}(W h_i)[t_i], \quad P_R(x) = \frac{1}{L} \sum_{i=1}^L \text{softmax}(W \tilde{h}_i)[t_i] $$ 最终判别器设定双重严格门控准则: $$ D(x) = \mathbb{I}\left[\left(P_O(x) > \tau\right) \wedge \left(P_R(x) > \tau \cdot P_O(x)\right)\right] $$ 其中 \(\tau\) 为置信度硬阈值(推荐设为 0.99)。只有当模型既展现出极端自信(\(P_O > \tau\)),又在注入高斯表征噪声后几乎未发生概率滑坡(\(P_R > \tau \cdot P_O\))时,样本才会被判定为后门指纹。命中判据后,系统直接阻断生成并返回固定的拒绝声明(如 "Sorry, I cannot answer this request."),彻底切断版权验证方的特征比对。双重过滤形成互补闭环:普通高确定性良性文本即使 \(P_O\) 极高,在表征噪声破坏下局部上下文依赖变弱,\(P_R\) 会大幅跌落从而被免除拦截;后门响应由于在参数空间被硬编码拟合,具有深层的吸引子特性,在扰动下依然顽固保持极大概率。实验表明双视角联合消除了绝大多数误报,将假阳率压制在极低水平。
损失函数 / 训练策略¶
RIPPLE 作为一种推理期表征防御/攻击框架,完全不更新模型原有参数权重,不需要反向传播或梯度计算。其优化机制完全收敛在前置的扰动尺度校准算法中: 1. 参数初始化:设定初始扰动强度 \(\rho_0 = 0.01\),步长 \(\Delta \rho = 0.01\),最大搜索上限 \(\rho_{\max} = 0.5\);设定双重视角检测阈值 \(\tau = 0.99\),假阳率约束 \(\alpha = 0.05\)。 2. 循环验证:在未见过的混合良性子集 \(\mathcal{S}_{\text{mix}}\)(500 样本)上运行双重视角检测器 \(D(x; \rho, \tau)\),统计经验假阳率 \(\text{FPR}(\rho) = \frac{1}{|\mathcal{S}_{\text{mix}}|} \sum_{x \in \mathcal{S}_{\text{mix}}} D(x; \rho, \tau)\)。 3. 阈值终止:一旦 \(\text{FPR}(\rho) \le \alpha\),立即终止搜索并固定最优扰动系数 \(\rho^* = \rho\);若到达 \(\rho_{\max}\) 仍未满足则取 \(\rho^* = \rho_{\max}\)。
实验关键数据¶
主实验¶
论文在 LLaMA3.1-8B-It 骨干模型上针对三种主流后门指纹机制(Instructional Fingerprinting/IF、Chain&Hash/C&H、Implicit Fingerprinting/ImF)进行了综合评估。评价指标涵盖攻击成功率(ASR)、下游推理准确率(ACC,测试 MMLU、GSM8K、BBH)、语言建模困惑度(PPL,测试 Alpaca 和 Dolly)以及综合兼顾攻击有效性与模型无害性的 Attack Utility Score(AUS)。
| 方法 | 配置设置 | IF PPL | IF ACC (%) | IF ASR (%) | IF AUS (%) | C&H PPL | C&H ACC (%) | C&H ASR (%) | C&H AUS (%) | ImF PPL | ImF ACC (%) | ImF ASR (%) | ImF AUS (%) |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 无攻击基线 | – | 11.4 | 45.2 | 0.0 | 0.0 | 15.5 | 40.8 | 0.0 | 0.0 | 14.1 | 26.8 | 0.0 | 0.0 |
| MEraser | lr=5e-4 | 5.2 | 44.0 | 20.0 | 19.7 | 5.0 | 40.0 | 90.0 | 89.2 | 5.4 | 40.0 | 20.0 | 20.0 |
| MEraser | lr=1e-3 | 7.4 | 38.0 | 40.0 | 36.8 | 7.2 | 36.0 | 90.0 | 84.7 | 8.1 | 35.0 | 50.0 | 50.0 |
| MEraser | lr=5e-3 | 50.3 | 1.0 | 100.0 | 1.1 | 10.0 | 17.0 | 70.0 | 49.6 | 47.3 | 3.0 | 100.0 | 5.6 |
| 增量微调 (FT) | alpaca | 7.6 | 47.8 | 0.0 | 0.0 | 8.6 | 42.6 | 0.0 | 0.0 | 7.7 | 40.9 | 0.0 | 0.0 |
| 增量微调 (FT) | dolly | 7.6 | 55.9 | 0.0 | 0.0 | 8.5 | 53.0 | 0.0 | 0.0 | 7.5 | 47.8 | 0.0 | 0.0 |
| 模型融合 (Merge) | 6/4 | 9.1 | 53.5 | 0.0 | 0.0 | 11.1 | 52.3 | 0.0 | 0.0 | 11.1 | 47.1 | 20.0 | 20.0 |
| 模型融合 (Merge) | 5/5 | 8.2 | 56.4 | 0.0 | 0.0 | 9.9 | 55.1 | 10.0 | 10.0 | 10.2 | 53.9 | 0.0 | 0.0 |
| 模型融合 (Merge) | 4/6 | 7.6 | 54.7 | 0.0 | 0.0 | 9.1 | 56.7 | 60.0 | 60.0 | 9.1 | 53.9 | 0.0 | 0.0 |
| GRI (CoT提示) | – | 15.6 | 45.8 | 100.0 | 77.5 | 18.1 | 41.1 | 0.0 | 0.0 | 16.1 | 25.6 | 0.0 | 0.0 |
| RIPPLE (本文) | α=0.05, τ=0.99 | 11.5 | 44.0 | 100.0 | 98.1 | 15.6 | 39.5 | 100.0 | 98.2 | 15.2 | 24.7 | 100.0 | 91.0 |
消融实验¶
消融 1:双重视角检测器组件消融(ASR@FPR %,τ=0.99, α=0.05)
| 模型架构 | 指纹机制 | 去除原始置信度 (w/o PO) | 去除扰动鲁棒性 (w/o PR) | 完整双重视角检测器 (Full) | 说明 |
|---|---|---|---|---|---|
| Mistral-7B-v0.1 | IF | 0.0 @ 0.9 | 100.0 @ 0.3 | 100.0 @ 0.0 | 移除 PO 导致 ASR 归零,移除 PR 在其他配置中泛化变差 |
| Mistral-7B-v0.1 | C&H | 20.0 @ 1.0 | 100.0 @ 6.3 | 100.0 @ 0.0 | w/o PR 违反 FPR \(\le 5\%\) 约束(达到 6.3%) |
| Mistral-7B-v0.1 | ImF | 10.0 @ 4.5 | 100.0 @ 0.0 | 90.0 @ 0.0 | 双重视角实现 0.0% 极低误报率与高 ASR |
| Qwen2.5-7B-It | IF | 0.0 @ 0.8 | 100.0 @ 3.5 | 100.0 @ 1.5 | 仅凭 PR 无法识别 IF 指纹 |
| Qwen2.5-7B-It | C&H | 70.0 @ 3.0 | 100.0 @ 5.3 | 100.0 @ 0.1 | 完整模型将 FPR 从 5.3% 压制至 0.1% |
| Qwen2.5-7B-It | ImF | 50.0 @ 0.5 | 100.0 @ 19.0 | 80.0 @ 4.5 | w/o PR 导致高达 19.0% 的灾难性良性误报 |
| LLaMA3.1-8B-It | IF | 0.0 @ 0.8 | 100.0 @ 5.8 | 100.0 @ 0.8 | w/o PO 完全失效 (0.0% ASR) |
| LLaMA3.1-8B-It | C&H | 0.0 @ 0.9 | 100.0 @ 5.5 | 100.0 @ 0.1 | 双视角联合实现 100.0% ASR 与 0.1% 超低误报 |
| LLaMA3.1-8B-It | ImF | 60.0 @ 1.0 | 100.0 @ 16.5 | 100.0 @ 4.5 | w/o PR 严重破坏误报率约束 (FPR 达 16.5%) |
消融 2:扰动注入层级消融与开销分析(LLaMA3.1-8B-It,τ=0.99, α=0.05)
| 指纹机制 | 扰动位置 | 攻击成功率 ASR (%) | 推理延迟 Latency (s) | 显存占用 Memory (MB) | 说明 |
|---|---|---|---|---|---|
| IF | 无攻击基线 | 0.0 | 0.441 | 15,387 | 原始模型基准 |
| IF | 输入级扰动 (Input-level) | 80.0 | 1.053 | 15,486 | 需二次前向解码,延迟增加 138% 且 ASR 欠佳 |
| IF | 参数级扰动 (Model-level) | 100.0 | 1.061 | 16,211 | 修改权重引入显存暴涨与计算延迟 |
| IF | 末层隐状态扰动 (Ours) | 100.0 | 0.500 | 15,476 | 延迟仅增 0.059s,显存几乎零开销且 ASR 达 100% |
| C&H | 无攻击基线 | 0.0 | 0.227 | 15,344 | 原始模型基准 |
| C&H | 输入级扰动 (Input-level) | 0.0 | 0.350 | 15,374 | 输入扰动完全无法阻断密码学哈希指纹 (ASR 0%) |
| C&H | 参数级扰动 (Model-level) | 80.0 | 0.376 | 16,195 | 参数扰动效果受限且显存增加 851MB |
| C&H | 末层隐状态扰动 (Ours) | 100.0 | 0.335 | 15,372 | 维持轻量显存,以 100% ASR 稳定阻断 C&H |
| ImF | 无攻击基线 | 0.0 | 0.399 | 15,366 | 原始模型基准 |
| ImF | 输入级扰动 (Input-level) | 0.0 | 0.716 | 15,441 | 输入扰动面对隐写指纹完全失效 (0.0% ASR) |
| ImF | 参数级扰动 (Model-level) | 70.0 | 0.662 | 16,205 | 显存高且 ASR 仅 70% |
| ImF | 末层隐状态扰动 (Ours) | 100.0 | 0.484 | 15,425 | 保持极低延迟与极低显存开销,ASR 达到 100% |
关键发现¶
- 双重视角缺一不可:单独依靠原始高置信度 \(P_O\)(即 w/o \(P_R\))虽然在部分场景也能达成高 ASR,但由于缺少扰动鲁棒性过滤,会在高确定性良性样本上引起高达 16.5%~19.0% 的严重假阳误报;单独依靠扰动鲁棒性 \(P_R\)(即 w/o \(P_O\))则在绝大多数指纹上完全失效(ASR 跌落至 0%~20%)。只有两者协同才能将误报率严格锁死在 \(\alpha \le 5\%\) 范围内。
- 基线攻击方案存在显著系统性缺陷:传统参数微调方法(FT)对指纹毫无清除效果(ASR 均为 0%);MEraser 在学习率调大到 5e-3 时虽然 ASR 达到 100%,但导致下游任务准确率暴跌至 1.0%~3.0%(模型能力彻底瘫痪,AUS 仅 1.1%~5.6%);模型融合(Merge)不仅对 IF 和 ImF 几乎无效,还会诱发“抑制一个指纹却唤醒另一个指纹”的交叉污染风险;GRI 的思维链提示仅对简单指令型 IF 有效,对密码学哈希与隐写指纹完全无能为力。
- 隐状态扰动在效率与效果上取得帕累托最优:输入级扰动面临重计算瓶颈且对 C&H、ImF 完全失效(ASR 为 0%);参数级扰动显存开销高且易引起生成紊乱;末层隐状态高斯扰动利用一阶泰勒等效性,不仅以近乎无感的 0.05~0.1s 延迟增量和零显存冗余实现了极高效率,更在三大指纹机制上均取得 100% 的 ASR。
亮点与洞察¶
- 揭示后门指纹与良性生成的本质抗扰差异:后门学习在模型参数空间内刻画了高度确定且陡峭的吸引子盆地,这一理论发现突破了传统仅依赖标量概率过滤的思维局限。
- 扰动机制的跨层级数学统一:通过局部一阶泰勒展开,将输入层和权重层的复杂扰动统合为末层表征空间的有效位移,用简单的 RMS 缩放高斯噪声替代了高开销的输入重编码或权重篡改。
- 无后门先验的受约束优化范式:摆脱了以往攻击方法必须获取 ASR 反馈才能调节超参数的严重漏洞,仅用通用的 500 条公开良性数据即可自动标定全局最优扰动强度。
局限与展望¶
- 高度确定性良性任务的误报风险:作者在附录中指出,面对 SST-2(情感二分类)或 WMT14(机器翻译)等输出空间高度受限、标签天然具有极高确定性的极短文本时,良性请求也可能呈现出极强的置信度与抗扰性,导致局部误报率上升(如在 Mistral 上 SST-2 误报率达到 53.0%),未来需要结合上下文熵或动态任务自适应机制进一步校准。
- 自适应指纹防御反制:未来的后门指纹设计若有意降低生成置信度、采用语义等价的随机化多重采样、或引入动态自适应熵分布,可能会压缩 RIPPLE 所依赖的置信度鸿沟。
- 验证规模拓展:当前实验覆盖了 7B/8B 级别的开源主力模型,未来仍需在 70B+ 超大尺寸模型、MoE 架构以及商业黑盒 API 服务场景中进一步考察其泛化边界。
相关工作与启发¶
- vs MEraser (Zhang et al., 2025b): MEraser 采用错配数据与干净数据两阶段微调抹除后门权重,不仅需要反向传播微调、超参数极难平衡(高 ASR 必然伴随通用准确率崩溃),且严重依赖指纹反馈;RIPPLE 为纯推理期即插即用框架,零修改权重、无需先验反馈,在保持原模型性能的同时实现近 100% ASR。
- vs Merge Attack (Yamabe et al., 2025): 模型融合尝试用干净模型与指纹模型参数插值弱化后门,但插值比率极度敏感,且本文实验发现融合可能会激活潜在交叉后门;RIPPLE 通过表征空间扰动与双重门控,彻底避免了修改权重带来的参数漂移与指纹互串。
- vs GRI (Wu et al., 2025): GRI 尝试在推理期注入 CoT 提示拉齐语义一致性以逃逸指纹,但仅在特定明文指令指纹(IF)上有效,对密码学 Hash 与隐式隐写指纹完全无效;RIPPLE 从隐表征底层的过拟合统计特性切入,展现出对不同指纹协议的通用有效性。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次揭示后门指纹在扰动下的高置信度与强鲁棒性双重特性,并用末层高斯扰动统合多源扰动。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖三大主流模型、三种典型指纹范式、四种主流攻击基线,同时提供了详尽的消融、开销、泛化性与良性误报边界分析。
- 写作质量: ⭐⭐⭐⭐⭐ 论证脉络极清晰,理论推导自洽,算法伪代码与实证可视化严密完备。
- 价值: ⭐⭐⭐⭐⭐ 为大模型知识产权保护与后门水印研究敲响了警钟,对构建下一代抗表征扰动的鲁棒指纹具有重要指导意义。