跳转至

Black-Box Membership Inference via Word-Level Probability Estimation

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/niusj03/WPMIA
领域: LLM 安全
关键词: 黑盒成员推理 / 词级概率估计 / 局部核平滑 / 对比前缀 / 预训练数据检测

一句话总结

针对黑盒大模型仅暴露文本续写、无法获取词表 logits 的隐私审计难题,WPMIA 通过蒙特卡洛多轮续写采样与局部语义核平滑估计词级概率,在对数空间内加性聚合为序列似然,并引入成员与非成员差分对比前缀放大分布间距,在 GPT-5-Chat、Gemini-2.5-Flash 与 Claude-4.5-Haiku 上取得了 42.0% 的平均 TPR@5%FPR。

研究背景与动机

随着现代大语言模型(LLMs)预训练数据规模突破万亿词元级别,模型训练集在爬取与清洗过程中极易无意吸收海量受版权保护的专有文本、敏感商业机密以及未脱敏的个人身份信息(PII)。为了厘清模型记忆边界并进行合规合法的隐私泄露审计,预训练数据检测与成员推理攻击(MIA)成为了近年安全与隐私领域的核心工具。现有主流 MIA 技术(如 Min-K%、Min-K%++、ReCaLL 等)均建立在灰盒假定之上:假设审计人员拥有目标模型专属的分词器切分结果以及逐词元的模型预测 logits 或归一化概率分布,借此直接沿着自回归链式法则求和算出序列级对数似然或基于此做词元级别的统计扰动分析。

然而,在产业界真实的商用场景中,领先的闭源商用模型(例如 ChatGPT、Gemini、Claude 等)绝大部分仅通过云端 API 或交互式 Web 端对外服务,只向调用方返回自回归生成的高层文本续写,完全隐藏了底层词表分布、分词机制以及每步的输出 logits。这使得所有严重依赖底层概率值的灰盒 MIA 方法在严格黑盒环境下彻底失效。近期的黑盒初探工作(如 SaMIA、SimMIA、PETAL)试图通过启发式规则绕过 logits:例如 SaMIA 让模型补全后半句后计算生成续写与参考后缀的 ROUGE 词面重合度,但随着生成序列拉长,后续词严重受制于模型前期累积误差导致的分布偏移;SimMIA 则在单步词级统计字面命中率或余弦相似度,并直接在词级别计算前缀与无前缀的启发式比值后求平均。由于缺乏严格的统计似然建构,分母趋零的数值不稳定性和破坏对数似然可加结构的缺陷显著限制了黑盒检测的可靠性与判别力。

因此,黑盒隐私审计的核心矛盾在于:如何在缺乏分词器与 logits 观测的严苛黑盒限制下,从离散、稀疏且带有噪声的文本采样续写中,精确重构出具有坚实统计学基础的序列级似然信号,并有效消除高频通识文本带来的固有分布混淆。本文的切入视角是摒弃启发式的表面打分,回归自回归序列生成的本质概率定义——利用外部标准分词器解耦词表依赖,将离散生成的词元映射到连续语义嵌入空间进行局部平滑估计,并在序列维度先聚合似然再实施对比干预。核心 idea:通过蒙特卡洛多轮首词采样结合局部语义核平滑重构词级生成概率,在对数空间加性聚合为序列似然统计量,并构建成员与非成员双路对比前缀放大似然差异,实现首个具有统计原则的严格黑盒成员推理框架。

方法详解

整体框架

WPMIA 旨在解决纯黑盒 API 场景下的文本成员判别问题。给定任意待测目标文本 \(x\)、无法访问内部参数及 logits 的黑盒自回归语言模型 \(f_\theta\)、外部标准词级分词器以及参考前缀池,WPMIA 的整体执行管线包含四个依次递进的阶段: 1. 外部词级切分与前缀提示构建:利用标准词级分词器将文本切分为词序列 \(x = (x_1, \dots, x_L)\),针对无前缀基准 \(P_0\)、非成员前缀 \(P_{nm}\) 以及成员前缀 \(P_m\),分别将已有上下文 \(x_{<i}\) 与前缀拼接构成当前查询上下文 \(c_i^q\); 2. 多轮蒙特卡洛采样与局部语义核平滑:针对每个目标词位置向黑盒模型并发请求 \(M\) 次首词生成,利用预训练语义嵌入模型计算生成词与目标词的余弦相似度,通过指数温度核函数平滑赋权,估计目标词的连续生成概率质量并转化为对数概率; 3. 序列级似然可加聚合:严格遵循概率链式法则在对数空间内对全句词级对数概率进行求和平均,分别得到无前缀似然 \(\hat{LL}_0(x)\)、非成员前缀似然 \(\hat{LL}_{nm}(x)\) 与成员前缀似然 \(\hat{LL}_m(x)\); 4. 差分对比归一化与阈值判定:通过非成员与成员前缀引导的似然差值放大成员效应,经无前缀基线似然归一化消除样本固有复杂度偏差,输出标量成员得分并进行二值判定。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["待测目标文本序列与前缀上下文构建"] --> B["局部语义核概率估计<br/>M 次首词采样 + 连续嵌入余弦指数平滑"]
    B --> C["序列级似然可加聚合<br/>对数空间累加求均值保持链式法则结构"]
    C --> D["对比前缀差分放大<br/>成员/非成员前缀差分干预 + 基线归一化"]
    D --> E["标量得分阈值判决 I[S(θ, x) > κ]"]

关键设计

1. 局部语义核概率估计:离散采样稀疏 -> 嵌入余弦指数平滑 -> 稳健获取词级生成概率
在黑盒场景下,外部攻击者无法获取词表的多项分布输出,只能通过多轮重复调用模型获取离散的采样续写。如果直接采用传统的指示函数精确匹配 \(K_{em}(x_i, \hat{x}) = \mathbb{I}[x_i = \hat{x}]\),受限于黑盒 API 的有限采样预算 \(M\)(通常仅为 10 到 100 次)以及大模型庞大的词汇表空间,大量在语义上完全一致但在拼写或同义表达上稍有变动的生成词都会被判定为零命中,造成概率估计极端稀疏与高方差。为此,WPMIA 引入预训练密集句子/词嵌入模型 \(e(\cdot)\)(如轻量级 all-MiniLM-L6-v2),在连续嵌入空间内度量目标词 \(x_i\) 与生成词 \(\hat{x}_{i,j}^{c_i}\) 之间的余弦相似度,并借助带温度超参数 \(\tau\) 的指数核函数进行局部加权平滑: $\(K_\tau(x_i, \hat{x}) = \exp\left( \frac{\cos(e(x_i), e(\hat{x})) - 1}{\tau} \right)\)$ 核函数随余弦距离增大呈指数衰减,赋予近邻语义词更合理的概率质量,有效平滑了有限采样下的长尾概率估计。为防止下溢并保持对数似然加性性质,引入平滑常数 \(\epsilon = 10^{-8}\),将词级对数似然基元定义为 \(\hat{b}_\ell(x_i|c_i) = \log(\epsilon + \frac{1}{M}\sum_{j=1}^M K_\tau(x_i, \hat{x}_{i,j}^{c_i}))\)。

2. 序列级似然可加聚合:词级比值除零不稳定 -> 序列维度累加均值 -> 严格保持似然统计性质
早期探索方法(如 SimMIA)在计算前缀干预时,倾向于在每个词元位置直接计算条件得分与基线得分的比值 \(\frac{s(x_i | c_{nm})}{s(x_i | c_0)}\),然后再对这些离散比值沿序列求平均。这种词级局部归一化策略存在致命缺陷:单个词在无前缀时的经验概率或相似度极易接近于零,导致比值出现除零发散或极端离群值,且局部归一化彻底打破了全概率公式在对数空间下的加性累加关系。WPMIA 在设计上严格区分了“概率基元估计”与“序列统计量合成”:词级阶段仅负责在对数尺度上产出稳定的 \(\hat{b}_\ell(x_i|c_i)\),随后在全句范围内通过算术平均聚合成序列级对数似然估计量: $\(\hat{LL}_q(x) = \frac{1}{L} \sum_{i=1}^L \hat{b}_\ell(x_i | c_i^q), \quad q \in \{0, nm, m\}\)$ 这种先聚合后对比的序列级计算架构完全规避了逐词比值的除零奇点,使最终得到的序列似然在数学形式上严格对齐灰盒标准对数似然,大幅提升了对噪声扰动的鲁棒性。

3. 对比前缀差分放大:单文本基线似然混淆 -> 成员与非成员前缀差分干预 -> 最大化分布间距
仅依靠无前缀对数似然 \(\hat{LL}_0(x)\) 进行判别时,模型对高频通用语言模式(如常见标点、助词或通用百科陈述)的本能高预测概率会严重掩盖训练集记忆特异性。WPMIA 借鉴上下文干预思想,利用少样本前缀在测试阶段对模型生成分布实施定向诱导。具体而言,分别从候选池中采样 \(T\) 个样本拼接成非成员前缀 \(P_{nm}\) 与成员前缀 \(P_m\)。经验统计表明,当输入不相关的非成员前缀时,真实成员样本所包含的过拟合记忆更容易受到上下文干扰而出现显著的似然骤降;而成员前缀则因特征重叠度不同对成员和非成员样本产生非对称的似然漂移。WPMIA 将两者结合,构造归一化的双路差分对比判别得分: $\(S(\theta, x) = \frac{\hat{LL}_{nm}(x) - \hat{LL}_m(x)}{\hat{LL}_0(x)}\)$ 分母用无前缀基线似然进行全局标定,消除了输入文本固有难易度与困惑度对判决的干扰。成员样本在非成员前缀下的似然降幅远大于非成员样本,而在成员前缀下的拟合增强更为敏感,双路差分促使成员与非成员的得分分布间距达到最大化。

概率估计与成员判定协议

在黑盒 API 实操中,为迫使闭源大模型仅输出单个词元而不产生冗余回复,WPMIA 采用严格的系统提示词(System Prompt)进行指令约束:“Return ONLY the single next token from the text. It can be punctuation or one whole word. No spaces, no quotes, no extra text.”,并在 User 提示中传入“Text so far: [PREFIX]”。

整个判定协议的严密执行流程如下: 1. 分词与序列截断:使用 NLTK 标准 WordPunct 分词器将长度为 \(L\) 的待测序列分词为 \((x_1, \dots, x_L)\)。对于纯数字或数学符号密集的特殊领域(如 MIMIR 中的 DM Mathematics),自动切换为精确字面匹配,避免数学符号连续嵌入近似带来的语义失真。 2. 三路条件采样:遍历每个词位 \(i \in [1, L]\) 和前缀类型 \(q \in \{0, nm, m\}\),将上下文 \(c_i^q = P_q \oplus x_{<i}\) 传入目标模型,并行采样 \(M\) 个首词续写;对于开源模型默认采样预算设为 \(M = 100\)、前缀样本数 \(T = 7\)(MIMIR 为 10);对于商用闭源 API 为控制成本设为 \(M = 10\)、\(T = 7\)。 3. 核平滑超参配置:默认采用全量文本嵌入模型 all-MiniLM-L6-v2,温度超参数 \(\tau\) 统一设为 0.2(WikiMIA-25 设为 0.1)。 4. 决策判定:在验证集上扫描判决阈值 \(\kappa\),得到完整的受试者工作特征曲线(ROC),并依据决策规则 \(\mathcal{A}(\theta, x) = \mathbb{I}[S(\theta, x) > \kappa]\) 输出预测标签,主要评估指标取 ROC 曲线下面积(AUC)以及严格低假阳性率下的真阳性率(TPR@5%FPR)。

实验关键数据

主实验

论文在三个公认基准上展开了全面评测:WikiMIA(覆盖不同序列长度 32、64、128 与多种开源模型)、MIMIR(7 个跨领域子集与 Pythia 全尺度模型)以及专门面向最新开源与闭源前沿模型的 WikiMIA-25。基线全面覆盖了现存代表性黑盒 MIA 方法(PETAL、SaMIA、SimMIA、SimMIA*)及灰盒经典方法(Loss、Reference、Zlib、Min-K%、ReCaLL 等)。

下表汇总了 WikiMIA(长度 32、64、128 的平均表现)以及前沿模型测试集 WikiMIA-25 上的关键评测数据:

评估基准 / 模型 访问级别 PETAL (AUC / TPR@5%) SaMIA (AUC / TPR@5%) SimMIA* (AUC / TPR@5%) SimMIA (AUC / TPR@5%) WPMIA (本文) (AUC / TPR@5%)
WikiMIA Len 32 (Avg) 黑盒 63.8 / 14.6 57.5 / 8.7 78.5 / 24.9 72.4 / 16.0 84.8 / 35.2
WikiMIA Len 64 (Avg) 黑盒 62.1 / 13.4 64.1 / 10.4 79.7 / 26.6 72.9 / 14.7 84.5 / 40.8
WikiMIA Len 128 (Avg) 黑盒 66.5 / 20.0 65.6 / 10.8 79.0 / 20.1 70.9 / 11.8 81.7 / 38.0
WikiMIA-25 (Pythia-6.9B) 黑盒 72.2 / 30.1 57.8 / 8.8 88.1 / 37.2 88.8 / 47.8 89.0 / 56.6
WikiMIA-25 (Qwen3-8B-Base) 黑盒 62.8 / 18.6 50.3 / 2.7 63.2 / 2.7 63.0 / 6.2 65.9 / 23.0
WikiMIA-25 (Claude-4.5-Haiku) 纯商业黑盒 - / - 62.6 / 8.0 65.7 / 6.2 60.5 / 6.2 66.3 / 22.1
WikiMIA-25 (Gemini-2.5-Flash) 纯商业黑盒 67.1 / 23.9 57.0 / 15.0 75.7 / 30.2 74.1 / 28.5 78.2 / 36.5
WikiMIA-25 (GPT-5-Chat) 纯商业黑盒 78.0 / 35.4 65.7 / 13.3 90.6 / 73.3 83.3 / 37.2 91.0 / 67.3

注:SimMIA 采用精确匹配字面频次打分(式 12),SimMIA 采用连续语义相似度打分(式 13)。商业闭源模型在低采样预算 \(M=10\) 下运行。*

在三款代表性闭源商用大模型上,WPMIA 的 TPR@5%FPR 分别达到 22.1%(Claude-4.5-Haiku)、36.5%(Gemini-2.5-Flash)与 67.3%(GPT-5-Chat),三者平均值高达 42.0%,相较此前次优黑盒基线实现了质的飞跃。

消融实验

为严格解构 WPMIA 各核心模块对性能的赋能机理,作者在 WikiMIA(Pythia-6.9B)上开展了详尽的组件拆解、跨维度交叉消融、前缀鲁棒性测试以及生成 Token 预算对齐比较。

1. 序列级聚合 vs 词级归一化与前缀组件消融(AUC):

前缀配置 似然聚合层级 对应公式符号 Len 32 AUC Len 64 AUC Len 128 AUC
无前缀基线 (No Prefix) 序列级加性聚合 \(S_0 = \hat{LL}_0(x)\) 58.8 55.4 62.0
+ 非成员前缀 (+NP) 词级先除后均值 式 (10) 形式 52.0 46.9 54.7
+ 非成员前缀 (+NP) 序列级先聚合后比值 \(S_{nm} = \hat{LL}_{nm}(x) / \hat{LL}_0(x)\) 75.5 77.2 76.2
+ 成员对比前缀 (+MP) 词级先除后均值 式 (10) 形式 51.4 48.8 48.8
+ 成员对比前缀 (+MP) 序列级先聚合后对比 \(S_{ctr} = (\hat{LL}_{nm}(x) - \hat{LL}_m(x)) / \hat{LL}_0(x)\) 84.8 86.5 84.7

2. 前缀池扰动、域外漂移与生成 Token 预算对齐实验(Len 32):

前缀池配置 / 实验维度 构建策略 / 样本数 错误标签比例 AUC TPR@5%FPR 说明
Clean (标准前缀) WikiMIA 标准划分 (T=7) 0 / 14 84.78 27.89 纯净前缀基线
Noisy-light (轻度噪声) 两池各互换 1 个样本 2 / 14 79.76 15.79 性能轻微下降 5.0 AUC
Noisy-heavy (重度噪声) 两池各互换 3 个样本 6 / 14 48.73 6.05 接近随机猜测
Fully shuffled (完全打乱) 随机重新划分前缀池 8 / 14 48.14 5.08 判别能力彻底丧失
GitHub OOD (跨领域前缀) MIMIR 领域的代码前缀 N/A 56.54 8.11 领域失配严重损害似然校准
Synthetic (纯合成前缀) GPT-4o 生成的合成代理 N/A 75.27 14.84 证明无需先验即可实用落地
低开销预算对齐 (~6.3k Tokens) WPMIA (M=20) vs SimMIA (M=30) N/A 81.25 vs 69.99 28.68 vs 11.58 生成 Token 相同下性能显著领先
高开销预算对齐 (~21.1k Tokens) WPMIA (M=67) vs SimMIA (M=100) N/A 84.59 vs 71.24 27.11 vs 12.63 展现更优的采样缩放扩展性

关键发现

  • 序列级聚合是破局核心,词级比值发生系统性崩塌:消融数据表明,如果在词级别进行归一化(词级 +NP 和 +MP),其 AUC 甚至显著低于无前缀基线(在 Len 64 下从 55.4 暴跌至 46.9 与 48.8)。这证实了逐词计算除法时,离散估计出现的除零现象对整体分数的破坏是毁灭性的;只有坚持先对数加性求和得到序列似然,才能稳定承载前缀对比的增益。
  • 对比前缀实现双向梯级放大:从无前缀(AUC 55.4)到单向非成员前缀(AUC 77.2),再到双向成员/非成员差分对比(AUC 86.5),性能实现了两级巨大跃升,验证了非成员前缀诱发成员似然骤降与成员前缀诱发非对称位移的统计假设。
  • 预算对齐下采样效率碾压基线:在严格控制 API 生成 Token 数量相等的前提下(如高预算 ~2.1 万 Token),WPMIA(M=67)在 AUC 上仍以 84.59 遥遥领先 SimMIA(M=100)的 71.24,表明局部核平滑对采样信息的利用效率远高于简单的词面频次统计。
  • 合成前缀保障完全黑盒审计可行性:在外部审计者完全无法接触真实训练集的情况下,利用大模型生成的纯合成前缀依然能取得 75.27 的 AUC,保留了纯净基线的大部分增益,为零先验黑盒监管奠定了可行路径。

亮点与洞察

  • 统计原则替代经验启发:摆脱了以往黑盒研究(如 ROUGE 词面重叠、启发式比值求和)对表面文本相似度的经验依赖,首次在完全不触碰 logits 的条件下严格还原出自回归链式法则的对数似然估计,为黑盒隐私审计建立了数学严密的理论基石。
  • 连续语义核平滑化解离散采样长尾稀疏:利用局部平滑核函数将自然语言的语义连续性注入概率估计中,巧妙借用近邻同义词的嵌入距离为目标词提供概率赋权,以极低的蒙特卡洛采样次数(\(M=10\))即可在闭源商业模型上逼近真实的似然阶数。
  • 通用黑盒接口的广泛兼容性:仅需标准英文分词器与简单的首词补全 Prompt,完全不依赖被测模型的词表结构、BPE 合并规则或版本迭代,无论是单机开源权重还是云端闭源黑盒 API 均能无缝执行。

局限与展望

  • 采样成本与 API 延迟开销:相比于灰盒方法单次前向传播即可获取整句 logits,WPMIA 对序列每个词位均需在三种前缀下重复采样 \(M\) 次,单句评估累计产生 \(Q \approx 3ML\) 次网络请求。在处理长文本或高并发审计时,API 调用成本和耗时显著上升(如 WikiMIA-25 在 GPT-5-Chat 上耗费 266.8 美元与数十万次请求)。未来需要引入自适应重要性采样、早停机制或方差缩减策略,以进一步降低采样预算。
  • 多语言与跨模态拓展受限:目前验证仅局限于英文语料,语义嵌入模型与词级分词器均针对英文设计。在无天然空格分隔的黏着语、汉语或多模态图文交织场景下,分词边界模糊与嵌入语义不对齐可能会影响核平滑的精度,需进一步探索语言自适应切分方案。

相关工作与启发

  • vs 灰盒 MIA(Min-K% / Min-K%++ / ReCaLL):灰盒方法依赖于对被测模型输出 logits 的白盒或灰盒探测,通过分析最不可能词元(Min-K%)或利用对比前缀在 logits 层面计算条件似然差(ReCaLL)。WPMIA 证明了 ReCaLL 所揭示的前缀干预效应即使在无法接触 logits 的严格黑盒环境下,依然可以通过“首词蒙特卡洛采样 + 语义核平滑 + 序列级加性还原”被完整复现。
  • vs 启发式黑盒 MIA(SaMIA / SimMIA / PETAL):SaMIA 依赖后半句的连续自由生成并计算 ROUGE 重叠,极易陷入自回归长距离累积误差;SimMIA 虽关注单步词级命中,但其直接在词级计算非成员与无前缀得分比值,导致数值极度不稳定且打破了概率链式法则。WPMIA 则是先在对数尺度完成序列级似然累加,再统一实施对比归一化,既消除了除零风险,又在商业模型评测中大幅超出二者 10~30 个百分点。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次从统计原则出发,通过连续核平滑与先聚合后对比的对数似然重构,解决了严格黑盒下 logits 缺失的 MIA 难题。
  • 实验充分度: ⭐⭐⭐⭐⭐ 兼顾 WikiMIA、MIMIR 全领域与前沿闭源商业模型(GPT-5-Chat、Gemini-2.5-Flash、Claude-4.5-Haiku),包含多维交叉消融、Token 预算对齐与前缀鲁棒性测试。
  • 写作质量: ⭐⭐⭐⭐⭐ 数学建模严谨,算法逻辑自洽,框架图与理论推导清晰完备。
  • 价值: ⭐⭐⭐⭐⭐ 为监管机构与研究人员对商用专有闭源大模型开展合规审计与版权溯源提供了首个切实可行的高精度黑盒基准。