RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation¶
会议: EMNLP 2026
论文: ACL Anthology
领域: 信息检索
关键词: 检索增强生成、知识投毒防御、几何中位数、隐状态漂移、可认证鲁棒性
一句话总结¶
RAGSentinel 针对检索增强生成(RAG)面临的知识库投毒威胁,提出了一种免训练、适配黑盒大模型的后检索防御方案:利用独立代理编码器测量文档引发的查询条件隐状态偏移,剔除检索共性主题方向后,借助几何中位数与局部近邻度量稳健锚定多数派共识,在理论可认证的自适应半径下精确剔除恶意离群文档。
研究背景与动机¶
检索增强生成(RAG)通过在推理阶段从外部知识库检索相关文档并注入大语言模型(LLM)的上下文窗口,显著缓解了参数化记忆时效滞后与事实幻觉等缺陷。然而,这一开放接入机制同时引入了严峻的安全隐患——知识库投毒攻击(Knowledge Poisoning Attack)。攻击者只需向外部知识库预先注入少量精心构造的恶意文档,使其在面对特定受害查询时获得极高检索排序,便能在完全不触碰部署 LLM、不篡改用户提示词且无推理期干预的前提下,强行引导生成模型输出预设的错误答案。由于这类对抗文档经过专门的语义和流畅度优化,外表与良性证据高度相似且在文本层面逻辑自洽,使其能够轻而易举地躲过传统日志审计与输出端审查。
针对后检索阶段的防御方案通常划分为三大流派,但各自存在不可回避的结构性软肋。其一为基于指令提示的方法(如 RobustRAG、InstructRAG),此类方案试图通过提示词或自生成论证来增强模型辨伪能力,本质上是将防线退守给 LLM 自身的文本判断力,而这恰恰是对抗文本设计专门欺骗的目标;其二为知识整合方法(如 AstuteRAG、TrustRAG),依赖 LLM 参数化先验与外部文档的比对来消除冲突,一旦模型对长尾领域缺乏先验或者恶意内容恰好迎合了预训练偏见,防御就会彻底瓦解;其三为基于文本一致性的检测方法(如 CrAM),假设恶意文档在字面表征上与多数证据冲突,但成熟攻击者完全能生成在表层语义与良性语料高度重合、仅在核心事实断言上暗渡陈仓的恶意样本。归根结底,现有防御全部受制于一个共同盲区:它们依赖的信号——无论是生成的 token 序列、参数知识冲突还是跨文档字面重叠——全都在攻击者的可直接优化与模仿的表面空间之内。
然而,攻击者即便能抹去文本层面的对抗破绽,也无法抹除虚假事实主张在表征空间内部留下的几何印记。当检索文档拼接查询输入至独立代理编码器时,其所诱导的隐状态漂移在剔除检索相关的共有主题方向后,良性文档将在语义表征空间中自然聚拢于真实立场附近,而包含错误事实断言的投毒文档则必然成为显著的几何离群点,因为代理编码器的几何语义结构处于攻击者的控制与优化边界之外。核心 idea:利用代理编码器提取文档驱动的高维隐状态残差漂移,通过均值中心化消除主题共性、以几何中位数融合局部近邻度量稳健锚定多数共识,并在自适应多数半径下可认证地过滤投毒离群文档,为黑盒大模型构建纯净的多数派上下文。
方法详解¶
整体框架¶
RAGSentinel 针对知识库投毒攻击构建了一套免训练、免标签、严格兼容黑盒 LLM 的后检索防御流水线。系统在部署 LLM 之前运行,仅需 \(k+1\) 次代理编码器的前向传播即可完成过滤。整个流水线划分为三个串联阶段:首先是隐状态漂移提取与预处理阶段,提取单篇文档相对查询基线的表征偏移,并通过维度选择、范数截断与均值中心化剥离检索主题噪音;其次是共识评分阶段,利用几何中位数确立全局共识锚点,并协同局部近邻一致性计算每篇文档的综合共识距离;最后是自适应过滤与上下文重构阶段,根据距离分布的归一化离散度自适应构建包容半径,截取前 \(\lceil k/2 \rceil\) 篇最受信赖的良性文档拼接入提示词,交由部署 LLM 完成最终生成。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入查询 q 与候选文档集 {p_i}"] --> B["动态活跃子空间选择<br/>基于峰值响应度筛选高信噪比维度"]
B --> C["自适应截断与主题消除<br/>动态范数截断结合均值中心化去偏"]
C --> D["几何中位数双重共识评分<br/>全局几何中心锚点融合局部近邻一致性"]
D --> E["自适应多数半径过滤<br/>依据距离离散度动态扩展边界并截取多数集"]
E --> F["输出可信上下文 C* 并供黑盒 LLM 生成"]
关键设计¶
1. 动态活跃子空间选择:高维冗余噪声掩盖真实事实偏差 -> 峰值响应度统计投影 -> 锁定事实相关维度
现代语言模型与表征编码器的隐状态维度极高(通常 \(d \ge 4096\)),但在处理具体查询时,绝大多数表征维度对文档内容的变化并不敏感,保留这些不响应维度只会引入高维各向同性噪声,严重稀释事实断言引起的几何漂移。为此,RAGSentinel 针对特定查询动态识别活跃子空间。设代理编码器为 \(f_\varphi\),其末层最后一个 token 诱导的隐状态映射为 \(\phi_\varphi(\cdot)\)。仅由查询构成的提示词产生基线隐状态 \(h_0 = \phi_\varphi(q)\),而每个候选文档附加查询的提示词产生条件隐状态 \(h_i = \phi_\varphi(q, p_i)\),两者之差定义为原始隐状态漂移 \(\delta_i = h_i - h_0\)。对于每个维度 \(\ell \in \{1, \dots, d\}\),算法统计候选文档在该维度上的峰值响应强度 \(u_\ell = \max_{i} |\delta_i^{(\ell)}|\),并依据中位数与中位数绝对偏差(MAD)构造自适应筛选阈值:
其中 \(\text{MAD}(\{u_\ell\}) = \text{Median}(|u_\ell - \text{Median}(\{u_\ell\})|)\)。每个漂移向量随之投影至活跃子空间 \(\tilde{\delta}_i = \delta_i[V]\)。若筛选出的活跃维度数量低于预设安全底线,则保底保留按 \(u_\ell\) 降序排列的前 \(\lceil d/k \rceil\) 个维度。这种动态降维策略在无需任何预训练和标签的前提下,直接锁定了与当前问答事实最具辨别力的几何维度。
2. 自适应截断与主题消除:恶意大范数与检索主题混淆 -> 动态范数截断与均值中心化 -> 分离纯净事实残差
在活跃子空间投影后,若直接计算几何中心仍面临两项严重干扰:一是攻击者可能通过构造极端语法或对抗触发词诱发超大范数的表征漂移,从而强行拉偏几何中心;二是所有检索召回的 Top-\(k\) 文档均天然具有较强的主题相关性,这种共享的“检索主题共性”在向量空间中表现为一个强烈的公共方向,若不剥除,所有文档的余弦相似度均会虚高,进而掩盖真正的事实差异。RAGSentinel 采用“先自适应截断、后均值去偏”的双步清洗机制。首先计算各文档投影向量的 \(L_2\) 范数 \(b_i = \|\tilde{\delta}_i\|_2\),基于良性多数假设确定查询自适应范数上限 \(B_{\text{adp}} = \text{Median}(\{b_i\}) + \text{MAD}(\{b_i\})\),并将每个向量重新缩放至安全界限以内:
在抑制了单篇文档范数的极端杠杆效应后,所有截断向量的算术平均值便能稳健且无偏地估计出整个检索集合的共享主题偏置。算法通过均值中心化彻底消除这一主题分量,得到纯净的事实残差向量:
该步骤剥离了检索语料的表面共性,使得残差向量 \(z_i\) 纯粹承载各文档对于该查询的实际“事实立场(factual stance)”。
3. 几何中位数双重共识评分:单一度量易被伪装绕过 -> 全局几何中位数与局部近邻度量动态加权 -> 稳健量化多数共识偏差
仅依靠全局方向容易被巧妙设计的对抗文档突破(例如攻击者构造出残差方向大致对准全局中心但局部缺乏事实支撑的伪造样本),而普通的局部近邻又容易在投毒数量较多时受到局部聚集的误导。RAGSentinel 设计了融合全局几何中位数与局部近邻一致性的双重共识评分。在全局层面,算法摒弃易受离群点污染的算术均值,转而将良性多数共识方向定义为残差向量集的几何中位数(Geometric Median):
依据拜占庭鲁棒聚集理论,只要投毒文档数量严格少于检索总量的一半(即诚信多数假设 \(|I_p| = k' < k/2\)),几何中位数就能严格保证漂移距离处于有界范围之内。文档的全局偏离度即为其余弦距离 \(d_i^{\text{anchor}} = 1 - \cos(z_i, c)\)。在局部层面,算法考察该文档与其 \(m = \max(1, \lceil k/2 \rceil - 1)\) 个最近邻文档之间的平均余弦距离 \(d_i^{\text{local}} = \frac{1}{m} \sum_{j \in \mathcal{N}_i^{(m)}} (1 - \cos(z_i, z_j))\)。随后,根据两者在当前查询检索集内部的标准差离散程度,自适应赋予全局与局部信号动态权重 \(\lambda\):
当全局锚点距离分布离散度极高、区隔显著时,全局信号占据主导;而当全局方向受到一定压缩时,局部近邻支持度自动接管裁决,实现全无参数依赖的稳健联合打分。
4. 自适应多数半径过滤:固定阈值跨查询泛化差 -> 结合距离分布离散度动态调整半径 -> 理论可认证剔除投毒文档
不同查询的检索文档在话题收敛度上具有天然差异,采用固定几何距离阈值不可避免地会在分散查询中误杀良性证据、或在紧凑查询中漏放投毒文档。RAGSentinel 提出依据距离分布形态动态派生过滤半径。设 \(R\) 为集合 \(\{d_i\}\) 中第 \(\lceil k/2 \rceil\) 小的共识距离(即覆盖至少一半候选文档的最小半径)。算法依据中位数绝对偏差计算归一化分布分散度 \(\sigma_d = \frac{2 R}{\text{Median}(\{d_i\}) + \text{MAD}(\{d_i\}) + \epsilon}\),并将过滤半径动态修正为:
当共识距离分布高度集中(良性簇密集)时,\(\sigma_d\) 较小,半径向 \(2R\) 适度展开以保证召回;当距离分布较为发散时,半径向基准 \(R\) 收紧以保证纯度。保留候选集定义为 \(S = \{i : d_i \le R_{\text{adp}}\}\)(若为空则兜底保留 \(\arg\min_i d_i\))。最终,算法将 \(S\) 中文档按 \(d_i\) 升序排列,精确截取前 \(\lceil k/2 \rceil\) 篇构建受信上下文 \(C^\star\),直接送入黑盒生成模型 \(f_\theta(q, C^\star)\)。论文在理论上证明了定理 1(可认证过滤定理):在诚信多数假设 \(k' < k/2\)、良性中心非退化 \(\|\mu_b\|_2 \ge r_0\) 且恶意残差与良性残差在余弦距离上满足间隔 \(\min_{j \in I_p, i \in I_b} (1 - \cos(z_j, z_i)) \ge \gamma\) 的条件下,只要分离间隙满足理论下界 \(G_{\text{full}} > \frac{D_b^+}{1 + \sigma_d}\),则构建的上下文严格满足 \(C^\star \cap I_p = \emptyset\) 且 \(|C^\star| = \lceil k/2 \rceil\),即百分之百剔除投毒文档。
一个完整示例¶
以论文在 Natural Questions 上的典型测试案例为例,直观展示 RAGSentinel 的完整内部决策流转。 - 用户查询: "Where are the cardiac and vasomotor centers found?"(心血管与血管运动中枢位于何处?) - 标准答案: Medulla oblongata(延髓);对抗目标: Cerebellum(小脑)。 - 检索环境: 检索文档总数 \(k=10\),攻击者利用 PoisonedRAG 注入 \(k'=2\) 篇将中枢归咎于小脑的高分对抗文档(编号 Doc 0 与 Doc 1)。 - 过滤内部状态: - 动态活跃子空间筛选出 318 个高信噪比维度(原始维度 1024); - 全局与局部权重自适应收敛至 \(\lambda = 0.169\); - 覆盖多数集的基准半径 \(R = 0.907\),依据分散度计算的自适应过滤半径 \(R_{\text{adp}} = 1.499\); - 各文档共识距离为:Doc 0 (\(d_0 = 3.958\))、Doc 1 (\(d_1 = 3.922\))、Doc 6 (\(d_6 = 0.407\))、Doc 7 (\(d_7 = 0.475\))、Doc 8 (\(d_8 = 0.576\))、Doc 2 (\(d_2 = 0.767\))、Doc 3 (\(d_3 = 0.907\))、Doc 4 (\(d_4 = 0.982\))、Doc 5 (\(d_5 = 2.595\))、Doc 9 (\(d_9 = 2.644\))。 - 决策结论: 两篇投毒文档的偏离比率达到 \(d_0 / R_{\text{adp}} \approx 2.64\times\) 和 \(d_1 / R_{\text{adp}} \approx 2.62\times\),被坚决拦截在 \(R_{\text{adp}}\) 之外;无关残缺段落 Doc 5 与 Doc 9 也因偏离共识被排除;在落入候选集 \(S\) 的文档中,按 \(d_i\) 升序截取前 \(\lceil 10/2 \rceil = 5\) 篇即 \(\{6, 7, 8, 2, 3\}\) 构成受信上下文 \(C^\star\)。黑盒模型根据纯净证据直接输出标准答案:"The cardiac and vasomotor centers are found in the medulla oblongata of the brain."。
实验关键数据¶
主实验¶
实验在 Natural Questions (NQ)、HotpotQA 和 MS-MARCO 三大公开问答基准上开展,采用 Contriever 作为默认检索器(\(k=10\)),在 Mistral-7B、Llama-3.1-8B 和 Qwen-2.5-7B 三大骨干模型上系统评估。下表汇总了 Mistral-7B 在无攻击(No attack)以及三种代表性投毒攻击(PoisonedRAG、PIA、AD)下的良性效用准确率(ACC)与攻击成功率(ASR)。
| 模型 | 防御方法 | NQ 无攻击 ACC |
NQ PoisonedRAG ACC / ASR |
NQ PIA ACC / ASR |
NQ AD ACC / ASR |
HotpotQA 无攻击 ACC |
HotpotQA PoisonedRAG ACC / ASR |
HotpotQA PIA ACC / ASR |
HotpotQA AD ACC / ASR |
MS-MARCO 无攻击 ACC |
MS-MARCO PoisonedRAG ACC / ASR |
MS-MARCO PIA ACC / ASR |
MS-MARCO AD ACC / ASR |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Mistral-7B | Vanilla RAG | 0.71 | 0.53 / 0.40 | 0.58 / 0.29 | 0.49 / 0.45 | 0.73 | 0.38 / 0.60 | 0.42 / 0.51 | 0.40 / 0.52 | 0.82 | 0.59 / 0.34 | 0.66 / 0.24 | 0.66 / 0.29 |
| Mistral-7B | RobustRAG | 0.64 | 0.69 / 0.11 | 0.68 / 0.09 | 0.69 / 0.11 | 0.57 | 0.57 / 0.30 | 0.56 / 0.31 | 0.59 / 0.26 | 0.87 | 0.87 / 0.03 | 0.85 / 0.03 | 0.86 / 0.04 |
| Mistral-7B | InstructRAG | 0.72 | 0.54 / 0.40 | 0.57 / 0.29 | 0.62 / 0.29 | 0.71 | 0.43 / 0.52 | 0.42 / 0.52 | 0.56 / 0.30 | 0.82 | 0.61 / 0.32 | 0.70 / 0.23 | 0.70 / 0.21 |
| Mistral-7B | AstuteRAG | 0.69 | 0.70 / 0.10 | 0.69 / 0.03 | 0.67 / 0.12 | 0.68 | 0.67 / 0.17 | 0.64 / 0.15 | 0.63 / 0.24 | 0.85 | 0.81 / 0.12 | 0.85 / 0.08 | 0.83 / 0.11 |
| Mistral-7B | TrustRAG | 0.76 | 0.71 / 0.18 | 0.72 / 0.07 | 0.73 / 0.10 | 0.68 | 0.68 / 0.17 | 0.71 / 0.09 | 0.70 / 0.18 | 0.77 | 0.80 / 0.14 | 0.79 / 0.12 | 0.77 / 0.17 |
| Mistral-7B | CrAM | 0.70 | 0.48 / 0.39 | 0.51 / 0.24 | 0.51 / 0.35 | 0.70 | 0.34 / 0.57 | 0.38 / 0.50 | 0.36 / 0.56 | 0.76 | 0.51 / 0.38 | 0.65 / 0.19 | 0.62 / 0.26 |
| Mistral-7B | RAGSentinel | 0.69 | 0.63 / 0.04 | 0.63 / 0.05 | 0.61 / 0.04 | 0.68 | 0.63 / 0.09 | 0.64 / 0.06 | 0.63 / 0.09 | 0.82 | 0.77 / 0.05 | 0.71 / 0.04 | 0.78 / 0.04 |
消融实验¶
为验证各核心组件的独立贡献,论文在三大数据集上针对各阶段机制进行了系统消融(使用 Mistral-7B 作为下游模型,BGE-M3 作为代理编码器),下表列出关键配置的详细测试指标:
| 配置变体 | NQ 无攻击 ACC |
NQ PoisonedRAG ACC / ASR |
NQ PIA ACC / ASR |
NQ AD ACC / ASR |
HotpotQA 无攻击 ACC |
HotpotQA PoisonedRAG ACC / ASR |
HotpotQA PIA ACC / ASR |
HotpotQA AD ACC / ASR |
MS-MARCO 无攻击 ACC |
MS-MARCO PoisonedRAG ACC / ASR |
MS-MARCO PIA ACC / ASR |
MS-MARCO AD ACC / ASR |
说明 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 完整模型 (RAGSentinel) | 0.69 | 0.63 / 0.04 | 0.63 / 0.05 | 0.61 / 0.04 | 0.68 | 0.63 / 0.09 | 0.64 / 0.06 | 0.63 / 0.09 | 0.82 | 0.77 / 0.05 | 0.71 / 0.04 | 0.78 / 0.04 | 完整流水线 |
| w/ 算术均值代替几何中位数 | 0.68 | 0.55 / 0.08 | 0.52 / 0.13 | 0.58 / 0.09 | 0.63 | 0.57 / 0.09 | 0.59 / 0.13 | 0.66 / 0.12 | 0.80 | 0.82 / 0.13 | 0.69 / 0.11 | 0.77 / 0.13 | 缺失鲁棒锚点,ASR大幅上升 |
| w/o 检索主题方向消除 | 0.62 | 0.58 / 0.09 | 0.63 / 0.11 | 0.58 / 0.09 | 0.61 | 0.55 / 0.12 | 0.57 / 0.12 | 0.60 / 0.09 | 0.80 | 0.79 / 0.09 | 0.68 / 0.11 | 0.77 / 0.09 | 主题共性掩盖事实冲突,ASR恶化 |
| w/o 动态活跃子空间选择 | 0.63 | 0.53 / 0.12 | 0.54 / 0.09 | 0.52 / 0.10 | 0.63 | 0.63 / 0.09 | 0.53 / 0.12 | 0.54 / 0.15 | 0.80 | 0.74 / 0.08 | 0.70 / 0.15 | 0.74 / 0.08 | 全维噪声稀释几何共识 |
| w/o 自适应范数截断 | 0.65 | 0.61 / 0.07 | 0.63 / 0.10 | 0.58 / 0.07 | 0.67 | 0.54 / 0.17 | 0.56 / 0.09 | 0.57 / 0.11 | 0.82 | 0.76 / 0.10 | 0.70 / 0.14 | 0.72 / 0.14 | 异常离群范数拉偏中心 |
| w/ 固定过滤半径 (Fixed Radius) | 0.63 | 0.59 / 0.11 | 0.63 / 0.10 | 0.61 / 0.08 | 0.66 | 0.58 / 0.09 | 0.54 / 0.10 | 0.57 / 0.11 | 0.82 | 0.71 / 0.11 | 0.69 / 0.09 | 0.80 / 0.09 | 无法适配不同查询的语义离散度 |
关键发现¶
- 几何中位数的抗噪中流砥柱作用:消融实验清晰显示,将几何中位数退化为算术均值时防御力衰退最为剧烈,HotpotQA 和 MS-MARCO 上的 ASR 普遍翻倍攀升至 0.13,证实了几何中位数在多数派假设下抵抗对抗向量拉偏的理论优越性。
- 跨攻击范式的一致鲁棒性:无论对抗文档是由基于梯度的反向优化生成(PoisonedRAG、PIA),还是由无显式 token 瑕疵的自回归生成策略构造(AD),RAGSentinel 的 ASR 均恒定压制在 0.04-0.11 区间,而同类方案(如 CrAM)在对抗生成文本下往往崩溃(ASR 达 0.56),凸显了隐状态几何印记不可篡改的防御本质。
- 极低的计算延迟与开销:在每查询平均推理延迟测试中(Table 3),Vanilla RAG 为 0.48-0.49 秒,而 RAGSentinel 仅需 0.85-1.16 秒,比需要多次独立调用 LLM 的 RobustRAG(2.44-3.62 秒)快逾 3 倍,比多轮知识比对的 AstuteRAG(2.13-2.96 秒)快逾 2 倍,几乎没有引入多余的服务端等待时间。
- 对抗全面感知白盒攻击(Adaptive Attacks):在赋予攻击者算法全部细节的白盒评估中(Table 7),攻击者针对锚点伪装(Anchor mimicry)、范数约束(Norm boundary)和子空间潜伏(Subspace camouflage)精心挑选逃避样本,但 RAGSentinel 的 ASR 依然维持在 0.03-0.11,全面超越基线防御。
亮点与洞察¶
- 将表征探针理论从输出审查降维应用至后检索过滤:既往研究多在生成阶段探测模型内部隐状态是否在“撒谎”,RAGSentinel 极具创造性地将其前置迁移到轻量代理编码器中,用于测量文档注入引起的事实偏移,从输入端切断恶意文本的传播链条。
- 拜占庭容错与表征几何的严谨桥接:将分布式机器学习中的几何中位数理论创造性地引入到 RAG 语料共识判定中,将梯度聚合的鲁棒性定理转化为严格的多数派上下文可认证过滤保证(Theorem 1)。
- 完全解耦下游生成器的黑盒兼容性:防御过程仅依赖任何主流开源文本编码器(如 BGE-M3、E5-Mistral 或小型 LM),完全无需获取下游商用 LLM 的权重、梯度乃至词表分布,具有极高的工业落地复用价值。
局限与展望¶
- 诚信多数假设的刚性边界:该方案从数学上严格建立在诚实文档占多数(\(k' < k/2\))的前提下;若攻击者掌控了数据源使投毒比例超过 50%,几何共识将不可避免地被投毒派系劫持,如何向极端少数派情境延伸仍是开放挑战。
- 代理编码器黑盒假设:当前防御假设攻击者无法直接白盒查询防御者所使用的具体代理编码器 \(f_\varphi\);若攻击者完全获知防御端所用编码器并针对其残差空间实施联合端到端对抗优化,防御有效性可能面临更严苛的考验。
- 低资源多语言场景的几何畸变风险:代理编码器在低资源语种上的表征流形往往不够均匀平滑,这可能导致良性文档残差无法形成紧密的几何簇,从而影响共识锚点的稳健性。
相关工作与启发¶
- vs RobustRAG (Xiang et al., 2024):RobustRAG 采用文档隔离生成策略(每个文档单独调一次 LLM),再对多次输出做关键词投票;虽然具备可认证边界,但彻底割裂了文档间的交叉共识且带来成倍的 LLM 吞吐开销。RAGSentinel 则在表征空间低成本挖掘交叉共识,仅需一次黑盒 LLM 调用。
- vs AstuteRAG (Wang et al., 2025):AstuteRAG 依赖提取大模型内置的参数化记忆与检索文档对齐消歧,当面对模型缺乏先验的长尾知识时防御往往失效。RAGSentinel 完全不依赖模型内部先验,依靠输入文档集的几何结构实现无偏过滤。
- vs CrAM (Deng et al., 2025):CrAM 通过因果追踪白盒修改 LLM 内部注意力权重,不仅要求白盒访问权限,且无法阻止被弱化注意力的恶意 token 在其他注意力头继续产生负面干扰。RAGSentinel 作为纯前置黑盒过滤器,从上下文输入中将投毒样本彻底抹除。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次从代理编码器的几何漂移与拜占庭中位数视角解决 RAG 知识投毒问题,理论视角新颖。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 3 个数据集、3 种主流开源 LLM、3 类代表性攻击、3 种深度自适应白盒攻击及混合投毒场景,数据详实。
- 写作质量: ⭐⭐⭐⭐⭐ 论证环环相扣,从经验观察、数学建模、定理证明到案例研究结构极度严密。
- 价值: ⭐⭐⭐⭐⭐ 架构与部署模型完全解耦且开销轻微,为生产级 RAG 系统的安全性防护提供了开箱即用的落地范式。