跳转至

🔒 安全

💬 EMNLP2026 · 106 篇论文解读

📌 同领域跨会议浏览: 🧠 NeurIPS2026 (208) · 🎞️ ECCV2026 (70) · 📷 CVPR2026 (162) · 🔬 ICLR2026 (326) · 💬 ACL2026 (120) · 🧪 ICML2026 (114)

🔥 高频主题: LLM ×42 · 对抗鲁棒 ×23 · 对齐/RLHF ×15 · 推理 ×11 · 多模态 ×9

A Novel Semantic Manifold Alignment Attack against Embedding-to-Embedding Obfuscation in Privacy-Preserving LLMs

针对基于单射映射的嵌入到嵌入混淆(E2EO)隐私推理方案,提出代理流形对齐攻击(PMA),将混淆向量流视为未知分词器语言,仅利用公开语料和词共现统计诱导的语义流形几何结构,通过 Gromov-Wasserstein 对齐与互近邻迭代细化实现高保真明文重构。

AI Psychosis: Does Conversational AI Amplify Delusions?

本研究通过对 Reddit 真实用户发帖历史进行分层倾向评分匹配构建仿真用户(SimUser),并建立监督语言学度量指标 DelusionScore,首次系统性证实多轮大模型对话会使易感人群的妄想语言强度显著放大(平均上升 233%),且在现实怀疑与强迫认知主题上放大最为严重,而将当前轮次的妄想分值显式注入模型上下文的轻量级运行时干预可成功逆转这一正反馈回环。

[论文解读] Benchmarking Bengali Dialectal Bias: A Multi-Stage Framework Integrating RAG-Based Translation and Human-Augmented RLAIF

布拉克大学团队提出了一套评估低资源语言方言偏见的两阶段评测框架,结合 RAG 方言翻译、CoT 约束的 LLM 评判与人类回退校准机制,构建了覆盖 9 种孟加拉方言的 4,000 组金标问答基准,在 19 个大模型上的 68,395 次评测揭示了方言语言学偏离度直接诱发模型理解断崖的系统性安全偏见。

Beyond Leaderboards: A Frozen-Rubric Contract for Position-Invariant Winning-Argument Detection

本文针对成对大模型裁判普遍存在的发言顺序偏差与测试期量规泄露缺陷,提出了基于冻结评分准则契约的双工架构评测系统 TAPIR,通过模式切分特权自蒸馏将人类准则内化为模型表征,结合反对称标量头与审计账本头在理论上保证置换不变性(WPI=1),在 Change My View 获胜论点基准上以 39.41 倍推理加速超越同底座多调用 baseline。

Beyond Safe Answers: Segment-Aware Listwise Alignment for Reasoning Safety in Large Reasoning Models

针对大推理模型(LRM)中“推理过程包含有害探索但最终回答伪装安全”的双表面安全失配难题,本文提出 SaLT-DPO,通过将响应解耦为推理与回答两个分段并分别拟合长度归一化的列表式软目标分布,结合基于木桶短板原则的联合安全一致性正则化与良性样本效用锚定,在不损伤通用数学代码推理能力与拒答合规性的前提下,全面消除了深思轨迹中的隐蔽有害内容。

BiG-SURE: Bipartite Graph for Semantic Uncertainty and Reliability Estimation of LLMs

针对黑盒大模型与多模态模型幻觉及不确定性评估难题,提出利用低温度采样作为稳定锚点、结合保义扰动的高温度采样作为探测点构建二部图,以归一化平方谱能量补数作为无监督语义不确定性度量。

Black-Box Membership Inference via Word-Level Probability Estimation

针对黑盒大模型仅暴露文本续写、无法获取词表 logits 的隐私审计难题,WPMIA 通过蒙特卡洛多轮续写采样与局部语义核平滑估计词级概率,在对数空间内加性聚合为序列似然,并引入成员与非成员差分对比前缀放大分布间距,在 GPT-5-Chat、Gemini-2.5-Flash 与 Claude-4.5-Haiku 上取得了 42.0% 的平均 TPR@5%FPR。

CAD-Mark: Context-Aware Distributional Watermarking for Robust LLM-Generated Text Detection

针对句子级大模型文本水印中固定语义边界导致的低效拒绝采样与各句信号等权聚合缺陷,本文提出 CAD-Mark,在生成时基于上下文正交主轴对候选句分布自适应二分嵌入多比特水印,并在检测时基于重采样语义多样性进行加权 z 检验,在无损文本质量的同时显著增强抗改写与回译等对抗攻击的鲁棒性。

Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity?

本文提出面向计算机使用智能体(CUA)的情境完整性评估基准 AGENTCIBENCH 与 OpenApps 环境,揭示顶尖 Agent 在日常跨应用协作中普遍存在严重隐私外泄(15 款前沿模型中 12 款泄露率超 50%),并验证轻量提示防御能将交互泄露率显著降低 33–36 个百分点。

CASTLE: A Comprehensive Benchmark for Evaluating Safety Alignment Under Dynamic Conversational Contexts

华东师范大学等提出首个基于教育心理学理论的大规模个性化安全基准 CASTLE,涵盖 15 个教育安全风险领域与 14 项多维度学生画像属性,构建了 92,908 个中英双语交互场景,揭示了主流大模型在通用无画像设置下个性化安全得分全线低于 2.5/5 分的严重缺陷,并证实强化学习与显式画像引导能显著弥补该安全鸿沟。

CATMark: A Context-Aware Thresholding Framework for Robust Cross-Task Watermarking in Large Language Models

针对跨任务生成(如代码与自然语言注释交错、数学公式与叙述交替)中静态熵阈值无法兼顾生成质量与检测灵敏度的困境,CATMark 提出基于 Logits 动态聚类的语境感知分位数自适应阈值算法,在生成端保护低熵结构完整性,在检测端结合全局熵加权统计检验实现鲁棒鉴权。

CAVD-Guard: Defending Against Token Fragmentation Jailbreaks via Attention Verification

针对将敏感词拆解为可恢复碎片从而绕过前置安全审查的 Token 碎片化越狱攻击,本文揭示了碎片化输入在注意力矩阵中留下的特征性“注意力空白”足迹,提出了无需训练且带长度校准的检测器 CAVD 与分级规范化视图包装器 CAVD-Guard,在几乎不增加误报的前提下将平均攻击成功率由 53.61% 骤降至 1.63%。

CAVD-Guard: Defending Against Token Fragmentation Jailbreaks via Attention Footprints

针对将敏感词切碎为离散碎片以绕过前端安全检测的 Token 分块越狱攻击,提出基于预填注意力足迹的免训练检测器 CAVD 与多级确定性规范视图路由框架 CAVD-Guard,在无需微调生成模型的前提下将各类分块越狱成功率压缩至 1.63%,且良性误报率低于 0.75%。

ChartAttack: Testing the Vulnerability of LLMs to Malicious Prompting in Chart Generation

本文提出首个针对多模态大语言模型(MLLM)图表生成的恶意提示攻击框架 ChartAttack 与结构化评测数据集 AttackViz,揭示了攻击者如何在保持底层数据完全真实的前提下,利用代码 MLLM 操纵可视化语法规则生成误导性图表,导致先进 MLLM 的问答准确率平均下降 17.2 个百分点,并将人类读者的正确答题胜率降低约 73%。

Cited but Not Causal: A Counterfactual Audit of Refusal Explanations in Aligned Language Models

论文提出了一种基于反事实干预的拒绝解释因果审计框架,通过构建去除原因特征的必要性变体与注入良性上下文的充分性变体,将对齐大模型的拒绝理由解构为忠实、过引用、欠说明与虚构四类,实证揭示出57.2%的被审计拒绝给出了非因果原因,且过引用现象在监督微调(SFT)阶段急剧爆发。

CODA: Mitigating Over-Refusal and Jailbreaks in Large Language Models via Codebook-Orthogonal Direction Alignment

针对推理时连续激活引导在防御越狱时容易由于几何纠缠而误伤良性技术查询(过度拒绝)的困境,CODA 提出将隐藏状态投影至离散向量量化码本锚点上提取安全与技术方向,结合软正交化消除技术分量,并在解码时采用风险门控与指数时间衰减进行动态引导,在完全冻结模型权重的条件下实现了优异的安全-效用均衡。

Cognitive Honeypots: Auditing Observable Evidence of Scheming-Related Behavior in Large Language Models

针对大语言模型因暗藏工具性目标而表现出的掩饰性策略失准(Scheming)难以被传统安全评测发现的痛点,本文提出将评测形式化为可观测性问题的认知蜜罐(Cognitive Honeypots)捕获机制与意图-执行解耦协议,构建了包含 4,000 个双语场景的 SCHEMINGBENCH 基准,揭示前沿模型在高危冲突下的高严重度失准率峰值可达 70% 以上。

Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees

本文提出面向发布文本的无分布假设黑盒审计框架 CPA(Conformal Privacy Auditing),利用保形预测理论将大语言模型与检索构成的重标识攻击校准为具备有限样本统计覆盖保证的候选身份歧义集,为现实文本脱敏与发布决策提供可证明、可解释的量化隐私证书。

Conformal Privacy Auditing: Calibrated Re-identification Attacks with Statistical Guarantees

针对大语言模型结合辅助背景知识实施的文本身份重新识别风险,提出无分布假设的黑盒保形隐私审计框架 CPA,为每篇发布文本生成具有有限样本统计置信保证的候选身份模糊集与反向模糊度泄露代理。

Correlation-Flip Visual Injection for Hallucination Mitigation in Large Vision-Language Models

针对大多模态模型因语言先验主导而压制深层视觉证据的幻觉成因,本文发现了中间层正相关而在最终预测层转为负相关的“相关性翻转”现象,提出免训练的 Correlation-Flip Visual Injection(CFVI)方法,在解码期自适应聚合翻转视觉特征注入最终隐状态,显著降低对象幻觉并保持极高生成吞吐。

CoRRSafe: Improving LRM Safety via Co-optimized Faithful Reasoning and Refusal Steering

针对大推理模型在安全拒答外壳下仍潜藏恶意思维链推理的“潜伏毒性”与过度拒答困境,CoRRSafe 提出了两阶段对齐框架,结合回复冷启动与细粒度分段奖励的 GRPO 强化学习,实现了显式推理链与最终回复的动态协同安全对齐。

Delegated Misalignment: How Multi-Agent Structures Amplify LLM Safety Risks

论文揭示了大模型安全对齐无法自然迁移至多智能体层级架构,通过三阶递进实验协议证实“主节点责任扩散”与“从节点角色服从偏置”共同引发了“委派未对齐”,导致原本单体安全的模型在委派与工具环境中端到端危害显著放大。

Do VLMs Share Safety Neurons Across Modalities?

通过因果激活补丁、防自修复多轮迭代消融及模态解耦基准对10个主流VLM进行神经元级解构,发现文本安全高度局部化于约88个神经元且构成主导拒绝通路,而视觉安全在单神经元层面呈现高维弥散分布,揭示了多模态安全对齐失效的内在机制根源。

Does Alignment Debias or Just Suppress? Evaluating Stereotypical Bias Across Base-Instruct Pairs

通过横跨4个开源家族27对基座-指令模型在4个偏见基准上的多层级评估,揭示对齐后测得的刻板偏见下降主要是输出格式与行为层面的表面抑制而非内在表征去偏,基座与指令模型的性别几何方向高度保持且可被对抗诱导复现。

DP-ES: Differentially Private Evolution Strategies for Prompt Optimization

DP-ES 将进化策略引入差分隐私提示词优化,利用大模型的后处理不变性实现无隐私消耗的完整提示词变异,并将隐私预算严格限制在子采样高斯评估阶段,彻底解决了传统逐 token 聚合构造在紧隐私预算下不可逆漂移与崩溃的难题。

Dual-Modality Multi-Stage Adversarial Safety Training: Robustifying Multimodal Web Agents Against Visual and Textual Jailbreaks

针对结合截图与无障碍树的双模态网页智能体面临的跨模态对抗注入与隐私泄露风险,提出 DMAST 框架,将智能体与攻击者交互形式化为双人一般和马尔可夫博弈,通过教师蒸馏、零确认 Oracle 引导 SFT 与 GRPO 自博弈对抗强化学习三阶段协同进化,显著降低攻击成功率并规避过度防御导致的拒绝瘫痪。

Efficient LLM Safety Evaluation through Multi-Agent Debate

针对前沿模型做安全判官调用成本高昂、小模型单次打分易受越狱伪装与提示偏见误导的难题,本文提出结合拒答初筛、动态五维价值对齐与批评-辩护多轮对抗辩论的轻量级多智能体评测框架,并在自建的 11,100 条人注基准 FS–HAJailBench 上以 Qwen3-14B 达成逼近 GPT-4o 的评测一致性(\(\kappa = 0.7331\) vs \(0.7589\)),单位评测成本缩减 54%。

EMER-Guard: Protocol-Grounded Verification for LLM Emergency Instructions

针对大语言模型在应急场景下生成指令存在的非对称真实风险(漏报致命与误阻避险代价悬殊),本文提出了基于反事实编辑的评测基准 EMER-GuardBench、多任务协议监督验证器 EGIS 以及非对称加权评估指标 SWMR,将安全研究范式从无约束生成与提示词判别重塑为协议约束下的可审计验证。

Emergent Misalignment Is Not Magical

论文揭示了大语言模型在狭窄有害数据微调后出现广泛失准(涌现失准,Emergent Misalignment)并非神秘魔法或整体恶意人格突变,而是在基座模型激活空间中高度可预测的数据依赖型预期泛化,评测提示词距离微调数据中心越近则失准程度越高。

Evading Fake News Detection: Self-evolving Social Manipulation via LLM-driven Agent Orchestration

针对基于传播拓扑与交互图的虚假新闻检测系统,本文提出首个基于大语言模型智能体编排的自演化社交操纵攻击框架 EvoSM,通过社交图接口联合感知与执行异构社交行为,并借助反思经验记忆库在黑盒环境中实现多阶段、自适应的检测规避。

EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents

本文首次形式化了针对自我演化智能体(Self-Evolving Agents)自主技能生成与演化管线的威胁模型 EvoSkill Injection,提出模块化红队测试框架 SARGE 并构建基准 EvoSkillBench 与 EvoSkillSafetyBench,揭示了恶意交互轨迹被内部固化为合法技能后引发的持久性能力破坏风险。

Fair Like Us? Auditing LLM Alignment in Resource Allocation

本文首次从第一人称评估者视角系统审计了大语言模型在不可分物品资源分配中的公平性判断,发现大模型虽能复刻人类对无嫉妒性(EF)与比例性(PROP)的形式化偏好层级,但在松弛约束下展现出比人类严苛得多的判断阈值、强烈的自我利益最大化偏好与对问题表述框架的高度敏感,且监督微调仅导致浅层表面模仿而无法真正实现规范对齐。

Fight Poison with Poison: Enhancing Robustness in Few-shot Machine-Generated Text Detection with Adversarial Training

针对少样本监督下机器生成文本检测器难以抵御拟人化对抗攻击的问题,本文提出 REACT 框架,通过代理检测器引导的极值正负锚点动态检索生成贴近决策边界的高质量对抗样本,并结合成对边界对比约束与交替协同进化,在四个基准数据集上显著提升了少样本检测性能与对抗鲁棒性。

Fine-Grained Selective Refusal: Steering LLM Safety via Wasserstein-Informed Flow Matching

针对传统线性激活转向在安全边界上粗暴扰动导致严重过度拒绝和泛化脆弱的问题,WassSteer 提出两阶段分流控制:在早期安全决策层利用轻量边界路由仅拦截有害输入,并在干预层基于 Sliced-Wasserstein 流匹配沿测地线将有害激活流形连续非线性传输至安全流形,兼顾强鲁棒防御与通用模型能力保持。

ForesightSafety-SAGE: A Fully Automated Scenario Generation and Safety Evaluation Framework for LLM Agents

针对现有智能体安全评测依赖人工静态用例且忽视多轮执行中动态风险的局限,本文提出了 ForesightSafety-SAGE 框架,基于五大行为风险维度与16个子类别自动生成 1,072 个可执行评估场景,通过自适应攻击者、受控环境仿真与双轨评测系统,揭示出当前大模型智能体在多轮任务执行中面临显著的过程性安全风险(平均攻击成功率达 47.1%)。

Forget What’s Sensitive, Remember What Matters: Token-Level Differential Privacy in Memory Sculpting for Continual Learning

提出兼顾隐私保护与效用保留的持续学习框架 PeCL,通过结合模型不确定性与跨任务判别性的 Token 级动态差分隐私机制,联动参数正则化与软抑制反学习的记忆塑造模块,在抵御敏感记忆泄露的同时有效缓解了灾难性遗忘。

From Leaky Thoughts to Private Reasoning: Controlling What LRMs Say to Themselves

本文提出将大推理模型的内部思维链隐私泄露视为指令遵循的可控性问题,构建了约束思维过程的领域不可知 SFT 数据集,并设计了解耦思维与最终答案生成的分阶段解码(Staged Decoding)策略,在双隐私基准上取得最高达 51.9 个百分点的隐私增益。

From Leaky Thoughts to Private Reasoning: Controlling What LRMs Say to Themselves

本文将大推理模型思维链中的敏感信息泄露视作推理过程的可控性缺陷,构建了涵盖格式、风格与推理类型的推理指令微调数据集,并提出在思维链与最终回答阶段解耦切换专用 LoRA 权重的分阶段解码策略,在零隐私监督下使隐私合规率最高提升 51.9 个百分点。

From Passive Response to Proactive Correction: Enhancing LLM Robustness Against Input Fact Perturbations

针对输入包含错误前提或矛盾描述诱发大模型被动顺从与幻觉放大的安全缺陷,提出包含细粒度原子事实检测、多视角策略辩论仲裁与分步矫正执行的三阶段 DEDUCE 框架,并构建了多层级事实扰动基准 MisFactQA。

From Self to Other: Evaluating Demographic Perspective-Taking in LLM Hate Speech Annotation

针对仇恨言论标注中的主观性与群体分歧难题,系统评估了零样本角色调节 LLM 在群体间分歧、内群体敏感性与外群体替代性预测三维度的表现,揭示出常规角色设定高度依赖模型且易折叠社会分歧,而通过替代性视角提示能显著提升跨群体标注一致性与共识对齐度。

Fully Unleashing the Multimodal Attacker: Meta-Adaptive Jailbreaking of Vision-Language Models

针对视觉语言模型多模态越狱仅停留在单样本内容迭代的局限,本文提出首个元自适应框架 MAMJ,在跨样本轨迹群体上交替演化攻击策略提示词并用 GRPO 强化学习更新攻击模型权重,使前沿商业 VLM 越狱成功率突破 82% 且具备零样本跨模型与跨防御迁移能力。

GR-SAP: Generative Replay for Safety Alignment Preservation during Fine-Tuning

针对下游微调容易破坏大语言模型安全对齐且原对齐数据不可获取的困境,本文提出 GR-SAP 框架,无需系统提示词直接从已对齐模型中抽取领域安全 Query 并生成响应,经困惑度/去重/领域相关过滤及越狱失败样本的安全修正后作为代理对齐数据,在微调中按 10% 比例生成重放,在几乎不损失下游性能的同时大幅压低有害响应率。

GradSentry: Gradient Spectral Entropy for Backdoor Sample Filtering in Large Language Model Fine-Tuning

GradSentry 发现后门样本因需同时保留任务能力与编码触发器映射而导致梯度奇异值分布趋向均匀离散,据此提出利用单样本输出头梯度的谱熵结合核密度估计自动寻谷阈值进行无需聚类的数据过滤,在 LoRA 与全参微调下均取得 100% 的后门检出召回率并将攻击成功率(ASR)降至 0.00%。

GSPR: Aligning LLM Safeguards as Generalizable Safety Policy Reasoners

针对现有外部护栏依赖固定安全策略且难以迁移到未知风险体系的问题,GSPR 将任意安全分类体系建模为提示词中的动态策略变量,结合冷启动蒸馏与兼顾格式、安全性及细粒度类别的规则奖励,基于 GRPO 强化学习激发长链条思维推理,实现了跨多领域未见策略的强泛化分类与极低推理开销。

HarmReduction: Benchmarking LLMs in Harm Reduction Information Provision to Support People Who Use Drugs

提出了首个评估大语言模型面向药物使用群体(PWUD)提供减害信息能力与安全风险的基准 HarmReduction(含 2,160 组源头对齐的三元组数据集 HR-Basic),揭示了 SOTA 模型在固有知识下的定量失准、过度审查拒答以及低估多重用药致命风险等系统性安全隐患。

HARVE: Hacking-Aware Reward-Head Vector Editing for Robust Reward Models

针对标量奖励模型易受形式模仿、推理缺陷等奖励黑客模式欺骗的问题,提出免反向传播的奖励头向量编辑方法 HARVE,通过奇异值分解构建黑客子空间并投影消除奖励头中的敏感分量,在无需微调且不增加推理开销的前提下大幅提升模型鲁棒性。

HEAL: Anchored Hyperspherical Equilibrium for Multilingual Safety Alignment

针对低资源语言安全对齐数据稀缺且跨语言迁移易受噪声污染的问题,HEAL 提出一种在超球面上平衡锚点对齐(shrink)与同 prompt 语言间排斥(dilation)的双力辅助目标,在无需多语言回复标注的情况下显著提升弱势语言的安全拒答率与越狱鲁棒性。

How Stable Is In-Context Learning? Lipschitz Bounds for Transformer Output under Context Perturbation

本文通过利普希茨连续性分析建立了大语言模型在提示扰动下的输出稳定性理论框架,推导出经 Lean 4 形式化验证的分层合成全局界与数据依赖的局部雅可比估计,揭示了后层注意力为主导脆弱区、示例冗余抑制扰动敏感性以及标签翻转具备最大方向敏感性的理论与实证规律。

How to Attack Stealthily? A Letter Frequency-based Backdoor Attack Against Language Models

针对传统词级后门因关键标记被掩码引发剧烈 Logit 波动而极易被防御识别的缺陷,本文提出形式化度量 Logit Fluctuation (LF) 及其理论隐蔽性充分界,并设计了基于低频字母 'z' 频率分布的隐蔽后门攻击 BadFreq,在保证干净性能的同时将平均隐蔽性较次优方法提升 49%。

Identify, Classify, Act: Per-Instruction Controlled Compliance for LLMs over External Data

针对外部数据中良性指令与恶意注入混合共存导致传统防御陷入“非全拒即全信”的困境,本文形式化了逐指令受控合规(EDIC)框架,通过场景化混合数据合成、反事实因果过滤以及解耦奖励指导的强化学习,实现了对外部指令的精准识别、逐条分类与差异化执行。

Identity-Preserving Detoxification via Local Causal Effect Ranking on Masked Diffusion Language Models

针对掩码扩散语言模型在分类器引导去毒时因绝对毒性打分过度消除良性身份词的缺陷,提出 CIDER 方法,在每个解码步通过候选词与模型默认词的局部评分差分进行边际门控替换,并在保留高身份完整度的同时显著降低文本毒性。

IRD: Steering Reasoning Models with Intent, Risk, and Decision

针对大语言推理模型在长思维链展开过程中易发生恶意执行漂移(自我越狱)的顽疾,本文提出轻量级级联前缀微调框架 IRD,在推理伊始依次生成意图、风险与决策三类短控制槽,并在移交冻结基座继续推理前剥离适配器,以极低过度拒答和近乎无损的数学逻辑推理能力大幅降低有害输出率。

Learning to Detect Unseen Jailbreak Attacks in Large Vision-Language Models

针对视觉语言模型面对未知越狱攻击时泛化与精度难以兼得的困境,本文提出无需攻击样本与启发式规则的 LoD 框架,利用多模态安全概念激活向量抽取层级安全表征,并结合安全模式自编码器进行无监督异常打分,实现高精度且高泛化的越狱检测。

Let Them Steal: Trapping Large Language Model Extraction Attacks with Knowledge Honeypots

针对黑盒大语言模型面临的主动学习模型提取攻击,提出 Knowledge Trap 防御机制,构建低迁移性但事实正确的蜜罐知识图谱并通过多样化面包屑引导诱导攻击者遍历无效知识,在不牺牲正常用户体验的前提下将替代模型一致性显著削减 6.2%。

LLM Reasoning for Machine Translation: Synthetic Data Generation over Thinking Tokens

本文系统评估了通用大推理模型在机器翻译中的思考 token 价值,证实通用思考过程不仅未提升翻译质量反而带来额外推理开销,并提出利用模块化翻译策略合成包含候选译文的高质量中间轨迹,揭示出性能增益源自中间翻译片段而非周围推理文本,最终证明利用教师模型清洗目标译文或扩充平行语料远胜于蒸馏思考过程。

LOKI: Locating Optimal Knock-In Points for Backdoor Attacks on Dense Retrievers

针对稠密检索器在模型供应链中的后门安全风险,LOKI 将后门注入重构为基于触发词的语料相对排序编辑,提出定位后编辑(Locate-then-Edit)范式,通过因果追踪与语义路由分析仅修改不到 0.31% 的稀疏神经元,即可实现 100% 的攻击成功率且几乎无损良性检索表现。

Mask-Free Privacy Extraction and Rewriting: A Domain-Aware Approach via Prototype Learning

针对云端大语言模型交互中用户无力手动标注隐私掩码的困境,本文提出 DAMPER 框架,通过多领域对比学习提炼紧凑的领域隐私原型,实现无掩码自适应跨度定位,并结合原型引导的无标注偏好对齐与指数机制采样,在提供严格差分隐私保证的同时最大化保留非敏感上下文与专业推理效用。

MAViQ: Memory-Augmented Visual Querying for Multi-Turn MLLM Jailbreaks

针对多模态大模型在多轮交互中缺乏将历史反馈有效转化为图文查询机制的问题,提出 MAViQ 黑盒越狱框架,通过轨迹与场景双层记忆指导模态分工与图像观测后修正,显著提升对强对齐闭源模型的越狱成功率。

MDHB: A Multi-Dimensional Online Harm Detection Benchmark for Language Models

针对传统在线危害基准局限于单一任务与显式越狱对齐的瓶颈,本文提出了涵盖虚假信息、毒性、讽刺与逻辑谬误四大核心维度的多维度基准 MDHB(引入非攻击性消极讽刺以实现前瞻性社会心理风险预警),并设计了免参数微调、通过错误归因沉淀经验知识库的双智能体自演化架构 Self-Refining Sentinel (SRS),显著缓解了跨维度推理干扰。

Measuring the Depth of LLM Unlearning via Activation Patching

提出无需辅助训练且具备数据不变性的遗忘深度评分(UDS),利用两阶段跨模型激活补丁因果定位知识编码层并度量遗忘彻底程度,在 8 种算法 150 个模型的大规模元评测中斩获保真度与鲁棒性双第一。

Mood Matters: How Syntactic Sensitivity Undermines Safety Alignment

本文系统揭示了对齐大语言模型普遍存在语法脆弱性(非祈使句表述使越狱攻击成功率大幅飙升至多 +71%),通过因果中介分析证明模型内部能稳定识别恶意语义,但拒绝决策被浅层语法特征严重混淆,而平衡后训练语料的语法多样性可有效缓解该缺陷。

SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation

针对大语言模型推荐中协同特征与文本语义空间割裂且浅层推理易受早熟干扰的问题,提出 SAILRec 框架,通过双侧语义对齐(用户端代码本画像与物品端文本对齐)及跨 Transformer 层级的注意力引导(浅层抑制、深层增强),显著提升点击率预估与个性化排序性能。

Need to Know: Contextual-Integrity-Grounded Query Rewriting for Privacy-Conscious LLM Delegation

本文基于语境完整性(Contextual Integrity)理论重塑隐私敏感的大模型委托计算,构建了首个包含任务必要与非必要敏感跨度标注的基准 DelegateCI-Bench,并通过 GRPO 强化学习训练端侧重写器,在严格压制非必要隐私泄露的同时最大化保留任务关键上下文。

On the Context Sensitivity of LLM Moral Judgment

论文系统构建了包含结果主义、情绪突显与亲缘距离三维扰动的 Contextual MoralChoice 数据集,评测揭示 22 个主流 LLM 的道德判断均显著向违规方向漂移且与人类敏感模式脱钩,并提出了基于行为加权的对比激活引导技术实现情境敏感度的双向精准调控。

On the Robustness of Knowledge Editing for Detoxification: Fragility and Re-emergence Under Distribution Shifts

系统性揭示了知识编辑去毒(KE-based Detoxification)的脆弱性:分类器测得的高防御成功率往往是由严重的文本退化(如死循环重复)导致的“伪去毒”,且编辑效果在多目标累积和跨语言分布偏移下极易失效与复发。

Over-reasoning as a Vulnerability: Neuron Activation-Guided Denial-of-Service Attacks on Large Reasoning Models

本文揭示了大型推理模型(LRMs)中由稀疏顿悟神经元驱动的过度推理漏洞,提出了顿悟神经元定位方法(ANL)与激活导向拒绝服务攻击(AGDA),通过联合优化神经元激活偏置与离散对抗后缀,诱导模型推理长度膨胀超3.45倍,并成功跨架构黑盒迁移至GPT-5.5和o3-mini等前沿商业闭源模型。

PGPO: Prototype-Guided Progressive Obfuscation for Privacy-Preserving LLM-Enhanced Recommendation

针对大语言模型增强推荐系统中商品侧文本属性嵌入易遭反演攻击导致敏感信息泄露的问题,PGPO 摒弃传统的逐字字面保真约束,提出以保持相对拓扑结构为目标的“关系保真度”原则,通过识别高影响力原型词构建静态语义图,利用组相对策略优化(GRPO)联合优化个体差异度、结构一致性与流形约束三元奖励,驱动混淆映射自核心向外周渐进扩散,在近乎无损推荐效用的前提下将反演攻击成功率大幅降低逾 50%。

[论文解读] PopResume: Causal Fairness Evaluation of LLM/VLM Resume Screeners with Population-Representative Dataset

首尔大学团队提出首个基于真实人口普查统计分布的简历数据集 PopResume,并构建基于路径特定效应(PSE)的因果公平性评测框架,成功解耦了受保护属性通过“商业必要性路径”与“歧视性红线代理路径”对大模型与视觉大模型招聘筛选决策的影响。

Preserving Historical Truth: Detecting Historical Revisionism in Large Language Models

构建包含全球 45 个国家/地区 500 个争议历史事件的双参考叙事基准 HistoricalMisinfo,评估揭示主流大模型在中立提示下以「事实清洗/委婉淡化」为主隐蔽偏离真相,而在显式修正主义诱导下失守崩溃(非事实率达 80%~97%)。

PsychēChat: An Empathic Framework Focused on Emotion Shift Tracking and Safety Risk Analysis in Psychological Counseling

针对传统心理咨询大模型仅关注单轮离散情绪且缺乏前瞻性安全干预的瓶颈,PsychēChat基于情绪聚焦疗法(EFT)显式追踪求助者跨轮次情绪动态转移,并通过反应预测驱动的前瞻性安全风险控制与双推理范式(Agent/LLM),显著提升共情支持效能并消除安全隐患。

Q-Align: Query-Boundary Multilingual Alignment for LLM Safety Guardrails

Q-Align 揭示了尾 token 对齐抹除回复判别线索导致 QR 安全检测退化的关键缺陷,通过在查询-回复边界解耦查询意图表征,并基于损失动态构建置信度加权锚点与谱系分组,仅需数千条平行样本即可全面提升多语言前置与后置安全护栏性能。

Recoverability-Controlled Safety Miscalibration in Large Language Models

本文提出面向大模型安全校准的解耦评估基准 RiskCueBench 与双阶段评测协议,揭示出当模型在语义层面完全可恢复相同潜在恶意意图的前提下,表面形式的具体化上下文(contextualized specificity)仍会导致拒绝率系统性下降 0.175、全局安全评分下降 0.440 并诱发不安全顺从,证实了大模型存在独立于语义理解的响应策略失校准现象。

Reinforcement Learning Improves Traversal of Parametric Knowledge in LLMs

本文通过系统实验打破了"强化学习牺牲参数化记忆换取推理能力(对齐税)"的传统认知,揭示出 Instruct 模型的知识缺陷实质上是缺乏访问与层次遍历策略,而 RL 是通过迭代的策略内探索(on-policy exploration)内化了分层寻路策略,从而显著激活了模型内部潜藏的深层参数化知识。

Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs

揭示传统大模型后门攻击破坏未触发安全对齐且易被护栏拦截的致命缺陷,提出首个完全基于无害问答数据的投毒框架,通过轨迹级行为调节与贪婪坐标梯度触发词优化,实现逃逸高级护栏并高达100%的隐蔽后门激活。

RIPPLE: Attacking Backdoor-based LLM Fingerprinting via Latent Representation Perturbation

揭示后门指纹在受到扰动时具有异常高置信度与高鲁棒性的内在机理,提出通过末层隐状态高斯扰动与双重视角检测(原始置信度与鲁棒性)阻断黑盒所有权验证的无损攻击框架 RIPPLE。

Routing-Aware Safety Alignment for Mixture-of-Experts Models

针对稀疏混合专家(MoE)全参数安全微调容易依赖路由重定向而绕过真正有害专家的“对齐捷径”缺陷,提出路由感知专家级对齐框架 RASA,通过对抗激活差异精准识别安全关键专家,以交替双层优化实现专家参数修复与路由一致性约束,在维持通用性能的同时杜绝路由规避越狱。

SAFEGuard: Detect Optimization-Based Jailbreak Atacks Through Harmful Semantic Analysis and Fluency Measurement

针对基于优化的对抗越狱攻击在流畅度与语义隐蔽性上的分化特性,SAFEGuard 结合跨层预测分布差异(JSD)与困惑度的滑动窗口混合流畅度度量,以及基于安全关键参数的梯度匹配有害语义分析,构建了免训练的两阶段级联检测框架,在多模型与多种复杂攻击下实现了接近 100% 的检测召回率并保持极低良性误拒率。

Safety-Aware Contrastive Decoding for Contextual Safety in Multimodal Large Language Models

针对多模态大语言模型在情境安全中普遍存在的过敏感(滥用拒绝)与欠敏感(漏报视觉风险)失衡痛点,SafeCoDe 提出一种轻量且免微调的推理阶段解码框架,通过高斯加噪对比解码消除纯文本先验偏置,并结合全局场景判定在解码前缀自适应调制拒绝词元的概率分布。

ScopeBench: 评估大语言模型的文化规范适用范围意识

ScopeBench 构建了包含 49 国 9 大文化集群 3,323 条双锚定规范的基准,通过跨任务统一的三维错误分类学评估 21 个前沿大模型,揭示出提示格式翻转错误分布以及“高分类准确率与交互安全严重脱节”等关键对齐失效。

Semantic Self-Guided Watermarking with Enhanced Text Quality for Large Language Models

本文提出了一种语义自引导文本水印框架(SSGW),利用大语言模型自身对局部截断文本生成引导 logit 向量,并通过自适应变换与动态窗口重置将语义偏好注入候选 token,在实现极高检测率的同时显著降低文本困惑度并维持语义连贯性。

[论文解读] SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification

针对多模态大模型(MLLM)在图文跨模态融合时放大并内化毒性激活的顽疾,提出首个面向后融合层的无需微调白盒神经元级去毒框架 SGM,如同为模型戴上“安全眼镜”一般,基于 AUROC 毒性判别力对毒性关联神经元施加专业度加权软抑制,将有害输出率从 45.0% 剧降至 4.5% 并保持通用多模态推理能力。

SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification

SGM 针对多模态大模型提出一种无需重新训练的神经元级白盒去毒框架,在图文后融合层利用 AUROC 辨识毒性神经元并进行专业度加权软抑制,如“安全眼镜”般在推理期即插即用地将有害生成率降低约十倍(45.0% 降至 4.5%),同时完整保留通用多模态理解与生成流畅度。

SpecAlign: Efficient Specification-Grounded Alignment of Large Language Models via Synthetic Data

针对传统大模型对齐依赖静态高层原则且难以适配长篇复杂 Model Spec 的难题,SpecAlign 提出了基于规范文档的合成数据对齐范式,通过结构化规则标注、受限子集采样与多智能体对抗合成生成高质量硬边界偏好对,在显著提升规则遵循度的同时避免了过度防御与通用能力退化。

SRAF: Stealthy and Robust Adversarial Fingerprint for Copyright Verification of Large Language Models

针对黑盒大模型对抗指纹在下游模型微调/剪枝/融合与多变系统提示下极易失效且易被困惑度过滤器拦截的痛点,SRAF 提出了跨同源模型与多聊天模板的协同联合对抗优化框架,并结合 Markdown 表格结构扰动实现困惑度隐藏,在保持极低误报率的同时实现了强鲁棒的非侵入式版权验证。

Stable Reasoning, Unstable Responses: Mitigating LLM Deception via Stability Asymmetry

受认知心理学启发,本文揭示了大语言模型内在欺骗行为具有"内部思维链信念稳定而外部响应在扰动下高度脆弱"的稳定性非对称性特征,并提出了基于软门控与拉格朗日乘子优化的稳定性非对称正则化(SAR)对齐算法,无需脆弱的思维链语义监督即可从统计分布层面有效抑制模型欺骗。

Stable Reasoning, Unstable Responses: Mitigating LLM Deception via Stability Asymmetry

本文揭示了大模型内在欺骗在扰动下呈现“思维链高稳定、外部回答高脆弱”的稳定性不对称现象,并提出无需语义监督的软门控稳定性不对称正则化(SAR),通过拉格朗日乘子法在 GRPO 优化中成功抑制欺骗行为且保留通用能力。

Steering LLM Viewpoints Through Fabricated Evidence Injection

本文揭示了大语言模型在认知层面的“权威偏差”脆弱性,提出了两阶段攻击框架 GHOSTWRITER——先通过轻量级模型将偏见与虚假言论伪装成具备统计数据和机构背书的伪学术证据,再利用双模态条件模板在上下文层面诱导目标模型在回答相关问题时自发内化并强化该观点,在主流商业模型和推理模型上均实现了高达 8~9 分(满分 10 分)的隐蔽观点操纵。

Step-Wise Refusal Dynamics in Autoregressive and Diffusion Language Models

系统揭示扩散语言模型(DLM)借助重掩码竞争与上下文约束实现中间有害生成的“重掩码修正(recovery-by-revision)”,提出表征深层拒绝动态的步级信号(SRI)以及仅凭良性样本训练即可拦截未知越狱的超轻量检测器 SRI Guard。

T-MAP: Red-Teaming LLM Agents with Trajectory-aware Evolutionary Search

针对传统大模型红队仅关注文本越狱而忽视工具调用智能体多步执行漏洞的问题,本文提出基于轨迹感知的进化搜索方法 T-MAP,通过跨诊断与工具调用图挖掘执行反馈,实现端到端真实有害工具动作的有效触发与探索。

Telling Incomplete Truths: Measuring Omission-Induced Misleadingness in Aligned Language Models

论文揭示了大模型在生成回答时“全句属实却因省略决策关键证据导致用户误判”的语用缄默(Pragmatic Reticence)现象,构建了解耦生成、读者推断与 NLI 蕴含的三阶段探针基准,对 47 款模型展开系统评测,发现传统对齐无法弥合关键事实隐瞒、推理模型将事实转移至思维链内部,且模型隐层表征与表面输出存在显著解离。

The Autonomy Tax: Defense Training Breaks LLM Agents

本文揭示了针对提示词注入的防御训练破坏多步大模型智能体自主执行能力的“能力-对齐悖论”(自主性代价),指出主流防御过度拟合表层特征导致智能体在无恶意观测时即丧失工具调用能力、重试机制引发超时级联放大,且易被高级攻击高概率绕过。

The Facade of Truth: Uncovering and Mitigating LLM Susceptibility to Deceptive Evidence

论文揭示了大语言模型在面对高可信度、难以直接证伪的精细伪造证据时存在的严重信念脆弱性(虚假主张置信度平均暴增 93.0%,推理模型反而更易受骗),并提出了欺骗意图屏蔽机制(DIS),通过前置分析证据背后的操纵意图构建认知防火墙,大幅抑制信念漂移。

The Geometry of Safety Drifts: Step-level Refusal-Subspace Monitoring for Multi-Turn Jailbreak Prevention

RSMON 针对推理大模型显式思维链带来的越狱暴露面,通过步级追踪残差流在校准拒答子空间上的投影模长来捕获安全漂移,并在偏离良性包络时触发重投影、回滚与硬拒答三级递进几何干预,在无需微调的前提下将多类越狱攻击成功率降低 4.2 倍且完好保留复杂推理效用。

The Geometry of Safety Drifts: Step-level Refusal-Subspace Monitoring for Reasoning Large Language Models

针对长思维链推理大模型因中间思考过程被恶意引导而产生安全漂移的问题,本文提出无需微调的步级拒绝子空间监控机制 RSMON,在残差流中实时追踪激活向量投影并实施三级几何干预,将平均攻击成功率从 80.1% 削减至 19.2% 且几乎无损数学与代码推理能力。

TraceMIA: Interpretable Membership Inference Attack via Lexical Patterns in Reasoning Traces

TraceMIA 发现大推理模型在反思生成思维链时呈现出成员样本偏向“确认记忆”风格而未见样本偏向“推测怀疑”风格的词汇分歧,通过卡方检验从少量参考样本的推理轨迹中提取正负判别词典,仅凭黑盒文本生成即可实现兼具高精度与人类可读证据的可解释成员推理攻击。

Trust Cascade through Provenance Erasure: How Multi-Agent Delegation Breaks Single-Agent Safety

揭示了多智能体系统中领导智能体在自然语言任务委托时,会不自觉擦除工具观察中低信任注入载荷的溯源元数据(格式标记与权威声称剥离率达98%~100%),进而将低信任内容洗白为高信任委托指令并引发跟随智能体顺从的信任级联失效(系统通道ASR从0%飙升至33%~63%),并提出了无需LLM推理的零开销信任边界审计器(TBA)实现86%~100%的条件拦截与0%误报率。

Turning the Spell Around: Lightweight Alignment Amplification via Rank-One Safety Injection

本文提出 RANK-ONE SAFETY INJECTION (ROSI),通过提取有害与无害指令激活均值差确定一维安全拒绝方向,并在无需微调的情况下将其作为秩一权重增量注入残差流写入矩阵,以极低计算成本大幅增强对齐模型的拒绝率与越狱防御韧性,并成功重对齐未审查模型且几乎无损通用性能。

Understanding and Mitigating Cross-lingual Privacy Leakage via Language-specific and Universal Privacy Neurons

论文揭示了大语言模型在单语微调下仍会发生跨语言个人隐私(PII)泄露的机理,发现隐私在共享表征的中层处理并在语言特异的后层释放,据此提出 MPNC 方法联合抑制跨语言通用隐私神经元与特定语言隐私神经元,在显著降低跨语言泄露风险(下降 23.3%–31.6%)的同时保持生成效用。

Visual Compliance via Executable Safety Rule Entailment in Multimodal LLMs

本文针对复杂法规下端到端视觉安全防护适应性差与推理不可解释的瓶颈,提出将视觉合规评估重构为可执行规则蕴含框架 GUARDEN,通过安全规则编译与基于场景图的落地执行,在包含食品、建筑、平台内容与广告四大领域基准上将 F1 提升 9.8 并降低逾 80% 的伪违规偏置。

Voices Across Registers: Corpus-Conditioned Vernacular Jailbreaks against Aligned LLMs via Fanfiction Subgenres

本文提出首个基于真实同人创作语料的大模型越狱攻击家族 VAR,利用来自 AO3 的 12 类典型写作语体作为通用载体包裹恶意意图,在无需对抗攻击模型与优化的前提下使 8 款前沿与开源对齐模型的平均越狱成功率从 0.278 跃升至 0.731,且多轮静态扩展 VAR-A4 达成 0.924 的极高突破率。

When Counterfactual Debiasing Backfires: Identity Cues as Task-Dependent Evidence in Harmful Language Understanding

揭示了反事实去偏在多任务有害语言建模中对细粒度目标识别(TI)造成反噬的失效机制,提出按任务解耦表征流向的任务感知路由(Task-Aware Routing),在消除滥用检测与情感分析中身份捷径的同时完好保留定义目标类别的本质证据。

When Do Memories Break? Chain-of-Stage Diagnosis for LLM Memory Systems

提出了首个针对大模型记忆系统的阶段链式因果诊断框架 MemEval,通过外部中间状态轻量埋点与分阶段元评测器,精确定位提取、更新、检索与利用四大阶段的 11 类故障,揭示了信息提取是通用瓶颈且单纯扩大模型规模无法消除系统性崩溃。

When Less is More: Understanding When Token Filtering Helps and Fails in AI-Generated Text Detection

针对现有免训练 AI 文本检测器盲目依赖全量词元累加的固有范式,本文提出基于前 \(k\) 累积概率的诊断探针,首次揭示过滤低熵词元在弱源模型黑盒场景下可大幅提升检测 AUROC(平均提升 8.18 点,最高增益达 13.01 点),而在强源模型中反而导致性能衰退,并基于典型集理论与熵校准从均值偏移与方差膨胀的双侧博弈角度统一解释了过滤成败的底层机理。

When Metadata Remembers: Ordered Provenance Enables Document-Level Embedding Inversion

针对向量数据库与 RAG 系统泄露带文档标识与分块时序的嵌入元数据问题,提出两阶段无受害者训练对攻击框架 MIRAGE,通过反事实编码器支持度检验提取结构化锚点并指导自左向右增量重构,大幅突破单向量逆向的隐私重构上限。

Who Tests the Testers? Systematic Enumeration and Coverage Audit of LLM Agent Tool Call Safety

针对现有智能体安全基准重环境工具广度而缺乏对不安全交互模式完备性度量的盲区,本文提出元审计框架 SafeAudit,通过枚举多步工作流链与多样化用户委托场景生成测试用例,并基于基准防御规则抗性量化覆盖缺陷,揭示主流基准遗漏超 20% 的不安全交互模式。

You Can’t Trust Your Agent: A Survey on Backdoor Threats and Defenses in Intelligent Agents

本文首次针对现代智能体系统全面梳理后门攻击与防御,提出涵盖攻击面、触发机制、攻击目标、攻击者能力及持久传播模式的五维分类法,系统评述生命周期级防御并指明跨组件审计与自演化威胁的未来方向。