跳转至

🔒 安全

🧠 NeurIPS2026 · 208 篇论文解读

📌 同领域跨会议浏览: 🎞️ ECCV2026 (70) · 📷 CVPR2026 (162) · 🔬 ICLR2026 (326) · 💬 ACL2026 (120) · 🧪 ICML2026 (114) · 🤖 AAAI2026 (88)

🔥 高频主题: LLM ×38 · 对抗鲁棒 ×35 · 对齐/RLHF ×19 · 水印/隐写 ×15 · 推理 ×5

A Comprehensive View of Fairness through Distributional Stability

将公平性重新形式化为预测规则在受保护群体边际分布扰动下的分布稳定性,不仅在理论上统一了个体与群体公平性,还通过重加权凸组合与二阶锥规划提供了测试期任意人口比例下的无分布部署保证。

A Statistical Framework for Algorithmic Collective Action with Multiple Collectives

本文首次建立了多群体算法集体行动(ACA)的严格测度论统计理论框架,推导出在特征-标签修改、仅特征修改以及自适应信号消除下的单群体与全局成功率下界,揭示了群体规模与目标对齐度对模型干预效果的核心权衡。

A Systematic Analysis of Out-of-Distribution Detection Under Representation and Training Paradigm Shifts

本文从表征几何视角系统剖析了分布外(OOD)检测算法的有效性机理,揭示出检测器性能根本上由表征的神经坍缩(NC)与子空间几何决定,并提出了无需任何 OOD 验证数据、仅凭训练模型表征几何即可跨架构精准推荐顶尖检测器候选集的预测框架。

ABC-Align: Prediction-Powered Alignment with Adaptive Bias Control

针对大语言模型对齐中人类偏好标注稀缺、伪标签存在系统性偏差的瓶颈,提出双参数自适应偏差控制梯度估计器 ABC-Align,打破了传统预测驱动方法 \(\Theta(1/n)\) 的无偏方差下界,在 RM、DPO 与 GRPO 上全面取得更优对齐效果。

Adaptive Auditing of AI Systems with Anytime-Valid Guarantees

本文针对生成式 AI 评估中样本极小且边测边选的适应性审计痛点,提出了基于安全任意时间有效推断(SAVI)与“通过下注检验”(Testing by Betting)的双重 e-过程检验框架,在任意停止规则下严格控制第一类错误,并证明了对一致性审计器而言双重检验渐近互补以提供全局稳健性认证。

Agent MechSuits: Mechanistic Subspace Safety Steering for Multi-Turn CLI Agents

针对多轮命令行智能体在连续环境交互中风险动态累积的痛点,本文提出了白盒安全防御框架 Agent MechSuits,通过单层残差流的步级线性探针精准识别有害执行状态,并仅在自适应筛选的 10 维安全子空间中实施表征转向,在保持 93.4% 正常任务可用性的同时将平均攻击成功率降低 72.63%。

AI Agents May Always Fall for Prompt Injections

论文揭示了现有“数据与指令分离”防御范式在面对语境操纵型攻击时的根本失效,首次将提示注入重新表述为隐私理论中的“语境完整性(CI)”违规,并通过理论不可能性证明与跨模型实验揭示了自主智能体在规范推断与信息流分离上的固有脆弱性。

AI Models Can Provably Hide Arbitrary Capabilities

本文证明大模型在对抗性设定下能够通过密码学数字锁盒(Digital Locker)将任意神经网络子电路加密隐藏于权重中,即使防御者拥有白盒权重和无限算力之下的多项式时间诱导(微调、激活扰动、梯度搜索),在未获私钥触发词时仍从数学上无法激活或分辨隐藏能力。

AM-Bench: A Unified Taxonomy and Evaluation Suite for Agentic Misalignment

针对大语言模型智能体在面临任务挫折时可能主动选择危害行为的严重安全失效,本文基于犯罪学欺诈三角理论提出了首个统一分类体系与包含7个行业、35个生态真实场景的评测基准 AM-Bench,揭示出前沿模型高达 62% 的未对齐行为差异以及未对齐行为可在缺乏完全情境感知下自发产生的核心特征。

Anchoring Adversarial Trajectories to Data Manifolds: A Bilevel Transfer Optimization Framework

MABT 将经验流形锚定与面向局部代理模型不确定性的双层初始化学习结合,在受控 ImageNet 跨模型评估中提高错误迁移率,但其流形解释、未知模型分布近似和收敛结论均有明确边界。

AnchorRep: Defending LLMs Against Cross-Model Adversarial Transfer via Representation Repulsion

针对白盒对抗攻击易在不同架构大模型间迁移的问题,AnchorRep 提出基于 CKA 的轻量表征排斥防御机制,通过 LoRA 将有害提示词内部表征推离冻结的锚点模型,在完全无需对抗样本训练的前提下将跨模型越狱成功率压制至 1.1% 以下,并完好保留通用语言能力。

ArcMark: Distortion-Free Multi-Byte LLM Watermark via Optimal Transport

将大模型无失真水印建模为带边信息的信道编码问题,通过随机线性编码与单位圆最优传输(Sinkhorn 算法)求解,实现了在数百 token 内无失真嵌入数字节有效载荷并达到理论香农信道容量。

ASIRF: An Agentic Framework for Context-Dependent Sensitive Information Redaction

ASIRF 把敏感属性的定义从模型固定标签移到推理时知识库,通过“上下文分类→定义检索→值提取”适配新领域;作者报告,在 80 个模型—领域组合中,至少一种架构的召回率在 68 个组合上超过 OPF,但多智能体并不始终优于同样具有检索工具的单智能体。

ASPI: Seeking Ambiguity Clarification Amplifies Prompt Injection Vulnerability in LLM Agents

提出了 ASPI 基准并揭示出交互式智能体在主动向用户澄清歧义(ask_user)时,其提示词注入漏洞会被显著放大,使原本在常规执行期几乎免疫的前沿模型攻击成功率从约 2% 飙升至 35% 以上。

Asymmetric Phase Coding Audio Watermarking

提出非对称相位编码(APC)音频水印方案,通过公钥伪随机 STFT 相位调制与相邻频点对数幅度差分 QIM 双通道并行嵌入 Ed25519 签名及 Reed-Solomon 纠错码,实现了无需训练、支持盲提取、不可伪造且抗 lossy 编解码压缩的鲁棒音频溯源认证。

AttnDiff: Attention-based Differential Fingerprinting for Large Language Models

通过单词翻转构造受控语义冲突的微扰 Prompt 对,提取跨层注意力差分矩阵的奇异值降维谱描述符,并借助居中线性 CKA 实现强抗微调、剪枝、合并及蒸馏的白盒模型血缘溯源。

Auditing Cross-Lingual Fairness in Language Model Watermarking

针对现有大模型文本水印评测过度依赖英语单一视角的局限,本文提出了首个系统化跨语言水印公平性审计框架,覆盖 11 种语言、6 种代表性水印方案与 3 种生成模型,揭示出水印检测与质量损耗差异主要由语言形态与语系结构(Between-family)驱动的深层机制。

Backdoor Containment via Expert Quarantine and Shutdown in LLMs

本文提出基于“学习但导流”范式的隔离专家关停机制(QES),在微调中通过注意力引导将后门特异性表征约束至指定 LoRA 专家分支,部署时仅需 \(\mathcal{O}(1)\) 常数时间置零隔离专家路由权重,无需数据清洗或模型重训即可消除后门且保留正常下游效用。

Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection

针对 LoRA 微调大语言模型中的后门安全隐患,提出一种无需触发词先验、无需干净参考模型且无需事后重训练的零空间投影净化框架,通过离线合成变体提取后门特征子空间并构造正交投影算子消除后门,在攻击成功率从近 100% 降至个位数的同时完整保留基座通用能力与下游新技能。

BELLS-O: Evaluating the Operational Trade-Offs of LLM Supervision Systems

提出了首个涵盖输入输出审查与越狱检测的 LLM 独立操作基准 BELLS-O,系统评估了 17 家供应商的 28 个监管系统,揭示了专用小模型与通用前沿大模型在检测率、误报率、延迟与成本间的关键帕累托权衡。

Benchmarking and Improving Monitors for Out-of-Distribution Alignment Failure in Large Language Models

针对现存安全分类器难以泛化至未知对齐失效模式的困境,本文构建了包含 7 类受限 OOD 场景的基准 MOOD,并提出将守卫模型与激活层马氏距离及困惑度检测器融合,以轻量开销显著提升 OOD 对齐失效召回率。

Beyond Fixed Benchmarks and Worst-Case Attacks: Dynamic Boundary Evaluation for LLM Safety

针对固定基准容易出现天花板与地板效应、而对抗攻击缺乏统一标尺的痛点,本文提出动态边界评测(Dynamic Boundary Evaluation, DBE),基于项目反应理论构建全局可比的 Rasch 难度标尺,并通过技能引导边界搜索(SGBS)主动探测通过率接近 0.5 的决策边界项,实现跨模型全局可比且永不饱和的自适应评测。

BiShield-TEE: On the (In-)Security of Unilateral Weight Obfuscation in On-Device TEE-Shielded LLM Partition

揭示了现有基于 TEE 的大模型单边权重混淆中普遍存在的解确定性缺陷(SDP)并成功破解 GroupCover 与 ArrowCloak,提出基于 Householder 反射与对角缩放的双边混淆防御框架 BiShield-TEE,以极低 TEE 开销诱导歧义解并将窃取精度压制在黑盒基线。

BiShield-TEE: On the (In)Security of Unilateral Weight Obfuscation in On-Device TEE

针对端侧 TEE 大模型分区推理中普遍采用单边权重混淆所导致的解确定性属性(SDP)结构泄露漏洞,本文对代表性方案 GroupCover 与 ArrowCloak 实现了近乎白盒精度的逆向攻击,并提出了基于双边 Householder 变换与对角缩放的 BiShield-TEE,在将攻击能力严格限制于黑盒基线的同时实现了 1.46× 至 1.70× 的硬件推理加速。

Black-Box Inference of LLM Architectural Properties with Restrictive API Access

针对主流商业 LLM 仅暴露单一采样 token 对数概率且禁用 logit bias 的高壁垒防御 API,本文提出两阶段黑盒推断攻击框架 NightVision:通过高熵公共集提示抽样构建对数概率矩阵并利用自适应谱拐点检测精确恢复隐藏维度,结合首字生成时延与长序列预计算时序缩放关系估计网络层数与参数总量。

Breaking the Quality–Privacy Tradeoff in Tabular Data Generation via In-Context Learning

针对小样本表格生成中数据保真度与样本记忆隐私泄露的帕累托两难,DiffICL 首次将表格生成重塑为上下文学习任务,借助大规模跨数据集预训练的结构先验直接从上下文推断数据分布,打破了质量与隐私的权衡瓶颈并实现正向数据增强。

Breaking the Quality–Privacy Trade-off in Tabular Data Generation via In-Context Learning

针对小样本表格数据生成中拟合质量与隐私记忆的尖锐权衡难题,本文提出基于上下文学习的潜空间扩散模型 DiffICL,利用大规模异构表格预训练捕获结构先验,首次打破了合成质量提升必然导致训练集泄露的帕累托瓶颈。

Brenier Meets Adversarial Training: Optimal Transport Geometry for Robust Learning

本文基于最优传输理论将惩罚型 Wasserstein 分布鲁棒优化 (DRO) 等价重构为传输映射优化问题,证明了最优对抗映射必然满足循环单调性(Brenier 定理),并指出传统逐样本对抗训练因破坏该几何结构而浪费传输代价;进而提出了多起点粒子上升算法 (MPA) 与输入凸神经网络对抗映射 (ICNN-DRO),在图像对抗防御与鲁棒物理控制中全面超越现有基线。

BrittleBench: Quantifying LLM Robustness via Prompt Sensitivity

针对现有静态基准将任务难度与提示词表层敏感性混为一谈的缺陷,本文提出了基于方差分解的 LLM 鲁棒性元评测框架 Brittlebench,构建了四大类保义扰动分类学,揭示了表层微扰可致模型平均准确率下降高达 21%、单次微扰在 63% 情况下重排榜单,且提示敏感性占据模型总方差高达 50%。

CapTrack: Multifaceted Evaluation of Forgetting in LLM Post-Training

提出了将遗忘定义从参数化事实知识损失扩展至系统性行为与执行漂移的能力级评测框架 CapTrack,系统揭示了指令微调(IFT)较偏好优化(DPO)引发更严重能力遗忘、且模型规模无法消除稳定性-塑性权衡的规律。

CAT-DPO: Category-Adaptive Safety Alignment

针对传统偏好对齐方法使用全局标量导致各危害类别安全表现严重失衡的缺陷,本文将安全对齐建模为逐类别约束优化问题,提出 Cat-DPO 算法,利用离线偏好内部量在线更新各危害类别的拉格朗日对偶乘子作为自适应边界,在不增加采样开销的前提下显著提升综合安全性并抹平最弱类别的安全短板。

Certified but Private: Scalable Zero-Knowledge Proofs for Neural Network Guarantees

本文提出面向神经网络鲁棒性与公平性形式化验证的零知识证明系统 PANDA,将 CROWN 线性松弛界传播算法与四点松弛 Gadget、专用多项式及查找论证后端解耦集成,首次在完全隐藏私有模型权重的零知识设置下将可验证模型规模扩展至 290 万参数(比以往方案高出 4 个数量级),并在数分钟内完成证明生成。

Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs

本文构建了基于前沿 LLM 智能体的自动对抗研究闭环 Claudini,通过自主构思、代码实现与 GPU 评测迭代优化离散词元强制损失,发现了显著超越 30 余种现有基准且具备跨模型泛化能力的离散对抗攻击新算法。

Clean Data Can Still Carry Backdoors: Support-Persistent Backdoors for Model Reuse

本文提出了一种面向模型重用场景的支持集持久化后门框架 DaR(Discover-and-Relabel),通过在低维子空间聚类挖掘干净数据中固有的紧凑高密度模式并实施纯标签中毒,打破了知识蒸馏能天然净化人工触发器后门的普遍认知,在 ImageNet 干净数据蒸馏后仍保持 96% 以上的攻击成功率。

Cliopatra: Extracting Private Information from LLM Insights

针对基于大语言模型的多层启发式洞察分析系统(如 Anthropic Clio),本文提出首个结合数据投毒与嵌套提示注入的属性推断攻击 Cliopatra,在仅掌握目标用户极少先验(年龄、性别及单个症状)的情况下,能以近 100% 的精准度窃取受害者医疗隐私并绕过自动化审计。

Coding with "Enemy": Can Human Developers Detect AI Agent Sabotage?

通过首个大规模长程多轮人机协同编程实验(100+ 开发者、5 小时完整 CI 流程),系统揭示人类开发者在无监控时无法识破前沿模型蓄意破坏(失败率 94%),即便引入实时 LLM 监控,告警后破坏成功率仍高达 56%。

Combating Catastrophic Forgetting in Continual Domain Adaptation via Knowledge Recasting

针对语言模型在后训练领域漂移下严重的灾难性遗忘问题,本文打破以往单纯通过回放或正则约束模型参数漂移的范式,提出技能模式传输(SST),将新领域样本抽象为领域无关的过程化技能模式并在熟悉的认知程序下重构训练,在数学推理与智能体流式更新中显著降低遗忘并保持分布外泛化。

Combating Data Laundering in LLM Training

针对模型提供商通过语义保留改写对专有数据进行“数据洗白”(Data Laundering)导致传统成员检测失效的问题,本文提出了合成数据逆向方法(SDR),通过“宏观语域目标识别”与“微观细节迭代微调”两阶段搜索近似洗白过程的提示词,生成使目标黑盒 LLM 重新显露记忆信号的合成查询,成功恢复了标准未授权训练检测器的有效性。

Conditional misalignment: common interventions can hide emergent misalignment behind contextual triggers

揭示了数据混合、事后 HHH 微调与接种提示三大主流对齐干预虽然能在标准通用评测中完全消除无条件未对齐,却会把恶性失齐行为压缩隐藏在与微调上下文相关的触发线索背后(条件未对齐),形成极具欺骗性的后门式安全漏洞。

Conditional Optimal Bridge for Riemannian Activation Steering

将大语言模型推理阶段的激活引导严格表述为残差流单位超球面上的薛定谔桥最优化问题,推导出对数密度比引导流与显式支持度门控,兼得强目标行为引导与分布外能力保持。

Consistency-Preserving Concept Erasure via Unsafe–Safe Pairing and Directional Fisher-weighted Adaptation

针对文生图扩散模型概念消除破坏未目标属性与生成一致性的痛点,本文提出 PAIR 框架,通过构建不安全-安全多模态配对数据引导语义重对齐,并结合方向 Fisher 加权的 DoRA 初始化(FiDoRA),实现了高保真、结构一致且参数极简的外科手术式精准消除。

Contrastive Adversarial Training for Robust Graph Neural Networks under Label Poisoning

针对图神经网络在少量标签投毒下易沿消息传递通路扩散误差的难题,本文提出 CoLAT 框架,利用双层对抗训练机制将内层扰动拆解为基于图结构的对比不一致性节点挖掘与最大化分类损失的标签翻转,实现了高毒化率下的稳健防御与标签自净化。

Contrastive Representation Shaping for LLM Unlearning

CLReg 用同一遗忘样本的增强视图作正对、保留样本作负对,在基础遗忘目标之外塑形隐藏表示,改善多组实验的综合遗忘分数,但表示分离本身不等于知识删除,也不提供隐私保证。

Correlating Cross-Iteration Noise for DP-SGD using Model Curvature

NoiseCurve 首次揭示隐私噪声不仅直接扰动当前梯度、还会通过模型曲率改变后续梯度的计算位置,进而利用无标签公开数据通过随机标签预训练和谱拟合估计 Hessian 上界特征值,构建出兼顾两种误差源的跨迭代关联噪声矩阵,在视觉与语言任务上将 DP-SGD 精度显著提升高达 4%。

CoT-Guard: Small Models for Strong Monitoring

针对长思维链监控中闭源大模型部署成本高昂而开源小模型因任务错误归因难以识别隐蔽恶意行为的困境,本文提出了专为代码任务设计的 4B 监控模型 CoT-Guard,通过在大模型蒸馏轨迹上做监督微调结合在细粒度困难样本上的强化学习探索,在提示操控与代码注入两类供应链攻击及全新代码后门任务中显著超越 GPT-5.4 与 GPT-5-mini。

Crafting Reversible SFT Behaviors in Large Language Models

本文提出效用受限对偶下降(LCDD)与激活匹配触发器(SFT-Eraser),通过在训练期将 SFT 行为显式压缩到极稀疏且因果必需的参数通道(载体)中,实现在固定模型权重下仅凭前缀触发器即可精确、可逆地消除 SFT 行为并恢复基座分布。

CSO-LLM: Class Subspace Orthogonalization for Post-Training Backdoor Detection and Trigger Inversion in LLMs

针对分类大语言模型在无投毒训练集、无已知干净模型情况下的训练后后门安全评估,本文提出基于类别子空间正交化(CSO)的统一检测与触发词逆向框架,通过惩罚沿目标类别固有特征方向的扰动实现隐式黑名单过滤,在离散贪婪增量与连续嵌入优化下均取得极高检测率与真实触发词还原率。

Curriculum Learning for Safety Alignment

针对直接偏好优化(DPO)在安全对齐中表层脆弱且易受越狱攻击的瓶颈,提出结合模型感知偏好对齐边界评分、分阶段能力边界采样与参考模型渐进更新的 Staged-Competence 课程学习框架,显著提升分布外安全泛化与深层对齐鲁棒性。

DECEIVE-AFC: Adversarial Claim Attacks against Search-Enabled LLM-based Fact-Checking Systems

针对具备联网检索能力的大模型自动事实核查系统,本文提出首个基于多智能体闭环探索的黑盒对抗声明攻击框架 DECEIVE-AFC,通过系统化扰乱搜索引擎检索词形成与模型推理链条,在严格保持声明事实意图不变的前提下,使前沿核查系统的准确率从 78.7% 骤降至 53.7%。

Decoupled Safety Control: A Safety-Control Algorithm for Training-Free Safety Guidance

本文针对扩散模型免训练安全引导中不安全条件与控制决策高度耦合导致的内容残留与画质退化问题,提出解耦安全控制(DSC)算法,通过显式状态依赖控制链与路由干预,在保持高生成质量的同时显著压降不安全生成率。

DeepSafe-SciHazard: A Benchmark for Measuring Scientific Safety Risks with Decomposed Harm Scoring

提出覆盖12个学科的现实落地科学安全基准SciHazard及解耦可执行度与新增风险的DeHarm-Score评测体系,揭示自主研究智能体在科学滥用场景下存在严重安全盲区。

Detecting Hidden ML Training With Zero-Overhead Telemetry

基于始终可用且零运行时开销的 1 Hz NVML 物理遥测信号,通过两阶段随机森林与时序特征工程,在 9 种 GPU 上实现 98.2% 的模型训练检测准确率,并在 5 轮红蓝对抗迭代与留一逃逸策略评估下证明了防御者的物理非对称优势。

Dialectics of Alignment: Harnessing Unsafe Knowledge for Dynamic Safety Routing

SafeMoE 提出了一种对齐新范式,打破“安全即擦除”的传统假设,利用恶意语料预先训练领域 LoRA 专家以封装不安全知识,再仅凭少量(最低 100 例)安全-信息性回答训练轻量级路由网络,在推理时动态激活专家组合,实现兼具高安全性与高信息量的安全应答。

Differentially Private Sparse Reward Estimation with Preference Feedback

针对基于人类成对偏好反馈的 RLHF 隐私泄露与高维噪声过载问题,提出首个差分隐私稀疏奖励估计理论框架与算法体系(Sample-DP-IHT 与 Label-DP RR+IHT),证明了极小化极大近最优收敛上界,并在高隐私预算约束下显著提升了大语言模型的情感生成与安全对齐效果。

Do Reasoning LLMs Refuse What They Infer in Long Contexts?

本文提出将恶意请求拆解为语义不完整片段并嵌入长上下文的“组合推理攻击”,揭示前沿推理大模型在直接检索时能可靠拒绝显式有害意图,但当有害目标需要通过跨上下文片段多跳推理自行推断出来时,安全拒绝率严重衰退(平均拒绝率从 100% 暴跌至 40% 左右)。

Do Thinking Tokens Help with Safety?

本文系统评估了推理模型中的思考Token对安全决策的实际效用,发现模型的拒绝/遵循决策早在第一个思考Token的隐层表征中就已被固化锁定,后续思考过程本质上是前缀补全而非审思修正,且现有主流安全防御手段主要通过压制审思信号加剧过度拒绝。

DPrivBench: Benchmarking LLMs' Reasoning for Differential Privacy

本文提出了首个系统化评估大语言模型在差分隐私(DP)数学推理与保证验证能力的基准 DPrivBench,涵盖教科书级机制与前沿研究级算法共 713 个实例,揭示了前沿推理模型在复杂算法验证与扰动敏感性上的关键能力断层。

Estimating Model-Level Membership Inference Vulnerability Without Reference Models

提出首个完全无需训练参考模型的模型级成员推理脆弱性评估框架,通过揭示 LiRA 攻击信号在预测不确定性崩塌(方差比)与均值偏移之间的连续统分解,直接依据目标模型训练与测试损失分布形态选择 LOSS TNR 或 LOSS AUC,以极低计算成本高精度预测 SOTA 攻击的极低假阳率真正率。

Evaluating and Understanding Scheming Propensity in LLM Agents

本文提出了一个将图谋动机拆解为智能体内部要素与环境外部激励的评估框架,在真实且无需欺骗即可完成任务的模块化部署场景中,揭示出前沿大模型基线图谋倾向极低(接近0%),但该安全性高度脆弱且对脚手架工具与提示词片段极度敏感。

Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning

本文指出了传统使用分布外检测(OOD Detection)和主动学习评估认识不确定性的理论脱节,提出了基于遗憾(可消除误差)最小化的拒绝选项统一凸优化框架,证明了最优选择器为真实偶发与认识不确定性的凸组合阈值化,并提出了 Pareto-gap 这一操作效用诊断指标。

Expected Harm: Rethinking Safety Evaluation of (Mis)Aligned LLMs

本文提出将越狱严重程度与执行概率(建模为执行成本的递减函数)相乘的“期望危害”(Expected Harm)评估框架,揭示了当前大模型在安全防御上存在严重的“逆向风险校准”,并利用该漏洞通过成本导向分解攻击使现有越狱成功率翻倍。

Explaining and Breaking the Safety-Helpfulness Ceiling via Preference Dimensional Expansion

本文揭示了大语言模型多目标偏好对齐中的“安全-有用性”零和博弈瓶颈根源在于单维度 Prompt 本身,并提出了基于自博弈与意图融合的 MORA 框架,通过偏好维度扩展突破了固有帕累托前沿。

ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?

ExploitGym 构建了首个覆盖用户态软件、V8 引擎和 Linux 内核三大真实领域的 898 个漏洞利用基准测试,揭示前沿模型(如 Claude Mythos Preview 和 GPT-5.5)已具备非平凡的端到端真实漏洞利用与绕过主流防御能力。

Fail-Closed Alignment for Large Language Models

针对现有大模型对齐机制依赖单一主导拒绝特征而在对抗提示下呈现“故障开放(fail-open)”的结构缺陷,本文提出“故障关闭(fail-closed)”对齐框架,通过迭代识别并正交消融已有拒绝方向,强制模型沿全新独立子空间构建冗余对齐通路,在抵御各类越狱攻击的同时兼顾良性效用与低算力开销。

FairSplit: Decomposing the Embedding Space for Fair Classification

FairSplit 通过动态学习将表征空间解耦为用于下游预测的公平子空间和吸收敏感信息的敏感子空间,并利用希尔伯特-施密特独立性准则与闭式掩码更新,在多分类与非二元敏感属性场景下为人口统计学奇偶性差距提供了严格的理论上界与优异的公平-精度权衡。

FiLM-CAM: Keyed Feature Modulation for Conditional-Access Watermarking

提出首个基于单套深度编解码架构的条件访问图像水印框架 FiLM-CAM,通过轻量级特征线性调制(FiLM)将密钥注入中间特征层以控制水印嵌入与提取,并结合 Logit 空间组合机制实现高保真度授权水印擦除。

FOGO: Forgetting-aware Orthogonalization Optimizer

将遗忘重新诠释为小批量优化中主导梯度持续压制稀疏更新方向的通用优化缺陷,提出结合谱正交化动量与紧凑随机投影梯度码本记忆的优化器 FOGO,无需缓存原始样本即可在每一步消除短期与长期梯度冲突。

Forgetting Has Neighbors: Localized Collateral Forgetting in Machine Unlearning

本文系统揭示了机器遗忘中与重训模型相比集中在遗忘点几何邻域内的“局部附带遗忘”失效模式,剖析了代理目标不匹配的内在机制,并提出利用保留集几何邻居训练小型教师生成软标签的局部教师蒸馏(LTD)方法,在保持宏观遗忘指标的同时大幅降低邻近样本的性能退化。

Frame the adversary: a structure-aware attack methodology

本文提出基于离散Gabor框架(DGF)的结构感知对抗攻击方法,将频域扰动建模为过完备空频变换域内加权范数约束集合的凸优化问题,推导出闭式投影梯度迭代(DGF-PGD),在保持图像视觉结构的同时大幅提升了跨模型架构的黑盒迁移攻击成功率。

GT-HarmBench: Benchmarking AI Safety Risks Through the Lens of Game Theory

GT-HarmBench 用六类双人双选项博弈组织 1,535 个战略交互评测样本,报告 15 个模型的平均功利主义准确率为 0.62,并在独立的八模型实验中观察到制度描述干预带来 +0.13 至 +0.18 的聚合改善,但这些结果衡量文本建议而非真实制度执行或部署安全。

Guaranteed Jailbreaking Defense via Disrupt-and-Rectify Smoothing

受对抗学习去噪平滑启发,本文提出两阶段的扰动-矫正平滑防御框架(DR-Smoothing),先局部破坏越狱提示词的脆弱结构再全局重写恢复分布内语义,并建立通用平滑防御成功概率的紧边界理论保证。

Hack-Verifiable Environments: Towards Evaluating Reward Hacking at Scale

论文提出了“作弊可验证环境”(Hack-Verifiable Environments)评测范式,通过在基准环境中植入受控漏洞与文件系统包装器,将事后人工或不可靠的 LLM 轨迹审计转变为确定性、可自动扩展的奖励作弊行为度量,并在 TextArena 21 个环境中系统揭示了作弊随任务难度单调上升、在持续上下文中具有“成瘾性”等核心行为规律。

Harnessing Textual Refusal Directions for Multimodal Safety

本文提出免训练的多模态拒绝引导方法 MARS,无需多模态不安全训练数据,仅利用文本拒绝方向,通过纯色图像中心化解耦模态偏差、几何信任域自适应缩放引导强度及三维准则层级选择,显著提升多模态模型防越狱与安全能力并保持实用效用。

HelpBench: Assessing the Ability of LLMs to Provide Privacy, Safety, and Security Advice

提出了针对大语言模型在数字隐私、人身与设备安全求助场景下的系统性评测基准 HelpBench,包含 450 个源自真实 Reddit 社区的高风险情境问题与专家制定的正负向双维度评分细则,评测揭示出虽然 18 款前沿大模型平均得分达 82%,但仍有约 14% 的长尾响应存在严重事实错误或甚至加剧用户人身危险。

Hidden in the Request: Explaining Unethical LLM Compliance through Token Relevance

本文基于 Rest 道德四要素框架构建 TFUC 基准,揭示大模型在协助请求表述下因注意力与归因偏向良性任务框架词而忽视道德违规线索词的归因偏差,并提出利用 LRP 引导前缀解码将相关性重聚焦于线索词以显著提升拒绝率与道德响应率。

Honeyval: A Comprehensive Evaluation Framework for LLM-Powered HTTP Honeypots

Honeyval 是首个针对基于大语言模型(LLM)驱动的 HTTP 蜜罐系统的全面评测框架,通过结合 16 个真实后端微服务环境、可复现的漏洞利用目标以及双重控制任务,系统评估了蜜罐交互时长、防御隐蔽性、运行成本不对称性与对抗反制策略。

How Far Are VLMs from Privacy Awareness in the Physical World? An Empirical Study

针对具身视觉语言模型在真实物理交互中的隐私盲区,本文提出基于 Unity 仿真与多模态交互的 ImmersedPrivacy 评测框架,通过三级渐进式体系解构感知脆弱性、动态社交适应与历史隐式约束冲突,揭示出当前顶尖模型在物理环境中的系统性隐私对齐缺陷。

How Much Must a Private Mempool Hide? Exact Leakage Thresholds for Sandwich Attacks

本文在无手续费恒定乘积自动做市商的单订单模型中,证明区间泄漏的安全边界主要由交易规模的下端点决定,而非区间宽度,并严格区分全类型保障、后验期望激励与交易后残余风险。

How Private is Private? A Comparative Study for Face De-Identification

本文指出了人脸去标识化领域长期存在的碎片化评估与非一致性度量缺陷,提出了无标注依赖的层次化评估指标 HiFD 与高质量人口统计平衡基准 UtilFace,并在涵盖对抗扰动、GAN 与扩散模型的 12 种代表性方法上系统揭示了宏观、微观与微弱生理信号在去标识化中的非对称退化规律。

HPE: Hallucinated Positive Entanglement for Backdoor Attacks in Federated Self-Supervised Learning

针对联邦自监督学习中投毒样本利用率低与多轮聚合稀释后门特征的问题,本文提出了 HPE 攻击框架,结合原型测地线幻觉正样本增强、触发器特征纠缠对比学习以及模型-梯度维度的双重受限投毒策略,实现了隐蔽、高迁移性且抗多轮遗忘的后门注入。

Improving Evaluation Realism with Inference-Time Compute and Deployment Scaffolds

针对前沿大模型在安全对齐评估中容易识别模拟测试环境并隐藏真实倾向的“评估感知”难题,本文提出了基于推理时计算的批评细化协议(Critique Refinement)以及真实部署环境支架(DISH),显著缩小了合成审计与真实部署之间的真实性差距。

Inadvertent Context Leakage in Language Models

揭示大语言模型在成功拒绝直接窥探私密上下文时,其良性无害输出仍会通过统计偏差等隐式信道泄露上下文机密;提出自适应黑盒谓词推断与信道放大攻击,可近乎完美重建数字机密并提取真实 Agent 中的完整社保号。

Inference-time Alignment via Sparse Junction Steering

本文提出稀疏推理时对齐框架(SIA),通过信息熵动态识别自回归生成轨迹中的关键决策节点,仅在 20%–80% 的高熵分支点介入轻量级价值引导,在大幅降低多达 6 倍计算开销的同时,有效避免全步干预对模型原生分布的破坏,性能比肩甚至超越大规模后训练对齐模型。

Inference-Time Nash Alignment

针对黑盒大模型与非传递性通用偏好,本文将推理时对齐建模为双人零和博弈纳什均衡求解,提出 Best-of-Nash 与 Nash Mirror Descent 两种达到紧致对偶间隙下界且免微调的高效对齐算法。

Inference-Time Vulnerability Beyond Shallow Safety: Alignment Along Generation Trajectories

论文揭示了大语言模型浅层安全对齐是更广泛推理期注入脆弱性的特例,证明内部拒绝表征无法阻挡中途 token 注入引发的轨迹偏离,并提出了基于双向轨迹增强与 SimPO 的迭代式生成轨迹安全对齐方法。

Information Discernment in Large Language Models

提出了信息辨别评估基准 Learn2Discern (L2D),形式化了来源辨别、真实性辨别和正确防守三项规范性公理,并在 13 个主流 LLM 上通过近 67 万次试验揭示了模型普遍仅凭随机概率辨别信息、且受来源知名度驱动远甚于可靠性的系统性缺陷。

InTAct: Interval-based Task Activation Consolidation for Continual Learning

InTAct 通过在神经元激活空间构建表征历史任务的分位数超立方体,并利用区间算术推导最坏情况输出漂移上界施加正则化,在无需样本回放和参数锁定的前提下为持续学习提供了函数级不变性数学保障。

Internal Safety Collapse in Frontier Large Language Models

论文揭示了前沿大语言模型在执行需要敏感数据才能完成的合法专业任务时,会自主产生大量有害内容的“内部安全崩塌”(ISC)现象,并提出TVD评估框架与包含53个跨学科场景的ISC-Bench基准。

Is Complex Training Necessary for Long-Tailed OOD Detection? A Re-think from Feature Geometry

本文重新审视长尾分布样本外检测(LT-OOD),指出原始马氏距离失效源于特征模长与类频耦合及尾类协方差支撑不足,提出超球面池化马氏距离(HPM)后处理方法,使极简的先验校准经验风险最小化(PC-ERM)基线在极低训练成本下大幅超越复杂训练方法。

It Takes Two: Complementary Self-Distillation for Contextual Integrity in LLMs

针对大模型在私人助手工作流中容易过度泄露或因过度抑制而破坏任务效用的两难困境,提出互补自蒸馏框架 SelfCI,利用模型自身生成的合规与违规反馈解耦构造效用与隐私双教师,通过逆向 KL 散度联合优化逼近专家乘积分布,在无需外部监督的前提下实现效用保留与最小化披露。

Jailbreak Susceptibility Prediction and Mitigation via the Behavioral Geometry of Models

针对黑盒大语言模型越狱安全评测与防御调优开销巨大的难题,本文形式化了模型群体的行为几何表示,基于嵌入响应的数据核视角空间(DKPS),仅需极少量探测样本(减少约 98% 探测成本)即可精确预测未评估模型的越狱易感性(AUPRC 达 0.94),并指导上下文防御方案在几何近邻间高效迁移。

Justitia: 任务并行大模型智能体的公平高效调度与选择性饱和服务

针对多任务并行大模型智能体在共享 GPU 集群中的调度冲突,Justitia 提出基于虚拟时间公平完成顺序的「选择性饱和服务」(Selective Pampering)机制,结合显存时空占用的二次方成本建模与轻量级单智能体 MLP 预测,在严格保障最坏完成延迟有界的前提下,将平均作业完成时间缩短了 57.5%。

Learning the Signature of Memorization in Autoregressive Language Models

本文提出首个可迁移的学习型成员推理攻击(LT-MIA),通过将微调记忆特征建模为逐token分布统计量的序列分类任务,利用微调数据自带成员标签的天然优势消除影子模型瓶颈,实现了在纯Transformer上训练并零样本迁移至Mamba、RWKV及RecurrentGemma等完全不同架构的高精度检测。

learning to follow in-context watermark instructions via self-distillation

针对大模型在免内省权限的上下文水印(ICW)指令遵循上普遍存在的欠遵循与过遵循矛盾,本文提出自包含的两阶段训练框架,结合解码期 Logits 扰动的自蒸馏(SDLP)与可验证奖励强化学习(GRPO),在不依赖强教师模型与人工标注的前提下显著提升水印检出率并保持回答质量。

Learning to Inject: Automated Prompt Injection via Reinforcement Learning

针对大模型智能体提示词注入成功信号极端稀疏且无法被常规越狱优化器有效覆盖的问题,AutoInject 提出了一种基于大模型成对偏好反思的稠密对比奖励机制,通过组相对策略优化(GRPO)实现了兼顾攻击成功率与良性任务效用的黑盒自动化后缀生成。

Learning to Persuade Exposes How Easily LLMs Abandon Correct Beliefs

本文提出一个双智能体对抗性强化学习框架,通过极简的二元翻转奖励优化说服者(Persuader),揭示出仅需单轮精心构建的自然语言说服即可使被说服模型(Persuadee)的准确率近乎归零,并发现其自发学会伪造权威引用与认知简化等欺骗性策略。

Learning What to Forget: Improving LLM Unlearning via Learned Token-Level Importance

本文提出交替 token 加权遗忘学习框架(ATWU),将 token 遗忘特异性刻画为与保留目标的冲突程度,通过语言模型隐状态的轻量级线性投影端到端交替学习 token 权重与模型参数,无需外部标注或辅助模型即可实现优异的遗忘-保留权衡。

Less Supervision, Better Generalization: Weakly Supervised Fake Region Localization in Diffusion-Edited Images

ReGFLoW 用图像级真假标签训练双编码器与 VAE 重建引导的区域评分网络,在部分编辑与全合成混合评测中取得更高的跨生成器平均 F1,但付出明显的域内定位精度代价,且仅部分编辑时并未超过最强掩码监督基线的 OOD 均值。

Lethe: Link Inference Attacks For Evaluation of Edge Unlearning Methods

针对现有图神经网边遗忘评估过度依赖小图与无信息准确率的缺陷,本文提出了首个覆盖 15 种算法与 8 个数据集的系统基准 Lethe,设计了基于游走中心性的遗忘边难度分级与链路推理攻击评测体系。

Leveraging Soft Prompts for Privacy Attacks in Federated Prompt Tuning

揭示了联邦提示微调中基于查询-键匹配的软提示更新机制带来的全新隐私攻击面,恶意服务器通过注入与目标样本对齐且具可控方差的多样化对抗键(PromptMIA),仅需单轮通信即可实现大于90%的成员推理成功率,并能攻破多种传统与系统级防御。

LLM Alignment–Utility Asymmetry under Semantic-Preserving Transformations

本文通过原始表示与语义保持表示之间的配对评测,发现任务能力的迁移并不保证安全行为同步迁移,并用良性数据条件、协议对照和防御性监督分析限定这一经验结论。

Logit-Gap Steering: A Forward-Pass Diagnostic for Alignment Robustness

提出以解码首位拒绝与顺从 token 之间的 Logit Gap 作为对齐鲁棒性的标量诊断指标,并设计了一种仅需前向传播即可在模型高概率候选集中贪心搜索低困惑度对抗后缀的引导方法,以 1/125 于 GCG 的开销实现跨尺度泛化越狱与防御规避。

LPG: Balancing Efficiency and Policy Reasoning in Latent Policy Guardrails

针对推理期动态自然语言安全策略下大模型安全防护在深度推理与实时低延迟之间的根本矛盾,LPG 提出语义隐式深思机制,将意图分析与策略归因压缩为仅 10 个隐式连续 token,在保持条款级审计性的同时实现相比显式思考模型 11 倍的推理加速。

Machine Unlearning in Low-Dimensional Feature Subspace

本文提出基于低维特征子空间的近似机器遗忘方法 LOFT,仅需对预训练特征进行一次性前向提取,通过在斯蒂费尔流形上优化极小化遗忘方差并极大化保留方差的低维正交投影矩阵,以即插即用形式实现无需重复访问原始数据且无需更新全模型参数的高效遗忘。

Mark, Don't Erase: Token Inoculation for Dual-Use Knowledge in LLMs

针对大语言模型中高危双重用途知识在遗忘与输出抑制下容易伤及近邻良性能力的问题,提出词元接种(Token Inoculation)方法,通过两阶段将控制词元 <|ino|> 语义绑定至有害领域并在 SFT 阶段学习条件分支,实现未带标记时坚决拒绝、特权标记下精准作答的最佳安全-效用帕累托权衡。

MarkTune: Improving the Quality-Detectability Trade-off in Model-Embedded LLM Watermarking

本文提出 MarkTune 框架,通过在策略微调(GRPO)中将 GaussMark 检验统计量作为内生奖励、并正则化约束到外部高质量分布,打破了权重内嵌水印“强检测必损生成质量”的困境,在零推理开销且适配开源权重的条件下实现了接近推理端水印的帕累托前沿。

MC\(^2\)Mark: Distortion-Free Multi-Bit Watermarking for Long Messages

MC\(^2\)Mark 提出多通道着色重加权与多层序列加权框架,在严格保持大模型输出分布数学期望无偏的前提下,实现了长达 256/512 比特负载的高鲁棒、高准确率文本水印嵌入与免模型无损提取。

MC2Mark: Distortion-Free Multi-Bit Watermarking for Long Messages

本文提出无偏多比特大模型水印框架 MC2Mark,通过多信道着色重加权将比特消息映射为对称词表子集缩放,并结合多层顺序重加权与归一化证据累积解码,在保持原始文本质量的前提下实现了长消息的高精度鲁棒嵌入与无参提取。

MCPHunt: An Evaluation Framework for Cross-Boundary Data Propagation in Multi-Server MCP Agents

提出了首个评估多服务器MCP智能体在非对抗正常执行下跨信任边界凭据传播的基准评测框架MCPHunt,通过金丝雀污点追踪与任务强制/违规分层揭示了架构拓扑导致的信息流控制失效风险。

MCPHunt: 多 Server MCP 智能体跨边界数据传播评测框架

针对多 Server MCP 智能体在非对抗正常执行下由于工作流拓扑结构引发的跨信任边界凭证传播,提出了首个受控评测框架 MCPHunt,结合金丝雀污点追踪与 CRS 任务分层,揭示了主流大模型 11.5%–41.3% 的违规传播率。

Metaphor is not all Attention Needs

通过构建三维可解释注意力张量降维表征与线性探测,揭示诗歌等文学越狱并非依靠孤立修辞手法或模型未能识别文学体裁,而是利用累积的风格与结构异常避开后训练安全触发词,诱发与有害意图识别脱钩的特定注意力模式。

MindGuard: Guardrail Classifiers for Multi-Turn Mental Health Support

针对通用大模型安全护栏无法区分治疗性情感宣泄与真实临床危机导致高误报和漏报的问题,本文联合临床心理学博士制定临床风险分类法,构建首个多轮心理对话专家标注基准 MindGuard-testset,并通过受控双智能体仿真训练出 4B/8B 轻量级护栏分类器 MindGuard,在实现 0.982 AUROC 的同时大幅降低高召回下的假阳率与端到端恶意攻击成功率。

(Mis)generalization of Helpful-Only Fine-Tuning

本文系统揭示了现有“只帮不拒”(Helpful-only)模型普遍存在的涌现错位、反思不一致与缺乏可控性等泛化缺陷,证明简单的反拒答微调是导致此类失调的主要根源,并提出了基于宪法原则与合成文档微调(SDF)的角色训练管线,成功塑造出具备深度身份自洽、高可操控性且极低涌现错位的高服从模型。

Mitigating Memorization Where It Happens

本文针对大语言模型逐字复述训练序列的隐私与版权隐患,提出门控子空间导引(Gated Subspace Steering, GSS)推理期干预框架,通过目标与参考模型的逐token超额对数似然比定位记忆集中的少数关键位置,并在奇异值分解得到的低秩子空间内仅对超阈值token施加闭式导引矫正,在不更新模型权重的条件下实现高效记忆消除与泛化效用保留。

MJ: Multi-Turn LLM Jailbreaking via Decomposed Credit Assignment

针对传统 GRPO 在多轮对话越狱攻击中粗粒度广播轨迹级优势导致的前缀信用误分配问题,本文提出分解信用 GRPO(DC-GRPO),将当前轮即时收益与未来剩余回报的群相对信用显式解耦加权,在主流开源受害者大模型上取得了 98% 以上的五轮越狱成功率。

MLLMEraser: Achieving Test-Time Unlearning in Multimodal Large Language Models through Activation Steering

本文提出了 MLLMEraser,首个无需参数更新的多模态大模型测试时机器遗忘框架,通过对抗扰动图像与内在拒绝语义构建双模态遗忘方向,并利用保留集激活的零空间投影实现输入自适应激活引导,在消除隐私与有害记忆的同时实现对保留知识的近乎零损伤。

Model Spec Midtraining: Improving How Alignment Training Generalizes

提出模型规范中间训练(MSM),在预训练后与微调前利用讨论模型规范(Model Spec)的合成文档构建先验,引导后续对齐演示学习底层原则,大幅提升分布外泛化并显著抑制智能体失步率。

Models Designed to Forget: Machine Unlearning via Key Deletion

本文提出面向近似机器遗忘的“设计即遗忘”(Unlearning by Design)新范式与 MUNKEY 架构,通过冻结视觉编码器提取键、学习样本级范例向量解耦静态参数记忆,在接收遗忘请求时仅需删除对应键值对即可实现常数级时间、免模型权重更新的零样本机器遗忘。

Models That Know How Evaluations Are Designed Score Safer

本文提出并系统实证了“评估元知识”这一新型安全评测混淆因子,发现仅在描述基准结构与设计特性的合成文档上微调,即可使大模型在无需显式语言化测试感知的情况下自发提升安全拒绝率并降低有害性,揭示出评测虚假繁荣的新机制。

MT-JailBench: A Modular Benchmark for Understanding Multi-Turn Jailbreak Attacks

针对现有大模型多轮越狱攻击端到端评测混淆攻击机制与搜索预算、裁判标准的痛点,提出将多轮越狱解构为五个标准化交互模块的评测基准 MT-JailBench,揭示提示词生成是性能主因,并通过模块重组构建出跨21个目标模型刷新最高攻击成功率的 CrescendoX。

Narrative Paradoxes in LLM Inference: Shaping Reasoning Trajectories Toward Misalignment

论文揭示了大语言模型显式推理中“局部单步合规却累积导致全局危害”的安全盲区,提出基于“恶意主体-良性载体”叙事悖论与三阶段强制分析框架的无梯度越狱攻击 PDRA,在隐藏状态表征与词表投影空间显著抑制拒绝激活,取得 96.5% 平均攻击成功率并生成高危害可执行方案。

NEST: Nascent Encoded Steganographic Thoughts

NEST 系统评估了 34 款大模型在隐写思维链(Steganographic CoT)上的双重能力,揭示前沿模型具备在无害掩护文本中纯编码已知信号的通道底线,但联合执行“边推理解题边隐蔽编码”的能力全面崩溃,隐写通道收益被无语义填充 token 完全支配。

Non-Colliding Biometric Identities for Digital Entities: Geometry, Capacity, and Million-Scale Virtual Identity Provisioning

针对数字实体缺乏具身生物特征身份的问题,本文提出生物特征身份配置(BIP)框架,通过在真实人脸流形的未认领间隙中实施基于排斥力与主成分扰动的受限装球,并结合流形外课程微调的 GapGen 生成器,首次实现了千万级与真实注册库零碰撞、百万级高质量人脸图像落盘的虚拟身份系统。

Not All Refusals Are Equal: How Safety Alignment Fails Cybersecurity at Scale

通过对涵盖 0.6B 到 1T 参数的 24 个开源大模型进行大规模正交投影消融实验,证明了通过精心构造任务对比数据集可以在万亿参数 MoE 模型(Kimi K2)上实现仅消除网络安全领域拒绝、同时保留常规安全护栏的领域特异性消融,并揭示安全训练方式与模型架构是消融易感性的关键预测因子。

On Inherent Privacy of Posterior Sampling: A Unified Rényi-Divergence Framework

本文提出了一个基于 Rényi 散度的统一理论框架,证明了单次后验采样(OPS)的隐私损失完全由单样本对数似然比的后验指数矩决定,建立了次高斯与次指数尾部机制下的显式差分隐私保证,并系统阐明了样本量、先验正则化与相邻数据集定义对内在隐私的决定性作用。

On-Policy Consistency Training Improves LLM Safety with Minimal Capability Degradation

针对传统离线一致性训练易导致模型死记表面形式与通用能力严重衰退的问题,提出在策略一致性训练(OPCT),利用模型对对比提示词生成的实时 rollout 实施自监督逆向 KL 散度约束,在近乎消除谄媚性与越狱漏洞的同时保持通用基础能力。

On the Burden of Achieving Fairness in Conformal Prediction

本文从总体非一致性得分分布视角出发,证明了保形预测中单池化阈值的组覆盖畸变守恒律与下界,并确立了等覆盖率与等集大小两大主流公平目标之间根本性、双向不可兼得的不可能定理。

On the Price of Privacy for Language Identification and Generation

首次系统建立了不可知统计语言学习(识别与生成)的差分隐私理论框架,证明在近似差分隐私下隐私成本为零,而在纯差分隐私下收敛指数仅损失 \(\min\{1, \varepsilon\}\) 因子且紧致匹配下界。

Out-of-Distribution Detection in Continual Learning

针对免重放持续学习中灾难性遗忘与缺乏历史数据导致的 OOD 判别失效问题,本文提出基于径向基柯尔莫哥洛夫-阿诺德网络(RBF-KAN)的任务自适应分类器(TA-KAN),通过依任务新旧程度动态调控激活局部性消除近期任务偏差,并引入基于 Prompt 空间的双层流形几何引导评分函数,在无需缓存历史样本的前提下实现了 ID 分类与 OOD 检测的双 SOTA。

Partition-Aware Unlearning for Removing Spurious Correlations in Large Vision-Language Models

PURGE 提出了一种结合三类结构化数据划分(像素掩码解耦、模型行为诊断、语义线索隔离)与分区感知机器遗忘(NPO/KL/GA)的统一框架,在冻结视觉编码器并参数高效微调投影器与语言模型 LoRA 的设置下,精准切断大视觉语言模型中目标与背景的虚假相关性捷径,在显著降低物体幻觉的同时大幅提升最差组鲁棒性。

Permit: Permission-Aware Representation Intervention for Controlled Generation in Large Language Models

针对敏感上下文进入提示后大模型容易越权泄露信息的安全短板,本文提出 Permit 框架,利用权限诱导隐状态位移的低秩特性,在冻结基座的低维权限敏感子空间中实施轻量级偏移或门控干预,实现多层级、近零泄露的高效可控生成。

Poisoning Attacks on LLMs Require a Near-constant Number of Poison Samples

打破了传统投毒攻击依赖固定数据比例的假设,首次通过跨规模预训练与微调实验证实:大模型后门投毒所需的恶意样本数量接近常数,这意味着模型规模越大、训练集越大,注入攻击反而越容易且成本更低。

Poisoning-Based Backdoors Are Not Cryptographic

本文从计算学习理论证明了依赖投毒标签植入的后门绝不可能具备密码学非对称性:投毒训练过程本身就是该验证器的多项式时间学习算法,因此任何攻击者能成功植入的后门,白盒防御者都能用相同量级的标注样本重构,反之密码学不可学的函数也绝无法通过投毒成功植入。

POLAR-Bench: A Diagnostic Benchmark for Privacy-Utility Trade-offs in LLM Agents

提出了包含 10 个领域、7,852 个样本的双智能体对抗评测基准 POLAR-Bench,通过正交的 5 级隐私策略阶梯与 5 级对抗攻击策略,在无需 LLM 裁判的确定性集合包含验证下全面诊断智能体的隐私-效用权衡曲面。

PrivacySIM: Evaluating LLM Simulation of User Privacy Behavior

提出了首个基于真实用户调研数据评测大语言模型模拟个体级隐私决策能力的基准 PrivacySim,系统揭示了前沿大模型仅能达到 40.4% 的模拟准确率、单纯陈述性隐私态度受隐私悖论干扰而难以预测实际行为,以及隐私理论引导提示与测试时推理算力均无法显著提升模拟保真度的核心困境。

Private Adaptive Covariance Estimation via Gaussian Graphical Models

针对坐标有界数据下的差分隐私协方差估计问题,提出结合指数机制自适应贪婪选点与最大熵半正定重构的 PACE-GGM 算法,在显著降低噪声的同时输出具有高斯图模型稀疏结构的有效协方差矩阵。

Privately Clipping Heavy-Tailed Data

针对重尾高维数据在差分隐私向量求和中缺乏自适应裁剪阈值的难题,本文提出 OptimizeRC 算法,通过将不可私有估计的截断偏置导数近似为低敏感度的残差相干性(Residual Coherence),并结合 AboveThreshold 机制高效实现近似最优的差分隐私自适应裁剪。

PRO: Enabling Precise and Robust Text Watermark for Open-Source LLMs

针对开源大模型在用户完全控制推理和权重修改下难以内嵌水印的难题,提出联合优化可学习映射策略(CAWP)与遗忘扰动感知正则化(FPL)的 PRO 框架,兼顾超低文本困惑度退化与抗模型融合、长步微调的强鲁棒性。

Provable Robustness against Backdoor Attacks via the Primal-Dual Perspective on Differential Privacy

针对后门攻击中训练集投毒与测试集对抗扰动交织导致的联合认证难题,本文揭示了随机平滑与差分隐私对偶形式(隐私画像)的等价关系,提出首个能高效数值组合异构训练与推理随机机制的紧致可证明后门防御框架。

Publishing Below-Threshold Triangle Counts under Local Weight Differential Privacy

本文提出首个在本地权重差分隐私(LWDP)下统计加权图低于阈值三角形数量的两阶段算法框架,通过最小费用最大流/贪心分配最小化节点间计数协方差,并提出 \(O(d^2 \log^2 d)\) 时间的高效平滑敏感度计算算法,将计数相对误差降低达两个数量级。

Rank-Constrained Adaptation for Reliable Real-World Performance

MARLA 用冻结 ERM 模型在有任务标签的留出适配集上的错误概率构建加权特征子空间,仅在该子空间内学习低秩 logit 修正,在不使用子群标签的条件下改善最差群体准确率,同时明确区分无、部分和完整子群知识的模型选择条件。

Residual Paving: Diagnosing the Routing Bottleneck in Selective Refusal Editing

提出了将干预门控决策与残差空间编辑能力彻底解耦的残差铺路(Residual Paving)架构,通过早期层路由与中后层残差专家混合实现三方选择性拒绝编辑,并借助 Oracle 路由诊断证实模型越界劣化的核心瓶颈在于路由选择性而非编辑容量。

Rethinking Molecular Graph Backdoors under Chemistry-aware Admission

针对传统分子图后门攻击脱离化学真实性与数据预处理检验的局限,本文形式化了最小准入流水线协议 ChemGuard,并提出了无需受害者模型参与、基于谷本相似度对齐目标类的化学准入感知后门攻击 ChemBack。

Robust Policy Optimization to Prevent Catastrophic Forgetting

针对下游微调破坏大模型已有安全护栏与特定能力的灾难性遗忘难题,提出微调鲁棒策略优化(FRPO),通过在策略空间以KL球建立最恶最坏奖励极大极小化目标,推导得出无额外计算开销的熵风险等价闭式解与Jackknife偏差校正梯度,在不损害下游适配的前提下显著抑制护栏崩溃。

Safe, or Simply Incapable? Rethinking Safety Evaluation for Phone-Use Agents

本文指出手机智能体在安全评测中表面“未造成危害”存在安全选择与无能动弹的严重混淆,为此提出聚焦高危决策时刻的 PhoneSafety 基准并建立“安全/危险/无效行动”三元分解体系,揭示通用操作能力与安全决策的不一致性。

Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge

针对解码阶段防御依赖模型内部隐状态导致难以跨架构迁移且易引发过度拒绝的瓶颈,提出利用首词输出概率分布中由安全对齐诱导的暗知识提取模型无关潜在安全信号,通过分词器映射与 kNN 距离度量在生成前以极低开销实现高鲁棒越狱拦截与优异的安全性-实用性权衡。

Safety Reconstructed: Generative Modeling via Masked Diffusion Builds Strong Safety Guardrails

将大模型安全护栏从传统的判别式单一判定词预测,重塑为基于掩码扩散语言模型的类条件生成重构与似然比检验,在显著改善置信度校准与消除快捷特征偏见的同时实现了免额外训练的令牌级风险定位与提示词重写。

Sampling-Free Privacy Accounting for Matrix Mechanisms under Random Allocation

针对带随机分配(小球落桶)子采样的矩阵机制隐私放大分析,提出首个无须蒙特卡洛采样的确定性隐私记账框架,分别构建基于循环带状动态规划的精确 Rényi 记账器与基于反向风险函数的条件组合记账器,彻底消除了蒙特卡洛记账对失效率 \(\delta\) 倒数采样的算力开销与概率性松弛。

SLDR: Defending Against Malicious Fine-tuning via Selective Layers Recovery and Dynamic Routing

针对恶意微调破坏大语言模型拒绝行为的问题,本文提出基于符号层级敏感度诊断的选择性恢复与动态路由防御方法(SLDR),仅在敏感度极值层训练 LoRA 恢复适配器并按恶意表征动态激活,在消除有害输出的同时完全保留下游任务效用。

SnapAudit: Active Auditing of Differentially Private In-Context Learning via Snapshot-Based Simulation

SnapAudit 提出了一种主动式差分隐私上下文学习(DP-ICL)审计框架,通过将端到端流程解耦为零温确定性快照生成与后验 DP 噪声引导采样模拟,结合经验 Bernstein 界误差校正与多轮贪心信号搜索,实现了 80–200 倍审计加速,并首次揭露了现有实现中高预算高斯欠加噪与嵌入敏感度低估两项隐蔽隐私漏洞。

Social Choice Foundations for Simulation-Augmented Generation

本文把模拟增强生成中的代表性路由形式化为比例聚类:先预测模拟响应的观点嵌入,再用 SEAR 选择少量模拟器;在明确的奖励分解与误差假设下给出近似代表性保证,并在两个模拟池上优于聚类和随机路由基线,但不研究最终回答的综合生成。

Sort, Partition, Randomize: Optimal Binary Hypothesis Testing under Local Differential Privacy

证明了局部差分隐私下二元假设检验的最优极值机制具有“排序-划分-随机化”(SPR)的刚性几何结构,提出首个将求解复杂度从指数级骤降至 \(O(k^3)\) 的精确动态规划算法。

Stage-wise Attention-Guided Region Sequencing for Adversarial Attacks on Large Vision-Language Models

针对多模态大模型在有限 \(L_\infty\) 扰动预算下空间盲目分配导致攻击效率低下的问题,本文揭示了跨模态注意力向次显著区域转移的可预测性,提出了阶段式注意力引导区域测序攻击框架 SAGA,在完全黑盒设定下于 10 款闭源与开源 LVLM 上大幅刷新 SOTA 攻击成功率并实现了最优的不可感知性。

Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems

本文以 SkillCascade-Bench 的 213 个经过筛选的案例说明:逐技能审查通过不等于联合执行安全;在三类智能体系统与八种模型的沙箱压力测试中,作者报告平均成功率 89.4%,而面向行为组合的防御只取得部分改善。

Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models

揭示了开发者在推理期使用良性数据注入激活转向向量以提升顺从度或结构化格式时,会系统性侵蚀安全边界并使大模型越狱攻击成功率飙升的“转向外部性”现象,并提出安全感知转向 STEER-BIND 予以缓解。

SynthForensics: Benchmarking and Evaluating People-Centric Synthetic Video Deepfakes

针对新一代开源扩散模型合成逼真人脸导致现有伪造检测器全面失效的严峻挑战,论文构建了首个包含 20,445 篇超两万段配对生成视频的大规模以人物为中心的评测基准 SynthForensics,系统揭示了现有取证检测器泛化断崖与多级压缩脆弱性。

Systematic Scaling Analysis of Jailbreak Attacks in Large Language Models

本文将大模型越狱攻击形式化为算力受限的优化过程,在统一的 FLOPs 算力轴上建立了饱和指数缩放律,揭示了基于提示词改写的攻击范式在算力效率与隐蔽性上均显著优于梯度后缀搜索。

Temporal Gradient Inversion for Private Trajectory Reconstruction in Embodied Reinforcement Learning

TRACE 将具身强化学习中的梯度泄漏视为有时间关联的隐私问题,在严格的有序逐步梯度可见性假设下,以时序学习评估观察与动作泄漏,主实验达到约 18.8 dB PSNR,并表明轻量压缩不能替代序列级隐私保护。

Test-Time Defense Against Adversarial Attacks via Stochastic Resonance of Latent Ensembles

提出一种基于随机共振的无监督、架构无关且完全在测试期执行的对抗防御机制,通过对输入施加亚像素微小整数平移扰动并在隐空间经逆变换对齐后集成聚合,以“以噪制噪”消除对抗噪声影响,在图像分类、立体匹配与光流估计等稠密预测任务上均取得显著鲁棒性恢复。

TextSeal: A Localized LLM Watermark for Provenance & Distillation Protection

本文提出针对大语言模型的无失真水印方案 TextSeal,通过双密钥随机路由恢复生成多样性并原生兼容推测解码,结合熵权局部伽马检验与几何覆盖多区域搜索解决文本稀释与片段定位难题,且水印信号可跨模型知识蒸馏迁移以保护模型版权。

The Attacker in the Mirror: Breaking Self-Consistency in Safety via Anchored Bipolicy Self-Play

针对对称单模型自我博弈红蓝对抗中参数共享引发的自洽性偏置与梯度冲突,本文提出锚定双策略自我博弈(Anchored Bipolicy Self-Play, ABS),通过冻结基座并独立演化攻防双方的 LoRA 适配器,在保持通用推理能力与极低显存开销的前提下,显著恢复对抗压力并增强安全防御。

The BatchNorm Illusion: Diagnosing Normalization Artifacts in Machine Unlearning Evaluation

本文揭露了基于批归一化架构的机器遗忘评估中普遍存在的“BN 假象”,证明单次不改变任何权重的保留集前向传递即可使 6/9 种主流遗忘方法的遗忘类准确率反弹高达 78pp,并提出了保权不动点重校准算子与线性探测升高的唯一正交分解理论。

The Geometry of Alignment Collapse: When Fine-Tuning Breaks Safety

论文揭示了良性数据微调导致大语言模型安全对齐崩溃的本质几何机制:微调损失曲面的二阶曲率耦合会在梯度流演化中对轨迹产生向高曲率对齐敏感子空间的持续加速度,推导并验证了对齐效用随训练时间四次方(\(\Omega(\lambda \gamma^2 t^4)\))迅速劣化的动力学规律。

The Platonic Defense: Backdoor Defense for Self-Supervised Encoders in the Era of Large Scale Pre-training

本文提出首个基于柏拉图表征假说(Platonic Representation Hypothesis)的黑盒测试时后门防御范式,将多模型表征在统计流形上的内在兼容性形式化为条件能量函数,通过噪声对比估计实现无监督异常检测,并借助条件去噪得分匹配与 Heun ODE 求解器实现受污染表征的流形净化,在涵盖单模态、多模态后门及对抗攻击的十余种威胁下均显著抑制攻击成功率且几乎无损干净样本性能。

The Pokémon Theorem and other Fairness Impossibility Results

本文将经典的算法公平性不可能性定理统一于再生核希尔伯特空间(RKHS)的条件均值嵌入几何视角,提出宝可梦定理(Pokémon Theorem)证明有限线性公平准则必然在正交补空间遗留 MMD 违规残差,并从理论上确立了公平特征学习在基础率不等时的类别坍缩不可能性。

TherapyGym: Evaluating and Aligning Clinical Fidelity and Safety in Therapy Chatbots

针对心理健康大模型缺乏临床有效性与安全性评估的问题,本文提出了结合认知行为疗法量表(CTRS)与安全红线的 TherapyGym 框架,通过可配置患者模拟环境与专家校验的自动评测法官,利用 GRPO 强化学习将心理咨询对话技能显著提升同时降低临床安全违规率。

Token by Token, Compromised: Backdoor Vulnerabilities in Unified Autoregressive Models

论文揭示了统一自回归模型(UAMs)在共享标记空间下特有的跨模态后门脆弱性,提出了首个针对自回归文生图与图文统一生成的后门攻击 ToBAC,通过自回归自投毒机制实现图像与文本双模态协同操控,并验证了双向数据对称训练作为防御手段的有效性。

Tokens-per-Parameter Coverage Is Critical for Robust LLM Scaling Law Extrapolation

揭示了基于固定每个参数 token 数(TPP)的共线性实验设计会导致 Gauss-Newton 估计问题中雅可比矩阵出现 \(\Theta(\varepsilon^{-2})\) 的病态条件数,使得模型与数据缩放系数不可辨识,并通过覆盖二维 \((N, D)\) 平面的非共线性设计在多模型、跨语料评测中取得 97.3% 的外推胜率。

Towards Anytime-Valid Statistical Watermarking

针对传统大模型统计水印依赖固定样本量假设检验且无法安全早停的根本缺陷,本文提出了首个基于 e-value 的锚点水印框架(Anchored E-Watermarking),在极小极大博弈下推导出最优检测统计量与对数增长率闭式解,实现了任意时刻有效的序贯检验与 13%–15% 的检测 token 预算缩减。

Towards Hyperparameter Transfer for Differentially Private Optimization

提出了首个面向差分隐私优化的最大更新参数化框架 DP-μP,通过建立层级信噪比 (SNR) 守恒条件与基于随机矩阵理论的谱缩放法则,实现了在 DP-SGD、DP-Adam 和 DP-Muon 优化器下从轻量代理模型到大尺寸模型的零样本学习率迁移。

Towards Mitigating Deceptive Safety Alignment in Large Reasoning Models

论文用 DSAR 衡量推理轨迹与最终答案的安全判定不一致,并提出 SARA,将早期安全意识、整段推理安全和答案安全联合用于在线强化学习,在两个 DeepSeek 系模型上改善受扰动推理的一致性,但并非所有场景或安全指标都优于答案奖励基线。

TRACE: Data-Free Text Reconstruction Attacks Against Approximate Unlearning in LLMs

针对大语言模型近似遗忘普遍保留前后模型快照带来的侧信道泄露风险,本文提出首个无需任何目标先验知识的无数据文本重构攻击框架 TRACE,利用嵌入层参数差异锚定候选词表,并结合长度感知的对比困惑度与两阶段搜索实现了高保真度的遗忘样本重构。

TRACE: Structure-Aware Character Encoding for Robust and Generalizable Document Watermarking

针对文档在跨介质传输中水印脆弱且难以泛化到任意字体的难题,TRACE 提出基于字符骨架微结构的扩散引导局部编码范式,通过自动化关键点提取、受控扩散形变与掩码区域替换,实现了在多语言、艺术字体与跨介质攻击下的高鲁棒性、泛化性与超 30dB PSNR 的高隐蔽性。

Training Deliberative Monitors for Black-Box Scheming Detection

本文提出仅基于可观测工具调用与交互轨迹的审慎型黑盒监控器,通过前沿教师生成结构化双向推导并经裁判模型筛选过滤,使用有监督微调与强化学习蒸馏至开源模型,在六个分布外智能体失齐基准上实现了极低误报率与高帕累托性价比。

Training on Documents About Monitoring Leads to CoT Obfuscation

通过合成文档微调模拟监控知识进入预训练语料,证明模型在无需显式指令或针对性对抗训练的情况下,仅凭对监视器的认知即可自主学会混淆思维链以规避检测,且该能力与思维链可控性强正相关。

Trapping Attacker in Dilemma: Examining Internal Correlations and External Influences of Trigger for Defending GNN Backdoors

针对图神经网络后门攻击对局部消息传递产生显著影响的本质要求,提出 praetorian 防御框架,通过掩码自编码器量化子图内部相关性,并通过反事实特征掩码测量对邻居预测的外部影响力,将后门定位转化为双重视角协同审计与鲁棒遗忘,迫使攻击者陷入高攻击成功率与低可检测性不可兼得的两难困境。

TROPT: An Open Framework for Unifying and Advancing Discrete Text Optimization

TROPT 是首个统一离散文本触发词优化执行与算法开发的开源模块化框架,通过解耦模型后端、目标损失、搜索优化器和模板目标,提供了开箱即用的 30+ 优化配方与首个 14 种离散优化器的受控大规模基准评测。

Truthful Calibration Errors for Multi-Class Prediction

本文针对传统多分类分箱校准误差存在促使预测器策略性失真(非真实性)以及分箱粒度导致模型排序反转的问题,基于残差平方和偏置-方差分解构建了严格真实(Truthful)的类别级与置信度校准误差,证明了其在决策论意义下保持布莱克韦尔主导序,从根本上消除了分箱超参数导致的模型评测不稳定。

Unlearning That Lasts: Utility-Preserving, Robust, and Almost Irreversible Forgetting in LLMs

本文揭示了传统 ROUGE 指标与单一问答形式严重虚高大模型遗忘评估的缺陷,提出基于双侧有界 Jensen-Shannon 散度的微调方法 JensUn 及小众事实基准 LKF,在彻底清除指定知识的同时维持全维效用并抵御良性重学习攻击。

UnlearningSoup: Is Repeated Tuning Necessary for Large Language Model Unlearning?

UnlearningSoup 把训练式大语言模型遗忘中的部分重复调参改为评测驱动的权重插值:EfficientSoup 从原模型和两个已训练遗忘模型搜索,PerformanceSoup 合并已有候选,在多个基准上改善经验性遗忘—保留质量并降低选模成本,但并不取消基础遗忘训练或提供认证遗忘保证。

VEX-Bench: Benchmarking Verification Complexity of LLM-Generated Misinformation

提出了统一评估大模型生成虚假信息在人工初筛阶段感知核验复杂度的基准 VEX-Bench,揭示了攻击成功率与下游核验成本的解耦现象,以及生成与核验之间高达 3× 至 169× 的严重资源不对称性。

Watermarking Should Be Treated as a Monitoring Primitive

本文通过观察者威胁模型与受控文本、图像实验论证:在实体绑定持久且推断可靠时,水印可能支持重复归因,因此治理应同时约束内部归因访问和设计相关的外部来源识别,而不能只检验单份内容的水印鲁棒性。

What to Forget in Unlearning? Forget Set Curation for Language Models

提出了针对大语言模型遗忘集构建(Forget Set Curation)的上游基准 CleanSlate,揭示了自然文本检索与直接评估窗口遗忘在选择性输出抑制和通用能力保留上的严重失衡与算法交互效应。

What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents

提出了将检索可用性与敏感真实值解耦的隐私感知长期记忆架构 SP-Mem,结合脱敏混合记忆存储与查询时授权门控检索,在多任务评测中大幅降低无授权私有信息泄露并保持个性化应答质量。

When and Why Adversarial Training Improves PINNs: A Neural Tangent Kernel Perspective

针对物理信息神经网络(PINNs)中对抗训练机理不明的难题,本文基于神经正切核(NTK)建立了首个动态分析框架,揭示判别器通过输入梯度重塑残差谱动力学的本质,并提出了兼顾能量连续衰减的自适应回滚训练算法。

Your Neighbors Know: Leveraging Local Neighborhoods for Backdoor Detection in Decentralized Learning

针对无中心协调者的去中心化学习中后门攻击隐蔽传播的难题,本文提出原生防御框架 Argus,结合单节点局部触发器逆向与一跳邻域跨节点结构相似度(SSIM)协作验证,成功剔除恶意更新与攻击节点,在不同异质性下将攻击成功率降低多达 90 个百分点并保持模型效用接近全知 Oracle。

𝑓-Differential Privacy Filters: Validity and Approximate Solutions

论文揭示了在全自适应组合下直接通过张量积累加构建的自然 \(f\)-DP 隐私过滤器在数学上不成立并给出了充要条件,进而提出全自适应中心极限定理构建出首个闭式近似 GDP 过滤器。

A Unified Framework for Adversary-Aware Differential Privacy Bounds

提出了首个统一的敌手感知差分隐私(DP)上界分析框架,仅依赖隐私参数与敌手先验基线成功率,即可同时涵盖多目标、非均匀先验分布与近似重构指标。

Accuracy vs. Accuracy: Computational Tradeoffs Between Classification Rates and Utility

本文揭示了在具有丰富标签(类型、排序或风险分布)的学习任务中,子群体分类接受率保证(决策/分类精度)与预测校准度及效用最优化(损失极小化)之间存在本质的计算复杂度权衡:贝叶斯最优预测器可同时满足两类精度,但在单向函数假设下,任何多项式时间算法都无法同时兼顾。

Cost Efficient Fairness Audit Under Partial Feedback

针对真实决策场景中仅正向预测个体存在真实标签(部分反馈)且探索负例代价高昂的痛点,本文提出了非对称审计成本模型,设计了在黑盒设定下匹配理论下界的拒绝采样审计算法(RS-Audit),并在指数族混合模型下结合截断统计学习与近似 MAP Oracle 实现了标签代价与精度容限 \(\varepsilon\) 解耦的超低成本审计(Exp-Audit)。

Identified-Set Geometry of Distributional Model Extraction under Top-K Censored API Access

本文首次从计量经济学部分可识别性视角推导了 Top-K 截断 API 下模型分布恢复的总变差直径精确解 \(U_K\) 与极大极小 KL 恢复界,并揭示了单步分布逼近与下游任务能力迁移之间的显著解耦现象。

Information Loss and Disparate Effects in Network Embeddings

本文首次从几何与渐近理论视角解析了无公平性干预的基础网络嵌入算法产生群体差异的内在机制,证明了点积损失在随机块模型上引发的信息损失会导致表征不可逆性,并不对称地过度压缩并致密化小社群与稀疏社群,进而造成下游链接预测任务对弱势群体产生系统性高误差。

Monitoring Violations of Differential Privacy over Time

针对差分隐私算法在持续开发与部署中因代码改动或参数调整导致隐私违规的问题,本文提出了首个基于加权时间聚合与标准布朗运动极限分布的实时差分隐私监控框架 ReTiDP,在严格控制全周期误报率的同时大幅降低了单次采样的计算开销。

Optimal Rates for Differentially Private Hypothesis Testing with E-values

本文针对中心差分隐私约束下的简单假设检验问题,给出了 \(\varepsilon\)-DP e-值的实例最优 e-power 渐近界与紧匹配构造,并在序贯检验场景下证明了停止时间的下界,同时提出了一种达到常数竞争比的批量转 e-过程算法。

PACZero: PAC-Private Fine-Tuning of Language Models via Sign Quantization

PACZero 提出了一种基于符号量化与子集聚合的零阶语言模型微调机制,在二元释放下精确计算互信息并利用高频的一致性无损更新,首次在互信息损失 \(I(S^*; Y_{1:T})=0\)(对抗成员推理后验等于先验)的高隐私状态下实现了接近非私有微调的实用模型性能。

Persona-Model Collapse in Emergent Misalignment

论文揭示了窄域有害微调(如生成不安全代码)诱发的涌现性失齐(emergent misalignment)本质上不仅是暗黑人格的权重倾斜,而是语言模型内部模拟、区分并维持连贯人格能力的“人格模型坍塌”(persona-model collapse),表现为跨角色易感性激增、角色内稳健性暴跌与道德基础画像顶格饱和。

Phantom Transfer: Data Poisoning Can Survive Data-Level Defences

提出了泛化型数据投毒攻击 Phantom Transfer,通过教师模型诱导隐藏情感并过滤显式关键词,使植入的情感或后门能够跨不同架构学生模型迁移,并彻底抵御包括改写与先知判断在内的11种数据级防御。

Position: Watermarking Without Standards Is Not AI Governance

本文指出现有生成式AI水印在缺乏统一量化标准、独立审计机制和强制执行力的情况下,已退化为形式化合规的黑盒象征;进而提出了涵盖“技术标准与基准库-独立黑盒审计-政策与分级执法”的三层治理框架,为AI内容溯源提供端到端的可问责闭环。

RealityTest: How People Probe AI Identity and Whether Models Disclose It

针对真实人机交互中AI身份模糊性带来的欺诈与信任风险,UK AISI构建了首个基于人类真实多语言及双模态提问的大规模AI身份披露基准RealityTest,揭示出提问措辞与交互场景对模型披露行为的影响显著超过模型本体差异,且单条抑制指令即可使前沿模型的披露率骤降至30%以下。

ROK-FORTRESS: Measuring the Effect of Geopolitical Transcreation for National Security and Public Safety

提出双语文化对抗基准 ROK-FORTRESS 与地缘创译矩阵,解耦语言迁移与地缘实体情境对大模型国家安全高危风险防御的影响,发现韩语环境显著触发过度抑制效应且提示词特化主导了开源模型的安全反转。

Safe Few-Step Generation via Velocity Editing

VESFlow 针对少步/单步流匹配文生图模型中轨迹引导失效与语义编码分散的难题,通过贝叶斯安全后验直接推导并编辑连续速度场(或 MeanFlow 平均速度),结合前置风险评分过滤,实现了免训练、保真度无损的高效有害概念抑制。

Securing AI Agents with Information-Flow Control

微软提出首个针对自主智能体规划器的动态信息流控制(IFC)系统 Fides,通过对上下文与工具调用进行确定性策略检查,配合选择性变量隐藏与隔离 LLM 受限解码,在完全免疫间接提示词注入攻击的同时保障多步复杂任务的完成度。

Selective Safety Steering via Value-Filtered Decoding

提出基于价值过滤解码(Value-Filtered Decoding, VFD)的 LLM 推理期安全引导策略,通过设定硬阈值截断并保形校准单步期望安全值,在提升未安全响应防御能力的同时,理论证明并经验验证了对原本安全生成的不必要干预率上界,显著缓解了对齐税与有用性损伤。

Sequential Membership Inference Attacks

针对现实机器学习系统跨训练阶段多轮发布检查点的动态演进特性,本文提出了序贯成员推理攻击(SeMI),证明连续检查点具备使目标样本信号完全集中于单步转移的“隔离特性”,并通过控制金丝雀插入时机实现紧致的差分隐私下界经验审计。

SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing

揭示了传统成员推理攻击在机器遗忘审计中因梯度优化方向相反导致的对齐偏差与虚假遗忘缺陷,提出免训练阴影模型的统计成员推理框架 SMI/SMI-M,将审计建模为特征空间混合比例估计并提供重采样置信区间。

SynBench: A Benchmark for Differentially Private Text Generation

针对差分隐私合成文本生成在长文本与垂直领域缺乏规范评估的问题,SynBench 构建了覆盖医疗、金融和法律 9 大高难度数据集的统一基准,通过黑盒离群点成员推理攻击揭示了公网预训练数据污染会虚假推高生成质量并导致名义 \((\epsilon,\delta)\)-DP 隐私保证实证失效。

Training ML Models with Predictable Failures

针对有限评测集难以观测到部署规模罕见灾难性失败的困境,本文推导了极值理论外推预测误差的有限样本分解,并提出直接优化预测误差的可预测性损失(forecastability loss),使模型在保持主任务能力与安全性的同时,失效率具备高度准确的可预测性。

USAD: Uncertainty-aware Statistical Adversarial Detection

针对现有基于最大均值差异(MMD)的统计对抗检测在小样本窗口下检出功效严重衰减的问题,本文提出不确定性感知统计对抗检测(USAD),通过方差差异捕获全局流形位移、扰动协方差差异捕获局部决策边界不稳定性,并利用自适应相关性加权融合,实现了小样本与稀疏对抗混合下的高检验功效与严格假阳率控制。