跳转至

🔍 信息检索/RAG

💬 EMNLP2026 · 71 篇论文解读

📌 同领域跨会议浏览: 🧠 NeurIPS2026 (18) · 🎞️ ECCV2026 (8) · 🔬 ICLR2026 (81) · 💬 ACL2026 (73) · 🧪 ICML2026 (26) · 🤖 AAAI2026 (21)

🔥 高频主题: RAG ×16 · 推理 ×10 · LLM ×6 · 多模态 ×5 · 对抗鲁棒 ×3

A Wolf in Sheep’s Clothing: Targeted Routing Hijacking in Federated RAG

本文首次提出联邦检索增强生成(FedRAG)中的预检索定向路由劫持攻击(Routing Hijacking),揭示了客户端伪造语义画像操纵路由准入的根本脆弱性,并提出了基于检索相关性、画像一致性与跨客户端一致性行为反馈的信任感知安全路由框架(TASR)。

HARVE: Hacking-Aware Reward-Head Vector Editing for Robust Reward Models

本文提出免反向传播的标量奖励模型头向量编辑方法 HARVE,通过从被攻破样本中提取多方向作弊子空间并消除头向量投影分量,在无需微调的情况下显著提升高风险专业与通用领域的防作弊鲁棒性。

Training-free LLM Verification via Recycling Few-shot Examples

本文提出 ReFeri 框架,首次将少样本样例同时用于输出生成与后验验证,通过贝叶斯对数似然分解结合前向置信度得分与留一法后向重构惩罚,在无需额外训练和标注的情况下显著抑制表面模式过拟合,跨 7 个复杂基准取得 8.2% 的相对性能提升。

AfrIFact: Cultural Information Retrieval, Evidence Extraction And Fact Checking for African Languages

提出了首个涵盖 10 种非洲本土语言与英语、包含逾 1.8 万条人工声称的事实核查综合基准 AfrIFact,系统评估了嵌入模型在跨域跨语言文档检索与句级证据抽取中的严重瓶颈,并揭示了主流大模型在非洲语言事实分类中依赖 Few-shot 提示与参数高效微调(QLoRA)才能有效利用证据的关键特性。

AnInter: Anti-Interference Training for Long Context Retrieval

针对长文档检索中目标证据往往只占局部小片段、其余内容形成严重干扰的痛点,本文提出了抗干扰训练范式 AnInter,通过短文本循环拼接合成含噪多正例并采用多正例 InfoNCE 进行微调,在无需昂贵长序列预训练的前提下使模型在 LongEmbed 上取得 16.4 分的平均性能跃升。

Argument Collapse: LLMs Flatten Long-Form Public Debate

本文通过系统比对 5 款前沿大模型在 256 场真实公共辩论中的 23,381 篇生成文章与 1,487 篇人类长文,首次在主论点、支撑分论点与篇章论辩结构三个层次量化了跨模型「论辩塌缩」(Argument Collapse)现象,并揭示了现有基于人类偏好的评价体系对共有论点的强化偏差。

Argus-Retriever: Vision-LLM Late-Interaction Retrieval with Region-Aware Query-Conditioned MoE for Visual Document Retrieval

针对传统视觉语言后期交互检索中文档表征对查询不敏感的痛点,Argus 引入融合查询上下文与空间坐标的区域感知混合专家模块(MoE),实现保持离线多向量索引高效性的查询自适应文档表征,在 ViDoRe V1+V2 榜单上达到 86.0 NDCG@5。

Authority Bias in Conversational Search Engines for Academic Paper Recommendation

本文提出首个针对大语言模型对话式学术论文推荐的受控反事实因果审计框架,在冻结标题与摘要的前提下操纵多维权威元数据,揭示出高达 39.2% 的推荐决策受声望驱动发生翻转,且证实顶会声望主导偏见、前沿模型在温和去偏提示下发生反噬并存在显著的“言行差距”。

Axis-LoRA: Probing and Adapting Embedding Models for Personal-Memory Retrieval

针对通用文本嵌入模型在个人记忆检索中对时间、空间、实体与事件四类属性轴严重欠暴露的问题,提出在冻结底座内部引入轴特定 LoRA 分支与逐查询稀疏门控路由的 Axis-LoRA,在极低参数微调下显著提升长程多会话记忆召回。

Benchmarking Aggregation Queries over Unstructured Text

针对现有检索增强与智能体系统在开放文本上“只找部分支撑证据、缺乏全局完备覆盖”导致系统性漏数的缺陷,本文形式化了语料库受限的实体级文本聚合查询任务,构建了涵盖金融与科研领域 498 道多/单约束聚合查询基准 AGGBench,并通过 15 种代表性系统的系统评测揭示了现有范式在实体召回与证据密度稀疏场景下的根本瓶颈。

BenchPreS: A Benchmark for Context-Aware Personalized Preference Selectivity of Persistent-Memory LLMs

BenchPreS 是首个评估大模型持久记忆中个性化偏好「情境感知选择性(Context-Aware Preference Selectivity)」的评测基准,揭示出前沿模型倾向于将用户偏好泛化为全局执行指令,在需要遵循社会与机构规范的正式沟通场景下误用率(MR)高达 40%~86%,暴露出「只懂无脑顺从、缺乏情境抑制」的核心对齐缺陷。

Beyond Bag-of-Words: Generative Structural Regularization for Dense Passage Retrieval

针对密集表格检索中双编码器陷入词袋匹配捷径、忽视行列绑定的严重词袋退化问题,本文构建了词袋等价的同源结构置换对抗评测基准 Structure-Adv,并提出了融合正交注意力池化与动态掩码生成正则化的 GSR-Table 检索框架,在标准基准领先的同时大幅提升结构鲁棒性。

Beyond Output-Level Correction: Tracing Positional Bias to Early-Layer Commitment in Transformer Multiple-Choice Evaluation

本文通过全有效对因果激活修补与注意力/前馈子层归因技术,首次将大语言模型在多项选择评测中的位置偏置精确定位至残差流归一化深度 0.60 之前的早中期层,揭示了由前馈网络提取语义内容、注意力子层注入标签先验的分阶段决策锁定机制。

Beyond Retrieval: Structuring Evolving and Inconsistent External Knowledge with Proposition Relations for RAG

针对外部知识随时间演化、过时信息与事实冲突频发的难题,ProStruct-RAG 提出将外部知识在检索前组织为带时间戳的命题图,离线挖掘 updates、contradicts 和 supports 有向关系,并在推理阶段通过命题锚点检索与一跳关系邻域扩展将结构化证据呈现给大模型,显著超越无命题间关系的基准。

Beyond the Vacuum: Combinatorial Strategy Selection for Competitor-Aware Generative Engine Optimization

论文指出传统生成引擎优化(GEO)将目标文档置于真空孤岛优化会导致零和博弈下收益衰减,提出由贝叶斯组合结构优化(BOCS)与基于教师理由链的 DPO 微调构成的两阶段竞争感知管线,在竞争饱和环境下显著减缓可见性衰退并取得最强可见性表现。

CamoDocs: A Poisoning Attack Against Retrieval-Augmented Language Models Using Camouflaged Documents

CamoDocs 针对检索增强语言模型提出了一种无查询包含的伪装投毒攻击,通过合成良性与对抗草稿细粒度分块、基于梯度的嵌入空间质心分散优化以及轻量语言模型困惑度连贯性过滤,成功瓦解了稠密检索聚类特征与字面匹配特征,全面规避主流 RAG 防御机制。

Chiaroscuro for Emotions: A Contrastive Emotion Benchmark for Multimodal Language Models

本文提出了基于认知评价理论的对比情感推理基准 CHIARO,包含 1,000 个无显式情感词的双人单事件冲突场景,揭示了前沿语言模型在因果情境情绪归因上落后人类标注 25.7 点的性能瓶颈,并证实其可作为提升情感分类器泛化能力的强互补训练信号。

Concise and Sufficient Sub-Sentence Citations for Retrieval-Augmented Generation

针对现有检索增强生成系统段落/句子级引用冗长或缺失前置主语导致用户核查负担重的问题,提出子句级精准引用标准并构建双重标注基准,通过“规则校验+打分器过滤”生成高质量合成数据配合两阶段微调,在保持极低阅读长度的同时显著提升了引用的精准度与自包含性。

CORE-T: COherent REtrieval of Tables for Text-to-SQL

针对真实跨数据库多表 Text-to-SQL 中稠密检索存在高干扰且破坏连接路径的瓶颈,CORE-T 提出了离线意图富化与键值约束兼容性缓存机制,在线通过单次大模型连贯子集选择与两阶段加性调整,在显著压缩候选表规模与大模型 Token 消耗的同时大幅提升多表 SQL 执行准确率。

CoRect: Context-Aware Logit Contrast for Hidden State Rectification to Resolve Knowledge Conflicts

针对检索增强生成中检索证据与模型预训练先验冲突的问题,CoRect 在推理期通过上下文双向前向计算与注意力过滤无监督锁定证据词元方向,并对深层 FFN 的负向抑制分量执行最小残差流矫正,有效抑制幻觉并兼顾文本流畅度。

Doc-REFRAG: Rethinking Multimodal Document Retrieval-Augmented Generation

针对多图像多模态文档 RAG 中视觉 token 爆炸与检索噪声问题,Doc-REFRAG 提出先粗压缩再由轻量 RL 选择器按问题动态扩展关键 chunk 的机制,并构建含硬负例的大规模数据集 DocLongRAG,在大幅降低首字与跨字延迟的同时全面超越 11 个基线模型。

Dual-View Training for Instruction-Following Information Retrieval

针对传统指令检索模型过度依赖浅层查询-文档语义匹配、对细粒度指令约束迟钝的问题,本文提出基于极性反转的双视角训练(Dual-View Training):利用大语言模型为同一对正负文档生成互补指令使二者相关性标签完全颠倒,通过强迫模型在同一对文本上依据不同指令预测相反标签,显著激发检索器对指令细微变化的敏感度。

DuoPRAG: Rank-Disentangled and Gated Knowledge-Reasoning Fusion

针对参数化RAG将文档知识与显式CoT推理耦合于单一LoRA所引发的严重过生成与表征冗余问题,DuoPRAG将知识与推理拆解为两个独立的低秩适配器,结合连续隐式潜标记与秩维静态掩码及动态门控融合,在无检索文本与显式CoT输入的纯查询推理下刷新多跳问答SOTA。

EARAL: Efficient Attribution of Retrieval-Augmented Answer Generation using Logits

针对检索增强生成中归因信号滞后、前向开销大及伪归因问题,EARAL 通过为检索文档注入轻量标识符 Token 并联合微调校准标识符 Logits,在生成答案 Token 的同时零额外前向计算直接抽取细粒度文档贡献度,再经阈值聚合得到忠实且极低延迟的陈述级归因。

Efficient Iterative Retrieval with Heterogeneous Batching

针对迭代式检索与生成(Iterative RAG)中嵌入(计算密集)与生成(内存密集)负载交替导致的资源失衡与计算气泡,ORTHRUS 在单一推理引擎内通过分块嵌入、增量池化与按剩余Token量动态配比的批内调度算法,实现了单次前向传播中的高效异构批处理。

Efficient Temporal-aware Matryoshka Adaptation for Temporal Information Retrieval

本文提出时序感知俄罗斯套娃表示学习(TMRL),通过在嵌入前缀维度显式构建专用时序子空间,并结合局部与全局自蒸馏和细粒度时序数据增强,使密集文本检索器在零延迟开销下兼顾时序感知与通用语义,实现高效自适应的时序检索与RAG生成。

Escaping the Ambiguity Trap: Content-Level Evidence Tracing for Open-Domain Table QA

针对大规模表格切分后兄弟段落元数据与模式高度相似造成的“歧义陷阱”,本文提出粗到细的探针锚定推理框架(PGR),利用紧凑指纹做全局粗检,再用单次大模型调用合成的键值探针进行内容级确定性溯源重排,并结合 GRPO 优化的语义-规划-执行(SPE)解耦生成代码,显著提升细粒度证据定位精度与端到端表格问答准确率。

eTracer: Polarity-Aware Evidence Grounding

本文提出极性感知证据溯源(Polarity-Aware Evidence Grounding)任务并构建首个含 7,905 对句子级支持与矛盾标注的基准数据集 ETRACER-BENCH,同时设计了基于长上下文编码器的后验框架 ETRACER,通过单次前向传播在完整上下文自注意力交互中联合恢复细粒度证据定位与符号极性矩阵,以约 1/600 的参数量达到超越顶尖商业大模型的矛盾识别性能。

EviRank: Structured Relevance Evidence for Multimodal Image Re-ranking

针对多模态图像重排序中黑盒嵌入表征模糊与自由形式思维链易遗漏/幻觉细粒度约束的瓶颈,EviRank将查询显式解析为包含实体、属性、动作、关系、场景与细节等六大语义槽位的正/反/忽略三元证据包,结合确定性评分准则与列表级精排实现免训练重排,并支持蒸馏出高效学生重排器。

Finding What Matters: Anchoring Context Knowledge with Evolving Indices for Iterative Retrieval

针对多跳问答中迭代检索随步数累积噪声且难以串联碎片证据的痛点,KAIR 提出通过步进式演化索引在上下文内部动态锚定关键词与事实关系,在保留完整原始文档的同时为大模型提供认知导航,显著提升复杂多跳推理精度与抗干扰鲁棒性。

From Gaps to Active Retrieval: Open-Domain Iterative Timeline Completion via Historical Trajectory Analogy and Dynamic Ontology

针对开放域时间线摘要中被动语义检索遗漏因果必需环节与微观要素的问题,提出主动时间线补全框架 ATC(Active Timeline Completion),结合参数化因果检测、历史轨迹类比与动态本体生成定向检索问题,并通过逻辑效用验证过滤伪相关噪声,大幅提升时间线的完整性与时序对齐精度。

From Sufficiency to Reflection: Reinforcement-Guided Thinking Quality in Retrieval-Augmented Reasoning for LLMs

本文针对检索增强推理(RAG Reasoning)中强化学习仅依靠最终结果奖励导致推理链逻辑缺陷、过早停止检索及答案不一致等核心问题,提出了融合“思考-检索-反思”范式与多维过程奖励(充分性、思维质量、反思奖励)的 TIRESRAG-R1 框架,在 3B 基础模型上取得显著性能提升并有效避免训练崩溃。

Gated Residual Discrepancy for Efficient Bi-Encoder Factuality Verification

针对传统双塔模型在事实性核查中易受对称相似度误导和长文档背景噪声干扰的问题,GRD提出基于多槽语义表征的双视角残差差异算子与自适应门控放大机制,在保持双塔离线缓存与23.55倍推理加速的同时达到接近交叉编码器的79.99% Macro-F1。

HiEvi-RAG: Hierarchical Evidence-Driven Reasoning for Long Document Understanding

针对长文档多模态问答中语义检索容易带入无答案干扰页以及单趟检索漏检即级联崩塌的问题,本文提出四阶段 HiEvi-RAG 框架,通过层次化问题分解、基于 GRPO 训练的 EviAgent 多页证据验证与重排序、以及显式记忆引导的滑动窗口迭代推理,在四个长文档基准上平均准确率超越现有开源最强基线 8.05%。

Hyperspherical Semantic Expansion via von Mises–Fisher Mixtures for Zero-Shot Dense Retrieval

针对欧几里得高斯混合模型在单位超球面上诱发的均值范数收缩缺陷,本文提出基于 von Mises–Fisher 混合分布的无训练超球面语义扩展框架 vMF-HSE,解耦语义方向与分布方差,并引入基于边际信息增益收敛的 \(\kappa\)-Stop 动态自适应截断机制,在 BEIR 基准零样本密集检索任务中显著优于基线。

Learning Diagnostic Clarifying Questions for Conversational Question Answering via Data-Efficient Dynamic Distillation

针对开放域对话式问答中传统微调缺乏渐进式消歧协议且低诊断性问题泛滥的问题,提出 D4CQ 框架,通过程序化支架与对比意图收敛对齐、基于诊断性的动态蒸馏加权以及带兼容门控的事后重标记,显著提升了少轮对话下的歧义消解与终答准确率。

MEMORA: A Memory-Enhanced Multimodal Committee Reranking Agent for Reasoning-Intensive Retrieval

针对推理密集型多模态检索中视觉信号引入噪声与重排序器单体无状态的瓶颈,MEMORA 提出融合意图因子委员会重排序、跨查询情景记忆与思维链增强稠密检索器的统一智能体框架,在 MM-BRIGHT 上刷新 SOTA。

MetaRAG: Belief-Action Aligned Policy Optimization for Agentic RAG

MetaRAG 将智能体 RAG 的检索决策建模为模型内部认知与外部动作的对齐问题,通过先验动作验证与免外部评估器的轻量内部信念探测,以答案正确性门控的一致性奖励指导强化学习,显著改善了检索与回答的决策边界校准。

MIMO: Multilingual Information Retrieval via Monolingual Objectives

本文提出两阶段多语言信息检索框架 MIMO,利用冻结的高性能教师模型英语语义空间作为绝对锚点,先通过平行句对蒸馏预热初始化跨语言对齐,再联合优化单语语义蒸馏与跨语言对比学习,在保持高空间均匀度的同时实现鲁棒对齐,在多语言检索基准上大幅超越现有基线。

Multi-Source Retrieval and Reasoning for Legal Sentencing Prediction

针对法律量刑预测中细粒度客观规范散佚与主观自由裁量推理薄弱的双重瓶颈,提出融合多源检索与过程级奖励的强化学习框架 MSR2,通过动作空间动态路由专业法律源并以细粒度量刑要素引导中间推理,在 CAIL2018 与 CJO22 上显著刷新量刑准确率与可解释性基准。

Muon^2: Boosting Muon via Adaptive Second-Moment Preconditioning

Muon^2 通过在极分解正交化步骤之前引入类似 Adam 的自适应二阶矩逐元素预条件(并提出内存高效的因式分解变体 Muon^2-F),从根本上重塑动量矩阵的不良奇异值谱并消除死区,在降低 40% Newton-Schulz 迭代开销的同时显著提升预训练收敛质量与下游评测表现。

OBLIQ-IR: Training a Dense Retriever for Oblique Queries

针对传统密集检索在处理无表层词重叠的“斜向查询”(隐式立场、抽象证明策略、写作风格、话语动态)时第一阶段严重失效的问题,OBLIQ-IR 基于 3B 双塔模型,创新性地将机制透镜两阶段合成查询与冻结文风专家的无分数 kNN 图拓扑蒸馏相结合,在 OBLIQ-Bench 四项任务上全面超越 GPT-5.2 多跳智能体与 Gemini-2 嵌入模型。

OpenResearcher: A Fully Open Pipeline for Long-Horizon Deep Research Trajectory Synthesis

针对长程深度研究 Agent 依赖专有商业搜索 API 导致成本高昂、环境动态且无法复现的痛点,OpenResearcher 提出解耦单次在线自举建库与多轮离线轨迹合成的开源流水线,并结合 search/open/find 三元浏览器操作原语,合成超 97K 条含百步交互的高质量长程轨迹,使 30B 学生模型在 BrowseComp-Plus 上斩获 54.8% 的高准确率。

OSCAR: Optimization-Steered Agentic Planning for Composed Image Retrieval

提出 OSCAR 框架,首创将组合图像检索(CIR)中的智能体规划由启发式试错转化为两阶段混合整数规划(MIP)轨迹优化问题,离线构建包含正向并集与负向交集的黄金轨迹库,在线通过上下文示范引导视觉语言模型(VLM)单次推理生成近最优工具调用与集合运算,仅用 10% 训练数据即在各大基准上全面超越现有 SOTA。

PromptEmbedder: Efficient and Transferable Text Embedding via Dual-LLM Soft Prompting

PromptEmbedder 提出一种解耦表征知识与主干参数的双大语言模型框架,利用轻量级 Prompting LLM 经连续松弛可微生成动态任务软提示,在完全冻结目标嵌入 LLM 的前提下逼近 LoRA 微调性能,并支持仅需训练单层线性适配矩阵即可在数小时内无损迁移至全新未知主干模型。

RAGSentinel: Certifiable Geometric Consensus for Robust Retrieval-Augmented Generation

RAGSentinel 针对检索增强生成(RAG)面临的知识库投毒威胁,提出了一种免训练、适配黑盒大模型的后检索防御方案:利用独立代理编码器测量文档引发的查询条件隐状态偏移,剔除检索共性主题方向后,借助几何中位数与局部近邻度量稳健锚定多数派共识,在理论可认证的自适应半径下精确剔除恶意离群文档。

ReBOL: Retrieval via Bayesian Optimization with Batched LLM Relevance Observations and Query Reformulation

将传统“重构-检索-重排”流水线重构为贝叶斯优化(BO)框架,利用 LLM 查询重构初始化高斯过程多峰相关性后验,并通过多样化批次采集函数与 LLM 批量打分交替迭代主动搜寻高相关文档,大幅提升稠密检索的召回率与排序质量。

RedNote-Vibe: A Lifestyle Social Media Dataset for Detecting AI-Generated Text and Analyzing Its Impact

针对生活方式社交平台高拟真AIGT难以甄别且缺乏长期互动审计的问题,本文构建了首个涵盖跨越五年(2020.10–2025.07)14.8万篇笔记的小红书双语基准RedNote-Vibe,并提出基于31维心理语言学特征的可解释检测框架PLAD,揭示了人机文本在传播爆款度与情感卷入度上的深层互动规律。

ReGround: Grounding Reviewer Comments in Multimodal Evidence

针对同行评审中缺乏细粒度原文多模态证据对齐基准的难题,ReGround 利用作者 Rebuttal 显式引用自动构建了包含 3,656 篇论文与 16,274 个审稿意见-证据对的大规模检索基准,揭示了证据类型推断瓶颈与图文模态高度互补性。

Retrieval-Augmented Generation with Retrieval-optimized TRA Structure

针对传统图RAG中三元组结构导致的语境割裂与层级缺失问题,本文提出以实体为中心的层次化TRA(Title-Relations-Attributes)数据结构与原子化事实索引空间,结合查询分解、互惠排序融合(RRF)与双轨证据重排,在简单与多跳问答基准上取得全面SOTA。

Retrieving Facts or Reinforcing Beliefs? Towards Understanding Confirmation Bias in RAG Systems for Scientific Claim Verification

提出了首个系统化评估科学声明核查中RAG系统确认偏误的基准CoBiT(包含707对微扰声明-反声明),并设计了结合Rank-Biased Overlap与Hellinger距离的重排序偏误度量RBM及生成端偏误指标,揭示了确认偏误在检索、重排序和生成各阶段的层层放大效应。

Retrieving Facts or Reinforcing Beliefs? Towards Understanding Confirmation Bias in RAG Systems for Scientific Claim Verification

针对科学声明验证中 RAG 系统迎合用户查询立场、选择性检索与生成证实性证据的确认偏误问题,本文构建了包含 707 对微扰声明-反向声明的评测基准 CoBiT,并提出了覆盖重排序与生成阶段的多指标量化体系,揭示了不同系统架构与流水线组件对偏见的放大机制。

SAILRec: Steering LLM Attention to Dual-Side Semantically Aligned Collaborative Embeddings for Recommendation

SAILRec 针对大模型推荐中协同信号语义空间割裂及层间注意力失衡问题,提出码本引导的用户/物品双端语义对齐与浅层抑制、深层增强的分层注意力引导机制,显著提升大模型对协同知识的理解与利用效率。

Sampling Less, Knowing More: Contradiction-aware Adaptive Spectral and Entropic Uncertainty Quantification for LLMs

针对多样本不确定性量化固定采样预算导致的计算冗余与一致性错误下的语义塌陷问题,本文提出 CASE 框架,构建基于几何平均对称化的稀疏矛盾图并利用归一化谱范数度量全局语义不一致性,结合动态早停机制与底层 token 预测熵,在减少 30% 以上采样开销的同时显著提升了幻觉检测的 AUROC 和 AUARC。

SCALE: Structured Case-law-guided Anticipatory Legal Reasoning

针对传统法律 RAG 因异构密集判例难以综合以及表层文本匹配偏离深层法律要件的缺陷,SCALE 将欧洲人权法院条文判例指南转化为争点-要素层级图谱,先前瞻性识别案件事实触发的法律争点与事实要素,再定向检索支撑段落生成裁判说理,大幅提升了法律推理忠实度与判例适用准确性。

SemBridge: Language Transfer in Sparse Encoders via Multilingual Semantic Bridge

本文提出了一种面向稀疏检索编码器的跨语言词表初始化方法 SemBridge,通过多语言稠密表征作为语义桥梁并引入 Entmax 稀疏截断加权,将目标语言新词元重构为源语言核心同义词的无噪线性组合,实现了强大的零样本跨语言检索性能并显著加速下游微调收敛。

SemFlowRAG: Directed Semantic Flow from Abstraction to Evidence for Complex Reasoning

针对传统Graph RAG无向拓扑中高中心性抽象概念节点吸附概率导致的“概率黑洞”与语义漂移问题,SemFlowRAG通过段落嵌入协方差张成语义抽象度梯度图,并设计平滑惩罚的有向PPR算法引导概率流从抽象概念层层收敛至具体证据,在多跳问答基准上取得显著领先。

Small Models, Fewer Heads, More Forgetting: Sparse Attention Fine-Tuning for SLM Continual Learning

针对小语言模型(SLM)因注意力头较少更容易在持续学习中遭遇灾难性遗忘的结构性瓶颈,本文提出 LightLoRA 稀疏注意力微调框架,通过奇异值分解量化参数更新贡献,并结合历史梯度方向一致性正交惩罚,仅动态激活极少数高贡献且低冲突的注意力头进行微调,在零新增参数下取得显著优于传统参数高效持续学习基线的效果。

SmallReason-ColBERT: An Ultra-Small Late-Interaction Retriever for Reasoning-Intensive Retrieval

针对端侧轻量晚期交互检索器在长程推理任务上的性能短板,本文提出参数量仅 32M 的 SmallReason-ColBERT,通过投影层通道扩维、两阶段推理语料微调以及仅含 129 个参数的查询词元动态门控头,配合“训练无归一化、评估长度归一化”的非对称目标,在 BRIGHT 基准上逼近 150M 参数的推理专用 ColBERT 模型。

SpeechEditBench: A Bilingual Multi-Attribute Benchmark for Instruction-Guided Speech Editing

提出了首个涵盖 7 类原子任务与复合任务的中英双语指令引导语音编辑评测基准 SpeechEditBench,并构建解耦目标修改与非目标内容保留的锚点评估协议。

STEB: Style Text Embedding Benchmark

提出了首个涵盖7种语言、96个公开数据集和5类任务的风格文本嵌入评测基准STEB,评测40种模型并揭示通用语义嵌入在风格任务上全面失效且不存在全能风格模型。

Structural Anchor Pruning: Training-Free Multi-Vector Compression for Visual Document Retrieval

针对视觉文档检索中 ColPali 等多向量模型带来的海量索引存储瓶颈,本文揭示了 VLM 骨干网络中聚合与对齐相解耦的表征分化现象,提出一种自校准、免训练且与查询无关的结构锚点剪枝框架(SAP),通过分数保留度诊断自动定位结构窗口并依据视觉入度中心性筛选关键图块,在保留 93%–96% 检索精度的同时剪除 90% 的视觉向量。

TEMPO: Realistic Multi-Domain Benchmark for Temporal Reasoning-Intensive Retrieval

针对现有时间 QA 局限于简单事实查找且推理密集型检索缺乏时间对齐的缺陷,TEMPO 提出了首个覆盖 13 个专业领域的时间推理密集型检索基准,包含 1,730 条复杂查询与 3,976 个分步检索规划步骤,并引入时间覆盖率等专用指标,揭示了当前最强检索模型在时序完整证据召回上的严峻瓶颈。

The Magnitude Mirage: Rethinking Confidence for Reasoning-Intensive Retrieval

论文揭示了生产级 RAG 系统中基于相似度绝对分值阈值进行拒答的普遍做法在复杂推理场景下会发生系统性崩溃(“幅值幻象”),并证明利用免推理、免重训的零成本 Top-\(k\) 分数分布指标(如 Score Gap 与 LSMV)能有效恢复检索置信度校准,在 BRIGHT 基准 10% 覆盖率下使端到端下游生成准确率平均提升 8.3 个百分点。

The RAT: A Unified Bayesian Model for RAG Evaluation

论文提出了面向检索增强生成(RAG)评测的统一贝叶斯模型 RAT,沿流水线信息流将检索成功、拒绝回答与任务成功进行联合概率分解,显式区分终端任务正确性与生成器策略遵循度,并借助信息论分析指出检索标注对策略遵循度估计的关键价值,同时支持校准的 LLM 裁判噪声融合。

ToolSpec: Accelerating Tool Calling via Schema-Aware and Retrieval-Augmented Speculative Decoding

针对大语言模型在多轮复杂工具调用中自回归生成延迟高的问题,ToolSpec 提出了一种免训练的推测解码方案,通过有限状态机实现模式感知的模板与受限字段确定性草稿填充,并融合历史调用轨迹的语义检索与前缀匹配续写,结合树状并行验证实现 3.5×–4.2× 的无损端到端生成加速。

Towards AI-Assisted Research Writing: Benchmarking Citation Verification and Claim Grounding

本文构建了首个面向大语言模型科学引言生成(SciIG)的大规模基准数据集与评估框架,提出覆盖 3,900 篇顶会论文端到端数据流水线与 30 项多维度指标,揭示了当前前沿模型在多源文献引证、叙事连贯性与事实溯源上的真实边界。

TRIAD: A Three-Axis Framework for Knowledge Conflict Resolution in RAG

针对检索增强生成中检索上下文与模型参数知识冲突的问题,本文揭示了问题复杂度、长误导性证据和参数召回偏差三轴耦合的失效机理,并提出了免训练的三轴协调框架 TRIAD,通过子问题解耦、信噪比证据局部校准、间接线索引导的参数激活与逐跳仲裁,实现了显著超越强基线与外检索方案的冲突消解性能。

UltraX: Refining Pre-Training Data at Scale with Adaptive Programmatic Editing

UltraX 提出了一种面向大规模预训练数据精炼的自适应程序化编辑框架,通过补全包含插入、删除与修改的完备函数调用空间,并结合自适应提示引导的专家蒸馏与冲突消除后处理,让 0.6B 轻量模型以极低推理开销实现细粒度文本修复,在 5 大语料 20B/100B 预训练验证中全面超越基线。

Understanding Reliability in LLM-based Human Behavior Simulation

提出了三层生成解耦评估框架 ReliMap,从模型容量、画像完备度与群体覆盖度三维系统审计人类行为模拟,揭示了个体准确率与群体分布对齐解耦以及覆盖度仅降方差不减系统性偏差等关键可靠性规律。

VerTox: Verifiable Reward-Guided Corpus Poisoning Against Neural Ranking Models

针对神经排序模型在开放语料中的安全脆弱性,VerTox 首次将语料库投毒建模为可验证奖励引导的强化学习(RLVR)问题,利用组相对策略优化(GRPO)微调轻量 LLM 生成器,在解耦代理奖励下联合优化排名失真与事实篡改并惩罚查询堆砌,使对抗文档在多架构白盒与黑盒排序器中达成近乎完美的攻击成功率,并严重摧毁下游 RAG 问答准确率。