[论文解读] Concise and Sufficient Sub-Sentence Citations for Retrieval-Augmented Generation¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/chen-kkk/cs-citation
领域: LLM / NLP
关键词: 检索增强生成, 细粒度引文生成, 子句级引用, 伪标签评估与过滤, 两阶段微调
一句话总结¶
针对检索增强生成(RAG)中文档或句子级引文冗余信息多、孤立词跨度又缺乏充分指代的问题,本文提出子句级(sub-sentence)引文生成任务,构建包含 2,000 条双标注高一致性基准,并通过结合规则校验与评估器打分的数据增广框架及两阶段微调,使开源大模型在保证自包含语义的同时显著压缩引文长度并削减人工核验用时。
研究背景与动机¶
大语言模型在开放域问答与信息检索任务中展现出卓越的生成能力,但不可避免的幻觉问题严重制约了其在高可靠场景中的落地。检索增强生成(RAG)通过引入外部检索文档作为生成上下文来缓解幻觉,然而检索到的段落通常篇幅冗长、夹杂噪声且仅部分相关,使得人类用户逐字核实生成答案的真实性极为费力。为此,近年涌现的引文生成工作致力于显式地将模型回答与支撑证据建立关联,从早期的网页、段落或固定块(chunk)级别逐步推进到更精细的句子级引文。
然而,完整的句子在实际核验场景中往往不是最优的引用单元。一方面,单个句子经常夹带大量与问题无关的修饰分句、背景说明或伴随事件,产生过引用(over-citation)并徒增用户的认知阅读负担;另一方面,若机械地剪切出仅包含答案实体的局部短语,又极易因缺失先行词、主语隐式省略或代词指代不明而导致信息不自包含(under-citation),用户脱离上下文依然无法确切理解证据指向。现有的归因或显著性方法给出的离散词元或片段权重,亦难以直接作为流畅易读的证据呈现给终端用户。
面对“证据精炼性(conciseness)”与“语义自包含充分性(sufficiency)”之间的权衡矛盾,本文明确将引文单元下沉至子句级跨度,探索如何抽取兼具最小冗余、必要主谓完整性与良好可读性的证据片段。核心 idea:形式化定义兼顾充分性、精炼性与可读性的子句级引文生成任务,构建双人严格一致的高质量标注基准,并设计基于规则与多维评估器过滤的合成数据增广与两阶段微调策略,使大模型既能精准剥离无关子句,又能自适应补齐指代先行词。
方法详解¶
整体框架¶
本文针对 RAG 问答场景设计了一套端到端的子句级引文生成方案。给定输入问题 \(q\)、检索上下文 \(C\) 以及模型生成的答案 \(a\),模型需从上下文 \(C\) 中直接抽取一个或多个精确文本跨度集合 \(E = \{e_1, e_2, \dots, e_m\}\) 作为支撑事实(supporting facts),同时标明对应行标识符,坚决杜绝自由文本转述引入的额外幻觉。
为了克服人工跨度标注的高昂代价并保证训练质量,该方法构建了双层数据与训练管线:首先基于双人标注与严格一致性过滤构建出 2,000 条高质量金标基准;其次,利用在大规模问答池上通过基础模型生成的候选引文,先经格式与答案一致性规则硬校验,再经评估器多维质量打分软过滤;最后采用“合成数据预训练 + 人工金标精调”的两阶段微调机制对开源 LLM 进行训练,使模型兼具泛化多模式引文的能力与精细的边界偏好。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入:问题 q + 检索上下文 C"] --> B["双标注严格一致基准构建<br/>XOR QA / SQuAD / HotpotQA 双人标注与一致性过滤 (2K)"]
B --> C["两级过滤合成数据增广<br/>无标注大池生成 → 规则硬校验 + 六维评估器软过滤"]
C --> D["两阶段课程微调<br/>过滤合成数据通用预训练 → 人工金标精确校准"]
D --> E["输出:答案 a + 最小自包含子句引文跨度集 E"]
关键设计¶
1. 双标注严格一致基准构建:确立三类子句级引文规范与无歧义金标
针对现有引文基准粒度粗放且边界标准模糊的痛点,本文在跨语言开放检索(XOR QA)、段落阅读理解(SQuAD)和多跳问答(HotpotQA)三大基准上构建了首个子句级引文数据集。数据严格按三项准则定义:充分性(包含验证答案所需的全部必要主语或先行实体)、精炼性(剔除无关从句与修饰语)和可读性(保持自然短语或从句边界,严禁孤立碎片关键词)。由此划分出三种典型引文范式:Type-1 为整句本身已足够精炼直接保留;Type-2 为从句含有干扰背景,仅剥离出承载答案的核心子句;Type-3 为答案承载子句主语缺失(如代词 it 开头),必须联合前文先行词抽取多段分离跨度进行支撑。为杜绝主观歧义,基准采用两人独立双标,仅保留空白归一化后跨度完全一致(准确匹配率达 95%)的 2,000 条实例,按 1:1 划分为训练集与测试集,其中最具挑战的 Type-3 占比达 50%。
2. 两级过滤合成数据增广:规则硬校验与六维模型打分的质量控制
由于子句级引文对边界敏感,直接利用 LLM 生成的伪标签极易包含错误答案、幻觉跨度、格式崩溃或过长冗余,直接训练会导致模型性能严重退化。为此,本文设计了“规则级硬过滤 + 评估器软打分”的级联质控机制。在规则级校验阶段,检查模型输出 JSON 的键完整性、生成答案与参考答案的模糊匹配相似度(要求精确匹配、包含关系或归一化相似度 \(\ge 0.85\))、引文跨度在原文中的存在性,并依据引文字数占上下文总字数比例 \(r = L_c / L_x\) 进行惩罚(\(r > 0.60\) 施加强惩罚,跨度数超过 5 个亦受罚),计算启发式得分 \(s_h \in [0, 1]\);仅当 \(s_h \ge 0.50\) 且所有跨度有效时进入第二阶段。在评估器打分阶段,提示评估模型对事实忠实度 \(f_f\)、答案正确性 \(f_a\)、充分性 \(f_s\)、精炼性 \(f_c\)、连贯性 \(f_r\) 及整体质量 \(f_o\) 进行 1-5 分评价,并归一化计算评估得分:
最终合成样本质量得分定义为 \(S = 100 \times (0.40s_h + 0.60s_e)\),仅保留 \(S \ge 80\) 的高质量实例用于扩充训练规模(默认保留 10K 条),有效剔除劣质伪标签。
3. 两阶段课程微调:从多样结构泛化到精准边界对齐
在获得大规模合成数据与高纯度人工数据后,若直接将两类数据简单打乱混合训练,海量合成数据中的轻微模式偏差将稀释人工标注所蕴含的高质量边界信号。本文设计了两阶段训练策略:第一阶段在 10K 条经严格过滤的合成数据上进行前置训练,让模型充分探索并掌握单跨度定位、长句裁剪、跨句先行词拼接等丰富且多样的子句抽取模式,学习规范的 JSON 输出结构;第二阶段将学习率以余弦退火策略转移到 1K(或 0.5K)人工金标数据上进行精调校准。通过分阶段解耦模式泛化与标准标定,使模型在保留对复杂长上下文泛化能力的同时,精准对齐人类对充分性与精炼性严格边界的偏好。
损失函数 / 训练策略¶
模型采用自回归语言模型标准的因果语言建模交叉熵损失进行端到端监督微调(SFT)。所有开源模型均基于 LoRA 机制进行参数高效微调,设置秩 \(r = 8\)、缩放因子 \(\alpha = 32\)、dropout 为 0,并引入 LoRA+ 优化配置(将权重矩阵 B 的学习率比例设为 16)。训练使用 AdamW 优化器,基础学习率设为 \(5 \times 10^{-5}\),搭配余弦学习率衰减调度器;采用 bf16 混合精度与梯度裁剪(最大范数 1.0),在单 GPU 批大小为 2、梯度累积步数为 8 的设置下迭代训练 4 个 epoch。第一阶段加载基础权重在 10K 过滤合成数据上收敛,第二阶段以此权重为检查点在人工标注集上继续微调。
实验关键数据¶
主实验¶
在 1,000 条人工标注测试集上,引文评价以包含行号和跨度的元组为单位,计算字符级 3-gram 重叠度以实现位置对齐下的最佳匹配 Precision、Recall 与 F1,同时统计字符级平均引文长度(Citation Length, CL,越短越精炼)。下表展示了不同开源骨干在不同训练策略下的核心性能(摘自论文 Table 1):
| 模型骨干 | 训练策略 | 召回率 (R) | 精确率 (P) | 引文 F1 (%) | ROUGE-L | BLEU | 平均引文长度 (CL) ↓ |
|---|---|---|---|---|---|---|---|
| Llama-3.1-8B | Base (Prompting) | 26.85 | 18.09 | 20.61 | 58.49 | 43.87 | 142.21 |
| Llama-3.1-8B | Synthetic Only (10K) | 77.81 | 79.33 | 77.86 | 86.40 | 78.35 | 69.15 |
| Llama-3.1-8B | Manual Only (1K) | 77.23 | 78.50 | 77.15 | 86.26 | 77.97 | 67.56 |
| Llama-3.1-8B | Full Method (10K+1K) | 81.20 | 80.98 | 80.46 | 87.75 | 80.72 | 66.72 |
| Qwen2.5-7B | Base (Prompting) | 27.57 | 28.71 | 27.89 | 63.83 | 50.09 | 137.07 |
| Qwen2.5-7B | Synthetic Only (10K) | 77.80 | 79.17 | 77.67 | 86.28 | 78.23 | 68.30 |
| Qwen2.5-7B | Manual Only (1K) | 75.46 | 75.55 | 74.74 | 84.95 | 76.75 | 70.05 |
| Qwen2.5-7B | Full Method (10K+1K) | 78.58 | 77.46 | 77.81 | 86.01 | 77.64 | 67.52 |
| GLM-4-9B | Base (Prompting) | 34.47 | 35.77 | 34.74 | 59.63 | 47.81 | 128.32 |
| GLM-4-9B | Synthetic Only (10K) | 73.91 | 74.76 | 73.70 | 83.58 | 75.38 | 75.20 |
| GLM-4-9B | Manual Only (1K) | 71.42 | 72.57 | 71.99 | 82.45 | 73.44 | 73.74 |
| GLM-4-9B | Full Method (10K+1K) | 74.23 | 73.58 | 73.90 | 83.45 | 75.57 | 71.12 |
与基线方法及强力 Prompting 模型的横向对比结果如下(摘自论文 Table 3):
| 方法体系 | 方法名称 / 设定 | 引文 F1 (%) | 平均引文长度 (CL) ↓ |
|---|---|---|---|
| 句子级 / 粗粒度引文 | LongCite-Llama-3.1-8B | 45.29 | 248.96 |
| 粗粒度引文 | ALCE | 52.46 | – |
| 后验归因 / 扰动解释 | RAG-Ex 2.0 | 58.91 | – |
| 上下文归因消融 | ContextCite | 47.70 | 143.28 |
| 局部归因查询 | LAQuer | 70.04 | 58.97 |
| 启发式裁剪精化 | LongCite + Qwen refine | 51.20 | 94.62 |
| 启发式裁剪精化 | LongCite + GPT-4o refine | 53.61 | 73.86 |
| 前沿闭源 Prompting | GPT-4o prompting (10-shot) | 65.26 | – |
| 前沿闭源 Prompting | GPT-5.4 prompting | 67.42 | 70.60 |
| 前沿开源 Prompting | Qwen-3.6 prompting | 65.16 | 65.14 |
| 本文方法 | Ours (Llama-3.1-8B Full Method) | 80.46 | 66.72 |
消融实验¶
评估器过滤机制有效性消融(基于 Llama-3.1-8B,摘自论文 Table 2)与训练模式消融(摘自论文 Table 6):
| 实验组别 | 实验配置 / 训练设定 | 引文 F1 (%) | 结论与机制说明 |
|---|---|---|---|
| 过滤机制消融 | Manual Only 1K | 77.15 | 纯人工标样基线 |
| 过滤机制消融 | Synthetic 10K 无过滤 (w/o filtering) | 73.24 | 未过滤噪声大跌 3.91%,劣化严重 |
| 过滤机制消融 | Synthetic 10K 评估器过滤 (w/ filtering) | 77.86 | 过滤后纯合成数据已反超纯人工基线 |
| 过滤机制消融 | Synthetic 10K 过滤 + Manual 1K | 80.46 | 强强联合实现最优边界对齐 |
| 训练模式消融 (1K Manual) | Synthetic Only (10K) | 77.86 | 仅在合成数据上训练 |
| 训练模式消融 (1K Manual) | Synthetic + Manual 直接混合打乱 | 78.35 | 简单混合稀释了人工边界偏好 |
| 训练模式消融 (1K Manual) | 两阶段微调 (Two-stage) | 80.46 | 先泛化后标定,获得额外 +2.11% F1 增益 |
此外,在 100 个测试样本的人工盲测中(摘自论文 Table 5),本文方法在充分性(84.5% vs LAQuer 75.0% vs ContextCite 60.0%)、精炼性(78.0% vs 70.5% vs 33.0%)和可读性(81.5% vs 71.0% vs 42.0%)全面领先,并将人类用户的总核验时长从 ContextCite 的 23.5 分钟、LAQuer 的 16.5 分钟大幅压降至 13.9 分钟。
关键发现¶
- 合成数据质量决定生死:直接在未经过滤的 10K 合成数据上微调时,模型 F1 从纯人工训练的 77.15% 暴跌至 73.24%,证明细粒度引文生成的容错率极低;而经过两级过滤后,纯合成微调达到了 77.86%,甚至超越纯人工数据,表明规则与模型级双重打分有效清除了错误边界。
- 两阶段微调优于混合微调:在拥有 1K 人工数据的前提下,两阶段微调(80.46%)显著优于打乱混合微调(78.35%),说明将宏观引文模式学习(阶段一)与微观边界精细校准(阶段二)在时序上解耦至关重要。
- 简单后处理裁剪无法替代子句生成:使用 GPT-4o 或 Qwen 对现有句子级模型 LongCite 的输出进行启发式精简,F1 仅能达到 51.20% 与 53.61%,远落后于本文的 80.46%。分析表明,简单裁剪很容易破坏先行词结构,使 Type-3 类别的指代失效。
- Type-3 成为剩余错误的核心来源:分类型评估显示,Type-1 达到 88.40% F1,Type-2 达到 79.94% F1,而需要找回先行词的 Type-3 仅有 66.91% F1。由于 Type-3 在数据集中占比高达 50%,多跨度分离抽取的协同指代是制约当前精度的核心瓶颈。
亮点与洞察¶
- 从机械字数裁剪到语义自包含的认知跨越:传统观点常把精炼化引文简化为字符串压缩或显著性权重提取,而本文深刻洞察到“充分性”与“精炼性”的本质矛盾在于语法指代完整性(如代词与先行词脱节),由此制定了允许离散多跨度抽取的子句级规范,兼顾了核验效率与人类可读性。
- 解耦模式感知与边界标准的合成数据两阶段训练:利用大模型廉价生成多模式伪标签并辅以六维细粒度打分过滤,再通过两阶段课程训练避免人工高纯度信号被合成噪声稀释,为低资源结构化抽取任务提供了一套高鲁棒的工程化增广范式。
- 极具说服力的人类端到端核验时间评测:跳出单纯的自动词元重叠指标(F1/ROUGE),直接以人类核验用时(从 23.5 分钟缩短至 13.9 分钟)作为最终效用度量,直接证实了剥离冗余子句与补全先行词在实际交互中的巨大落地价值。
局限与展望¶
- 短文本问答局限:当前的标注基准主要集中于短文本或单事实问答,在长文本多实体交织、多主张协同(multi-claim long-form generation)的长文档报告中,子句级多跨度对齐逻辑更加错综复杂。
- 增广阶段的计算开销:合成数据的多轮生成与六维评估器推理需要消耗可观的计算资源与 LLM 推理吞吐。
- 硬抽取跨度的局限性:模型完全依赖从原文精准复制文本跨度,当原文语法极为复杂、跨多层复杂嵌套从句或指代极其分散时,抽取硬性跨度可能无法构造完全符合自然语言阅读直觉的句段。
相关工作与启发¶
- vs 句子级引文系统(LongCite, ALCE, ReClaim):传统系统以句子为最小颗粒度,往往夹杂 50% 以上与核心事实无关的冗余从句;本文将粒度下沉至子句并保留多跨度先行词机制,引文长度从 248 字符骤降至 66 字符且核验更精确。
- vs 后验归因与特征消融方法(ContextCite, RAG-Ex):归因方法依赖输入扰动或词元级显著性热力图,产出的关键词零碎散乱、缺乏可读性,且核验耗时高昂;本文产出的是保留语法主干的连贯子句短语,兼顾机器可验证性与人类阅读习惯。
- vs 局部引文查询(LAQuer):LAQuer 关注用户主动圈定片段的局部支持定位,且倾向于抽取过短的单关键词片段(容易导致充分性不足);本文实现了问答全流程中自适应的子句级自包含引文自动生成。
评分¶
- 新颖性: ⭐⭐⭐⭐ [重新定义了兼顾精炼与指代充分性的子句级引文标准与分类体系]
- 实验充分度: ⭐⭐⭐⭐⭐ [涵盖 3 个模型骨干、对比 10 种基线、包含严格消融分析与真实人类耗时验证]
- 写作质量: ⭐⭐⭐⭐⭐ [逻辑严密清晰,动机对比案例形象,方法与实验章节层次分明]
- 价值: ⭐⭐⭐⭐⭐ [为 RAG 问答落地中的用户核验认知降负提供了切实可行的高效方案]