The Future of Facts: Tracing the Factual Generation-Verification Gap¶

会议: NeurIPS 2026
arXiv: 2605.27564
OpenReview: https://openreview.net/forum?id=1Gv8dhNp6R
代码: https://github.com/anjasurina/factgap
领域: 其他
关键词: 事实性生成-验证差距、知识获取动态、持续学习遗忘、事实更新、多重宇宙状态

一句话总结¶

本文系统追踪了语言模型中事实性生成-验证差距（GV-gap）在知识获取、持续学习与更新三个训练阶段的演化机制，揭示了“验证先于生成习得”、“验证对持续学习更鲁棒”以及更新时陷入同时确认新旧事实的“多重宇宙状态”，并在前沿旗舰模型中实证了该规律。

研究背景与动机¶

语言模型正日益成为人类获取事实性知识的默认接口，被数十亿用户高频使用或内嵌在搜索引擎生成的 AI 摘要中。然而，大模型在事实性问答中频繁表现出显著的能力不对称性：给定一个事实三元组（例如“巴黎是法国的首都”），模型往往能够准确验证判断题“巴黎是法国的首都吗？”，却在直接回答“法国的首都是哪里？”时出现幻觉或无法召回。这种“生成-验证差距”（Generation-Verification Gap, GV-gap）虽然在数学推理自改进与测试时扩展（test-time scaling）等前沿方向中被广泛利用，但学术界对其在事实性知识生命周期中的训练形成机制依然知之甚少。

现有文献主要将事实性视为单一维度的能力指标（通常仅测生成召回率），或者在静态、权重冻结的基准上测量差距；另一方面，由于前沿模型预训练数据的高度不透明以及海量数据带来的暴露度混淆，直接基于真实世界事实研究差距的训练动态极其困难。更重要的是，既往研究经常将事实性差距、计算性差距（如 P vs NP）以及审美偏好差距混为一谈，缺乏统一的分类与公理化度量工具。当用户依赖不同的大模型获取知识时，生成与验证的不对称性甚至可能加剧群体间的信息茧房与“后真相”撕裂。

为了突破这一瓶颈，研究者需要一个完全解耦数据暴露度、能够精确控制事实注入与演化全生命周期的实验范式。核心 idea：通过构建高可控的跨领域合成事实与全生命周期微调框架，解耦事实性生成的召回机制与判别式验证决策，从训练动力学角度系统揭示验证先于生成涌现、持续学习非对称遗忘以及事实更新诱发的“多重宇宙”双重确认状态。

方法详解¶

整体框架¶

为了从根源上控制真实世界数据中未知的先验暴露度，本文设计了一个合成事实测试床，将事实性生成与验证能力拆解，并沿着事实的生命周期（知识获取、持续学习、事实更新）进行全程追踪。整体流水线包含合成事实生成与清洗、模型生命周期三阶段微调，以及基于双视角效用（搜索引擎效用与自改进效用）的自动化评测。

在每个阶段中，合成事实由两套前沿大语言模型生成并经过严格的去重过滤，确保实体在现实语料中无重叠且词法高度特异；训练阶段仅提供段落级的单跳释义句，模型在训练时从未见过具体的问答或判断题模板，以检验潜式泛化能力。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["合成事实构建与释义数据<br/>生成6类领域三元组并过滤去重"] --> B["阶段1：知识获取动态追踪<br/>SFT微调直至生成与验证饱和"]
    B --> C["阶段2：持续学习非对称遗忘<br/>引入无关事实T-REx流式微调"]
    B --> D["阶段3：事实更新与多重宇宙探测<br/>覆写三元组目标值并监控双重确认"]
    C --> E["双视角效用与偏差评测<br/>搜索引擎效用与自改进效用"]
    D --> E

关键设计¶

1. 形式化度量体系：解耦搜索引擎效用与自改进效用

为了严格量化事实性 GV-gap，本文确立了两种互补的评估视角，并给出了克服简单类别偏置的校正效用指标。搜索引擎视角模拟真实用户向模型 \(m\) 查询三元组 \((x, r, y^*) \sim \mathcal{D}\)，生成效用 \(U_G\) 定义为产生黄金答案的期望概率，而验证效用 \(U_V\) 考虑用户提出错误候选 \(\tilde{y}\) 的先验概率 \(\alpha_u\)：

\[ U_{V}(m, \alpha_{u}, \mathcal{D}) = \mathbb{E}_{(x,r,y^{*})\sim\mathcal{D}}\Big[(1-\alpha_{u}) P_{m}(1\mid x,r,y^{*}) + \alpha_{u}\mathbb{E}_{\tilde{y}}[P_{m}(0\mid x,r,\tilde{y})]\Big] \]

为了消除总是盲目猜多数类的平凡策略，定义校正验证效用 \(U_V' = U_V - \max(\alpha_u, 1-\alpha_u)\)。在自改进视角中，候选答案来自模型自身采样（错误率 \(\alpha_m = 1 - U_G\)），从而导出自洽效用 \(U_{SV}\) 以及自改进优势 \(\Delta(m, \mathcal{D}) = U_{SV} - U_G\)，为 Best-of-N 拒绝采样等机制提供了清晰的理论边界。

2. 知识生命周期三阶段实验框架：获取、持续学习与更新

针对缺乏暴露度地面真值的难题，本文采用 Gemini 2.5 Flash 与 Claude Sonnet 4.5 生成覆盖政治、医学、宗教、科学、社会、社会偏见 6 个领域的 150 个单跳合成三元组（每个三元组配备 10 句多样化释义）。三阶段训练协议包括： - 知识获取（Acquisition）：采用全量监督微调（Full SFT）注入合成事实释义句，逐 epoch 评估生成正确率与正反验证准确率，探测差距何时打开与闭合； - 持续学习（Continual Learning）：在事实注入后的不同阶段（0, 3, 6, 12 epochs）切换至包含约 1000 句维基百科事实的 T-REx 子集微调，测试分布偏移下的抗遗忘弹性； - 事实更新（Updating）：保持头实体和关系不变，将其尾实体覆写为全新答案并仅以新释义句继续微调，追踪新旧事实的生成与验证迁移。

3. 对照控制与双重审判消除评估混淆

在微调过程中，为了防止模型发生表征坍塌或泛化漂移，实验设置了严格的控制查询（Control Queries）：生成控制查询保留合成谓词但换用真实世界实体，确保模型不产生无意义的局部过度泛化；验证控制查询使用真实实体且正反问法各半，以测算顺从性偏置（Sycophancy）。在推理评估时，模型被强制使用 <reasoning> 思考标签，采用确定性词法解析与 Gemini 3.1 Flash Lite 裁判双重判别，保障评估准确度。

损失函数 / 训练策略¶

实验选用 4 大主流开源模型家族（Gemma 3: 4B/12B、Qwen 3: 4B/14B、Phi-4: 3.8B/14B、Llama 3.2: 3B/11B），均使用指令微调（IT）版本以保持指令遵循能力。为防止微调破坏对话模板，所有事实释义句均置于“user”轮次中进行因果语言建模微调。

训练优化器采用 AdamW，批大小与学习率根据针对各模型的临界批大小（Critical Batch Size）网格搜索确定（学习率区间为 \(5\times 10^{-7}\) 到 \(7\times 10^{-6}\)，批大小 8 到 32）。更新阶段学习率降为获取阶段的 \(1/2\)；持续学习阶段采用余弦退火调度并将学习率降为 \(1/2\) 或 \(1/5\)。控制组任务的验证准确率保持平稳，证实微调超参未破坏既有知识与指令格式。

实验关键数据¶

主实验¶

主实验覆盖 4 个模型家族共 8 种规模，在合成事实测试集上完成了跨生命周期的详细指标评测；同时在真实世界覆盖梯度的三大数据集（标普 500、NBA 比分、乐透号码）及公告牌百强榜上对 GPT 5.4 与 Gemini 3 旗舰模型进行了自然实验。

模型 / 评估阶段	生成准确率 (\(U_G\))	验证准确率 (\(U_V\))	原始 GV-gap (\(U_V - U_G\))	正向验证准确率 \(U_V(\checkmark)\)	负向验证准确率 \(U_V(\times)\)	确认偏置 (Bias)
Gemma-3 12B (获取饱和期)	0.94	0.98	0.04	0.98	0.98	0.00
Phi-4 Mini 3.8B (获取末期)	0.72	0.92	0.20	0.94	0.90	+0.04
GPT 5.4 Large (自然数据-总体)	0.45	0.73	0.28	0.82	0.64	+0.18
GPT 5.4 Medium (自然数据-总体)	0.30	0.63	0.33	0.71	0.54	+0.18
GPT 5.4 Small / Nano (总体)	0.00	0.39	0.39	0.49	0.29	+0.20
Gemini 3 Large (自然数据-总体)	0.65	0.83	0.18	0.82	0.83	-0.01
Gemini 3 Medium (自然数据-总体)	0.62	0.82	0.20	0.89	0.75	+0.14
Gemini 3 Small (自然数据-总体)	0.36	0.67	0.31	0.78	0.56	+0.22

消融实验¶

通过在自然实验中消融模型蒸馏压缩程度与思考/推理等级（Low vs Medium Reasoning），揭示了推理计算与参数压缩对事实性差距的结构性影响。

实验配置	生成准确率 \(U_G\)	验证准确率 \(U_V\)	GV-gap	\(U_V(\checkmark)\)	\(U_V(\times)\)	确认偏置 \(\Delta\text{bias}\)	结论说明
GPT 5.4 Large (Low Reasoning)	0.45	0.73	0.28	0.82	0.64	基准 (0.18)	初始存在显著确认偏置
GPT 5.4 Large (Medium Reasoning)	0.45	0.75	0.30	0.90	0.61	+0.10 (0.29)	增加推理无法提升生成，反倒加剧顺从偏置
GPT 5.4 Medium (Low Reasoning)	0.30	0.63	0.33	0.71	0.54	基准 (0.18)	蒸馏使生成能力呈现严格子集缩退
GPT 5.4 Medium (Medium Reasoning)	0.31	0.67	0.36	0.91	0.43	+0.31 (0.49)	错误陈述的拒绝率跌破随机猜测阈值 (0.43)
Gemini 3 Medium (Low Reasoning)	0.62	0.82	0.20	0.89	0.75	基准 (0.14)	蒸馏引入确认偏置
Gemini 3 Medium (Medium Reasoning)	0.62	0.84	0.22	0.90	0.77	-0.01 (0.13)	推理对 Gemini 确认偏置影响较小
持续学习干预点: 0 Epoch 切换	0.05	0.58	0.53	0.62	0.54	+0.08	刚习得即漂移，生成暴跌但验证维持有效底线
持续学习干预点: 12 Epoch 切换	0.32	0.81	0.49	0.85	0.77	+0.08	充分学习可显著提高持续学习下的抗遗忘底线

关键发现¶

验证先于生成习得，且差距在损失函数上不可见：在所有 4 个模型家族和 2 种尺寸中，验证准确率均在极少 epoch 内迅速攀升，而生成准确率呈现明显的阶段性滞后。常规的微调训练损失单调下降，无法体现出 GV-gap 的开启、峰值与闭合过程。
持续学习中验证的断崖抵抗力：当注入外部无关数据时，生成准确率发生剧烈塌缩，但验证效用展现出极强的惰性与稳定性，稳定在一个显著高于随机水平的“保护底线”上；且模型参数越大、前置训练越充分，该底线越高。
事实更新引发的“多重宇宙状态”（Multi-verse State）：在新事实微调后，模型在生成端能迅速翻转至新答案，停止生成旧答案；但验证端却持续判定旧答案和新答案均为正确，陷入认同两套相互矛盾事实的认知分裂。
推理无法弥补事实性生成，甚至加剧确认偏差：在前沿模型（如 GPT 5.4）上增加思考时间（Test-time Reasoning）完全无法提升事实性生成准确率，反而大幅增加了对错误陈述的肯定倾向，加剧了顺从倾向。

亮点与洞察¶

构建了三类 GV-gap 的清晰分类学：严格区分了事实性（Factual）、计算性（Computational）与审美性（Aesthetic）差距，指出了事实性差距具备训练可溯源性和确定性度量特质，终结了以往文献中将推理自改进与事实回忆混为一谈的模糊状态。
揭示更新中的“多重宇宙状态”机制：发现模型在面对新知识时由于缺乏显式的否定证据，仅更新了生成路径而未擦除判别特征，为持续学习与模型编辑（Knowledge Editing）的评估盲区提供了全新的实证视角。
前沿旗舰模型上的自然实验印证：巧妙利用现实世界中不同主题（标普 500 > NBA > 乐透）及时间跨度形成的数据密度梯度，完美复现了可控实验中的三阶段演化特征，证实了合成实验规律在工业级预训练模型中的通用性。

局限与展望¶

依赖单跳合成事实设定：研究为排除复杂推理链条的干扰，主要采用单跳三元组，尚未拓展至多跳（Multi-hop）依赖的事实链路与复合知识网络。
后训练微调与预训练规模的差异：虽然合成实验覆盖了中训练（Mid-training）范式，并结合自然实验验证了结论，但在千亿 token 级原生预训练阶段中该动态的底层物理过程仍待进一步端到端追踪。
缺乏与检索增强或自纠正策略的联合度量：未直接评估 RAG 或 Best-of-N 等机制在实际缓解多重宇宙状态和确认偏置时的代价，后续需进一步探究外挂知识库对验证鲁棒性的干预。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次从全训练生命周期（获取、遗忘、更新）系统追踪事实性生成与验证的不对称演化，提出多重宇宙状态等核心概念。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 4 大主流开源家族 8 种尺寸模型，结合 1500 句合成事实与千万级自然实验事实，消融了蒸馏与思考计算。
写作质量: ⭐⭐⭐⭐⭐ 结构严密，数学符号形式化清晰，图表与论点环环相扣。
价值: ⭐⭐⭐⭐⭐ 深刻揭示了以大模型为知识基础设施时的信息演化风险，为数据整理、持续学习评测与下一代训练范式指明了方向。