Truth as a Compression Artifact in Language Model Training¶
会议: NeurIPS 2026
arXiv: 2603.11749
OpenReview: https://openreview.net/forum?id=bmm89qsE0w
代码: https://github.com/Rai220/compression-drives-truth
领域: 预训练
关键词: 最小描述长度, 语言模型预训练, 矛盾数据学习, 错误结构, 压缩假象
一句话总结¶
揭示语言模型在包含矛盾答案的语料中更偏好正确答案并非源于对“真实”的本质感知，而是自回归交叉熵最小化追求高压缩比的结果；当错误系统具备高度自洽规则时，模型对正确答案的偏好便彻底归零。
研究背景与动机¶
现实世界的大规模预训练语料往往充斥着噪声与事实冲突，同一个问题常常在不同网页与文献中出现相互矛盾甚至截然相反的表述。然而令人惊讶的是，即使在未经精细清洗的数据上预训练的自回归 Transformer，在测试时往往仍表现出对正确事实与有效推导的自发偏好。主流观点常将这种能力的涌现归因于模型规模扩展定律、正确高频词条的共现统计优势，或是表征空间中自发形成的线性真理几何方向。然而，当正误答案以完全相同的频次、相同的句式结构乃至相同的表面质量同时出现时，传统解释无法回答为何简单的自回归交叉熵损失能够偏好真理。
这种未解现象的核心矛盾在于：机器学习目标本身只对序列概率进行建模，模型在训练时压缩的是离散文本符号而非物理世界事实。信息论中交叉熵损失最小化严格等价于编码长度最小化（最小描述长度 MDL 原则）。若真理在模型中的胜出纯粹是由于其符合低描述长度规律，那么一旦错误也具备高度自洽且紧凑的符号规则系统，自回归预测器便无法从压缩视角将真理与假说区分开来。现存理论盲区在于缺乏对错误内部结构（随机离散分布 vs 结构自洽体系）的因果隔离探究。
本文的切入角度是：控制正误答案的出现频次为严格的 1:1，冻结句式与领域，将错误的符号结构自洽度作为唯一的自变量进行跨尺度因果干预。核心 idea：自回归语言模型训练中的真理偏好本质上是压缩过程的副产物，模型仅偏好描述长度更短的答案集群；当错误为无序散乱分布时，模型因记忆随机错误代价过高而偏向低描述长度的真理系统，而一旦错误演化为内部自洽的单套紧凑规则，模型的真理偏好将瞬间归于随机猜测。
方法详解¶
整体框架¶
研究设计了一个能够精确控制错误内部可压缩性的对抗反事实语料生成系统，并从零训练 Transformer 架构（参数量从 3.5M 覆盖至 1B）。整体框架围绕正误两套理论体系的编码代价对比展开：生成器针对每个任务（如多步代数、因式分解、方程求解、符号求导及维基百科事实），成对合成在同一前缀条件下的正确解答与错误解答。在去噪实验中，每个问题均包含成对矛盾答案（比例 1:1）；在多规则实验中，系统引入 \(N\) 套独立的虚假规则扰乱可压缩性；最后在判别式配对负对数似然（NLL）和基于符号验证的贪婪生成评估下测量模型对真理的偏好漂移。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入：多步数学/事实问题池"] --> B["受控矛盾语料合成<br/>固定正误比例1:1且语法对齐"]
B --> C["错误系统结构干预<br/>随机离散噪声 vs 单一自洽规则 vs 多规则选择器"]
C --> D["自回归模型端到端训练<br/>3.5M至1B参数/GPT-2与Qwen3架构/字符与BPE分词"]
D --> E["双模态偏好评估<br/>成对NLL判别准确率 + SymPy符号贪婪生成验证"]关键设计¶
1. 最小描述长度（MDL）双部分编码建模：量化真理与错误系统的描述长度差异
为了从理论机理上预测神经网络的收敛趋势，论文将语言模型的自回归训练映射至理想的两部分 MDL 学习器。给定语料库 \(\mathcal{D}\) 包含 \(n\) 个问题，其答案分别由正确理论体系 \(T_1\) 与错误替代体系 \(T_2\) 给出，理想学习器追求总描述长度极小化： $\(L(T) + L(\mathcal{D}|T)\)$ 当替代体系 \(T_2\) 由完全随机的计算错误构成时，规则本身无法泛化，编码错误解答需要对 \(n\) 个独立样本逐个进行记忆编码，其代价为 \(\mathcal{O}(n)\)；而正确系统 \(T_1\) 为紧凑闭合的法则，复杂度为 \(\mathcal{O}(1)\)，在足够大的语料规模下随机错误的记忆负担迫使模型必然选择 \(T_1\)。相反，当 \(T_2\) 是一个内部自洽但错误的固定法则（例如在求导法则中系统性丢弃乘积导数的后半项），其理论自身复杂度 \(L(T_2) \approx \mathcal{O}(1)\)，且在给定该规则时对数据的编码代价 \(L(\mathcal{D}|T_2) \approx L(\mathcal{D}|T_1)\)，模型在压缩理论上完全失去偏好 \(T_1\) 的数学依据。
2. 错误系统结构干预：从单自洽规则向多规则随机选择器的断裂扩展
为进一步验证压缩因果性并排除局部语法简单性等表面混淆因素，系统构造了 \(N\) 套相互冲突但内部高度紧凑的错误规则族 \(\{r_1, \dots, r_N\}\)。当 \(N=1\) 时错误高度可压缩；而当 \(N \ge 2\) 时，虽然每个规则 \(r_i\) 本身极其简短（\(\mathcal{O}(1)\) 复杂度），但将具体某个问题动态映射到规则的选择器函数 \(s: \{1, \dots, n\} \to \{1, \dots, N\}\) 属于独立同分布均匀随机分布，其具备 \(n \log_2 N\) 比特的不可压缩熵。因此总假说编码开销突增： $\(L(\{r_i\}) + L(s) + L(\mathcal{D}|\{r_i\}, s) = \mathcal{O}(N) + \mathcal{O}(n \log N) + \mathcal{O}(n \cdot c)\)$ 由于引入了 \(n \log N\) 阶的不可压缩位，错误集群的可压缩性被严重破坏，迫使模型在 \(N \ge 2\) 时迅速重获对正确答案的强大偏好。
3. 语法对齐的受控反事实语料构建：消除表面语法与步骤长度的混淆效应
为了确保实验变量的单一性，在数学推导任务中使用 SymPy 自动生成和验证包含多步算术、展开因式、一元方程和求导的问题池。在“匹配随机错误”（Matched Random）控制组中，错误不仅在数量上严格匹配自洽规则所篡改的推导步数（平均约 3 步），同时保持字符长度与格式完全相同，剥离因局部错误步数差异造成的表象干扰。在维基百科自然语言文本实验中，利用 spaCy 命名实体识别技术，自洽替换维持全局一致性实体映射（如将所有“France”替换为“Japan”，所有“Paris”替换为“Tokyo”），保持同类型实体与语法依存关系的自洽，而随机替换则在实体类型匹配前提下引入无序实体扰乱共现上下文。
损失函数 / 训练策略¶
模型采用标准因果自回归交叉熵损失，优化器为 AdamW（权重衰减设为 0.01），学习率设定为 \(3 \times 10^{-4}\)，配合线性预热与余弦退火学习率调度机制，序列长度为 256，批大小为 32，训练步数为 5000 步。经充分验证，所有尺度模型在 3000 至 4000 步时对矛盾样本的判别行为已完全收敛并达到性能平台期。
实验关键数据¶
主实验¶
主实验在成对判别设置下测量配对准确率（即模型为正确解答分配更低 NLL 负对数似然的样本对比例），同时验证了从 3.5M 扩展至 86M 的 GPT-2 架构、420M 的 Qwen3 架构以及在 1GB FineWeb-Edu 真实网页文本上以 8% 矛盾数学数据混合预训练的 1B 参数模型。
| 模型规模 / 架构 | 参数量 | 随机错误配对准确率 (Random) | 自洽错误配对准确率 (Coherent) | 显著性 / 偏向差距 |
|---|---|---|---|---|
| GPT-2 tiny | 3.5M | \(65.3\% \pm 1.3\%\) | \(43.5\% \pm 2.6\%\) | +21.8 pp (偏向真理 vs 偏向假说) |
| GPT-2 small | 12M | \(74.6\% \pm 1.6\%\) | \(44.5\% \pm 3.0\%\) | +30.1 pp (偏向大幅扩大) |
| GPT-2 medium | 26M | \(81.1\% \pm 1.2\%\) | \(45.8\% \pm 3.4\%\) | +35.3 pp |
| GPT-2 large | 86M | \(85.2\% \pm 2.3\%\) | \(51.0\% \pm 0.8\%\) | +34.2 pp (自洽准确率保持在~50%) |
| Qwen3-0.6B | 420M | \(86.8\% \pm 2.1\%\) | \(50.6\% \pm 1.9\%\) | 架构鲁棒性验证 (\(p < 10^{-6}\)) |
| Qwen3-1B (FineWeb-Edu+8%) | ~1B | \(76.8\%\) | \(46.7\%\) | 自然网页语料稀释下依然强健 |
消融实验¶
消融实验展示了多规则冲突数 \(N\) 变化时的相变行为，以及在相同模型（tiny, 3.5M）下混淆控制与不同数据比例的影响：
| 配置 / 规则数 \(N\) | 配对准确率 | 说明 |
|---|---|---|
| \(N = 1\) (单套自洽规则) | \(46.6\% \pm 2.4\%\) | 可压缩性相当，模型陷入随机猜测 |
| \(N = 2\) (两套竞争错误规则) | \(77.6\% \pm 1.3\%\) | 出现突跃（+31.0 pp），随机选择器引入不可压缩熵 |
| \(N = 3\) | \(82.8\% \pm 0.1\%\) | 选择器熵进一步增加，迫使偏好真理 |
| \(N = 5\) | \(84.8\% \pm 0.5\%\) | 偏好随不可压缩比特继续上升 |
| \(N = 10\) | \(88.3\% \pm 0.7\%\) | 超越纯随机 baseline，自洽局部规则加随机选择器最难压缩 |
| Matched Random (3步随机篡改) | \(74.5\% \pm 0.4\%\) | 控制错误步数相同，仍高出自洽错误 27.3 pp，排除表面载荷混淆 |
| 20/80 极端频次（自洽错误占优） | \(9.6\%\) (对真理偏好) | 自洽错误在频次占优时，模型以 90.4% 概率全面倒向错误系统 |
| 10/90 极端频次（随机错误占优） | \(67.0\%\) (对真理偏好) | 即使随机错误占 90%，压缩优势依然使模型偏好仅占 10% 的真理 |
关键发现¶
- 结构压缩压倒出现频次：当错误无内部结构时，即使真理样本处于 1:9 的悬殊劣势，模型仍以 67% 的准确率坚定选择真理；但若错误具备一致逻辑，模型则完全丧失真理偏好并纯粹依从表面频次（在 40:60 比例下便有 72% 偏向错误，20:80 下达到 91%）。
- \(N=1 \to 2\) 的锐利相变：错误规则数从 1 增加到 2 产生了最关键的突变（准确率由 46.6% 跃升至 77.6%），严格印证了理论推导中随机选择器引入 \(n \log_2 N\) 不可压缩熵破坏假说可压缩性的机制。
- 跨域验证的逆向扩展假象：在附录深入实验中，若引入跨域因果链进行验证，小模型（3.5M）能借助验证链将自洽错误判别准确率拉回至 70.9%，而大模型（86M）因局部拟合容量更强反而更容易吸收孤立自洽模式，导致验证准确率降至 61.0%（发生逆向缩放）。
亮点与洞察¶
- 将真理偏好去神秘化：明确指出了大语言模型在预训练数据中所谓的“自动去伪存真”不是因为模型内生理解客观世界的对错，而是交叉熵优化本质上追求最低描述长度所产生的数学副产物。
- 波普尔可伪证性准则的信息论对偶：论文建立了 MDL 压缩偏好与科学哲学中波普尔可伪证性准则的深刻映射——需要大量特殊假设（Ad-hoc 修正）去缝补的错误学说具有高描述长度，在学习系统的全局压缩博弈中必然输给精简自洽的正确理论。
- 揭示协同虚假信息的防御危机：散乱无章的互联网随机谣言和噪声会被大模型天然“过滤”，但系统性、协同自洽、具备闭环假说的伪科学或欺骗性语料，能够与真理系统在压缩率上分庭抗礼，预训练阶段完全无法依赖损失函数进行过滤。
局限与展望¶
- 规模与真实互联网语料的距离：主实验主要集中在 3.5M–86M 的紧凑模型，最大拓展仅至 1B 规模与 1GB FineWeb-Edu 混合语料，且 1B 实验仅有单随机种子，与工业界数百亿上千亿参数前沿模型的预训练真实动态仍存在差距。
- 形式化领域与自然语言的压缩差异：数学领域由于推导严格，真理与随机错误的压缩鸿沟极其明显（偏好差达 35 pp）；而在维基百科自然语言文本中，语言的弹性允许局部错误依然保持自然流畅，其压缩优势被压缩至 24 pp 左右且过早饱和（~71%）。
- 判别与生成之间存在显著鸿沟：虽然成对判别准确率在 86M 模型上可达 85.2%，但贪婪生成的端到端数学正确率仅有 52.8%，在面对多步进位算术等任务时自回归错误会迅速累积，说明低描述长度偏好并不等同于高质量生成能力。
相关工作与启发¶
- vs Deletang et al. (2024) / Huang et al. (2024): 前人工作确立了“语言建模即压缩”以及压缩率与下游基准线性相关的经验规律，本文则更进一步，将压缩视作因果机制，直接用来揭示矛盾数据训练下“真理偏好涌现与破裂”的边界条件。
- vs Marks & Tegmark (2024) / Burns et al. (2023): 先前工作在模型内部激活空间找到了代表“真/假”的线性几何方向，但未解释该几何方向为何产生；本文在数据与损失函数层面上提供了自底向上的动力学解释，证明激活层的真理表征本质是自洽低熵集群的几何映射。
- vs Li et al. (2024) (Formality is Favored): Li 等人发现知识冲突时 LLM 偏好正式与高质量书面语料；本文严格控制了文本表层风格与语法质量，将自变量纯化至底层逻辑法则的可压缩性，展现了更深层的信息论驱动力。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 构思极具洞察力，首次从可压缩性因果干预切入解释 LLM 预训练阶段的真理偏好现象。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 210 余次独立模型训练、多规则突变、多架构复现（GPT-2/Qwen3）及 1B 真实文本拓展。
- 写作质量: ⭐⭐⭐⭐⭐ 论证脉络极度清晰严密，理论 MDL 建模与实证消融契合度极高。
- 价值: ⭐⭐⭐⭐⭐ 对理解模型幻觉机理、数据合成配比与防御成体系伪科学虚假信息具有长远的基础理论指导意义。