Understanding the Interplay between Memorization and Learning in Large Language Models¶
会议: NeurIPS 2026
arXiv: 2507.14777
代码: https://github.com/bishwamittra/formaLLM
领域: 可解释性
关键词: 记忆与泛化, 上下文记忆, 形式语言, 记忆感知训练, 大语言模型
一句话总结¶
提出了区分机械死记与结构泛化的上下文记忆指标（Contextual Memorization），通过形式语言严格受控实验揭示出最优语言学习必然伴随局部记忆，并设计了动态下采样已学样本的记忆感知训练策略（MAT）以提升泛化均匀性与训练效率。
研究背景与动机¶
大语言模型在海量语料上进行无监督预训练和微调时，会同时表现出对具体训练文本细节的机械死记（Rote Memorization）以及对语言潜在语法规则的上下文泛化学习（Contextual Learning）。然而，现有学术界对模型记忆行为的度量几乎完全依赖于复述型指标（Recollection-based Memorization），例如固定交叉熵损失阈值或前缀补全准确率。这种基于复述的设定将基于推理规则生成的内容与死记硬背混为一谈——例如模型能够生成从 1 数到 1000 的数字序列，本质源于掌握了计数规律与上下文推理，若单纯因其逐字命中训练样本而断定为“死记”，不仅严重高估了数据泄露风险，也无法揭示记忆与泛化的真实关系。
这种度量缺陷引发了深层次的认知矛盾：研究者普遍视记忆为泛化的有害副产物，渴望探究模型能否在完全不产生死记的情况下学好一门语言；然而主流指标因采用固定阈值，在跨语言、跨数据分布时表现出高度的不一致性。更关键的是，真实自然语言存在难以避免的数据污染与未知的语法熵分布，使得探究记忆何时开始、是否可避免等基础理论问题变得极其困难。
针对上述难题，本文选择以分层概率上下文无关文法（HPCFG）构成的形式语言作为无污染、熵与规则严格可控的实验基准，建立解耦机械复述与结构学习的严格度量体系。本文的核心 idea 是：定义上下文记忆（Contextual Memorization）指标，以模型在未接触目标样本时学得语言结构所能达到的最优损失为自适应边界，严格界定超越纯语言泛化能力的局部过拟合；并由此证实最优学习必然伴随记忆，进而提出根据记忆状态动态剔除已学样本的记忆感知训练（MAT）。
方法详解¶
整体框架¶
本文构建了一套从记忆概念解耦、动态权衡分析到训练干预的完整研究体系。首先，通过严格的形式语言生成管道消除数据污染，并提出上下文记忆指标，通过反事实训练或同频测试样本代理计算各样本的最优上下文损失边界。其次，系统追踪模型在全训练动力学中的演化规律，证实不同训练样本开始被记忆的轮次各不相同，且全局最优泛化点必然晚于部分样本的记忆点。最后，提出记忆感知训练方案（MAT），在各轮训练中监控测试集损失恶化比例并动态下采样最低损失样本，在样本被遗忘时重新放回。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["形式语言基准构建<br/>HPCFG生成无污染训练/测试流"] --> B["上下文记忆度量<br/>以最优上下文损失设立自适应门槛"]
B --> C["动力学解耦与权衡分析<br/>证实最优学习必然伴随样本记忆"]
C --> D["记忆感知训练 (MAT)<br/>按测试损失恶化比例动态下采样"]
D --> E["模型参数更新与遗忘样本召回<br/>实现高稳定、均匀且低成本学习"]关键设计¶
1. 上下文记忆度量：以反事实语言泛化极限作为局部记忆的自适应门槛 针对传统复述型指标使用人为固定损失阈值 \(\tau\) 导致误把上下文结构推理判定为机械死记的缺陷，本文提出了严格针对学习风险的上下文记忆度量。语言学习的核心是掌握底层语法结构并生成未见序列，而记忆则是对单个训练样本的局部过拟合。对于训练集 \(D\) 中的字符串 \(s\)，模型在反事实数据集 \(D' = D \setminus \{s\}\) 上训练时，由于从未见过 \(s\) 本身，其在 \(s\) 上的损失先随着学习全局语言规则而下降，随后因过拟合 \(D'\) 中的其他样本而回升。因此，该反事实训练全过程中取得的最低损失 \(\min_{e^*} \mathtt{loss}(M_{e^*}(D'), s)\) 代表了模型仅凭语言上下文学习所能达到的极限复述能力。本文将训练损失跌破该最优上下文损失的轮次定义为上下文记忆的起始点 \(e_s^{\mathtt{ctx}}\)，并在后续轮次计算归一化记忆得分： $\(\mathtt{mem}^{\mathtt{ctx}}(s, e, D) \triangleq \frac{\min_{e^*} \mathtt{loss}(M_{e^*}(D'), s) - \mathtt{loss}(M_e(D), s)}{\min_{e^*} \mathtt{loss}(M_{e^*}(D'), s)} \in [0, 1]\)$ 理论上证明了上下文记忆严格严于反事实记忆（Counterfactual Memorization）：因为反事实记忆以每轮的瞬时反事实损失为界，只要发生训练与反事实偏差即判定为记忆，但此时模型的泛化损失仍在持续下降。因此上下文记忆起始轮次绝不早于反事实记忆，且其分值为反事实记忆得分的严格下界。为了避免为每个样本独立重训模型的巨大开销，本文进一步利用形式语言同频样本可学性相近的特性，证明了利用同频未见测试样本的最低损失作为最优上下文损失的有效代理。
2. 学习与记忆的不可调和性证明：揭示最优语言泛化必伴随局部记忆 为了回答大模型能否在完全不产生死记的情况下学会一门语言，本文在不同语法熵（高熵语言 \(L_1\) 与低熵语言 \(L_2\)）及不同数据集规模下进行了全周期的训练动力学追踪。研究定义了数据集级的记忆比例 \(\mathtt{mem}_{\mathtt{frac}}\) 与加权记忆分值 \(\mathtt{mem}_{\mathtt{weighted}}\)。实验发现，训练集中的不同样本根据其语法生成路径和频次，存在各自离散的记忆起始轮次 \(e_s\)。在高熵语言中，所有样本的记忆起始点集中在一个狭窄的轮次带；而在低熵语言中，高频与低频样本的记忆起始点分散在一个跨度极大的宽轮次带内。在所有设置下，全局测试损失达到最低的最优学习轮次 \(e^*\) 均不可避免地落在该记忆带内部甚至之后。这意味着模型为了充分拟合语法规则、达到泛化能力的峰值，必须对部分训练样本进行深度拟合并触发记忆，从而在生成式大语言模型中证实了零记忆的最优学习在物理上是不可行的。
3. 记忆感知训练 (MAT)：基于泛化退化反馈的动态样本下采样机制 既然学习与记忆共存且各样本记忆进程异步，传统全量反复训练会导致已学样本被过度死记，进而扰乱模型参数、引发测试集损失振荡与非均匀性。由于树距离分析表明样本记忆仅对结构极相近的测试样本有局部增益，对远端样本毫无助益甚至有害，本文提出了记忆感知训练（MAT）。在每个训练轮次 \(e\)，算法评估测试集（或留出验证集）中相比上一轮损失发生上升的退化样本比例 \(x\%\)；随后在当前训练集中，按训练损失排序直接动态剔除最低的 \(x\%\) 个样本（即已被充分学习、极易被机械死记的样本），集中训练剩余更难、尚未过拟合的样本。如果被剔除的样本在后续轮次中发生遗忘、损失回升，则会自适应重新加入训练队列。该策略无需昂贵的梯度影响分析，以极低的单次前向开销实现了训练难度的自适应调控。
一个完整示例¶
以低熵层次语言 \(L_2\)（词表大小 9，包含分层规则替换）的微调过程为例，对比基础训练与 MAT 的样本流动。假定训练集包含高频样本 \(s_0\)、中频样本 \(s_1\) 与低频样本 \(s_2\)： 1. 基础训练模式：在第 6 轮时，高频样本 \(s_0\) 的训练损失迅速降至 0.2 以下（被复述指标判定为记忆），但其反事实最低上下文损失仅为 0.08，直到第 12 轮其实际训练损失降至 0.05 时才触发上下文记忆。然而低频样本 \(s_2\) 共享生成规则较少，其最优上下文损失较高（约 0.45），在第 7 轮便跌破该阈值成为上下文记忆。基础训练在第 15 轮达到全局最优学习点，但此时高频样本的测试损失开始恶化回升，测试集各频段方差显著放大。 2. MAT 动态训练流程：在进入第 10 轮时，监测到验证集有 25% 的序列损失出现反弹（即 \(x\% = 25\%\)）。MAT 立即根据当前训练损失排序，动态冻结训练损失最低的前 25% 样本（主要包含已学透的高频模式 \(s_0\) 等）。在第 11-13 轮中，模型将算力集中在未掌握的低频模式与稀有分支上；若第 14 轮 \(s_0\) 的测试损失轻微回弹超过阈值，它便立即被重新放回训练批次。最终，MAT 在更少的有效训练样本迭代下，将测试集损失方差压制在更低水平，同时显著削减了全数据集的上下文记忆程度。
损失函数 / 训练策略¶
训练采用标准的自回归交叉熵损失： $\(\mathtt{loss}(M_e(D), s) = -\frac{1}{|s|} \sum_{i=1}^{|s|} \log P_{M_e}(s_i \mid s_{<i})\)$ 实验涵盖 6 大模型家族（Mistral、Llama-2/3、Qwen-2.5、Gemma-2、Pythia、OPT），参数量跨越 0.5B 至 13B。微调基准设定为 50 个 epoch，batch size 为 8，使用线性学习率调度与 0.05 的预热比例。不同模型采用针对性学习率：Qwen、Gemma 和 Llama-3 为 \(5 \times 10^{-5}\)；Mistral、OPT 和 Llama-2 为 \(5 \times 10^{-6}\)；Pythia 为 \(10^{-5}\)。训练集规模跨越 \(\{16, 64, 256, 1024\}\)，并在 1024 条未见测试字符串上进行严格评测。
实验关键数据¶
主实验¶
在代表性形式语言（低熵语言 \(L_2\)、具有长程依赖的低熵语言 \(L_4\)、极低熵语言 \(L_9\)）上，以 Mistral-7B 为骨干模型，对比基础训练（Base Training）、数据去重基线（Dedup）与记忆感知训练（MAT）在最优泛化轮次下的表现：
| 语言环境 | 训练方案 | 最优测试平均损失 \(\mu_{\text{loss}}\) | 测试损失标准差 \(\sigma_{\text{loss}}\) | 上下文记忆得分 \(\mathtt{mem}^{\mathtt{ctx}}\) | 训练成本 (有效样本数) |
|---|---|---|---|---|---|
| \(L_2\) (低熵语言) | Base Training | 0.382 | 0.285 | 0.142 | 51,200 |
| \(L_2\) (低熵语言) | Dedup [41, 47] | 0.415 | 0.312 | 0.138 | 24,600 |
| \(L_2\) (低熵语言) | MAT (本文) | 0.365 | 0.198 | 0.089 | 31,400 |
| \(L_4\) (长程依赖语言) | Base Training | 0.452 | 0.341 | 0.165 | 51,200 |
| \(L_4\) (长程依赖语言) | Dedup [41, 47] | 0.480 | 0.365 | 0.159 | 28,100 |
| \(L_4\) (长程依赖语言) | MAT (本文) | 0.441 | 0.235 | 0.104 | 33,800 |
| \(L_9\) (极低熵语言) | Base Training | 0.298 | 0.245 | 0.118 | 51,200 |
| \(L_9\) (极低熵语言) | Dedup [41, 47] | 0.320 | 0.268 | 0.112 | 21,500 |
| \(L_9\) (极低熵语言) | MAT (本文) | 0.287 | 0.162 | 0.068 | 29,900 |
消融实验¶
针对 MAT 下采样比例超参数敏感性（在语言 \(L_4\) 上测试保守倍率 \(0.5x\)、基准倍率 \(x\)、激进倍率 \(2x\)）以及验证集替换的消融对比（均基于 Mistral-7B 在最优轮次下的 3 次独立运行平均）：
| 实验配置 | 测试损失均值 \(\mu\) | 测试损失标准差 \(\sigma\) | 上下文记忆 \(\mathtt{mem}^{\mathtt{ctx}}\) | 机制说明与分析 |
|---|---|---|---|---|
| Base Training | 0.452 | 0.341 | 0.165 | 无下采样，测试损失振荡严重且记忆分值最高 |
| MAT (\(0.5x\) 保守下采样) | 0.435 | 0.218 | 0.081 | 剔除偏保守，稳定性和均值更优但记忆抑制略弱 |
| MAT (\(x\) 默认基准) | 0.441 | 0.235 | 0.054 | 最优平衡：记忆得分降幅最大且物理可解释性最强 |
| MAT (\(2x\) 激进下采样) | 0.468 | 0.279 | 0.062 | 剔除过量导致部分未学透样本欠拟合 |
| MAT (w/ 留出验证集) | 0.446 | 0.248 | 0.059 | 迁移至独立验证集驱动，泛化与抗记忆增益高度保持 |
关键发现¶
- 去重并不等于解决记忆与不均匀性：简单的训练集去重（Deduplication）虽然将样本频率拉平，但不同语法复杂度的样本在相同频率下的可学性天然不同。去重后模型的测试损失方差仍居高不下（\(\sigma\) 从 0.285 升至 0.312），而 MAT 通过动态基于当前记忆状态下采样，成功将方差削减了 30% 以上。
- 频次与上下文记忆的解耦性：在传统复述度量下，高频样本呈现出近乎 100% 的记忆判定；而在上下文记忆度量下，前 10% 高频样本与后 10% 低频样本的记忆易感性近乎相当，甚至高频样本因其语法规则被其他样本充分覆盖而拥有更低的最优上下文损失门槛，导致其上下文记忆得分略低于低频样本。
- 自然语言无复现预训练下的普适性：在 Qwen-2.5-1.5B 针对 Tiny Shakespeare 以及 FineWeb2（德语、中文、斯瓦希里语、孟加拉语）的从头单轮预训练实验中，MAT 在无数据重复的严苛场景下依然显著压低了测试损失方差，并在更少的数据消耗下提前收敛。
亮点与洞察¶
- 提出严格的上下文记忆边界：将“仅凭语言上下文学习所能达到的最佳复述能力”作为基准线，以单样本反事实或同频代理的最优损失为阈值，在概念和数学上彻底将局部的过拟合死记与全局语言推理拆开。
- 打破传统隐私度量对记忆风险的高估：对被复述指标打上“已泄露隐私”标签的上万条训练样本进行交叉验证，发现超 50% 可被完全不相交数据训练出的参考模型（如 OLMo）精确预测，证明绝大多数所谓“记忆”本质是高频语法模式或公开常识。
- 动态负反馈驱动的数据调度机制：将泛化退化信号（验证集反弹比例）转化为训练集的自适应剔除强度，兼具遗忘召回机制，为 LLM 的主动数据选择与高效退火训练提供了极其轻量且有理论依据的全新范式。
局限与展望¶
- 可学性代理强依赖频次假定：为了避免为每条样本单独跑反事实重训的高昂代价，本文利用同频样本的平均可学性作为近似代理；然而在自然语言中，相同频次的句子可能因句法深浅、语义抽象度不同而存在可学性差异，未来需结合语法树深度或困惑度等多元指标重构代理。
- 启发式下采样仍非严格理论最优：MAT 目前采用简单的最低训练损失贪心剔除策略，尚未直接通过训练数据影响函数（Influence Functions）建立从单测试样本恶化到具体训练样本责任的端到端归因，仍存在进一步精确优化的空间。
- 更大规模自然语言工业级验证：虽然在形式语言及中小规模自然语言预训练上得到了验证，但在千亿级参数、数万亿 Token 的前沿大模型完整预训练生命周期中的落地效果仍有待进一步工程化测试。
相关工作与启发¶
- vs Carlini 等人的复述型记忆度量 [10, 11]：传统工作以固定前缀接续准确率或固定损失阈值衡量记忆，本质服务于成员推断隐私审计；本文指出其将语言泛化推理严重混淆为死记，提出了能够自适应样本复杂度的上下文记忆度量。
- vs Zhang 等人的反事实记忆度量 [71]：Zhang 等人关注样本被移除前后的瞬时性能差，其度量的是成员泄露而非过拟合；本文在理论上证明了反事实记忆是上下文记忆的严格上界，并在模型达到最佳泛化点之前反事实损失已开始分流，无法准确定位真正的局部过拟合起始时刻。
- vs Marion 等人的数据剪枝方法 [51]：Marion 等人依赖外部参考模型的困惑度进行静态数据筛选；MAT 则完全依赖模型自身在训练动力学中的实时泛化退化信号进行动态剪枝与召回，无需预训练参考模型，计算开销更低且能自适应动态调整。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次从学习与泛化风险视角提出上下文记忆度量，并给出完整的理论界定与反事实解耦框架。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 6 大模型家族 18 个模型，结合 10 种严格受控形式语言与 6 种自然语言数据集，涵盖微调、预训练全生命周期。
- 写作质量: ⭐⭐⭐⭐⭐ 概念辨析极其深刻严密，逻辑链路从哲学思考、理论证明到实证方案层层递进。
- 价值: ⭐⭐⭐⭐⭐ 澄清了学界长久以来对记忆与学习边界的误区，对大模型高效训练、数据筛选及隐私风险审计具有深远指导意义。