跳转至

Revisiting Non-Verbatim Memorization in Large Language Models: The Role of Entity Surface Forms

会议: ACL 2026
arXiv: 2604.21882
代码: https://huggingface.co/datasets/naist-nlp/RedirectQA (数据集)
领域: LLM/NLP
关键词: 非逐字记忆, 实体表面形式, 事实问答, 频率分析, RedirectQA

一句话总结

本文通过构建 RedirectQA 数据集（利用 Wikipedia 重定向信息将同一实体关联到多种表面形式），系统研究了 LLM 的非逐字记忆如何受实体命名变体的影响，发现事实记忆既非纯粹依赖特定表面形式也非完全表面无关，且实体级频率在表面频率之外仍有独立贡献。

研究背景与动机

领域现状：大语言模型在参数中存储了大量事实知识，可以在无外部检索的情况下回答知识密集型问题。基于实体的问答 (entity-based QA) 是分析非逐字记忆的常见框架，已有研究表明低频/低知名度实体的事实更不容易被记忆。

现有痛点：典型评估中，每个实体只使用一个规范的表面形式（如 Wikipedia 标题）来查询模型。这使得我们难以区分模型是否"记住了关于实体的事实"还是仅仅"通过特定名称可以访问该事实"。例如，模型对"Pelé"回答正确，但对"Edson Arantes do Nascimento"可能回答错误——底层事实相同，只是名称不同。

核心矛盾：初步诊断发现 Pythia-12B 上 23.7% 的规范-重定向问题对产生了不一致的预测。这意味着现有的单一表面形式评估严重低估了事实访问的不可靠性，基于规范名称的评估可能遗漏大量表面条件化的失败案例。

本文目标：（1）构建一个控制事实三元组不变、仅变化实体表面形式的 QA 数据集；（2）系统评估表面形式变化对事实 QA 的影响；（3）分析实体级和表面级频率各自对记忆准确率的贡献。

切入角度：利用 Wikipedia 的重定向页面作为实体表面形式的自然资源。重定向页面带有类别标注（别名、缩写、拼写变体、常见错误等），可以进行受控分析。

核心 idea：固定事实三元组和标准答案，仅变化主语实体的表面形式，通过 Wikipedia 重定向结构构建大规模受控 QA 数据集 RedirectQA，量化表面形式对事实访问的影响。

方法详解

整体框架

RedirectQA 的构建分三步：（1）从 Wikidata 收集事实三元组 (subject, relation, object)；（2）利用 Wikipedia 重定向信息为每个主语实体关联规范表面形式和重定向表面形式，并按类别分组；（3）使用关系特定模板将表面实例渲染为问题。最终数据集包含 30,560 个表面实例、14,672 个事实三元组、61,120 个问题实现。

关键设计

  1. 重定向类别分组:

    • 功能：将表面形式变体按类型分类，支持细粒度一致性分析
    • 核心思路：从 Wikipedia 重定向页面手动筛选 33 个频繁重定向类别，分为三大类型：替代名称和缩写（如出生名 → 艺名）、拼写变体（如带/不带变音符号）、典型错误（如常见拼写错误）。每种类型代表不同程度的词汇变化
    • 设计动机：不同类型的命名变体对模型的挑战程度不同，分类使得可以量化"正字法小变化 vs 词汇大变化"的影响差异

  2. 双模板消歧:

    • 功能：减少问题措辞对结果的干扰
    • 核心思路：为每个关系类型使用两个问题模板——原始模板和 GPT-4o 生成的语义保持的改述模板。每个表面实例渲染为两个问题实现，报告结果时取平均
    • 设计动机：已有证据表明 LLM 预测对问题模板的表面变化敏感，双模板设计确保观察到的表面形式效应不是单一模板的伪影

  3. 频率分解分析:

    • 功能：区分实体级和表面级频率对记忆准确率的独立贡献
    • 核心思路：使用 DBpedia Spotlight 在预训练语料上进行大规模实体链接，为每个实体计算实体频率（所有关联 mention 总数）和表面频率（特定表面形式作为该实体 mention 的次数）。通过偏相关分析 \(\rho(\text{Ent}, \text{Acc} | \text{Surf})\) 和 \(\rho(\text{Surf}, \text{Acc} | \text{Ent})\) 分离两种频率的独立效应
    • 设计动机：如果准确率仅与特定表面形式频率相关，则支持"强表面特定"观点；如果实体频率在表面频率之外仍有贡献，则说明存在跨表面形式的知识耦合

损失函数 / 训练策略

本文是分析性工作，不涉及模型训练。评估使用 15-shot 提示，答案通过别名感知的字符串匹配判定正确性。

实验关键数据

主实验

在 13 个 LLM 上评估预测一致性（规范 vs 重定向表面形式）。

重定向类型 一致性趋势 说明
拼写变体 最高 模型对小正字法变化（大小写、标点、变音符号）相对鲁棒
替代名称/缩写 最低 大词汇变化（别名、首字母缩写）显著破坏事实访问
典型错误 中等 对拼写错误部分鲁棒但不完美

频率分析（偏相关）

| 模型族 | \(\rho(\text{Ent}, \text{Acc} | \text{Surf})\) 规范 | \(\rho(\text{Surf}, \text{Acc} | \text{Ent})\) 规范 | |--------|------|------| | Pythia 12B | 0.148 | -0.009 | | OLMo 2 32B | 0.113 | -0.032 | | OpenSciRef 1.7B | 0.125* | 0.000 |

关键发现

  • 跨所有模型类别，表面形式变化导致不可忽视的正确性翻转，即使是强指令调优和商业模型也无法实现完美一致性
  • 在规范表面形式子集中，实体频率的偏相关始终显著正相关且强于表面频率，表明事实访问存在跨表面形式的耦合，而非各表面形式独立记忆
  • 反向模式值得注意：模型有时在规范名称下失败但在替代名称下成功，说明人类导向的规范性与 LLM 最可靠访问事实的表面形式不一定一致
  • 首字母缩写（如 NYT → The New York Times）是最具挑战性的变体类型

亮点与洞察

  • 实验设计非常巧妙：利用 Wikipedia 重定向作为免费的、自然的、带类别标注的表面形式资源，构建了一个严格控制的实验——事实三元组固定，仅表面形式变化。这种"最小变化"实验设计思路可迁移到其他鲁棒性评估任务
  • 频率分解是本文最深刻的贡献：将粗粒度的"实体频率→准确率"分析细化为表面级，发现实体频率在控制表面频率后仍有独立贡献，揭示了 LLM 内部存在跨表面形式的知识耦合机制，而非独立存储每种名称的事实
  • 结论"既非纯粹表面特定也非完全表面无关"提供了比二元化更准确的理解框架，避免了简单化的断言

局限与展望

  • 数据集仅覆盖英语实体和 16 种关系类型，跨语言和更多关系类型的行为未知
  • 使用 DBpedia Spotlight 进行实体链接可能引入偏差（零频率案例被过滤），且链接质量对长尾实体可能较差
  • 因果关系未建立——频率相关性不能直接推断因果，可能存在混淆变量（如实体知名度同时影响频率和训练数据质量）
  • 未探索如何利用这些发现改进模型（如表面形式增强训练、多名称数据增强）
  • 评估仅使用 15-shot 提示格式，不同提示策略（如零样本、思维链）可能影响表面形式敏感性
  • 重定向类别的选择基于人工筛选，可能遗漏某些重要的表面形式变体类型

相关工作与启发

  • vs PopQA/SimpleQA: 这些数据集每个实体仅用一个规范名称，RedirectQA 通过表面形式多样化揭示了它们遗漏的不一致性
  • vs Kandpal et al.: 前者研究实体频率与记忆的关系，本文将频率分解为实体级和表面级，发现两者有独立贡献，提供了更细粒度的理解
  • 启发：RAG 系统在查询时应考虑实体表面形式的多样性（用多种名称查询以提高召回）；知识编辑方法需验证跨表面形式的一致性（编辑一个名称后其他名称是否同步更新）

评分

  • 新颖性: ⭐⭐⭐⭐ 表面形式维度的系统研究是新的，但核心思路（名称变体影响QA）较直觉
  • 实验充分度: ⭐⭐⭐⭐⭐ 13个模型、多类别分析、偏相关分解、双模板验证，非常扎实
  • 写作质量: ⭐⭐⭐⭐⭐ 结构清晰，每个设计决策都有充分的理由说明
  • 价值: ⭐⭐⭐⭐ 对理解LLM知识存储机制有启发意义

相关论文