Norm Anchors Make Model Edits Last¶

会议: NeurIPS 2026
arXiv: 2602.02543
OpenReview: https://openreview.net/forum?id=QbwOoMKB05
代码: https://github.com/SasyaTitech/NAS
领域: 知识编辑
关键词: 知识编辑, 定位与编辑, 范数爆炸, 正反馈环路, 范数锚定

一句话总结¶

揭示了顺序定位与编辑（Locate-and-Edit）中求解目标值向量与前馈网络权重相互放大的正反馈循环是导致模型崩溃的核心根源，提出单行即插即用的范数锚定缩放（NAS），将求解值向量约束至基模参考范数，将可编辑生命周期延长4倍以上。

研究背景与动机¶

大语言模型虽然蕴含着海量世界知识，但在实际部署中不可避免地会面临知识过时、事实谬误或新知识涌现的挑战。全量重训成本极高，而全局微调极易破坏无关能力造成灾难性遗忘。在此背景下，定位与编辑（Locate-and-Edit, L&E）范式（如 ROME、MEMIT）应运而生。该范式将 Transformer 的前馈网络（FFN）视为键-值记忆体，通过在因果关键层对输出投影矩阵应用闭式低秩更新，使得特定事实的键向量精确映射至新的目标值向量，同时最小化对无关激活的扰动。

然而，实用的知识编辑系统必须能够在持续的事实流上反复执行连续更新。在长程顺序编辑场景下，现有各类 L&E 编辑器通常在累积数千次更新后便迅速耗尽编辑寿命，发生灾难性性能崩溃。虽然既往研究已观察到长程退化常伴随着编辑层参数范数的异常增长，但并未彻底厘清该现象背后的动力学机理。现有方法多停留在增量层面的约束（如增加步长正则化项、裁剪更新增量 $\Delta W$ 或引入零空间投影），但这些措施未能触及反复注入权重的求解值向量本身的尺度问题，导致崩溃依然过早发生。

本文的核心洞察在于从动力学递推推导出编辑矩阵与求解目标值向量之间存在恶性正反馈：历史更新使得编辑权重范数增大，导致后续新编辑优化出的目标值向量尺度被系统性抬高，而更大的目标值向量通过一阶外积写回模型时，又进一步成倍放大编辑矩阵的范数，最终形成指数级增长的恶性循环。本文的核心 idea 是通过范数锚定缩放（Norm-Anchor Scaling, NAS），在每次向模型写入更新前将求解出的目标值向量严格按比例缩放至原始未编辑模型的基准参考范数，直接从源头阻断跨步范数正反馈环路。

方法详解¶

整体框架¶

定位与编辑（L&E）针对特定事实查询的键向量 $k_n^\star$，通过优化使更新后矩阵满足 $W_n k_n^\star = v_n^{\mathrm{new}}$。在未施加锚定时，优化求解的目标值向量 $\hat{v}_n^{\mathrm{new}}$ 尺度随当前层权重范数 $\|W_{n-1}\|$ 的膨胀而水涨船高。NAS 在基础 L&E 编辑器完成目标值向量求解之后、计算外积更新增量 $\Delta W_n$ 之前插入。

整个流程包括：基模先验标定阶段（离线采样计算参考锚定标量 $\tau$）、在线编辑阶段的目标值优化、范数锚定缩放（保留方向并将模长强制投影为 $\tau$），以及闭式秩一参数更新写入。整个机制形成了对参数漂移的负反馈抑制。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入待编辑知识三元组<br/>(s, r, o*) 与查询提示词"] --> B["基模先验范数标定<br/>离线采样估计参考标量 tau"]
    B --> C["目标值向量优化求解<br/>极小化 NLL 得到未约束向量 v_hat"]
    C --> D["范数锚定重缩放<br/>强制模长投影为 tau 并保持方向"]
    D --> E["闭式低秩权重写回<br/>利用协方差矩阵计算 Delta W_n 并更新"]
    E --> F["输出长程稳定的更新模型"]

关键设计¶

1. 范数反馈不稳定性机理分析：揭示参数指数爆炸的根源

传统 L&E 在未施加统计约束时的参数更新满足 $\Delta W_n = (v_n^{\mathrm{new}} - v_n^{\mathrm{old}}) {k_n^\star}^\top / \|k_n^\star\|^2$。通过展开 Frobenius 范数并利用恒等式，矩阵平方范数的递推关系严格满足： $$ |W_n|^2 = |W_{n-1}|^2 + \frac{|v_n^{\mathrm{new}}|^2 - |v_n^{\mathrm{old}}|^2}{|k_n^\star|^2} $$ 根据经验定标，键向量模长倒数基本恒定，即 $\|k_n^\star\|^{-2} \approx K$；同时，实证拟合表明新旧目标值的期望平方范数均与当前矩阵范数呈高度线性相关：$\mathbb{E}[\|v_n^{\mathrm{new}}\|^2 \mid W_{n-1}] \approx s_{\mathrm{new}} \|W_{n-1}\|^2 + b_{\mathrm{new}}$，且斜率严格满足 $s_{\mathrm{new}} > s_{\mathrm{old}} > 0$。将该关系代入递推式，可推导出期望权重平方范数满足 $\mathbb{E}\|W_n\|^2 \approx R^n \mathbb{E}\|W_0\|^2 + \alpha(R^n - 1)$，其中比率常数 $R = 1 + K(s_{\mathrm{new}} - s_{\mathrm{old}}) > 1$。这意味着未加干预的连续编辑必然导致编辑层权重范数以 $\mathcal{O}(R^n)$ 指数级膨胀。这种膨胀进一步引发激活层表征产生严重的分布外漂移（OOD Shift），使后序网络深层表征质心剧烈偏离、发散，最终导致通用任务与编辑质量双双雪崩。

2. 范数锚定重缩放（NAS）：构建自适应负反馈阻断发散

针对上述指数发散机制，NAS 并没有去限制每一步的更新增量步长，而是直接约束写入的绝对目标值尺度。在正式编辑前，先在未修改的原始基模上利用 $N=1000$ 个随机事实进行前导编辑，计算基模目标值的均方根模长作为全局不变的锚定标量： $$ \tau \coloneqq \left(\mathbb{E}{x \sim \mathcal{D} $$ 在顺序编辑流的第 }}} |v^{\mathrm{new}}|^2\right)^{1/2$n$ 步，当任意底层基础编辑器求解出未受约束的候选向量 $\hat{v}_n^{\mathrm{new}}$ 后，NAS 仅需一行代码将其向超球面投影，强制重设其尺度： $$ v_n^{\mathrm{new}} \leftarrow \frac{\tau}{|\hat{v}_n^{\mathrm{new}}|} \hat{v}_n^{\mathrm{new}} $$ 该设计在动力学中巧妙地引入了负反馈机制：当系统受局部扰动导致权重矩阵试图扩张时，未约束的目标值模长 $\|\hat{v}_n^{\mathrm{new}}\|$ 随之上升，从而迫使缩放系数 $\tau / \|\hat{v}_n^{\mathrm{new}}\|$ 自动减小。在理论推导上，这使得 $s_{\mathrm{new}} = 0$ 且 $b_{\mathrm{new}} = \tau^2$。此时新的递推衰减率满足 $r = 1 - K s_{\mathrm{old}} \in (0, 1)$，期望权重范数递推收敛为 $\mathbb{E}\|W_n\|^2 \approx r^n \mathbb{E}\|W_0\|^2 + \beta(1 - r^n)$，其中 $\beta = (\tau^2 - b_{\mathrm{old}}) / s_{\mathrm{old}} > 0$。由此，编辑矩阵的期望范数在上界 $\beta$ 内全局有界，彻底消除了发散风险。

3. 广义二阶矩协方差不变性推广：泛化至任意协方差条件

在实际编辑算法（如 MEMIT 与 AlphaEdit）中，通常引入了基于语料统计计算的键向量二阶矩逆矩阵 $C^{-1} = (\mathbb{E}[k k^\top])^{-1}$。作者进一步证明了 NAS 稳定机制在一般协方差矩阵 $C \neq I$ 条件下的完备性。通过引入坐标旋转变换： $$ \tilde{W}_n \coloneqq W_n C^{1/2}, \quad \tilde{k}_n \coloneqq C^{-1/2} k_n^\star, \quad \Delta \tilde{W}_n \coloneqq \Delta W_n C^{1/2} $$ 更新公式与平方范数递推式在旋转空间 $\tilde{W}$ 中保持与欧氏单位空间完全同构的代数形式：$\|\tilde{W}_n\|^2 = \|\tilde{W}_{n-1}\|^2 + (\|v_n^{\mathrm{new}}\|^2 - \|v_n^{\mathrm{old}}\|^2) / \|\tilde{k}_n\|^2$。实验证明在变换后的特征空间中，$\|\tilde{k}_n\|^{-2}$ 依然高度稳定，且 $v_n^{\mathrm{old}}$ 对 $\|\tilde{W}\|^2$ 的线性拟合在 NAS 介入后保持正斜率。因此，无论是否包含预计算二阶矩或特定的零空间几何约束，NAS 均能在各种复杂的 L&E 变体中严格保证权重范数的有限边界。

实验关键数据¶

主实验¶

在主流基准 CounterFact（20,877 步单条原子顺序编辑）与 ZsRE（19,086 步原子顺序编辑）上评估各模型表现。下表展示 LLaMA3-8B 与 GPT-J-6B 的编辑效果对比（NAS 默认作为 AlphaEdit 的增强插件）：

模型	方法	CounterFact Efficacy (↑)	CounterFact Paraphrase Gen. (↑)	CounterFact Specificity (↑)	ZsRE Efficacy (↑)	ZsRE Paraphrase Gen. (↑)
LLaMA3-8B	FT	68.69 ± 0.30	61.99 ± 0.21	40.91 ± 0.38	8.58 ± 0.04	6.96 ± 0.05
LLaMA3-8B	UltraEdit	60.06 ± 0.20	52.90 ± 0.18	43.88 ± 0.14	77.61 ± 0.13	75.15 ± 0.33
LLaMA3-8B	RLEdit	65.38 ± 0.29	49.18 ± 0.26	47.86 ± 0.30	81.59 ± 0.35	78.77 ± 0.17
LLaMA3-8B	MEMIT	50.95 ± 0.14	50.95 ± 0.19	49.05 ± 0.23	0.95 ± 0.03	0.22 ± 0.06
LLaMA3-8B	AlphaEdit	66.27 ± 0.34	58.75 ± 0.20	49.98 ± 0.17	22.30 ± 0.32	20.34 ± 0.15
LLaMA3-8B	NAS (AlphaEdit+NAS)	97.95 ± 0.32	82.71 ± 0.19	60.44 ± 0.23	93.17 ± 0.35	88.30 ± 0.33
GPT-J-6B	MEMIT	49.47 ± 0.13	49.54 ± 0.27	50.54 ± 0.37	2.01 ± 0.06	0.14 ± 0.00
GPT-J-6B	AlphaEdit	62.65 ± 0.37	54.57 ± 0.21	54.73 ± 0.20	86.13 ± 0.23	79.43 ± 0.23
GPT-J-6B	NAS (AlphaEdit+NAS)	98.73 ± 0.12	90.68 ± 0.19	60.75 ± 0.22	92.08 ± 0.33	85.04 ± 0.10

消融实验与即插即用稳定性分析¶

将 NAS 作为独立插件插入不同的底层 L&E 编辑器中，在 LLaMA3-8B 上测试崩溃点（Collapse Point, CP@60 定义为综合得分跌破 60 的编辑步数）及在各基线崩溃点处的编辑质量增益：

基础编辑器	是否接入 NAS	崩溃点 (CP@60)	崩溃点处 Efficacy (%)	崩溃点处 Generalization (%)	崩溃点处 Specificity (%)	调和平均 Score (%)
MEMIT	Off (原生)	400	50.8	51.2	49.6	50.5
MEMIT	On (+NAS)	1,500 (延缓 3.75×)	98.4	82.5	60.1	77.2
PRUNE	Off (原生)	400	50.2	50.6	50.0	50.3
PRUNE	On (+NAS)	1,500 (延缓 3.75×)	98.1	82.0	59.8	76.8
RECT	Off (原生)	400	51.5	51.8	49.1	50.8
RECT	On (+NAS)	1,350 (延缓 3.38×)	97.9	80.9	59.5	76.2
AlphaEdit	Off (原生)	4,000	66.3	58.8	50.0	57.6
AlphaEdit	On (+NAS)	>21,000 (延缓 >5.25×)	98.0	82.7	60.4	77.4

关键发现¶

打破稳定性与可塑性的权衡：单样本独立编辑实验（1,000 条 CounterFact）表明，NAS 在 MEMIT 和 AlphaEdit 上的单次编辑重写成功率与泛化成功率不降反升（AlphaEdit 得分从 88.03 升至 89.36）。即使在受缩放抑制最激烈的 Top-25% 样本压力测试下，AlphaEdit 综合得分依然稳中有升（91.03 → 91.27），说明 NAS 并非靠钝化编辑强度来换取稳定性。
通用语言能力的长效保持：在连续经历 20,877 步编辑后，基线方法（MEMIT、PRUNE、RECT）在 4k 步以内 GLUE 基准 F1 全面跌零；而 NAS 使得模型在 SST-2、RTE、MNLI、CoLA 上全程维持在健康基准水位，将通用能力保持寿命拓展了 5 倍以上。
超参数极度鲁棒：前导采样量 $N$ 从 100 增至 2000 时，计算得到的模长 $\tau$ 极为恒定（LLaMA3-8B 在 5.298 到 5.322 之间轻微浮动），且即使手动使 $\tau$ 偏移 $\pm 20\%$，长程编辑成功率依然稳定维持在 90% 以上。

亮点与洞察¶

抓住矛盾的关键本质：既有工作尝试在增量步长 $\Delta W$ 或矩阵投影子空间上做微调，却忽视了只要每步写回的目标值向量 $\|v_n^{\mathrm{new}}\|$ 随权重被放大，误差反馈就必然导致爆炸；NAS 仅靠控制值向量尺度，就化解了复杂的动力学失稳。
极简实现与零运行时显存开销：相比于维护外部动态记忆库（WISE、MEMOIR）或复杂的强化学习/双层优化流程，NAS 仅是一行向量归一化与标量乘法操作，运行耗时增加可忽略不计（单步增加微秒级），且完全保留原生权重直接推理优势。
通用的参数稳定设计思想：该方法为所有基于外积参数更新的持续学习（Continual Learning）与模型合并机制提供了警示——任何依赖当前网络状态前向激活来确定更新目标值的闭环更新，都必须考虑模长反馈稳定性，为跨步参数动力学设计提供了新视角。

局限与展望¶

静态全局锚定标量的自适应性：NAS 采用未编辑基模测得的统一静态标量 $\tau$。当编辑流中涌现罕见领域的非常规事实或高度复杂的语义组合时，不同事实可能需要自适应的激活范数，未来可探索基于语义难度的动态上下文锚定机制。
多层联合编辑下的层间交互：本文理论分析主要聚焦于单层 FFN 的闭式更新；虽然多层拓展通过分配值向量同样有效，但跨层间深层残差传播与层归一化（LayerNorm）对范数传递的交互补偿仍有待更深入的理论建模。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次形式化推导了 L&E 顺序编辑中的范数正反馈爆炸机理，视角极其精准犀利。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 4 大模型架构、多基准与超长程 2 万步原子连续编辑，消融与单步可塑性分析无可挑剔。
写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨流畅，实证定标假设与定理证明自洽，论证逻辑环环相扣。
价值: ⭐⭐⭐⭐⭐ 仅需一行代码即可大幅改写顺序知识编辑的技术格局，是极具实用价值的重磅工作。