✏️ 知识编辑¶
🧠 NeurIPS2026 · 8 篇论文解读
📌 同领域跨会议浏览: 📷 CVPR2026 (2) · 🔬 ICLR2026 (15) · 💬 ACL2026 (10) · 🧪 ICML2026 (8) · 🤖 AAAI2026 (4) · 🧠 NeurIPS2025 (6)
🔥 高频主题: LLM ×2
- DynEdit: Dynamic Entropy-Guided Sequential Editing for Large Language Models
-
针对现有长序列知识编辑中固定切块导致难点欠拟合与梯度稀释的瓶颈,DynEdit 利用预编辑模型的词元级香农熵动态调整滑动步长与优化权重,实现了兼具高鲁棒性与语义保真度的序列级参数更新。
- Exposing the Illusion of Erasure in Knowledge Editing for LLMs
-
本文从对抗逆向工程与机理解释视角审视大模型知识编辑,揭示低秩参数更新仅在零空间中重定向表示并施加表层抑制向量,通过离散对抗后缀即可高达 85%+ 恢复所谓“被擦除”的预训练事实,证明现有知识编辑制造了擦除的假象。
- Golden Layers and Where to Find Them: Improved Knowledge Editing for Large Language Models Via Layer Gradient Analysis
-
本文提出大语言模型知识编辑中存在可在不同样本间共享的“黄金层”(Golden Layers),并设计了仅依赖一阶梯度归因的高效无编辑层选择算法层梯度分析(LGA),大幅超越传统因果中介分析(CMA)并实现数十倍加速。
- MetaKE: 基于双层优化的下游感知大模型知识编辑
-
针对传统定位-编辑知识编辑中“上游目标表征优化”与“下游约束参数更新”互相割裂的核心痛点,MetaKE 将两阶段联合建模为双层优化问题,并通过结构化梯度代理高效回传下游投影约束反馈,在大幅改善精度与可编辑性权衡的同时完美保留模型通用能力。
- Norm Anchors Make Model Edits Last
-
揭示了顺序定位与编辑(Locate-and-Edit)中求解目标值向量与前馈网络权重相互放大的正反馈循环是导致模型崩溃的核心根源,提出单行即插即用的范数锚定缩放(NAS),将求解值向量约束至基模参考范数,将可编辑生命周期延长4倍以上。
- Open-Vocabulary Domain Unlearning
-
本文把视觉域遗忘从“训练过的类别上失效”推进到“未参与遗忘训练的类别也应失效”,通过 Fisher 掩码限制视觉参数更新,再用定向流形散射(TMS)强化局部几何扰动,在少样本 CLIP 分类实验中改善遗忘与保留的折中,但不构成数据删除或语义保留的认证保证。
- Steer2Edit: From Activation Steering to Component-Level Editing
-
Steer2Edit 提出了一个无需训练且具备闭式解的权重编辑框架,将激活空间中的表征引导向量转化为模型内部组件的诊断信号,通过闭式秩一更新将行为控制内化到注意力头和 MLP 神经元中,在安全对齐、真实性提升与推理效率控制上均取得了超越激活引导的属性-通用能力权衡。
- Synthetic Worlds for Temporal Evaluation and Knowledge Updating in LLMs
-
提出了抗训练数据污染且符合常识的虚拟未来事件基准 ParallelEvents,并构建了结合长文本继续预训练与思维链偏好微调的知识更新框架 Synapse,使大模型在无需人工语料的前提下鲁棒同化多跳与因果事实。