🔬 可解释性¶
💬 EMNLP2026 · 19 篇论文解读
📌 同领域跨会议浏览: 🧠 NeurIPS2026 (106) · 🎞️ ECCV2026 (33) · 📷 CVPR2026 (34) · 🔬 ICLR2026 (197) · 💬 ACL2026 (63) · 🧪 ICML2026 (92)
🔥 高频主题: LLM ×3 · 推理 ×2 · 对齐/RLHF ×2
- Attribute-Based Activation Steering of LLMs for Group-Specific Explanation Generation
-
本文提出一种无监督且免训练的属性级激活引导方法,从社区解释文本中提取目标群体的风格与知识属性,在推理期内部激活层注入加权引导向量,在保证事实性的同时显著提升生成解释对特定群体的针对性。
- Beyond Decodability: Reconstructing Language Model Representations with an Encoding Probe
-
针对传统解码探针无法跨特征统一度量贡献度且易受特征共线性误导的问题,本文提出反转探针方向的编码探针(Encoding Probe),利用多变量 Ridge 回归与特征消融重构模型内部表征,首次在统一未解释方差(UV)尺度上严格解耦并量化了声学、音素、说话人、句法与词汇特征的独立贡献。
- Confidence Before Answering: A Paradigm Shift for Efficient LLM Uncertainty Estimation
-
提出先置信度后回答(Confidence-first)的新范式与端到端强化学习框架 CoCA,利用分组经验胜率作为动态目标,并通过分段信用分配联合优化置信度校准与答案正确率,将置信度获取成本降低 92% 以上。
- Dissecting Transformers: A CLEAR Perspective Towards Green AI
-
针对硬件能耗传感器采样周期与微秒级组件执行时间严重失配的瓶颈,提出基于激活缓存与重复放大测量的评测框架 CLEAR,首次完成跨 4 类架构 15 个模型的组件级细粒度推理能耗拆解与规律建模。
- Diverging Transformer Predictions for Human Sentence Processing: A Comprehensive Analysis of Agreement Attraction Effects
-
通过基于惊讶度的链接机制对11个自回归Transformer进行主谓一致吸引效应评测,揭示出模型虽然在介词短语修饰结构上能复现人类阅读时间模式,但在宾语抽取关系从句中预测严重分歧且违背认知与理论预期,否定了当前Transformer作为人类形态句法处理通用认知模型的充分性。
- Do Compounds and Phrases Follow the Same Combinatorial Principles? What a Multi-Dimensional Exploration Reveals
-
构建了包含七类平行构式的跨尺度中英数据集 COMPPHRASE-7,提出解耦特征迁移、几何对齐与因果特异性的三维探测协议,实证发现中文预训练语言模型中复合词与短语共享部分可迁移构式特征,但表征几何受层级与预训练策略敏感调制,且未表现出局域化的因果神经回路支持。
- Does Fine-Tuning Undo Activation Steering? Behavioural Recovery Without Weight-Edit Reversal
-
本文系统研究了将激活导向线性投影直接嵌入模型权重后在下游非对抗微调(SFT 与 RLHF)下的鲁棒性,发现微调即使大幅恢复被抑制的行为(如拒答行为在 SFT 下平均恢复 69%),底层的权重编辑也几乎毫发无损(编辑逆转率不足 0.8%、投影恢复率平均仅 0.4%),揭示模型是通过建立绕过编辑的替代通路而非擦除干预权重来实现行为复原。
- From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Interpretable LLM Steering
-
针对传统激活引导与检索式个性化生成中严重的语义残留与上下文泛化不足问题,本文提出免微调框架 GLASS,利用稀疏自编码器在潜空间提取全局风格稀疏先验,并在场景聚类上对比提取局部风格向量,通过双流分层残差注入实现低延迟、可解释的高保真个性化生成。
- LSC-Pattern: Interpretable Lexical Semantic Change Analysis via Diachronic Sense Distributions
-
针对传统词汇历时语义演变分析(LSCD)仅能输出标量变化分数、无法解释具体词义与语义属性如何演化的黑盒痛点,提出 LSC-Pattern 框架,将大语言模型词义消歧映射至显式词典义项与多维语义属性(情感效价、语义广度、隐喻度)联合建模,在日语跨越 150 年的历史语料上实现高可解释、高对齐的人类判断分析。
- Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models
-
针对隐式推理模型中“可观测隐状态模式(如广度优先搜索、草稿本计算)即推理机制”的流行假设,本文通过设计严密的控制基线、因果追踪与梯度子空间干预,揭示可观测表象并非隐式推理所独有且不能反映真实因果影响,证明隐状态利用率呈现连续梯度分布,且因果效应高度集中于低维几何子空间中。
- SAEExplainer: Interpreting SAE Features with Activation-Guided Preference Optimization
-
针对传统稀疏自编码器(SAE)特征解释采用开环生成导致的概念泛化与解释幻觉问题,SAEExplainer 将目标模型客观激活值转化为可验证的奖励信号,通过两轮迭代直接偏好优化(DPO)挖掘真实激活正例与具有迷惑性的难负例,实现了自校验与因果触发能力的持续自演进。
- TBLS: Transition-Based Language Similarity through Activation Perturbation
-
针对静态表示几何度量在多语言模型间泛化不稳定且难以刻画生成动力学的问题,本文提出基于激活扰动的转移语言相似度(TBLS),通过在前向传播中注入可控噪声诱发跨语言生成转移,以样本逃逸噪声为基准量化表征流形上的语言邻近度。
- The Mirage of Explainability: A Survey on Chain-of-Thought Faithfulness in Large Language Models
-
本文全面综述大语言模型思维链(CoT)忠实度危机,提出整合“内部因果对齐”与“外部逻辑一致”的双维形式化定义,系统梳理四大不忠实表征、评估基准与缓解策略,并倡导通过表征解耦迈向可信 AI。
- Universal Activation Verbalizer: A Unified Framework for Cross-Model Activation Explanation
-
提出通用激活语言化器(UAV),利用轻量化跨注意力适配器将异构供体模型的内部隐层激活映射为解码器软标记,配合两阶段对齐与冻结 LoRA 迁移策略,首次实现了跨模型家族与尺度的开放式激活自然语言解读。
- Weakening Neurons: An Input-Output Functionality in Transformers with Outsize Influence
-
通过计算大语言模型中 GLU 神经元输入、门控与输出权重向量间的余弦相似度构建输入-输出功能分类学,揭示了浅中层以条件增强为主、深层集中存在高激活频次且通过负门控与非对称符号大幅锐化输出分布的极少数“削弱神经元”。
- What Drives Representation Steering? A Mechanistic Case Study on Steering Refusal
-
本文提出面向多Token自回归生成的引导激活修补框架,揭示不同方法学获得的拒绝引导向量依赖功能高度互换的子网络回路,证明其主要经由注意力机制的OV回路(尤其是输入无关的引导值向量分解项)驱动行为转变,并据此实现了高达85%–96%的引导向量维度稀疏化。
- Why and When to Use Statistical Significance in Explanation Evaluation: A Systematic Analysis
-
系统审计了 ACL Anthology(2020–2025 年)494 篇可解释性 NLP 论文,揭示仅 25.30% 的研究为解释评估提供统计显著性验证的严密性缺口,并提出依据下游风险与评估数据结构的双向映射指导框架。
- Why Are Some Emotions Harder for LLMs? Uncovering the Causal Mechanisms of Emotion Inference via Sparse Autoencoders
-
本文通过残差流稀疏自编码器(SAE)提取大语言模型中的单语义因果情绪特征,首次从内部表征组织与因果强度的视角揭示了“为何模型在厌恶与惊讶等情绪上表现较差”的底层机理,并基于特征级转向优化实现了无损通用能力的鲁棒情绪识别增强。
- XQDT: eXplainable and Quantitative Data-Text Alignment Metric with Feedback Signals
-
XQDT 提出了一种端到端可解释且定量的双向数据-文本对齐评估指标,通过在受控语义对抗扰动数据上微调开源模型显式定位原子三元组的正确、遗漏、错误与额外内容,并闭式聚合为精确度、召回率与 F1 分数,同时为数据到文本与文本到数据的双向生成提供细粒度的迭代修复反馈信号。