跳转至

Attribute-Based Activation Steering of LLMs for Group-Specific Explanation Generation

会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/webis-de/EMNLP-26
领域: 可解释性
关键词: 激活引导, 定制化解释, 解释风格, 知识属性, 大语言模型

一句话总结

本文提出一种无监督且免训练的属性级激活引导方法,从社区解释文本中提取目标群体的风格与知识属性,在推理期内部激活层注入加权引导向量,在保证事实性的同时显著提升生成解释对特定群体的针对性。

研究背景与动机

在可解释人工智能(Explainable AI)与智能教学辅助场景中,生成自然语言解释是帮助人类理解复杂概念的核心途径。然而,解释天然具有强烈的受众依存性:一位游戏开发者与一位哲学家在理解“DNA如何工作”时,所需的类比方式、概念深度及术语体系存在本质差异。传统的通用解释往往停留在抽象的百科全书式定义,无法结合受众背景提供有效脚手架,导致认知负荷过高或理解脱节。

当前解决解释定制化的主流思路主要依赖提示词工程(Prompting),例如在系统提示中声明受众角色。但实证研究表明,提示词对表述极其敏感,且受限于上下文窗口与模型遵从能力,往往只能带来表层的词汇替换,无法实现细粒度的风格和知识结构对齐;若采用有监督微调(SFT),则面临领域配对解释数据极度匮乏的瓶颈。另一方面,新兴的激活引导(Activation Steering)技术多基于文本级平均激活差异(如全局均值差分),极易导致模型过度引导(oversteering)——生成大段偏离主题的无意义代码或胡言乱语,破坏解释的事实性与连贯性。

本文的切入角度是:群体的认知背景与行文习惯隐含在其日常专业解答中,无需人工标注即可通过无监督两阶段提取显式解耦为解释风格属性与知识属性,进而直接在模型潜空间构建细粒度引导向量。核心 idea:将目标群体的先验解构为正交的风格与知识属性,在推理阶段将属性差异激活向量按群体显著性权重线性合成并注入特定隐藏层,在生成解释的群体特异性与事实性之间取得最佳平衡。

方法详解

整体框架

本文提出的框架包含三个核心阶段:(1) 目标群体属性提取:基于两阶段提示词范式从Stack Exchange社区回答中抽取风格与知识属性候选,经LLM过滤、相似度聚类与群体点二列相关性排序,确定每个群体的核心属性集合;(2) 属性特异性激活向量构建:将属性改写为人称化肯定与否定句式,在前向传播中提取中间隐藏层表征并做差分;(3) 属性加权激活引导:根据目标群体的属性分布权重线性组合激活向量,在推理自回归生成时将其按引导强度注入预选层。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["目标群体社区文本<br/>Stack Exchange解答"] --> B["群体属性提取<br/>两阶段提示词抽风格与知识属性候选"]
    B --> C["属性语义聚类与去噪<br/>LLM四分类过滤+余弦聚类+点二列相关排序"]
    C --> D["属性特异性激活向量构建<br/>肯定与否定句前向表征差分提取"]
    D --> E["属性加权激活引导<br/>softmax群体重要性加权并在中间层注入"]
    E --> F["输出: 群体定制化且事实精准的解释文本"]

关键设计

1. 无监督风格与知识属性提取与去噪:解耦受众背景特征

以往激活引导通常直接把群体文本全局平均,混淆了行文风格与专业知识。本文扩展了无监督属性抽取范式,设计两阶段提示流程:第一阶段采用92个提示词提取多维写作风格(如语法、修辞、语气),并基于Bloom分类学设计18个新提示词,覆盖事实性、概念性、程序性、元认知、情境性与惯例性六大认知知识类型;第二阶段通过改写提示将描述规范化为标准句式(风格为“The author is/uses X.”,知识为“The author knows/understands X.”)。

为去除幻觉与模糊属性,模型使用Qwen2.5-72B进行四分类过滤(风格、知识、兼具、皆非),保留单属性项;随后基于Qwen3-Embedding-8B在0.85余弦相似度阈值下进行半径近邻聚类,剔除出现超过7个群体的泛化属性及支持样本少于6篇的低频噪声。最终在11个群体上保留1,250个跨群体共享属性候选(340个风格属性,910个知识属性),并以点二列相关系数确定各群体最关键的 \(m\) 个属性。

2. 句式人称重构与对比激活差分:精准定位语义方向

为提取干净的属性潜空间方向,必须消除提示模板本身的格式偏差。本文将选定的属性转化为不同人称:风格属性转换为第二人称祈使句(例如“You include code snippets.”),充当模型的生成指令;知识属性转换为第一人称陈述句(例如“I understand game development.”),模拟真实交互中用户的背景告知。

对每个选定属性 \(f_j\),构造对应的否定形式(例如“You do NOT include code snippets.”)。对基座LLM进行前向传播,分别在第 \(i\) 层提取正向句激活 \(a_j^{+(i)}\) 与反向句激活 \(a_j^{-(i)}\),最终属性激活向量定义为方向差分: $\(a_j^{(i)} := a_j^{+(i)} - a_j^{-(i)}\)$ 通过正负差分,消除了语法结构与通用上下文的激活残余,精确隔离出目标属性在潜空间中的因果位移向量。

3. 群体属性加权与分层注入:抑制过度引导并平衡事实性

不同属性在群体画像中的代表性各异。为实现精细调控,本文利用群体的平均属性画像 \(\bar{v}_g \in [0, 1]^n\),对前 \(m\) 个风格属性 \(F_{mg}^{(S)}\) 与前 \(m\) 个知识属性 \(F_{mg}^{(K)}\) 计算Softmax归一化权重,合成第 \(i\) 层的群体引导向量 \(s_g^{(i)}\): $\(s_g^{(i)} := \sum_{f_j \in F_{mg}^{(S)} \cup F_{mg}^{(K)}} \text{softmax}(\bar{v}_g)_j \cdot a_j^{(i)}\)$ 在推理阶段,给定输入问题 \(x\),将引导向量乘以强度系数 \(\lambda\) 注入预选隐藏层集合 \(I\): $\(\hat{a}^{(i)}(x) := a^{(i)}(x) + \lambda \cdot s_g^{(i)}\)$ 注入层集合 \(I\) 通过在验证集上滑动窗口(窗口大小为3)网格搜索确定。相比于基线方法暴力平移所有神经元,基于离散高置信属性的加权合成有效限制了激活漂移的方差,避免破坏模型底层的常识推理通路。

一个完整示例

以解释问题“DNA如何工作?”(How does DNA work?)面向游戏开发者(Game developers)群体为例: 1. 提取群体显著属性:游戏开发者的代表性属性包括代码片段引用(风格相关度0.3132)、游戏术语应用(0.2732)以及游戏开发理解(知识相关度0.6761)、渲染与碰撞机制等。 2. 激活向量加权合成:在Qwen2.5-7B的第 [10, 11, 12] 层注入综合引导向量(\(\lambda = 1.50\))。 3. 输出文本生成对比: - 提示词基线仅在末尾生硬套入一句话“In games, you might use DNA analogies for character customization...”; - Konen et al. (2024) 均值引导完全过度拟合,直接输出了C#语法定义 public class DNA { private List<Vector2> points; },彻底失去对生物学事实的解释功能; - 本文方法则构建完整映射:“From a game developer's perspective, you might want to think of DNA as a blueprint that defines the structure and behavior of your game... functions like genes determine how your game functions... comments like DNA sequence annotations provide context”,既生动契合受众背景,又保持了对DNA编码机理的准确传达。

实验关键数据

主实验

在97道涵盖不同教育维度的科学解释问题(Science Questions)上,针对11个专业群体评测特异性(Specificity,分类器打分)、事实性(Factuality,基于FACTSCORE)与调和平均数(HMean)。

模型 提示与引导配置 引导参数 \(\lambda\) 注入层 \(I\) 特异性 ↑ 事实性 ↑ HMean ↑
Qwen 7B Group (Prompting) - - 0.128 0.322 0.183
Qwen 7B Group + attributes (5) (Prompting) - - 0.224 0.303 0.257
Qwen 7B Group + Konen et al. (2024) 1.75 [17, 18, 19] 0.694 0.126 0.213
Qwen 7B Group + attributes (5) + Konen et al. 1.50 [18, 19, 20] 0.803 0.096 0.171
Qwen 7B Group + 本文方法 (5) 2.00 [10, 11, 12] 0.386 0.264 0.313
Qwen 7B Group + attributes (5) + 本文方法 (5) 1.50 [10, 11, 12] 0.442 0.225 0.299
Llama 3.1 8B Group (Prompting) - - 0.217 0.326 0.261
Llama 3.1 8B Group + attributes (5) (Prompting) - - 0.410 0.258 0.316
Llama 3.1 8B Group + Konen et al. (2024) 1.25 [15, 16, 17] 0.532 0.195 0.285
Llama 3.1 8B Group + attributes (5) + 本文方法 (5) 0.75 [17, 18, 19] 0.448 0.215 0.291
Ministral 8B Group (Prompting) - - 0.111 0.376 0.171
Ministral 8B Group + Konen et al. (2024) 1.00 [20, 21, 22] 0.300 0.252 0.274
Ministral 8B Group + attributes (5) + 本文方法 (5) 1.00 [5, 6, 7] 0.215 0.330 0.260

消融实验

消融实验评估属性数量 \(m \in \{3, 5, 10\}\) 以及模型参数规模(Qwen 7B vs. 32B)对解释生成质量的影响。

模型 配置 \(\lambda\) 注入层 \(I\) 特异性 ↑ 事实性 ↑ HMean ↑
Qwen 7B Group + 本文方法 (\(m=3\)) 1.75 [10, 11, 12] 0.356 0.279 0.313
Qwen 7B Group + attrs + 本文方法 (\(m=3\)) 1.50 [10, 11, 12] 0.433 0.230 0.300
Qwen 7B Group + 本文方法 (\(m=5\)) 2.00 [10, 11, 12] 0.386 0.264 0.313
Qwen 7B Group + attrs + 本文方法 (\(m=5\)) 1.50 [10, 11, 12] 0.442 0.225 0.299
Qwen 7B Group + 本文方法 (\(m=10\)) 2.00 [11, 12, 13] 0.366 0.281 0.318
Qwen 7B Group + attrs + 本文方法 (\(m=10\)) 1.50 [10, 11, 12] 0.439 0.228 0.300
Qwen 32B Group (Prompting) - - 0.144 0.328 0.200
Qwen 32B Group + attrs (Prompting) - - 0.229 0.289 0.255
Qwen 32B Group + 本文方法 (\(m=10\)) 1.00 [41, 42, 43] 0.187 0.370 0.249
Qwen 32B Group + attrs + 本文方法 (\(m=10\)) 2.00 [38, 39, 40] 0.374 0.315 0.342

人工专家评估

由9位受聘于Upwork的专业领域专家(生物学家、游戏开发者、哲学家各3位,具相应专业学历与背景),在50个样本(25道科学问题+25道ELI5问题)上对Qwen 7B生成的解释进行独立双盲评测(5分李克特量表):

方法 引导成功度 (Steering Success) ↑ 合理性 (Plausibility) ↑ 助益度 (Helpfulness) ↑ HMean ↑
(a) Prompting (Group) 3.12 ± 1.21 4.56 ± 0.86 4.03 ± 1.10 3.81
(b) Konen et al. (2024) 3.46 ± 1.44 2.75 ± 1.46 2.70 ± 1.36 2.93
(c) 本文方法 (\(m=5\)) 4.17 ± 1.01 3.87 ± 1.18 3.64 ± 1.17 3.88

关键发现

  • 特异性与事实性的权衡(Trade-off):实验揭示了解释定制化中的内在冲突——过度追求受众特定比喻容易简化核心机理导致事实性评分下降。Konen et al. (2024) 陷入极端“过度引导”(特异性高达0.803,但事实性骤降至0.096);本文方法实现了稳健折中,HMean达到0.313(Prompting仅0.183)。
  • 属性规模存在饱和点:\(m=3, 5, 10\) 的消融结果表明,使用前5个核心属性已能充分表征群体差异,进一步增加属性数量收益边际递减,验证了人脑处理受众先验时的认知局限性假设。
  • 更大模型容量缓解权衡冲突:将基座升级为Qwen 32B后,HMean显著提升至0.342,且在保持0.374高特异性的同时事实性维持在0.315,证明大模型具备更强的概念锚定与跨域类比融合能力。
  • 引导成功度与助益度的非线性关系:专家评估显示,虽然本文方法在引导成功度上以4.17显著领先(基线为3.12与3.46),但在普通通识问题(如ELI5)上受众更青睐直截了当的通用解释;只有面对结构复杂、抽象度高的科学原理时,针对特定群体的认知支架才显现出不可替代的助益度。

亮点与洞察

  • 解耦式属性提取范式:将传统黑盒潜空间表征拆解为可解释的风格与知识两组属性,摆脱了以往引导方法依赖高维连续嵌入且不可控的缺陷。
  • 免训练与跨架构通用性:全流程无需针对解释数据进行参数微调或探针训练,且交叉模型验证证明使用Llama或Ministral提取的属性所生成的引导向量与Qwen保持0.80–0.96的高余弦相似度。
  • 对生成可解释性的启发:揭示了大语言模型在深层网络中对抽象语义概念(如“代码注释”、“哲学反思”)具有高度线性的表征子空间,可通过简单的代数加减实现可控受众重定向。

局限与展望

  • 群体刻板印象与画像颗粒度:基于Stack Exchange社区回答归纳的群体特征属于群体平均像,难以覆盖群体内部认知水平与偏好的异质性,可能强化职业刻板印象。
  • 语言与数据来源单一:当前研究仅验证了英文环境及特定的11个专业技术社区,在多语言泛化与非技术人群中的适用性仍需验证。
  • 问题适应性引导机制的缺失:目前引导强度 \(\lambda\) 全局静态配置,无法根据问题自身的复杂度自适应退避,未来可探索动态门控机制,在基础问题上降低引导以保持极简回答。

相关工作与启发

  • vs Konen et al. (2024):后者直接对群体的全局激活均值进行差分,缺乏属性级解耦,极易引发严重的内容过拟合与胡言乱语;本文通过细粒度属性聚类加权,实现了高保真与可控干预。
  • vs Patel et al. (2023):Patel等人仅关注纯作者风格的无监督抽取,本文将其大幅拓展至Bloom六大认知知识维度,首次构建了风格-知识双驱的群体表征体系。
  • vs 提示词工程 (Persona Prompting):传统提示词在长文本生成中经常发生指令漂移与浅层词汇复读,激活引导直接干预模型前向注意力计算,生成更自然的深层结构类比。

评分

  • 新颖性: ⭐⭐⭐⭐☆ [首次将解耦属性工程与激活引导引入受众自适应解释生成,免微调方案极具实用性]
  • 实验充分度: ⭐⭐⭐⭐⭐ [11个群体、3个模型家族、大规模自动评测并结合9位跨领域专家的人工双盲评测]
  • 写作质量: ⭐⭐⭐⭐⭐ [逻辑严谨清晰,实验深入透彻,问题分析与权衡讨论兼具深度]
  • 价值: ⭐⭐⭐⭐☆ [为大模型可控生成、个性化智能教学及因果可解释性提供了极有启发性的技术路径]