Usage-Modulated Sentiment Representations in Large Language Models¶
会议: EMNLP 2026
论文: ACL Anthology
领域: NLP 理解
关键词: 情感表示、线性表示假说、语用调节、子空间分析、激活干预
一句话总结¶
针对大语言模型内部情感是否仅由单一线性方向表征的理论疑问,本文构建了固定事件骨架且严格正交控制极性与语用因素(语气/受众)的双语配对评测集,证明在正交剥离共享情感方向后残差仍保留紧凑且可复现的语用子空间结构,并通过靶向擦除与生成期激活引导证实了该残差具有因果可控性。
研究背景与动机¶
大语言模型在心理健康支持、共情对话及自动化情感计算等关键领域的落地日益依赖对其内部表示机制的可解释性剖析。基于线性表示假说(Linear Representation Hypothesis),大量近期工作假定模型的高层概念在激活空间中被编码为一维方向向量,并据此提取单一的情感极性方向(Sentiment Direction)进行探针探测与因果干预。然而,人类自然语言中的情感表达绝非纯粹的二元极性标量,而是深度嵌入于具体的交际语境之中——同一个正面或负面事件,在面向专业同行汇报与面向儿童讲解、或以严谨专业语气与轻松口语化语气表达时,其词汇选择、修辞强度和语用策略均大相径庭。
这一语言学现实引发了表征几何层面的核心矛盾:在激活空间中,情感究竟是一条脱离语用上下文的独立轴线,还是其表征本身就系统性地受到语气(Tone)与受众适应(Audience Adaptation)等使用因素的调制?由于自然语料中的正负样本不可避免地夹杂着话题差异、句式长度及语用语境的混杂偏差,简单的线性探针极易将语用共变效应混同于噪声。若无法在严格保持事件事实内容完全相同的条件下剥离主导极性,学术界便无法回答极性方向之外的残差方差究竟是表征噪声还是具备结构性与因果效应的语义子空间。
为解开极性与使用因素的深层纠缠,本文提出了一种严格配对的反事实控制实验设计:固定事件核心骨架与平行正负结果,分别在语气与受众适应两个语用家族下生成完全配对的文本并提取激活差分向量(Sentiment Delta)。核心 idea:通过正交投影剥离跨使用条件泛化的全局共享情感方向,证明剩余的残差向量并非随机噪声,而是保留了紧凑、跨划分可复现且具备生成因果干预能力的语用调制子空间。
方法详解¶
整体框架¶
本文构建了一套端到端的「受控对比数据构建 → 表征几何正交分解 → 子空间几何检验与因果干预」分析管线。首先利用 GPT-4o 在严格模式下构建 221 个独立事件骨架,并在四种语气(formal, casual, enthusiastic, restrained)与四种受众(specialist-facing, general-public-facing, child-friendly, peer-facing)下配对生成同事件的正负向样本,总计 3,536 条文本。接着,在前向传播中提取各层隐藏状态(支持 Mean pooling 与 Last-token pooling),计算同事件骨架在相同使用取值下的正负极性差分向量 \(\Delta_{s,u}^\ell\)。
管线的核心数学操作是正交分解:通过训练集估计出跨所有语用条件对齐的共享情感方向 \(B^\ell\),从每个个体的差分向量中将其减去以获得残差差分向量 \(R_{s,u}^\ell\)。随后,管线在残差空间中通过最近质心解码与 SVD 子空间分析检验语用信息的结构紧凑性与跨骨架泛化性;最终通过靶向子空间擦除(Targeted Erasure)和生成期激活引导(Activation Steering)对残差的因果效力进行因果验证。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400, 'subGraphTitleMargin': {'top': 8, 'bottom': 16}}}}%%
flowchart TD
A["受控配对样本生成<br/>固定骨架 s / 语用取值 u 变极性"] --> B["极性差分向量提取<br/>Delta = h(x+) - h(x-)"]
B --> C["共享情感方向正交投影与剥离<br/>分离全局 B 与残差 R"]
C --> D["残差语用子空间建模<br/>SVD 提取 Rank-3 基底并检验紧凑性"]
D --> E["靶向子空间擦除验证<br/>验证测试集语用指标选择性下降"]
D --> F["生成期残差激活引导<br/>注入语用分量并保持情感极性"]
关键设计¶
1. 受控配对数据集与骨架隔离划分:杜绝事件内容与极性共变混淆
在自然文本中探究情感表征的最大障碍是语用风格常与事件事实绑定。为此,本文设计了 221 个中性日常事件骨架(每个 8–18 词),每个骨架配对正负两种平行走向,并在两类语用家族(语气族与受众族,各含 4 个离散取值)下生成文本,确保每个骨架产出 \(2 \times 4 \times 2 = 16\) 个变体。为防止信息穿越,数据集按骨架严格划分为训练集 \(S_{\text{train}}\)(155 个骨架)、验证集 \(S_{\text{dev}}\)(33 个)和测试集 \(S_{\text{test}}\)(33 个),确保测试集中评估的事件在训练阶段从未出现。双盲人工抽检与自动化质检证实,该受控数据集在语气与受众分配上的准确率达 92.5%–100.0%,且 100% 保持了中性事件与预定极性。
2. 共享情感方向与残差差分向量正交剥离:解耦一维极性与高维调制
对于第 \(\ell\) 层、事件骨架 \(s\) 及使用取值 \(u\),模型输出的隐藏状态分别为正向 \(h^\ell(x_{s,u}^+)\) 与负向 \(h^\ell(x_{s,u}^-)\)。定义情感差分向量 \(\Delta_{s,u}^\ell = h^\ell(x_{s,u}^+) - h^\ell(x_{s,u}^-)\)。训练集上累加所有骨架与语用条件下的差分向量并归一化,得到全局共享情感方向 \(B^\ell\): $\(B^\ell = \frac{\sum_{s \in S_{\text{train}}, u \in U} \Delta_{s,u}^\ell}{\|\sum_{s \in S_{\text{train}}, u \in U} \Delta_{s,u}^\ell\|}\)$ 为了隔离被单一向量掩盖的额外方差,通过正交投影将 \(B^\ell\) 从每个个体差分向量中移除,得到残差向量 \(R_{s,u}^\ell\): $\(R_{s,u}^\ell = \Delta_{s,u}^\ell - (\Delta_{s,u}^\ell)^\top B^\ell B^\ell\)$ 这一分解构成了全篇分析的基准点:如果线性假说完全成立且情感不受语用调制,则残差向量在去除极性主成分后应退化为各向同性的随机高斯噪声;若残差仍包含可解码结构,则证实情感表征存在调制效应。
3. 残差语用子空间建模与紧凑性验证:跨骨架与跨划分稳定性检验
在残差空间中,为每个语用家族 \(f \in \{\text{tone}, \text{audience}\}\) 计算 4 个具体取值 \(v \in V_f\) 的中心化均值 \(\mu_{f,v}^\ell = \frac{1}{|S_{\text{train}}|} \sum_{s \in S_{\text{train}}} R_{s,v}^\ell\)。将这 4 个均值向量中心化后进行奇异值分解(SVD),由于 4 个中心化向量的最大秩为 3,故构建秩为 3 的正交基底 \(S_f^\ell\)。通过计算 Rank-1 与 Rank-2 近似所截获的能量比例,定量度量语用子空间的低维紧凑性;并采用跨独立划分的能量加权投影捕获率(Cross-split Capture)以及对角优势检验(Diagonal-dominance check),对照 500 次骨架内标签打乱(Label-shuffle)基线,严格证明语用子空间具有高度跨事件可复现的内在几何形态。
4. 靶向子空间擦除与生成期因果激活引导:因果探针闭环
为排除统计相关假象,作者实施了两类干预实验: 其一是靶向擦除(Targeted Erasure):在测试集差分向量中保留共享方向投影的同时,精确减去目标语用子空间投影: $\(\tilde{\Delta}_{s,u}^{\ell, f} = \text{proj}_{B^\ell}(\Delta_{s,u}^\ell) + R_{s,u}^\ell - \text{proj}_{S_f^\ell}(R_{s,u}^\ell)\)$ 其二是生成期激活引导(Inference-time Steering):对于目标语气 \(v\),从残差语气分量中剔除共享情感方向后归一化得到引导方向 \(a_v^\ell\)。在解码阶段的第 \(t\) 步,将扰动注入未池化的隐藏状态 \(h_t^\ell\),注入前投影到共享情感方向的正交补空间: $\(h_t^{\ell, \text{injt}} = h_t^\ell + \beta \frac{\|h_t^\ell\|_2}{\sqrt{D}} \text{proj}_{(B^\ell)^\perp}(a_v^\ell)\)$ 其中 \(\beta\) 为引导强度(基于验证集选定为 50,干预层为第 20 层),\(D\) 为隐藏层维度。该公式严格保证引导能量完全落在情感正交方向上,从因果层面测试纯语用残差向量能否独立驱动输出语气迁移而不改变既定情感极性。
实验关键数据¶
主实验¶
实验覆盖三个开源代表性指令微调模型:Llama (Meta-Llama-3-8B-Instruct, 32层)、Mistral (Mistral-7B-Instruct-v0.2, 32层) 与 Gemma (Gemma-7B-IT, 28层),分别评估 Mean pooling 与 Last-token pooling。下表展示跨层汇总的共享情感方向对齐度、平方范数捕获比例、残差范数比例以及相比骨架内标签打乱基线(95分位)的最近质心解码余量(Decoding Margin)。
| 模型 | 池化方式 | 语气对齐度 (Tone align) | 受众对齐度 (Aud. align) | 投影方差占比 (Proj. share) | 残差范数比 (Resid. ratio) | 语气解码余量 (Tone dec. margin) | 受众解码余量 (Aud. dec. margin) |
|---|---|---|---|---|---|---|---|
| Llama | mean | 0.962 | 0.969 | 0.188 | 0.899 | +0.170 | +0.049 |
| Mistral | mean | 0.965 | 0.966 | 0.180 | 0.904 | +0.220 | +0.201 |
| Gemma | mean | 0.968 | 0.963 | 0.172 | 0.909 | +0.114 | +0.144 |
| Llama | last | 0.957 | 0.966 | 0.244 | 0.868 | +0.326 | +0.326 |
| Mistral | last | 0.953 | 0.960 | 0.192 | 0.898 | +0.352 | +0.284 |
| Gemma | last | 0.975 | 0.975 | 0.301 | 0.833 | +0.356 | +0.280 |
在干预实验方面,Llama 在固定第 20 层、\(\beta=50\) 条件下的生成期语气引导(对阵四类对照组:无干预、随机残差方向、错误目标语气、相反目标语气)取得了显著的语气控制效果,且极性保持率近乎完美。
| 源语气 \(\to\) 目标语气 | 源门控通过数 (Src.) | 盲评胜/平/负 (Tone W/T/L) | 极性保持率 (Pol.) | 格式/标签泄漏异常 (Art.) |
|---|---|---|---|---|
| formal \(\to\) casual | 40/40 | 158 / 0 / 2 | 40/40 (100.0%) | 1 |
| restrained \(\to\) enthusiastic | 40/40 | 128 / 29 / 3 | 39/40 (97.5%) | 0 |
| casual \(\to\) formal | 40/40 | 160 / 0 / 0 | 40/40 (100.0%) | 0 |
| enthusiastic \(\to\) restrained | 32/40 | 118 / 1 / 9 | 31/32 (96.9%) | 0 |
| 全量汇总 (Pooled) | 152/160 | 564 / 30 / 14 (胜率 92.8%) | 150/152 (98.7%) | 1 |
消融与几何特性分析¶
为证明残差并非高维发散的杂乱结构,下表汇报了 Last-token 残差子空间的紧凑性、跨划分捕获超额指标(SelfCap-Shuf95)以及靶向擦除对比基线(保留率越低说明削弱越精准):
| 模型与语用家族 | Rank-1 能量占比 | Rank-2 能量占比 | 跨划分自捕获超额 | 靶向擦除保留率 | 随机秩3擦除保留率 | 打乱基线擦除保留率 |
|---|---|---|---|---|---|---|
| Gemma - Audience | 0.677 | 0.901 | +0.463 | 0.614 | 1.000 | 0.993 |
| Gemma - Tone | 0.757 | 0.918 | +0.591 | 0.500 | 1.000 | 0.982 |
| Llama - Audience | 0.666 | 0.920 | +0.536 | 0.541 | 1.000 | 0.989 |
| Llama - Tone | 0.818 | 0.948 | +0.652 | 0.456 | 1.000 | 0.972 |
| Mistral - Audience | 0.677 | 0.917 | +0.476 | 0.644 | 1.000 | 0.991 |
| Mistral - Tone | 0.768 | 0.926 | +0.587 | 0.539 | 1.000 | 0.980 |
关键发现¶
- 单一线性方向无法解释大部分情感方差:尽管训练集抽取的共享方向在测试集族级平均差分上表现出极高的余弦对齐度(0.953–0.975),但在个体样本层面上,该单一方向仅解释了 17.2%–30.1% 的平方范数方差,残差向量仍保留原差分向量 83.3%–90.9% 的范数。
- 残差具备极高紧凑性与语用可解码性:在所有三款模型中,中心化均值矩阵的前两个奇异向量即可解释 90.1%–94.8% 的方差;且最近质心解码准确率系统性高出 95% 标签打乱上界(Tone 上界余量达 0.114–0.356),直接否定了“残差即噪声”的假设。
- 靶向擦除具备严格的选择性与结构独立性:靶向擦除仅移除了 3 维子空间,便使目标语用解码指标暴跌至 0.456–0.644,而随机 3 维擦除保留率接近 1.000;同时共享情感方向的投影保留率在全层均超过 0.95,证明语用子空间与极性主方向在几何上高度正交。
- 生成期因果干预实现解耦操纵:沿残差语气方向注入激活向量,能够在 92.8% 的盲评中成功击败对照组使生成文本转向目标语气,且在 98.7% 的情况下不损坏原定正负极性,证明残差结构具有明确的因果功能。
亮点与洞察¶
- 研究视角突破:首次跳出将情感粗暴简化为单一标量激活方向的范式,通过语言学“受众设计”理论将语气与受众调节引入表征分析,揭示了 LLM 内部情感是“共享骨干 + 语用调制”的复合几何。
- 实验控制的纯粹性:反事实骨架隔离(Skeleton-level split)杜绝了文本实体的语意混淆,正交投影构造(Orthogonal projection away from \(B^\ell\))保证了残差空间与干预向量的纯正性,实验逻辑闭环极度严密。
- 跨评测者与人类文本泛化:引入 Claude Sonnet 5 盲评取得 93.6% 胜率,排除了单一评测模型偏置;直接将 Llama 习得的语气方向零样本泛化至人类手写的受控句对,成功按正确顺序区分出 90.0% 的文本(显著性 \(p=0.0045\))。
局限与展望¶
- 受控合成语料的生态效度约束:实验完全基于 GPT-4o 合成的 221 个中性骨架,在真实复杂的开放域自然对话或社交媒体长文本中,情感与语用往往呈现更加交错模糊的非离散分布。
- 模型规模与干预范畴受限:表征几何分析覆盖了 7B/8B 级别的三款主流模型,但生成期引导因计算成本仅在 Llama 3-8B 上进行了深度验证;且引导仅测试了固定的超参和层数,尚未扩展为工业级的通用自适应编辑工具。
- 未来方向:探索高阶非线性流形与更广泛的交际意图(如讽刺、隐喻、防御性反讽)对内部表征的调制作用,并将该正交子空间干预应用于心理咨询机器人的风格自适应生成。
相关工作与启发¶
- vs Tigges et al. (2024) / Di Palma et al. (2025):前者通过因果干预确立了单一情感方向,后者证明了层级线性探针的有效性。本文证明了单一方向仅占样本方差不足三成,在其正交补空间中存在系统性编码语用信息的紧凑子空间。
- vs Marks & Tegmark (2023) / Arditi et al. (2024):后者分别发现了真实性与拒答行为的单一概念向量。本文指出了抽象概念往往具备更丰富的语用细分结构,为从单一向量拓展到“概念子空间(Subspace representations)”提供了坚实的实证支撑。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次系统性拆解 LLM 内部情感表征中的语用调制效应,在单一概念向量范式之外开辟了子空间正交解耦新路径。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 3 款模型、2 种池化、全层扫描、500次打乱基线、靶向擦除、四类对照的生成引导及独立双模型+人类双盲验证。
- 写作质量: ⭐⭐⭐⭐⭐ 论证链条环环相扣,从数据构造、几何分解到因果干预逻辑自洽且定义精确。
- 价值: ⭐⭐⭐⭐⭐ 为大模型内在表征的机制可解释性提供了极高质量的研究范式,对可控文本生成与安全对齐具启发意义。