Inverted Detection and Control in Steering Vectors¶

会议: NeurIPS 2026
arXiv: 2608.02957
论文: https://arxiv.org/abs/2608.02957
领域: 可解释性
关键词: 转向向量, 倒置转向向量, 表征工程, 推理期干预, 几何表征响应

一句话总结¶

本文揭示了表征工程中高判别性转向向量反而系统性诱导相反行为的“倒置转向”（ISV）现象，提出基于下游注意力头几何内积响应的无生成判别指标，并据此设计符号自适应反转的 ITI-RRF 算法，在 27/30 项干预实验中显著提升控制效果（最高达 +138%）。

研究背景与动机¶

在大语言模型推理期，表征工程（Representation Engineering）与转向向量（Steering Vectors, SVs）被广泛用于实时调节模型行为，例如增强诚实度、抑制权力寻求、遵从指令拒绝危险请求或调整对话风格。转向向量的核心理论支柱是线性表征假说（Linear Representation Hypothesis），即表达某种概念的文本表征与未表达该概念的文本表征在线性空间中高度可分。常规实践通常在注意力头或残差层输出空间提取两类样本表征的均值差作为概念探测方向，并假定沿着该正向平移就能增强该概念表达，反向平移则抑制该概念。

然而，表征检测（Detection）与因果行为控制（Control）之间存在长期被忽视的脱节。虽然既有研究曾注意到少数样本上的“反向可控”（anti-steerable）失败案例，但往往将其归咎于弱判别向量或偶发的虚假相关。本研究深入探测后发现了一个更为本质且反直觉的普遍现象：即便转向向量在验证集上展现出极高的概念判别力（AUC 超过 0.85 甚至高达 0.97），沿其正向干预却在全数据集聚合尺度上稳定且单调地抑制了目标行为。这类倒置转向向量（Inverted-Steering Vectors, ISVs）的大量存在，直接导致如推理期干预（Inference Time Intervention, ITI）等依赖判别性指标筛选干预维度的基础算法在诸多任务中效果大幅波动甚至严重负优化。

面对这一系统性失效，核心矛盾在于：仅凭前向表征的静态判别性无法预判其对深层解码的因果转向方向，而针对候选注意力头逐一进行自回归生成并调用模型评判的因果验证成本极其高昂。本文的切入视角是深入分析深层网络的内部几何信息流动：在上游头部施加干预虽然局部伪造了概念存在，但真正决定行为的是下游判别头表征的协同变化。核心 idea：通过构建测量下游注意力头投影变化的“表征响应”几何指标，在不进行任何自回归文本生成与模型评测的前提下无监督识别倒置转向向量，并自适应反转干预符号（ITI-RRF），彻底化解检测与控制之间的符号倒置冲突。

方法详解¶

整体框架¶

本文方法的流水线包含三个紧密衔接的阶段：上游候选注意力头转向向量的判别性初筛、基于下游头内积响应与斜率拟合的无生成欺骗分数评估、以及针对负向欺骗头的自适应符号翻转干预。在输入测试提示词后，仅需单次前向传播捕获生成前最后一个 token 处的隐层表征，即可精确判定候选向量的因果效应方向。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入概念对比样本集<br/>(D+, D-)"] --> B["阶段1：均值差向量提取与判别性初筛<br/>筛选高 AUC 候选注意力头"]
    B --> C["阶段2：下游内积响应与欺骗分数计算<br/>前向传播度量下游判别头投影协方差"]
    C --> D{"阶段3：符号自适应反转判别<br/>s_spoof(a_up) >= 0 ?"}
    D -->|是：正规向量 RSV| E["保持常规正向干预<br/>a_up <- a_up + alpha * mu_up"]
    D -->|否：倒置向量 ISV| F["自适应符号翻转干预 (ITI-RRF)<br/>a_up <- a_up - alpha * mu_up"]
    E --> G["更新后残差流进入解码输出"]
    F --> G

关键设计¶

1. 倒置转向向量（ISV）的形式化与检测困境 针对传统方法将高判别性默认等同于有效正向控制的盲目假设，本文首先严格形式化了正规转向向量（RSVs）与倒置转向向量（ISVs）的准则。给定概念指示函数与均值差转向向量 $\mu^{l,h} = \mu_+^{l,h} - \mu_-^{l,h}$，判别度 $s_{\text{disc}}(\mu) = \text{AUC}(\mu)$ 衡量该向量对概念正负样本的线性分类能力。在未发生文本质量崩溃的干预区间 $\mathcal{E} = [\alpha_{\min}, \alpha_{\max}]$ 内，定义行为效应得分 $s_{\text{isv}}$、$s_{\text{rsv}}$ 及干预系数与概念得分间的 Spearman 秩相关系数 $s_{\text{mono}}$。若向量同时满足高判别性（$s_{\text{disc}} \ge \beta_{\text{disc}}$）、强倒置效应（$s_{\text{isv}} \ge \beta_{\text{effect}}$）及强负单调性（$s_{\text{mono}} \le -\beta_{\text{mono}}$），则定义为严格的 ISV。实证挖掘表明，ISV 广泛分布在各类前沿模型中，例如 Qwen 2.5 14B 在财富追求概念上的某注意力头 AUC 高达 0.97，但 $s_{\text{mono}} = -1.0, s_{\text{isv}} = 0.50$，若盲目施加正向平移会导致模型行为完全背道而驰。

2. 内积响应与表征响应：下游表征的几何伪造签名 为在推理阶段免去生成开销，本文揭示了转向向量作用于深层网络时的“几何伪造”（geometric spoofing）机制。当在候选上游注意力头 $a_{\text{up}}$ 施加 $+\alpha \mu_{\text{up}}$ 时，根据内积定义 $\langle \mu_{\text{up}}, r + \alpha \mu_{\text{up}} \rangle > \langle \mu_{\text{up}}, r \rangle$，上游表征本身必然被局部“伪造”出概念存在。然而，该扰动经由后续层传播至下游高判别头 $a_{\text{dwn}}$ 时，RSV 与 ISV 诱导出了完全相反的表征轨迹。为此，本文定义归一化内积响应（Inner-Product Response, IPR）： $$\kappa_\alpha(a_{\text{up}}, a_{\text{dwn}}; \mathcal{D}) = \frac{\mathbb{E}_{q \sim \mathcal{D}}\big[(\hat{a}_{\text{dwn}}(q; \alpha\mu_{\text{up}}) - \hat{a}_{\text{dwn}}(q))^\top \mu_{\text{dwn}}\big]}{\sqrt{\mathbb{V}_{q \sim \mathcal{D}}\big(\hat{a}_{\text{dwn}}(q)^\top \mu_{\text{dwn}}\big)}}$$ 为了跨越整个干预区间刻画变化趋势，进一步引入表征响应 $\Gamma$ 作为 $\alpha$ 与 $\kappa_\alpha$ 的最优线性拟合斜率： $$\Gamma(a_{\text{up}}, a_{\text{dwn}}; \mathcal{D}, A) = \frac{\mathrm{Cov}\bigl(A, \kappa_A(a_{\text{up}}, a_{\text{dwn}}; \mathcal{D})\bigr)}{\mathbb{V}(A)}$$ 将所有高判别下游头 $\mathcal{H}_{\text{dwn}}$ 上的表征响应平均，即得到该上游头的综合欺骗分数（spoof score）$s_{\text{spoof}}(a_{\text{up}}; \mathcal{D}, A)$。RSVs 系统性诱导正值（下游协同伪造存在），而 ISVs 系统性诱导负值（下游表征反而被推向概念缺失区域）。

3. ITI-RRF：基于欺骗分数的推理期自适应符号反转 传统的推理期干预（ITI）选取前 $k$ 个最高判别性的注意力头，施加统一符号的平移 $\alpha \mu$。一旦选取的头部中包含 ISV，统一正向干预就会引发内部表征冲突。本文提出 ITI-RRF（Inference Time Intervention with Representation Response Flip）：在验证集提示词上，利用保守的干预区间 $\alpha \in \{-10, \dots, 10\}$ 在前向传播中计算每个被选头部的 $s_{\text{spoof}}$。若 $s_{\text{spoof}} \ge 0$，维持常规干预方向；若 $s_{\text{spoof}} < 0$，则将该头部的干预方向翻转为 $-\alpha [\mu_{\text{up}}; \dots; \mu_{\text{up}}]$。由于该过程仅在提示词末尾 token 的前向计算中完成，且无需任何标注答案或生成评判，计算极快（在 A6000 上仅耗时 2-4 秒），使得将潜在的负面冲突转化为正面增益成为可能。

理论保证与有限样本集中界¶

为保证经验估计的内积响应 $\widehat{\kappa}_\alpha$ 具有统计鲁棒性，本文给出了有限样本集中不等式界（定理 4.3）。假设下游投影变动有界 $|X_\alpha(q)| \le B_{X_\alpha}$，自然投影有界 $|S(q)| \le B_S$，且天然方差非退化 $\mathbb{V}(S(q)) \ge v_0 > 0$。对于任意精度 $\varepsilon > 0$ 与置信度 $1 - \delta$，当样本量满足： $$n \ge \max\!\left\{4,\; \frac{200 B_S^4 \log(8/\delta)}{v_0^2},\; \left(\frac{2 B_{X_\alpha}}{\sqrt{v_0}} + \frac{10\sqrt{2}\,B_{X_\alpha}B_S^2}{v_0^{3/2}}\right)^2 \frac{\log(8/\delta)}{\varepsilon^2}\right\}$$ 时，以至少 $1 - \delta$ 的概率成立 $|\widehat{\kappa}_\alpha - \kappa_\alpha| \le \varepsilon$。该界结合了 Hoeffding 不等式与无偏样本方差集中性质，证明了仅需极少量的输入提示样本就能高置信度确定下游几何响应的符号。

实验关键数据¶

主实验¶

实验覆盖三个先进开源模型：Gemma 3 12B、Qwen 2.5 14B 和 Olmo 3 7B，涵盖 5 项评估概念：可纠正性（Corrigibility, Cor）、近视回报（Myopia, Myo）、拒绝安全（Refusal, Ref）、财富倾向（Wealth, Wea）以及真实性（TruthfulQA, TQA）。评估方式采用 GPT-4.1-mini 作为裁判，评估生成文本的属性得分（MWE 与 Refusal 为 1-4 分，TQA 为 0-1 准确率，并对退化样本进行惩罚校正）。

下表汇报了无干预基线（Baseline）、标准 ITI 干预以及本文自适应翻转方法（ITI-RRF）在促进（$\uparrow$）与抑制（$\downarrow$）两种场景下的主结果对比（引自原论文 Table 1）：

模型	方法	促进: Cor (↑)	促进: Myo (↑)	促进: Ref (↑)	促进: Wea (↑)	促进: TQA (↑)	抑制: Cor (↓)	抑制: Myo (↓)	抑制: Ref (↓)	抑制: Wea (↓)	抑制: TQA (↓)
Gemma 3 12B	Baseline	1.75	1.87	2.45	1.96	0.71	1.75	1.87	2.45	1.96	0.71
	ITI	1.50	2.98	2.48	1.88	0.71	1.86	1.40	2.46	1.97	0.75
	ITI-RRF (本文)	3.57	3.28	3.18	2.66	0.82	1.01	1.31	2.15	1.42	0.65
Qwen 2.5 14B	Baseline	1.55	1.76	2.66	1.98	0.83	1.55	1.76	2.66	1.98	0.83
	ITI	1.48	1.96	2.77	2.07	0.91	1.55	1.42	2.21	1.99	0.85
	ITI-RRF (本文)	2.61	2.46	2.64	2.43	0.86	1.04	1.36	2.72	1.74	0.83
Olmo 3 7B	Baseline	1.56	1.99	2.51	2.16	0.68	1.56	1.99	2.51	2.16	0.68
	ITI	2.25	2.26	2.60	2.30	0.66	1.29	1.78	2.46	1.76	0.71
	ITI-RRF (本文)	2.88	2.28	2.98	2.44	0.72	1.03	1.67	2.40	1.74	0.67

消融实验¶

下表统计了欺骗分数 $s_{\text{spoof}}$ 在无生成条件下区分 ISV 与 RSV 的判别能力（基于 45 个 ISV 与 45 个 RSV 样本，测试集），以及在不同严格程度的定义阈值 $|s_{\text{mono}}| \cdot s_{\text{effect}}$ 下的分类 AUC 与保留样本量：

| 判定严格度阈值 ($|s_{\text{mono}}| \cdot s_{\text{effect}}$) | 保留向量数 (总计 90) | 零阈值判别准确率 | $s_{\text{spoof}}$ 分类 AUC | 核心结论与表现说明 | |---|---|---|---|---| | 原始基准 (无额外约束) | 90 | 81.0% | 0.910 | 零生成开销下展现强判别力，显著区分正反向向量 | | 中等严格 ($\ge 0.20$) | 78 | 85.9% | 0.935 | 排除微弱效应噪声后，下游几何响应一致性进一步增强 | | 较高严格 ($\ge 0.40$) | 54 | 92.6% | 0.968 | 强单调性与高效应向量对下游几何表征有极明确的符号响应 | | 极严格阈值 ($\ge 0.60$) | 36 | 97.2% | 0.990 | 典型 ISV/RSV 几乎完全线性可分，证实了几何伪造假说的正确性 |

关键发现¶

ITI-RRF 在 27/30 项实验中实现系统性超越：在总共 30 个设置中，翻转负欺骗分数的向量带来了稳定增益，增幅介于 +0.9% 到 +138% 之间。特别是在 Gemma 3 12B 的可纠正性（Corrigibility）促进任务上，ITI 由于选入关键 ISV，得分反而从基线 1.75 暴跌至 1.50；而 ITI-RRF 纠正符号后得分跃升至 3.57（相对提升 +138%）。
标准 ITI 的性能退化根源被准确定位：历史文献中常观察到 ITI 在不同模型和任务上表现不稳定的现象，过去多归咎于干预破坏了模型连贯性。本文实验明确证实，主要原因在于最高判别性的注意力头中往往混杂着 ISV，导致模型内部产生相互抵消甚至反向拉扯的表征力矩。
纯前向几何特征足以替代高昂的生成验证：计算欺骗分数 $s_{\text{spoof}}$ 仅需对无标签提示词进行单次前向传递（计算耗时 2-4 秒），相比于自回归生成并调用大模型评测的方案（生成耗时约 2-3 分钟且伴随高昂 API 成本），实现了近两个数量级的效率飞跃，且分类 AUC 达到 0.91-0.99。

亮点与洞察¶

颠覆了“检测即控制”的直觉认知：揭示了即使向量对概念具备接近完美的线性判别力（高 AUC），在因果干预时仍可能产生严格单调相反的控制效果，警示了表征工程研究不能把前向可分性简单当成因果干预方向。
深层级联几何视角的引入：传统方法只关注被干预层本身的激活偏移，而本文开创性地通过“上游干预 $\to$ 下游高判别头投影协方差”的视角，将因果效应投射到深层注意力网络的协同流动中，建立了表征响应理论。
零生成开销的即插即用修复管线：ITI-RRF 优雅地保持了 ITI 的极简性与高效性，仅通过前向传播的几何协方差自适应决定符号正负，既无需额外梯度微调，也无需大模型裁判在线打分。

局限与展望¶

干预算子形式受限于简单平移：本文主要针对最普遍的注意力头输出加性平移向量进行分析，尚未探讨仿射变换（Affine Steering）或非线性流控（Non-linear ActAdd）中是否存在类似的倒置现象。
少数特例机制尚待深挖：在 Qwen 2.5 14B 的拒绝概念（Refusal）等 3/30 场景中，ITI-RRF 未能完全胜出，推测深层网络中可能存在非线性的注意力路由补偿回路。
未来方向：探索多层联合干预下 ISV 的耦合动力学，并将几何内积响应机制拓展至多模态及扩散生成模型的潜空间控制中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次系统形式化高判别性转向向量的倒置控制现象，提出下游表征响应几何理论，视角极具颠覆性。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 3 种主流架构大模型、5 类核心对齐与认知概念，主客观指标完整，并附带有限样本集中度理论证明。
写作质量: ⭐⭐⭐⭐⭐ 概念界定严谨，几何图景生动清晰，数学符号与实验论证高度自洽。
价值: ⭐⭐⭐⭐⭐ 直接解决表征工程落地中的核心稳定性瓶颈，无需生成开销即可大幅增强控制鲁棒性，实用价值极高。