ADAPT: Hybrid Prompt Optimization for LLM Feature Visualization¶

会议: NeurIPS 2026
arXiv: 2602.17867
OpenReview: https://openreview.net/forum?id=lF3IyYVmWh
论文: https://arxiv.org/abs/2602.17867
领域: 可解释性
关键词: 特征可视化, 稀疏自编码器 (SAE), 离散提示词优化, 束搜索初始化, 梯度变异

一句话总结¶

针对大语言模型特征可视化中离散提示词优化极易陷入局部最优的问题，提出融合多组束搜索初始化、梯度与Logit自适应混合变异及多样性槽位管理的混合算法 ADAPT，在 Gemma 2 2B 的 486 个 SAE 隐层方向上显著超越 GCG 与 EPO。

研究背景与动机¶

理解大语言模型激活空间中方向向量所编码的语义概念，通常依赖数据集搜索方法——即在海量语料上运行前向传播并记录最大化激活该方向的数据集样本（MAEs）。在针对稀疏自编码器（SAE）析出的数万级单语义隐层方向进行大规模粗筛时，语料搜索成本可以被平摊。然而，当研究者试图探索特定电路子结构、组合特征或稀有方向时，固定语料库的局限性暴露无遗：样本规模受限导致覆盖率不足、语料内混杂特征天然共存导致难以解耦因果机制，且关联式统计方法可能在随机初始化的网络上生成看似合理的虚假解释。

将视觉领域成熟的特征可视化（Feature Visualization）迁移至大语言模型，通过提示词优化直接合成最大化激活目标隐层方向的专属输入，是摆脱固定语料依赖的理想路径。然而，文本输入的离散本质阻断了连续反向传播，而现有的对抗攻击提示词优化技术直接迁移时表现极差。贪心坐标梯度（GCG）严重依赖随机初始化且在离散替换中容易陷入局部最优，梯度自由的束搜索（BEAST）缺乏精细调优能力，而进化提示词优化（EPO）将大量算力消耗在全局帕累托前沿维护平滑流动性上，搜索多样性受阻。

这种失败的核心根源在于：离散文本空间的优化地形具有严重的非凸性与“干草垛寻针”特性，单一依靠离散梯度估计其信噪比极低，而无梯度采样又缺乏方向导向。本文的核心 idea 是：将基于前向概率生成的束搜索转化为高质量多样化初始种群，结合“梯度导向变异”与“无梯度Logit替换”的自适应混合变异机制，并通过组内保底与组间竞争的动态槽位管理维持探索多样性，构建兼顾全局跳出与局部精细调优的特征可视化新范式。

方法详解¶

整体框架¶

ADAPT（Adaptive DynAmic Prompt Tuning）面向 SAE 隐层方向最大化激活问题设计，输入包括目标隐层索引、目标模型及 SAE，输出为能强力激活该方向的高质量提示词序列。整体流程由三个紧密衔接的阶段构成：多组并行束搜索初始化提供优良搜索起点；自适应混合变异在梯度估计与模型前向预测间动态切换；多样性槽位管理在评估打分（配合渐进式 Sigmoid 流畅度正则）后保留独立探索轨迹并全局择优。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["目标隐层方向 f 与模型"] --> B["多组并行束搜索初始化<br/>右追加 + 中间插入扩展高质量前缀"]
    B --> C["自适应混合变异<br/>伯努利交替 GCG 梯度替换与 Logit 采样替换"]
    C --> D["渐进式评估与流畅度惩罚<br/>Sigmoid 动态加权自交叉熵惩罚"]
    D --> E["多样性槽位管理<br/>分组保底槽位 + 全局竞争空闲槽位"]
    E -->|迭代 T 轮| C
    E --> F["输出最大化激活提示词 t*"]

关键设计¶

1. 多组并行束搜索初始化：规避孤立起点与端点偏置

GCG 等传统离散优化严重受制于初始提示词的选取，若从纯随机词表中采样，优化轨迹往往过早停滞于极低激活的局部凹坑。ADAPT 在进入正式迭代前引入梯度自由的束搜索预处理，维护 $G$ 个彼此独立的候选组（Beams）。每个组从单 token 序列出发，以束宽 $k_1$ 与扩展因子 $k_2$ 沿模型自身预测的序列概率向后扩展。针对 SAE 隐层激活常在序列末尾计算、容易诱发右追加退化为死循环重复（例如为匹配某专属词而在尾部反复堆叠同一 token）的问题，初始化过程显式引入随机位置的“中间插入”（Middle-insert）操作，使优化能有效丰富左侧语义上下文。多组并行互不污染，最终输出跨步数、跨组的最优提示词，为后续梯度搜索提供了高置信度且具多样性的跳板。

2. 自适应混合变异机制：互补梯度估计与自回归前向采样

在离散文本空间中，GCG 所采用的单热编码梯度估计（$\nabla_{e_i} \mathcal{L}$）存在显著的噪声：实测表明梯度的低值排序虽然偶尔能选出极大改进点，但在中低区间与随机采样无异，且对标点、格式类 token 存在系统性低估。ADAPT 采用混合突变策略，每轮迭代按伯努利分布以概率 $p_{\text{gcg}}=0.5$ 自适应切换变异算子：当选中 GCG 梯度变异时，计算反向传播并从前 $K=512$ 个低梯度 token 中采样替换；当选中 Logit 替换变异时，直接基于模型的前向输出 logits 采样合法续写候选。由于 Logit 变异免去了反向传播开销，ADAPT 在 Logit 轮次自适应扩大幸存候选池以扩大探索面，使得前向生成的语义自然度与反向梯度的极限拉扯形成优势互补。

3. 多样性槽位管理与动态惩罚：平衡全局探索与高维局部下潜

为了防止种群退化为单一候选的高相似度变体，ADAPT 构建了双轨制槽位管理结构。系统为 $G$ 个初始化组分配“保底槽位”（Guaranteed Slots，每组保留历史全局最优候选），无论其余样本表现如何均不予淘汰，强制维持多条相互独立的搜索路线；其余“空闲槽位”（Free Slots）则由所有变异候选凭得分增量跨组竞争，同时设定单一组最多占用其配额两倍的上限。在候选评估中，为避免固定流畅度正则过早抑制激活，算法引入平滑的 Sigmoid 调度惩罚函数： $$\lambda_t = \frac{\lambda_{\max}}{1 + \exp(-s \cdot (t - t_{\text{mid}}))}$$ 候选得分定义为 $\text{score}_c = a_c - \lambda_t \cdot \max(0, \text{CE}(c) - \tau)$，其中 $a_c$ 为目标隐层激活，$\text{CE}(c)$ 为提示词平均自交叉熵，$\tau$ 为容忍阈值。前期专注于大范围爬升隐层激活，后期逐步收紧流畅度约束，确保最终解兼具极端激活强度与人类可解构的语义结构。

损失函数 / 训练策略¶

优化目标直面 SAE 编码特征的激活强度。对于单隐层方向 $i$，给定前向隐状态 $x$，SAE 重构前向为 $\hat{x}=W_{\text{dec}} f(W_{\text{enc}} x + b_{\text{enc}}) + b_{\text{dec}}$，基础优化目标为最大化 $f_i(x)$。在引入动态流畅度控制后，候选 $c$ 的综合评价得分综合了激活与超额交叉熵惩罚。超参数配置方面，Gemma 2 2B 上维护 10 个提示词分布于 3 个多样性组（每组 2 个保底槽位），每轮生成 32 个候选，梯度估计采样 top-512，优化运行 25 轮，最大惩罚系数 $\lambda_{\max}=3.0$，目标提示词长度固定为 10 tokens。

实验关键数据¶

主实验¶

评测在 Gemma 2 2B 的 16k 维度残差层 SAE（覆盖 6 个代表性层：3, 7, 11, 17, 21, 25）上展开，采用按密度（Density）、局部性（Locality）、多样性（Diversity）三维正交网格分层抽样的 486 个隐层方向。评估指标包括激活比率（Activation Ratio）（生成提示词激活值与语料库最大激活样本 MAE 之比）与行胜列胜率（Row beats Column Win Rate）。

优化方法	激活比率均值（全层）	对比 GCG 胜率	对比 BEAST 胜率	对比 EPO 胜率	对比 ADAPT 胜率
GCG (Zou et al., 2023)	0.91	–	56.4%	63.2%	29.6%
BEAST (Sadasivan et al., 2024)	0.88	43.6%	–	50.2%	12.8%
EPO (Thompson et al., 2024)	0.79	36.8%	49.8%	–	21.4%
ADAPT (本文)	1.14	70.4%	84.0%	78.6%	–

消融实验与机制分析¶

在涵盖 50 个高难度隐层的子集（基于 GCG 优化难度硬度指标加权采样）上，针对 GCG 初始敏感度、变异机制及流畅度约束开展深入消融与检验：

配置 / 实验条件	评估指标 / 现象	结果与机制说明
自回归生成初始化 vs 随机初始化 (GCG)	胜率占比 / 轨迹方差	自回归初始在 62% 配置下优于随机初始；同一起点中位方差达 0.20，证实路径高度依赖轨迹
单纯 GCG 梯度替换 (Top-1024)	改进量分布	梯度排序靠前的分箱虽有少数极端大提升点，但大部分分箱命中率接近均匀，信噪比极低
Logit-swap 采样替换 (p=0.95)	改进量与词性偏置	分布呈现双峰性，成功召回大量被梯度错误低估的高价值标点与格式 token
固定强流畅度惩罚 ($\lambda=1.0 \sim 9.0$)	激活比率衰减	固定 $\lambda$ 显著压制全局激活峰值，证实静态惩罚破坏优化景观；ADAPT 的 Sigmoid 动态退火最优
人工可解释性打分 (1-5 分制)	平均评分 / Wilcoxon 统计量	ADAPT 得分 3.82 vs GCG 3.18 vs GCG+$\lambda$ 3.15 ($W=4459.5, p<10^{-8}$)，高激活正相关可解释性

关键发现¶

深度衰减反转：单用 GCG 时，浅层性能极佳但随着网络层数加深性能剧烈退化；BEAST 则在浅层弱而在深层更具韧性。ADAPT 融合前向探索与反向细化，在浅层（Layer 3）到深层（Layer 25）均保持了平稳的优势曲线。
高激活即高可解释性：人工双盲评估（Krippendorff's $\alpha=0.650$）证实，优化获得的特征激活比率与人类对概念的辨识度呈强正相关（$r=0.645, p<10^{-5}$）。这消除了“特征可视化优化只利用无意义对抗伪影”的顾虑，高激活 prompt 能够精确捕获诸如 MCU（漫威宇宙）、特定词根或标点等具体功能。
双隐层联合可视化可行性：在双隐层可视化拓展实验中，采用 $L_{0.1}$ 范数损失能有效生成兼顾两个特征的连续文本（例如成功产出 "times aanki Stark magnet first unveiled as the"，同时激活代表漫威宇宙钢铁侠的隐层 823 与代表磁铁物理特性的隐层 154）。

亮点与洞察¶

离散梯度与前向概率的互补性洞察：深入剖析了 GCG 梯度估计在特征空间中的信噪比缺陷，指出反向传播的线性化假设在极度离散稀疏的 SAE 地形上频繁失真，而语言模型自身预测的 Logit 分布能有效校正梯度偏置并挽救被错杀的高效 token。
保底与竞争解耦的种群生态：借鉴进化算法思想但放弃了破坏多样性的全局排序，通过组内保底维持相互正交的搜索路径，从根源上遏制了种群过早收敛至局部微小变体。
动态 Sigmoid 调度解耦流利与特征激发：发现静态流利度惩罚会直接截断高激活解的搜索，通过非线性动态调度将“前期野蛮生长探索”与“后期结构语义正则”在时间维度彻底解耦。

局限与展望¶

模型与组件范围：当前实验集中于 Gemma 2 2B 的残差层 SAE，尚未覆盖更大参数规模的 LLM（如 70B+）或注意力头/MLP 独立模块的 SAE 字典。
隐层互斥约束：在扩展多特征联合可视化时，若两个目标隐层在语义或序列局部性上存在强冲突（如均要求在极短单 token 处爆发不同激活），基于 $L_{0.1}$ 范数的优化仍可能退化。
未来方向：将 ADAPT 从单一特征探索推广至因果电路（Circuit Components）与控制向量（Steering Vectors）的端到端自动化可视化，并与无监督自动化解释评估流程结合。

评分¶

新颖性: ⭐⭐⭐⭐☆ 针对文本特征可视化痛点有机结合束搜索、自适应梯度/Logit变异与多槽位生态，策略设计动机明确。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 486 个分层采样隐层、多层深入对比、梯度信噪比量化分析及严谨的人工可解释性双盲检验。
写作质量: ⭐⭐⭐⭐⭐ 逻辑推导环环相扣， failure modes 剖析切中要害，实验图表信息密实。
价值: ⭐⭐⭐⭐⭐ 为大模型机械可解释性研究提供了开箱即用的离散特征可视化强基准，推动 LLM 隐空间由被动统计向主动因果探测迈进。