Dual-Pathway Circuits of Object Hallucination in Vision-Language Models¶
会议: NeurIPS 2026
arXiv: 2605.13156
代码: https://github.com/jiaxin26/DualPath-VLM
领域: 幻觉检测
关键词: 视觉语言模型, 物体幻觉, 机制可解释性, 激活修补, 双通路回路分析
一句话总结¶
本文提出双通路回路分析(Dual-Pathway Circuit Analysis)框架,通过跨五种多模态架构的激活修补与条件通路分析(CPA),揭示了视觉语言模型中由“视觉接地通路”与“幻觉通路”构成的双通路机制及接地通路在幻觉样本上的因果极性翻转现象,并通过推理期对幻觉通路组件的标量缩放抑制将物体幻觉率最高降低 76%(准确率代价不超过 2 个百分点)。
研究背景与动机¶
视觉语言模型(VLM)在图文跨模态理解与推理任务中表现出色,但仍频繁出现物体幻觉(Object Hallucination),即在输出中凭空描述输入图像中并不存在的实体、属性或空间关系。这种过度依赖语言先验(如词汇共现统计规律)而非真实视觉证据的现象,严重制约了模型在高可靠性场景中的部署。目前主流的幻觉缓解方案(如训练期对齐 RLHF-V、解码期对比约束 VCD 与 OPERA、事后修正 Woodpecker,以及推理期线性激活引导 ITI 与 SteerVLM)大多将 VLM 视为黑盒,或隐式假设幻觉信号可由单一静态线性方向完全刻画,缺乏对网络内部跨模态计算回路的系统性因果剖析。
将纯文本语言模型中的机制可解释性(Mechanistic Interpretability)与激活修补(Activation Patching)技术拓展到 VLM 面临两大核心阻碍。一方面,现代 VLM 的视觉信息注入方式差异巨大,涵盖了直接嵌入拼接(Qwen3-VL)、可学习 MLP 投影(LLaVA、InternVL3)以及交错式交叉注意力层(Llama-3.2-Vision),目前尚不清楚驱动物体幻觉的内部回路究竟是特定架构的副产物,还是多模态训练过程中普遍涌现的共性结构。另一方面,此前的多模态因果追踪工作仅停留在单组件(单个注意力头或层)分析层面,无法回答通路内部的多个组件是冗余备份还是协同放大,也难以解释为何完好的视觉接地组件在模型发生幻觉时未能阻止错误输出。
针对上述问题,本文以二元真值清晰、不受复杂属性与关系混淆干扰的物体存在性问答(POPE-adversarial)作为因果探针切入点,在涵盖三种语言主干与四种视觉融合策略的五个代表性 VLM 上展开跨架构回路解析。核心 idea:提出双通路回路分析(Dual-Pathway Circuit Analysis)与条件通路分析(CPA)框架,从单组件因果效应与通路级多组件交互两个维度解耦“视觉接地通路”与“幻觉通路”,揭示接地通路在幻觉时保持内部冗余但整体发生因果极性翻转(被语言先验挟持)以及幻觉信号呈多维子空间分布的核心规律,进而通过无需重训练的逐组件标量抑制实现跨架构、跨基准的幻觉消减。
方法详解¶
整体框架¶
双通路回路分析框架围绕“组件级回路定位 → 通路级交互解耦 → 因果干预与独立验证”三个递进阶段构建,旨在从因果层面完整刻画 VLM 产生与抑制物体幻觉的内部计算机制。整体流水线输入为成对的图像与物体存在性问题(如 POPE-adversarial 样本),针对每个 Transformer 块内的注意力子层(.attn)与多层感知机子层(.mlp)进行细粒度探测,最终输出各模型的双通路结构图谱、通路交互诊断指标以及推理期定向抑制后的预测结果。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入图像与物体存在性提问<br/>Clean Pass 缓存干净激活"] --> B["视觉 Token 高斯噪声破坏<br/>Corrupt Pass (3σ 噪声注入第 0 层)"]
B --> C["跨架构激活修补与双通路回路提取<br/>恢复单组件并按 Cohen's d 划分正负通路"]
C --> D["条件通路分析与极性翻转诊断<br/>同步恢复全通路组件计算 MagDiff 与跨子集极性"]
D --> E["通路级标量抑制与机制独立验证<br/>推理期缩放幻觉组件输出并结合 Logit Lens 验证"]
E --> F["输出低幻觉率预测与跨基准泛化评估<br/>POPE 三子集与 AMBER 存在/关系/属性迁移"]
关键设计¶
1. 跨架构激活修补与双通路回路提取:定位跨模型共享的视觉接地与幻觉双通路组件
为了在嵌入拼接、MLP 投影和交叉注意力等截然不同的 VLM 架构上统一衡量各组件的因果贡献,本文设计了配有模型专属适配器的跨架构激活修补协议,且仅对视觉 Token 实施扰动以隔离视觉证据流。具体而言,对每个图文样本依次执行三次前向传播:第一次为干净前向传播(Clean Pass),记录所有层的激活状态及最终输出位置上正确 Token 与错误 Token 的对数几率差 \(\Delta_{\text{clean}} = \text{logit}(\text{correct}) - \text{logit}(\text{incorrect})\);第二次为破坏前向传播(Corrupt Pass),在第 0 层的所有视觉 Token 嵌入上注入标准差为干净视觉嵌入样本内标准差 3 倍的高斯噪声(\(3\sigma_{\text{visual}}\)),使所有受测模型的预测准确率退化至随机猜测水平(约 50%),得到 \(\Delta_{\text{corrupt}}\);第三次为修补前向传播(Patch Pass),将单个目标组件 \((L, C)\) 的输出恢复为干净运行时的激活值,其余部分保持噪声破坏状态,从而计算该组件的间接因果效应(Indirect Effect, IE):
为消除样本间的难度与幅度差异,使用总效应 \(\mathrm{TE} = \Delta_{\text{clean}} - \Delta_{\text{corrupt}}\) 对 \(\mathrm{IE}(L, C)\) 进行归一化。随后,在每个模型的 \(1{,}000\) 个 POPE-adversarial 样本上,根据模型自身在干净运行时的回答是否正确,将样本划分为“正确回答(回答 No)”与“发生幻觉(错误回答 Yes)”两个子集,对每个组件在两类样本上的归一化 IE 分布执行 Welch's \(t\) 检验。经过 Benjamini-Hochberg(BH)多重比较校正(控制假发现率 \(\alpha = 0.05\))后,筛选出满足 \(p_{\text{adj}} < 0.05\) 且效应量绝对值 \(|\text{Cohen's } d| > 0.3\) 的显著组件构成该模型的幻觉相关回路。其中,效应量 \(d > 0\)(即正确样本上 IE 显著更高)的组件被归入视觉接地通路(Visual Grounding Pathway),负责传递真实视觉证据;而 \(d < 0\)(即幻觉样本上 IE 显著更高)的组件则被归入幻觉通路(Hallucination Pathway),在模型偏离视觉事实时主导预测。
2. 条件通路分析与极性翻转诊断:量化通路内冗余度并揭示接地通路在幻觉时的极性反转
单组件激活修补虽然能够识别哪些组件重要,但无法揭示同一通路内的多个组件究竟是在传递冗余备份信息、相互协同放大,还是各自独立起作用。为此,本文提出条件通路分析(Conditional Pathway Analysis, CPA),分别在接地通路和幻觉通路内部进行全通路同步恢复实验(不将两条通路混算,以避免正负相反的因果效应相互抵消)。对于包含 \(k\) 个组件的某一条通路 \(\mathcal{P} = \{C_1, \ldots, C_k\}\),在一次修补传播中同时将这 \(k\) 个组件全部恢复为干净激活,测得通路的联合因果效应 \(\mathrm{IE}(\mathcal{P}) = \Delta_{\text{patched}}(\mathcal{P}) - \Delta_{\text{corrupt}}\)。由于组件个体效应 \(\mathrm{IE}(C_i)\) 的正负极性在不同样本子集间可能发生变化,直接用带符号的差值 \(\mathrm{IE}(\mathcal{P}) - \sum_{i=1}^k \mathrm{IE}(C_i)\) 会将通路冗余度与个体效应的极性方向混为一谈。本文因此定义了消除极性干扰的幅度差诊断指标 \(\mathrm{MagDiff}(\mathcal{P})\) 及幅度比 \(|\mathrm{IE}(\mathcal{P})| / \sum_{i=1}^k |\mathrm{IE}(C_i)|\):
当 \(\mathrm{MagDiff}(\mathcal{P}) < 0\)(即幅度比小于 1)时,表明同时恢复全部组件的效果远小于各组件独立效应绝对值之和,意味着通路内部各组件携带了高度重叠的冗余信息(Redundancy);反之若大于 0 则代表多组件协同(Synergy)。通过结合 \(\mathrm{MagDiff}(\mathcal{P})\) 与单组件平均效应 \(\overline{\mathrm{IE}}\) 在正确与幻觉两个子集间的跨子集偏移检验,CPA 揭示了一个单组件修补无法察觉的关键机制:两条通路在所有子集内均保持强冗余(幅度比均值仅为 \(0.32\)),但视觉接地通路在模型产生幻觉时发生了系统性的因果极性翻转——其平均个体 IE 从正确样本上的显著正值(\(+0.13 \sim +1.59\))全部反转为幻觉样本上的显著负值(\(-1.08 \sim -0.07\))。这证明幻觉发生时视觉接地通路并未失效或瓦解,而是其内部冗余编码的表征整体被语言先验“挟持(entrained)”,反而将预测推向了错误的幻觉答案。
3. 通路级标量抑制与机制独立验证:针对多维幻觉信号实施逐组件缩放干预与跨层解码验证
为了在无需重训练的前提下从因果层面验证所提取回路的功能并探明幻觉信号的几何结构,本文设计了推理期通路级标量抑制策略与独立于修补的验证机制。一方面,利用 Logit Lens 将每一层 \(l\) 在末位 Token 处的隐状态通过最终层归一化与语言模型分类头映射为中间层对数几率 \(\hat{y}_l = \text{lm\_head}(\text{norm}(h_l))\),计算相邻层间对数几率差的变化量 \(\Delta_l\),在不依赖激活修补的情况下独立验证两条通路的层间边际贡献。另一方面,对幻觉通路(\(d < 0\))中的组件在每次前向传播时直接按比例缩放其输出激活:
针对幻觉通路高度分散的模型(如 LLaVA-v1.6 包含多达 30 个幻觉组件,全量抑制会损伤正常生成能力),本文进一步引入 Top-\(k\) 组件筛选机制,按效应量绝对值 \(|d|\) 降序排列并仅对前 \(k \in \{3, 5, 8, 10, 15, 20, 30\}\) 个最强幻觉组件实施缩放。之所以采用逐组件标量缩放而非传统的单方向线性投影(如均值差投影或基于探针的 ITI),是因为本文对幻觉激活偏差矩阵 \(\Delta X = X_{\text{halluc}} - \mu_{\text{correct}}\) 进行奇异值谱几何分析后发现,其参与率(Participation Ratio, \(\mathrm{PR} = (\sum_i \sigma_i^2)^2 / \sum_i \sigma_i^4\))在各模型间达到 \(2.40 \sim 6.78\),第一主奇异方向仅能解释 \(45.2\% \sim 68.8\%\) 的方差(即 \(\sigma_1^2 / \sum_i \sigma_i^2\))。这意味着幻觉信号分布在多维正交子空间中,任何单一静态方向的线性加减都受限于主方向方差上限,而逐组件标量缩放能够同时衰减组件输出在所有激活方向上的多维幻觉偏置。
损失函数 / 训练策略¶
本文全流程为推理期机制分析与无训练因果干预(Training-free Intervention),不涉及模型权重微调或梯度反传损失函数。在实验协议与超参数选择上遵循严格的数据集隔离与统计检验标准: - 严格隔离的数据集划分:从 POPE-adversarial 中独立采样四个互不重叠的子集——\(1{,}000\) 个样本用于激活修补与回路提取,\(400\) 个样本用于 CPA 通路交互分析,\(200\) 个样本用于 Logit Lens 验证,以及 \(500\) 个样本用于因果干预评估。干预集进一步拆分为 \(100\) 个样本的验证选择集(Selection Set)和 \(400\) 个样本的留出测试集(Held-out Test Set)。 - 准确率预算约束下的超参选择:在 \(100\) 个样本的选择集上搜索最优缩放因子 \(s\) 与组件数 \(k\),选择标准为“在整体准确率下降不超过 \(2\text{ pp}\)(percentage points)的前提下最小化幻觉率”;确定后的 \((s, k)\) 原封不动地直接应用于留出测试集以及 POPE-popular、POPE-random 和 AMBER 三类幻觉子集,构成纯粹的零样本跨基准泛化测试。 - 对称网格线性引导基线(Symmetric-Grid Linear Steering):在构建对比基线 ITI 时,在独立 \(1{,}000\) 样本上为每个注意力头训练带类别权重平衡的逻辑回归探针。本文发现探针学到的方向天然指向“幻觉类”,若仅在正系数 \(\alpha > 0\) 上搜索会导致小 \(\alpha\) 饱和、大 \(\alpha\) 反而将幻觉率放大 \(3.7\) 倍(如 InternVL3-8B 从 \(20.0\%\) 飙升至 \(74.0\%\));因此必须在对称网格 \(\alpha \in \{\pm 5, \pm 10, \pm 15, \pm 20\}\) 与 \(K \in \{12, 24, 48, 96\}\) 上搜索负向抑制系数。
实验关键数据¶
主实验¶
表 1 展示了五个跨架构 VLM 的双通路回路提取结果(\(n=1{,}000\))以及在 POPE-adversarial 留出测试集(\(n=400\))上实施幻觉通路标量抑制后的主实验表现(汇总自原文 Table 1 与 Table 13)。
| 模型 | 视觉融合架构 | 语言主干 (层数) | 显著回路组件数 (接地 / 幻觉) | 干预配置 \((s, k)\) | 基线准确率 / 幻觉率 | 干预后准确率 / 幻觉率 | 准确率变化 \(\Delta\text{Acc.}\) | 幻觉率绝对变化 \(\Delta\text{Hall.}\) | 幻觉相对降幅 |
|---|---|---|---|---|---|---|---|---|---|
| Qwen3-VL-8B | Embed-concat | Qwen3-8B (36L) | 26 (14 / 12) | \(s=0.25\), 全部 12 个 | 88.2% / 8.4% | 87.2% / 4.0% | -1.0 pp | -4.4 pp | 52% |
| LLaVA-v1.6-7B | Projector-concat | Mistral-7B (32L) | 48 (18 / 30) | \(s=0.50\), Top-10 | 88.5% / 5.0% | 88.5% / 3.0% | 0.0 pp | -2.0 pp | 40% |
| Llama-3.2-V-11B | Cross-attention | Llama-3-11B (40L) | 31 (11 / 20) | \(s=0.50\), 全部 20 个 | 84.8% / 18.4% | 84.6% / 4.4% | -0.2 pp | -14.0 pp | 76% |
| InternVL3-8B | ViT-MLP-LLM | Qwen2.5-8B (28L) | 27 (21 / 6) | \(s=0.50\), 全部 6 个 | 88.4% / 15.6% | 86.4% / 5.6% | -2.0 pp | -10.0 pp | 64% |
| InternVL3-14B | ViT-MLP-LLM | Qwen2.5-14B (48L) | 45 (29 / 16) | \(s=0.50\), 全部 16 个 | 88.0% / 15.5% | 87.8% / 9.0% | -0.3 pp | -6.5 pp | 42% |
表 2 展示了所提取的幻觉通路与选定超参数在不做任何重新调优的情况下,直接迁移至 POPE 其余难度划分及 AMBER 多维幻觉基准(存在性 Existence、关系型 Relational、属性型 Attribute,各 \(n=400\))上的泛化实验结果(对应原文 Table 14,- 表示绝对变化 \(|\Delta\text{H}| < 1\text{ pp}\))。
| 模型 | POPE-adv \(\Delta\text{H}\) (相对降幅) | POPE-pop \(\Delta\text{H}\) (相对降幅) | POPE-rand \(\Delta\text{H}\) (相对降幅) | AMBER-exist \(\Delta\text{H}\) (相对降幅) | AMBER-rel \(\Delta\text{H}\) (相对降幅) | AMBER-attr \(\Delta\text{H}\) (相对降幅) |
|---|---|---|---|---|---|---|
| Qwen3-VL-8B | -4.4 pp (52%) | -2.5 pp (45%) | - | -2.2 pp (10%) | -16.5 pp (36%) | - |
| LLaVA-v1.6-7B | -2.0 pp (40%) | -1.0 pp (40%) | - | -3.0 pp (15%) | -2.3 pp (6%) | +1.5 pp (-) |
| Llama-3.2-V-11B | -14.0 pp (76%) | -7.0 pp (74%) | -4.0 pp (80%) | -10.8 pp (42%) | -6.5 pp (47%) | -9.5 pp (23%) |
| InternVL3-8B | -10.0 pp (64%) | -6.0 pp (65%) | -2.4 pp (60%) | -3.4 pp (15%) | -15.8 pp (39%) | -8.6 pp (17%) |
| InternVL3-14B | -6.5 pp (42%) | -6.5 pp (68%) | -1.0 pp (29%) | - | +1.0 pp (-) | -1.5 pp (3%) |
消融实验¶
表 3 汇总了通路级标量抑制与随机组件抑制、单方向线性引导基线(均值差投影 Directional、探针引导 ITI)的对比,同时结合了幻觉信号的奇异谱几何维度指标(参与率 PR、第一奇异值方差占比 \(\sigma_1^2 / \sum \sigma_i^2\))与 CPA 接地通路极性翻转数据(整合自原文 Table 3、Table 8 与 Table 12)。
| 模型 | 幻觉信号参与率 PR (Rank90) | 主方向方差占比 \(\sigma_1^2/\sum\sigma_i^2\) | 接地通路 \(\overline{\mathrm{IE}}\) (正确 \(\to\) 幻觉) | 随机组件抑制 \(\Delta\text{H}\) | 均值差投影 Directional \(\Delta\text{H}\) | 探针引导 ITI \(\Delta\text{H}\) | 本文逐组件缩放 \(\Delta\text{H}\) |
|---|---|---|---|---|---|---|---|
| Qwen3-VL-8B | 3.07 (12.5) | 63.4% | \(+1.59 \to -1.08\) (\(d=-2.45\)) | +1.1 pp | 0.0 pp | -1.5 pp | -4.4 pp |
| LLaVA-v1.6-7B | 6.78 (28.6) | 45.2% | \(+0.51 \to -0.31\) (\(d=-1.60\)) | 未评测 | 未评测 | -0.5 pp | -2.0 pp |
| Llama-3.2-V-11B | 4.85 (31.9) | 56.4% | \(+0.13 \to -0.07\) (\(d=-1.72\)) | +7.2 pp | +1.0 pp | -7.0 pp | -14.0 pp |
| InternVL3-8B | 2.40 (7.8) | 68.8% | \(+0.83 \to -0.31\) (\(d=-1.83\)) | +0.7 pp | +1.5 pp | -11.0 pp | -10.0 pp |
| InternVL3-14B | 3.16 (13.2) | 64.3% | \(+0.67 \to -0.28\) (\(d=-2.02\)) | 未评测 | 未评测 | -0.5 pp | -6.5 pp |
| 跨模型均值 | 4.05 (18.8) | 59.6% | 全模型一致翻转 (\(p<0.001\)) | 3.0 pp (方向反增) | 0.8 pp | 4.1 pp | 7.4 pp |
此外,针对 LLaVA-v1.6 分散式回路(共 30 个幻觉组件,\(s=0.5\))的 Top-\(k\) 消融实验(原文 Table 13 下半部分)以及视觉接地通路全消融特异性对照(原文 Table 7,\(s=0\))结果如下: - LLaVA-v1.6 Top-\(k\) 组件数量消融:当抑制 \(k=3\) 或 \(k=5\) 时,幻觉率反而微增 \(+1.5\text{ pp}\)(从 \(5.0\%\) 升至 \(6.5\%\));当取 \(k=8\) 和 \(k=10\) 时,幻觉率降至 \(3.0\%\)(相对降幅 \(40\%\)),且准确率分别变化 \(+0.5\text{ pp}\) 和 \(0.0\text{ pp}\);若继续扩大至 \(k=20\) 和全部 \(k=30\),虽然幻觉率进一步降至 \(3.5\%\) 和 \(1.5\%\),但整体准确率分别大幅崩塌 \(-4.5\text{ pp}\)(至 \(84.0\%\))和 \(-9.0\text{ pp}\)(至 \(79.5\%\))。 - 接地通路消融的双重分离验证(Double Dissociation):若将相同的缩放协议施加于视觉接地通路(\(d>0\))并设 \(s=0\)(完全消融),五个模型的准确率无一例外全部崩溃至随机猜测水平(Qwen3-VL 为 \(50.0\%\)、LLaVA 为 \(50.0\%\)、Llama-3.2 为 \(50.0\%\)、InternVL3-8B 为 \(51.0\%\)、InternVL3-14B 为 \(50.0\%\),准确率暴跌 \(31 \sim 39\text{ pp}\)),与抑制幻觉通路时的零损降幻觉形成鲜明的双重分离。
关键发现¶
- 双通路宏观空间分布跨架构共享,但微观层连接因训练而异:在宏观层面上,五个模型的幻觉组件均集中在浅层与网络首尾边界,而视觉接地组件集中在网络中后层(六对跨模型比较的 Fisher 精确检验 \(p \in [0.229, 1.000]\),均支持共享空间分布假设);但在微观逐层效应轮廓上,跨模型皮尔逊相关系数极低(\(|r| \le 0.33\)),甚至同家族不同尺寸的 InternVL3-8B 与 14B 之间也无更高相似性,证明双通路结构是 VLM 多模态训练驱动的涌现性质,而非继承自特定语言主干。
- 单方向干预受限于幻觉信号的多维奇异谱几何上限:探针验证准确率平均达 \(0.62 \sim 0.67\)(最高头达 \(0.835 \sim 0.895\)),排除了探针未能学到判别特征的可能;但 ITI 的平均降幻觉幅度(\(4.1\text{ pp}\))仍显著低于逐组件标量缩放(\(7.4\text{ pp}\))。除仅含 6 个集中幻觉组件的 InternVL3-8B 外,其余四个模型上 ITI 相对于组件缩放的有效率(\(25\% \sim 50\%\))均受限于该模型第一奇异方向的方差占比(\(45.2\% \sim 68.8\%\)),直接证实了幻觉信号沿多个正交方向传播。
- 物体存在性回路可有效迁移至关系型幻觉,但与属性型幻觉回路正交:在零样本迁移至 AMBER 时,Qwen3-VL、InternVL3-8B 和 Llama-3.2 在关系型幻觉(AMBER-rel)上取得了 \(36\% \sim 47\%\) 的显著相对降幅,但在属性型幻觉(AMBER-attr)上多数模型几乎无响应。这说明关系型幻觉与物体存在性幻觉一样主要由语言共现先验驱动,而属性型幻觉更多源于细粒度视觉特征提取偏差,依赖不同的内部回路。
亮点与洞察¶
- 条件通路分析(CPA)与接地通路“极性翻转”的机制洞察:本文最具启发性的“啊哈”时刻在于发现模型产生幻觉并非因为视觉接地通路信号微弱或丢失,而是接地通路在保持内部高度冗余(幅度比均值 \(0.32\))的同时,其因果效应极性发生了整体反转(跨子集 Cohen's \(d\) 达 \(-1.60 \sim -2.45\))。这颠覆了“幻觉等于视觉特征缺失”的直觉认知,指出深层语言先验会直接同化并重定向视觉接地表征。
- 用奇异谱几何(PR 与主方向方差占比)解释线性激活引导的性能天花板:针对当前流行的 ITI、均值差投影等单方向激活干预方法为何在复杂多模态模型上效果受限,作者没有停留在经验对比,而是通过计算 \(\Delta X\) 的参与率(\(\mathrm{PR} \in [2.40, 6.78]\))给出了坚实的几何解释,证明单方向投影在数学上最多只能消除 \(\sigma_1^2 / \sum \sigma_i^2\) 比例的幻觉方差,并发现了正 \(\alpha\) 饱和与反向放大的失效模式。
- 双重分离控制与跨架构适配工程的可迁移性:通过设计针对嵌入拼接、MLP 投影和交叉注意力三类视觉接口的统一修补协议,结合“抑制幻觉通路降幻觉、抑制接地通路崩性能”的双重分离实验(Double Dissociation)与 Logit Lens 独立验证,建立了一套极具说服力的多模态因果可解释性标准范式,可直接迁移至多模态安全对齐、视觉推理抗干扰等机制研究。
局限与展望¶
- 局限于二元判别式问答,尚未拓展至自由生成式描述:本文的激活修补与因果干预均建立在 POPE 与 AMBER 的二元(Yes/No)问答设置上,利用末位 Token 的对数几率差定位回路。在长文本开放式图像描述(如 CHAIR 基准)中,幻觉会随自回归生成动态累积,固定组件的全局标量缩放在多步解码中的稳定性仍有待验证。
- 逐组件标量缩放依赖离线回路提取,尚非即插即用的部署方案:作者在讨论中坦诚指出,逐组件缩放主要是作为验证多维幻觉回路假设的因果测试工具,每次对新模型实施干预前仍需在 \(1{,}000\) 个带标注样本上运行耗时约 \(2 \sim 18\) 小时的激活修补扫描,并在验证集上挑选 \((s, k)\),如何设计轻量级自适应多维子空间干预器仍是开放的工程问题。
- 属性型幻觉(Attribute Hallucination)的专属回路尚未解耦:跨基准实验表明基于物体存在性提取的幻觉通路对颜色、数量等属性幻觉基本无效(如 Qwen3-VL、LLaVA 和 InternVL3-14B 在 AMBER-attr 上降幅不足 \(3\%\))。未来工作需直接在属性与关系专项数据上独立运行双通路激活修补,构建覆盖多粒度幻觉的完整回路图谱。
相关工作与启发¶
- vs 单组件多模态因果追踪(如 Neo et al. 2025, Li et al. 2025, Rudman et al. 2026):前人工作将语言模型的激活修补或注意力头定位直接搬到 VLM 上,仅孤立地评估单个组件或单个注意力头的因果效应;本文进一步提出了通路级的条件通路分析(CPA),通过对比全通路同步恢复与单组件效应之和,首次揭示了通路内部的强冗余特性以及视觉接地通路在幻觉样本上的跨子集极性翻转。
- vs 推理期单方向线性激活引导(如 ITI [Li et al. 2024], Representation Engineering [Zou et al. 2023], SteerVLM [Sivakumar et al. 2025]):这类方法假设真实性或幻觉可由激活空间中的单一静态线性方向(探针权重方向或类别均值差方向)表征;本文通过在完全相同的幻觉通路组件上进行受控对比与奇异谱分析,证明 VLM 的幻觉信号天然分布在多维子空间(\(\mathrm{PR} > 2.4\)),单方向干预存在严格的几何上限,而通路级多维干预能取得近两倍的幻觉消减效果。
- vs 黑盒解码期幻觉缓解方法(如 VCD [Leng et al. 2024], OPERA [Huang et al. 2024]):解码期方法通过构造噪声图像对比对数几率或惩罚注意力过度集中来抑制幻觉,虽无需修改内部激活但计算开销翻倍且缺乏机制解释;本文从白盒内部回路视角切入,证明仅需在推理前向传播中对少量(6 至 20 个)特定幻觉组件乘以标量系数即可在不增加额外前向传播次数的情况下大幅降低幻觉。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次在跨架构 VLM 中确立视觉接地与幻觉双通路组织,提出条件通路分析(CPA)并发现接地通路在幻觉时被语言先验挟持而发生极性翻转的核心机制。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖 5 个跨架构/跨尺寸 VLM、POPE 三子集与 AMBER 三类幻觉,包含严谨的多重比较校正、Logit Lens 独立验证、奇异谱几何证明、对称网格 ITI 对比及接地通路消融双重分离对照。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑递进极为严密,从单组件定位到通路级交互再到几何维度解释与因果干预环环相扣,统计汇报规范透明。
- 价值: ⭐⭐⭐⭐⭐ 不仅为理解多模态幻觉提供了坚实的白盒机制基础,更为下一代多维子空间激活干预与分类型幻觉治理指明了清晰方向。