Hyperbolic Concept Bottleneck Models¶

会议: NeurIPS 2026
arXiv: 2605.06440
OpenReview: https://openreview.net/forum?id=dfLMID86Cd
领域: 可解释性
关键词: 概念瓶颈模型, 双曲几何, 蕴涵锥, 层次化可解释性, 概念干预

一句话总结¶

针对传统概念瓶颈模型在欧氏空间中假定概念正交独立而割裂语义层级的缺陷，本文提出双曲概念瓶颈模型（HypCBM），将测试期概念激活重构为双曲流形蕴涵锥的非对称包含边际，在无需额外学习模块与标注监督的前提下实现了天然稀疏且层级自洽的概念激活与自适应干预传播。

研究背景与动机¶

随着大规模黑盒视觉语言模型在医疗健康、自动驾驶以及高风险决策场景中的加速落地，对模型推理透明度与可干预性的诉求日益迫切。概念瓶颈模型（Concept Bottleneck Models, CBMs）通过在最终分类头之前强制构建人类可理解的概念中间层，使最终预测完全基于概念激活向量，不仅赋予了决策以归因解释能力，更允许领域专家在测试阶段直接修正错误概念以引导正确预测。以 Post-hoc CBM（PCBM）与 Label-Free CBM（LF-CBM）为代表的免标注事后方法，通过复用预训练多模态模型的共享空间并以余弦相似度计算概念激活，大幅降低了传统 CBM 对密集人工概念标注的依赖。

然而，现存绝大多数 CBM 方案均建立在一个反直觉的表征假设之上——概念独立性。在真实的认知世界中，视觉属性并非平权互斥的离散标签，而是具有严密的语义包含与层级派生关系（例如“狗”必然是“动物”，“前车灯”从属于“汽车”）。由于欧几里得空间的体积随距离呈多项式增长，无法无失真地容纳随深度指数级膨胀的树状拓扑，现存基于欧氏余弦相似度的激活机制被迫将所有概念视作正交方向，导致概念集冗余度高、逻辑悖论频发（如模型激活了“狗”却未激活“动物”），并且在人类介入修正时无法连带纠正下属概念分支。

双曲几何因其负曲率空间带来的指数级体积膨胀特性，天生适合建模树状语义层次结构。本文的核心 idea 是：将预训练双曲视觉语言模型中的蕴涵锥结构从传统的训练期正则项解放为测试期概念激活机制，把概念激活重新表述为图像在双曲流形上的非对称几何包含边际，并结合按概念特异度自适应缩放的干预规则，在零新增训练模块的前提下构建出天然稀疏、层级严格自洽的双曲概念瓶颈。

方法详解¶

整体框架¶

HypCBM 采用纯粹的事后（post-hoc）免标注设计，无需引入任何额外神经网络模块或微调预训练视觉语言骨干。方法整体流程分为三个主要阶段：首先利用大语言模型（LLM）基于目标类别提示自动生成候选概念集合，并通过预训练双曲视觉语言模型（如 HyCoCLIP）的文本编码器投影到 Lorentz 双曲流形，同时依据双曲空间范数剔除过于宽泛的无区分度根概念；随后，在输入图像推理时，将其双曲图像表征与各个候选概念的蕴涵锥进行几何比对，以图像外角相对于概念锥半孔径的包含边际作为概念激活强度，直接输出非负且天然稀疏的概念向量；最后，将概念激活输入 Elastic-Net 正则化的稀疏线性分类层完成最终类别预测，并在人类介入干预时依据双曲缩放律将父节点抑制自适应传导至全部几何下属子概念。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入图像与类别候选概念"] --> B["双曲概念生成与范数几何过滤<br/>LLM生成描述 + Lorentz流形嵌入 + 范数下界裁剪"]
    B --> C["双曲蕴涵锥激活机制<br/>计算外角与半孔径比值，获取相对包含边际"]
    C --> D["稀疏线性分类器决策<br/>Elastic-Net稀疏加权输出类别Logits"]
    D --> E["自适应层级干预传播<br/>依据双曲范数缩放率连带抑制下属语义子树"]

关键设计¶

1. 双曲概念生成与范数几何过滤：利用双曲流形径向距离裁剪泛化根节点

在构建概念库时，模型沿用免标注提示策略，利用 LLM 从显著特征、超类归属以及共现上下文三个维度为每个类别生成视觉描述文本。在获得候选概念文本库后，利用预训练双曲 VLM 的冻结文本编码器将概念投影至曲率为 \(-c\)（\(c>0\)）的 \(n\) 维 Lorentz 伪黎曼流形 \(\mathbb{L}_{c}^{n}\)。在双曲几何中，原点代表最高层级的通用概念，而离原点越远（空间范数越大）的向量代表语义越具体、细粒度的概念。传统欧氏方法常混入大量宽泛无分类价值的词汇（如“物体”、“实体”），导致概念库极度膨胀。HypCBM 利用双曲空间范数与特异度的强相关性，建立几何过滤准则：

\[\mathcal{C} = \{\mathbf{c} \in \mathcal{C}_{\text{init}} \mid \|\tilde{\mathbf{c}}\| \ge \tau\}\]

通过设置阈值 \(\tau=0.27\)，天然滤除双曲空间中最靠近原点、区分度最低的通用根概念（约占底层 20%），在保留细粒度辨识能力的同时显著降低后续几何锥计算开销与假阳性误激活。

2. 双曲蕴涵锥激活机制：从非对称几何包含边际导出天然稀疏激活

传统 CBM 依赖对称的欧氏点积或余弦相似度，无法区分概念间的偏序从属关系。HypCBM 将概念激活转化为图像表征向量 \(\mathbf{z}\) 是否落入概念 \(\mathbf{c}_i\) 的双曲蕴涵锥内的几何判定。概念 \(\mathbf{c}_i\) 的蕴涵锥半孔径 \(\omega(\mathbf{c}_i)\) 与概念空间范数反相关，概念越具体、范数越大，其蕴涵锥孔径越狭窄：

\[\omega(\mathbf{c}_i) = \sin^{-1}\left(\frac{2K}{\sqrt{c}\|\tilde{\mathbf{c}}_i\|}\right)\]

其中缩放常数设定为 \(K=0.04\) 以保证孔径处于非饱和稳定区。图像向量 \(\mathbf{z}\) 与概念向量 \(\mathbf{c}_i\) 之间的外角 \(\phi(\mathbf{z}, \mathbf{c}_i)\) 由 Minkowski 内积 \(\langle \mathbf{z}, \mathbf{c}_i \rangle_{\mathbb{L}}\) 定义：

\[\phi(\mathbf{z}, \mathbf{c}_i) = \cos^{-1}\left(\frac{z_0 + (\mathbf{c}_i)_0 c \langle \mathbf{z}, \mathbf{c}_i \rangle_{\mathbb{L}}}{\|\tilde{\mathbf{c}}_i\|\sqrt{(c\langle \mathbf{z}, \mathbf{c}_i \rangle_{\mathbb{L}})^2 - 1}}\right)\]

当图像位于锥体内部时外角小于半孔径。将概念激活值 \(a_i\) 定义为经过半孔径归一化后的包含深度边际：

\[a_i = \max\left(0, \, \eta_{\text{img}} - \frac{\phi(\mathbf{z}, \mathbf{c}_i)}{\omega(\mathbf{c}_i)}\right)\]

式中 \(\eta_{\text{img}}\) 为模态间严格度标定参数。归一化操作使得不同语义粒度概念间的激活强度具备绝对可比性，同时 ReLU 截断直接输出非负稀疏向量 \(\mathbf{a}\)，彻底消除了非包含概念的微弱噪声泄漏。

3. 自适应层级干预传播：随双曲深度动态缩放的纠错传递律

在人类在环（human-in-the-loop）干预场景中，若用户发现模型误激活了父级概念（例如错将背景认作“水域”），传统欧式 CBM 仅将该维数值清零，其下属的“海水”、“波浪”依然保持激活并继续误导最终分类。HypCBM 引入层级自洽的干预传播：一旦用户抑制了概念 \(\mathbf{c}_{\text{parent}}\)（将其激活置零），系统自动检索其几何后代并连带抑制。然而，由于双曲体积随深度呈指数膨胀，固定阈值会导致深层概念的子树误漏检。作者通过 WordNet 统计规律揭示出蕴涵边际与概念范数呈显著线性正相关（相关系数 \(r=0.729\)），并据此导出自适应文本严格度缩放律：

\[\eta_{\text{text}}(\|\tilde{\mathbf{c}}_{\text{parent}}\|) \approx 8.62 \cdot (\|\tilde{\mathbf{c}}_{\text{parent}}\| - 0.09)\]

所有满足下式判别条件的子概念 \(\mathbf{c}_{\text{child}}\) 均被判定为该父节点的几何后代并同步置零：

\[\phi(\mathbf{c}_{\text{child}}, \mathbf{c}_{\text{parent}}) < \eta_{\text{text}}(\|\tilde{\mathbf{c}}_{\text{parent}}\|) \cdot \omega(\tilde{\mathbf{c}}_{\text{parent}})\]

单次用户干预即可精准剔除整条虚假语义分支，极大提升了测试期交互调试效率。

损失函数 / 训练策略¶

HypCBM 的表征提取部分完全冻结双曲视觉语言骨干模型，仅需训练最终的多分类预测层 \(g(\mathbf{a}) = \mathbf{W}\mathbf{a} + \mathbf{b}\)。为了在保证可解释性的同时追求极端稀疏性，权重矩阵 \(\mathbf{W}\) 采用 Elastic-Net 混合正则化进行凸优化：

\[\mathcal{L} = \mathcal{L}_{\text{CE}}(g(\mathbf{a}), \mathbf{y}) + \lambda \left(\alpha \|\mathbf{W}\|_1 + \frac{1-\alpha}{2} \|\mathbf{W}\|_F^2\right)\]

实验中固定 \(\alpha = 0.99\) 以偏好强 \(L_1\) 稀疏解，通过在对数尺度 \(\lambda \in [10^{-1}, 10^{-7}]\) 上自适应细化扫描正则化强度 \(\lambda\)，精细绘制出模型在有限概念预算（如有效激活概念数 \(K=5, 10, 20\)）下的分类 Pareto 前沿。

实验关键数据¶

主实验¶

论文在 CIFAR-100（通用目标分类）、SUN397（层级场景识别）以及大规模 ImageNet 评测集上进行了全面对比。评估指标采用有效概念预算下的准确率（ANEC-K）以及峰值准确率。所有事后方法均控制在相同预训练数据规模（GrIT-20M）下以保证几何归因的严谨性，同时引入以 4 亿数据预训练的 OpenAI CLIP-400M 作为高资源参考上界。

数据集	方法	骨干模型	ANEC-5	ANEC-10	ANEC-20	ANEC-50	ANEC-100	Peak	线性探测(LP)
CIFAR-100 (\(N_c=613\))	LF-CBM	CLIP-20M	39.7	48.9	55.4	60.6	64.5	67.9	73.1
CIFAR-100 (\(N_c=613\))	LF-CBM	HyCoCLIP-20M	25.6	34.6	56.3	61.6	62.6	69.5	76.3
CIFAR-100 (\(N_c=613\))	HypCBM (本文)	HyCoCLIP-20M	44.3	54.4	60.9	69.7	71.8	72.2	76.3
CIFAR-100 (参考)	LF-CBM	CLIP-400M	28.0	58.0	63.9	64.7	67.0	71.3	82.6
SUN397 (\(N_c=1935\))	LF-CBM	CLIP-20M	45.8	53.4	61.3	67.0	68.6	70.5	74.8
SUN397 (\(N_c=1935\))	LF-CBM	HyCoCLIP-20M	34.3	44.2	50.4	59.1	61.5	72.1	75.9
SUN397 (\(N_c=1935\))	HypCBM (本文)	HyCoCLIP-20M	49.3	58.3	65.7	69.9	71.3	72.3	75.9
SUN397 (参考)	LF-CBM	CLIP-400M	40.0	48.0	58.8	64.4	66.8	79.0	82.7
ImageNet (\(N_c=2950\))	LF-CBM	CLIP-20M	7.7	15.3	30.7	47.3	53.7	55.3	63.7
ImageNet (\(N_c=2950\))	LF-CBM	HyCoCLIP-20M	10.2	15.5	26.0	40.6	46.2	57.9	65.4
ImageNet (\(N_c=2950\))	HypCBM (本文)	HyCoCLIP-20M	17.9	34.6	44.2	52.3	56.8	58.1	65.4
ImageNet (参考)	LF-CBM	CLIP-400M	17.4	34.0	51.8	52.6	54.0	73.8	78.5

层级一致性与消融实验¶

层级一致性指标（Hierarchical Consistency）度量激活子概念时其对应父概念同处于激活状态的比率（\(\text{Consistency} = 1 - \frac{\sum \mathbf{1}[a_{\text{child}}=1 \land a_{\text{parent}}=0]}{\sum \mathbf{1}[a_{\text{child}}=1]}\)），用于验证逻辑闭环。在严格稀疏判定门槛（\(\eta_{\text{img}}\) 减小）下，欧氏基线急剧失真，而 HypCBM 展现出极强的鲁棒性。

数据集	严格度参数 \(\eta_{\text{img}}\)	LF-CBM (CLIP-20M)	HypCBM (本文)	相对增益
SUN397 (\(N=1503\))	1.5	0.63	0.84	+32.5%
SUN397 (\(N=1503\))	1.4	0.43	0.54	+27.2%
SUN397 (\(N=1503\))	1.3	0.21	0.33	+58.9%
SUN397 (\(N=1503\))	1.2	0.08	0.17	+104.7%
ImageNet (\(N=829\))	1.5	0.59	0.75	+27.9%
ImageNet (\(N=829\))	1.4	0.42	0.63	+51.1%
ImageNet (\(N=829\))	1.3	0.28	0.51	+80.4%
ImageNet (\(N=829\))	1.2	0.16	0.33	+102.9%

在相同 HyCoCLIP-20M 骨干上的消融显示，将余弦相似度直接替换为本文的双曲蕴涵锥激活机制，层级一致性在所有阈值下几乎翻倍（如 SUN397 上 \(\eta=1.5\) 时从 0.44 飙升至 0.84）；即使对比基于 20 倍数据训练且具备层级先验的欧氏模型 CLIP-RE-400M，HypCBM 在严格预算下（\(\eta=1.2\) 时 0.17 vs 0.14）依然保持领先。

关键发现¶

稀疏极限区间优势显著：在满足可解释性要求的高稀疏概念预算下（如 \(K \le 10\)），HypCBM 优势最为突出。在 ImageNet（\(K=10\)）上，准确率由欧氏基线的 15.3% 直接翻倍至 34.6%，甚至逼平用 4 亿数据训练的 CLIP-400M 基线（34.0%）。
几何结构换取样本效率：在 CIFAR-100 上，HypCBM 仅需 10% 的训练样本即可达到与欧氏 LF-CBM 在 100% 完整训练集上相当的 ANEC 曲线表现，展现出 10 倍级别的数据利用效率。
干预响应更加敏锐真实：对错误预测样本进行人类干预修正时，HypCBM 的错误类别置信度衰减曲线显著陡峭于欧氏模型，手动干预使预测反转至正确类别的成功率高出 19%；而 WordNet 等外部词典在真实特征词上覆盖率严重不足（CIFAR-100 仅 101/613），凸显了几何隐式层级传播的独创价值。
噪声扰动下的概念解释稳定性：在 CIFAR100-C 图像污损评测中，欧氏 CBM 激活概念集的 Jaccard 相似度骤降至 0.3，而 HypCBM 平均提升 +0.3 的解释重合度，在 15 种噪声破坏场景中 13 种准确率均优于基线。

亮点与洞察¶

激活机制的几何范式重构：将以往仅用于预训练对比损失的蕴涵锥几何边界直接具象化为推理期的非对称包含度量，无需微调即赋予了冻结特征以偏序激活属性。
自适应深度缩放律：敏锐捕捉到双曲流形体积膨胀对子树截断的畸变效应，通过理论与 WordNet 统计建立线性自适应干预阈值，优雅解决了多层级干预时的漏纠错难题。
结构先验对算力规模的降维打击：用严谨的几何结构对齐替代无节制的数据缩放，用 20M 训练集支撑的模型在强解释性稀疏区间击败了 400M 庞大基线，为资源受限的高可信模型落地指明了新范式。

局限与展望¶

视觉局部属性与语义层级的错位：在细粒度分类基准（如鸟类 CUB-200）中，核心判别特征往往是局部外观属性（如“斑点翼”、“黄色尾羽”），这些属性彼此间更偏向组合共现而非层级蕴涵，导致双曲树状先验的增益不如在场景/通用目标分类中显著。
对双曲预训练多模态骨干的强依赖：模型性能上限直接受制于上游双曲 VLM（如 HyCoCLIP）的对齐质量，若预训练双曲空间自身存在模态鸿沟或范数坍缩，将直接影响下游孔径计算稳定性。
未来方向：探索跨模态连续视觉语义与文本树结构的动态几何自适应校准，以及将双曲蕴涵机制向密集预测任务（如可解释语义分割与目标检测）拓展。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [首次将双曲几何蕴涵锥转化为概念瓶颈模型的测试期激活机制与自适应干预算子，概念与数学形式极富原创性]
实验充分度: ⭐⭐⭐⭐⭐ [覆盖通用目标、场景理解与细粒度三大基准，包含详尽的概念预算曲率消融、数据利用效率、层级一致性以及污损鲁棒性评测]
写作质量: ⭐⭐⭐⭐⭐ [几何推导清晰严密，动机与现有痛点叙述连贯，图表设计极其精美专业]
价值: ⭐⭐⭐⭐⭐ [为高风险领域构建低标注成本、强层级自洽且支持高效分支干预的可信 AI 系统提供了极为优雅的几何解法]