CB-SLICE: Concept-Based Interpretable Error Slice Discovery¶

会议: ICML2026
arXiv: 2605.29836
代码: https://github.com/yaelkon/CB-SLICE
领域: 可解释性
关键词: 错误切片发现, 概念瓶颈模型, 模型调试, 偏差检测, 可解释AI

一句话总结¶

CB-SLICE 利用概念瓶颈模型（CBM）的概念预测空间来发现和解释深度学习模型的系统性错误切片，通过三步流程——错误倾向概念筛选、GMM 聚类形成切片、关键词概念解释——在多个基准上一致性超越现有方法，同时提供直接扎根于模型内部决策逻辑的忠实解释。

研究背景与动机¶

领域现状：深度学习模型尽管在平均性能上表现出色，但在特定数据子群上常常出现系统性错误（error slices）。现有的错误切片发现方法（SDM）如 Domino、GEORGE、Spotlight 等已经能在一定程度上识别这些失败模式。

现有痛点：现有 SDM 通常依赖辅助语言模型（如 ClipCap）来生成解释，但这些解释与被分析模型的内部推理过程是脱节的——它们只是间接近似错误源，可能不准确甚至具有误导性。更糟糕的是，辅助模型本身可能引入额外偏差，进一步降低解释的可靠性。

核心矛盾：错误切片发现需要同时解决两个问题：(i) 找到共享语义失败模式的错误样本子集，(ii) 用人类可理解的方式解释失败原因。现有方法将这两个步骤分离，导致解释不忠实于模型的真实决策过程。

本文目标：设计一个将切片发现与偏差解释统一在模型内部表示空间中的框架，使解释直接关联模型的决策逻辑。

切入角度：概念瓶颈模型（CBM）先预测人类可理解的概念（如"深色皮肤"、"不对称"），再基于概念预测做分类。这种结构化预测流程天然地在模型决策与语义概念之间建立了透明链接。当下游预测依赖中间概念预测时，系统性错误必然源自概念预测环节。

核心 idea：在 CBM 的概念 logit 空间中进行错误切片发现和解释，将 SDM 从"事后描述"转变为"模型感知"过程。

方法详解¶

整体框架¶

CB-SLICE 接收一个训练好的 CBM \(\mathcal{M}_\theta = (g, f)\)（概念编码器 \(g\) + 标签预测器 \(f\)）和验证集中被错误分类的样本集 \(\Psi_{\text{val}}\)，经过三个步骤输出一组带有关键词概念解释的错误切片。整个流程完全在 CBM 的概念表示空间中完成，不依赖任何外部辅助模型。

关键设计¶

错误倾向概念筛选（ECTP 过滤）:
- 功能：从全部 \(k\) 个概念中筛选出最可能导致下游误分类的子集 \(C_{\text{err}}\)
- 核心思路：利用 Expected Change in Target Prediction（ECTP）分数衡量对每个概念进行干预后下游预测分布的变化。对每个概念 \(i\) 计算 \(T_i(\hat{\mathbf{c}}) = (1-\hat{c}_i) D_{\text{KL}}(\hat{y}_{\hat{c}_i=0} \| \hat{y}) + \hat{c}_i D_{\text{KL}}(\hat{y}_{\hat{c}_i=1} \| \hat{y})\)，按类别取平均后选取 top-\(t_e\) 个概念
- 设计动机：限制在错误倾向概念上形成切片可以显著提升发现质量，避免无关概念引入噪声
GMM 聚类形成错误切片:
- 功能：将错误样本按共享的概念级错误模式分组
- 核心思路：将错误样本的概念预测从概率空间映射到 logit 空间 \(H_{\text{err}} = \sigma^{-1}(\hat{C}_{\text{err}})\)，然后用高斯混合模型聚类。优化目标由三部分组成：GMM 负对数似然 \(\mathcal{L}_{\text{GMM}}\) 保证语义连贯性，两个辅助分类器损失 \(\mathcal{L}_{c_{\text{true}}}\) 和 \(\mathcal{L}_{c_{\text{pred}}}\) 分别确保同一切片内样本共享相同的真实概念值和预测概念值，总损失为 \(\mathcal{L} = \mathcal{L}_{\text{GMM}} + \lambda(\mathcal{L}_{c_{\text{true}}} + \mathcal{L}_{c_{\text{pred}}})\)
- 设计动机：概念 logit 编码了模型对概念存在与否的置信度，且近似高斯分布，适合 GMM 建模；辅助损失迫使切片捕获一致的概念级错误模式而非仅仅是特征相似性
关键词概念解释（ECSA 评分）:
- 功能：为每个切片提取最能解释其形成原因的关键词概念
- 核心思路：提出 Expected Change in Slice Assignment（ECSA）分数，衡量干预某个概念后样本对切片归属概率的变化：\(\text{ECSA}_i(\mathbf{x}) = \mathbb{E}_{v \sim \text{Bern}(\hat{c}_i)} [D_{\text{KL}}(P(S_j | \mathbf{x}, \hat{c}_i = v) \| P(S_j | \mathbf{x}))]\)。对切片内所有样本取平均后选 top-\(t_k\) 个概念作为关键词，同时标注每个概念的预测值是否正确
- 设计动机：关键词概念不仅告诉你"这个切片跟什么属性有关"，还告诉你"模型在这个属性上预测对了还是错了"，区分了"概念误预测导致的错误"和"罕见概念组合导致的错误"两种不同失败类型

切片优先级策略¶

为避免分析过多切片带来的负担，CB-SLICE 提出切片信息量评分 \(\text{SI}_j = \rho \cdot \frac{1}{2}(\text{MC}_j + \frac{1+\text{SC}_j}{2})\)，综合考虑误预测一致性（MC，基于切片内预测标签分布的熵）和语义紧凑性（SC，基于切片成员到质心的余弦相似度），并用惩罚因子 \(\rho\) 降权过小切片。

实验关键数据¶

主实验¶

在 Waterbirds、CelebA、MetaShift、MNIST-Sum 四个数据集上，CB-SLICE 在 CBM（Sequential 和 Joint 训练）上与 Domino、GEORGE、HiBug2、Spotlight、K-Means 对比：

数据集	模型	CB-SLICE Prec@10	最佳 baseline Prec@10	CB-SLICE MGF	最佳 baseline MGF
Waterbirds	CBM+Seq	0.78	0.72 (Domino)	0.70	0.25 (HiBug2)
Waterbirds	CBM+Joint	0.83	0.62 (Domino)	0.76	0.25 (HiBug2)
CelebA	CBM+Seq	0.92	0.63 (Domino)	0.66	0.51 (HiBug2)
MetaShift	CBM+Joint	0.91	0.86 (Domino)	0.86	0.72 (GEORGE)
MNIST-Sum	CBM+Joint	1.00	0.50 (HiBug2)	0.95	0.56 (HiBug2)

消融实验¶

配置	效果	说明
使用全部概念（无 ECTP 过滤）	显著下降	无关概念引入噪声，降低切片质量
仅 \(\mathcal{L}_{\text{GMM}}\)	下降	缺少概念级错误模式对齐
\(\mathcal{L}_{\text{GMM}} + \mathcal{L}_{c_{\text{true}}}\)	次优	缺少预测值一致性约束
\(\mathcal{L}_{\text{GMM}} + \mathcal{L}_{c_{\text{true}}} + \mathcal{L}_{c_{\text{pred}}}\)	最优	三项损失协同带来最高且最稳定的性能
GMM vs 线性聚类	GMM 优	GMM 在辅助分类器准确率上一致优于线性替代

关键发现¶

CB-SLICE 在 Precision@10 上全面领先，尤其在 CelebA (+29%) 和 MNIST-Sum (+50%) 上优势显著，表明其对错误切片的定位极为精准
MGF 指标上的巨大优势（如 Waterbirds 上 0.70 vs 0.25）说明 CB-SLICE 发现的切片内部高度同质，不混入其他失败模式的样本
关键词概念能区分两类失败模式：概念误预测驱动的错误（如 Waterbirds 中 "medium size" 被错误预测）和罕见概念组合导致的错误（如 MNIST-Sum 中 (1,1) 组合训练不足）
损失收敛点与评估指标饱和点对齐，提供了无需标注即可选择切片数 \(t_g\) 的实用准则

亮点与洞察¶

模型感知的解释范式：CB-SLICE 将错误解释从"事后描述"转变为"模型感知"过程，解释直接源自模型内部的概念预测，避免了辅助模型引入的二次偏差。这一思路可以推广到任何具有中间可解释表示的架构
两类失败模式的区分：通过标注关键词概念的预测正误，CB-SLICE 能自动区分"概念误预测"和"罕见组合欠训练"两种根本不同的失败原因，直接指导不同的修复策略（前者改概念编码器，后者做数据增强）
ECTP → ECSA 的推广：将量化概念对下游预测影响的 ECTP 分数推广为量化概念对切片归属影响的 ECSA 分数，这种"干预-观测变化"的因果推理框架可迁移到其他需要归因分析的场景

局限与展望¶

CB-SLICE 依赖 CBM 架构，需要完整且忠实的概念标注；当概念噪声或不完整时，性能可能退化
需要额外训练 CBM，增加了计算成本，虽然 CBM 与标准 DNN 的性能差距在缩小
未来可扩展到不完整/噪声概念集场景，或与下游偏差缓解策略（如重采样、数据增强）形成闭环