CENDRe: Concept Extraction with Natural Domain Representations¶

会议: NeurIPS 2026
arXiv: 2607.29621
OpenReview: https://openreview.net/forum?id=ht3dAp9x7G
代码: https://github.com/rwth-dsme/cendre
领域: 可解释性
关键词: 概念提取, 时间序列可解释性, 频域表征, 虚拟检查层, 轮廓引导聚类

一句话总结¶

针对时间序列概念提取仅限时域、概念数需手动预设及感受野掩码不精准三大瓶颈，CENDRe 通过两阶段轮廓引导聚类自适应确定概念数量，并借助可逆微分变换将对比存在度梯度反向传播至输入与频域，实现了跨时域与频域的高保真概念定位与特征归因。

研究背景与动机¶

一维卷积神经网络（1D CNN）已被广泛部署于工业设备预测性维护、轴承故障监测以及心电图与脑电图辅助医疗诊断等高风险关键任务中。在这些安全敏感场景下，决策者无法直接信任黑盒模型的分类输出，必须依赖具有忠实性（faithfulness）且易于人类理解的事后解释方法，以确认模型依赖于合规的物理/生理信号机制，而非训练集中的虚假相关性。以概念提取（Concept Extraction, CE）为代表的可解释性方法通过聚类网络深层隐空间中的局部激活，挖掘模型在全局学到的复用概念原型，成为透视模型决策全局行为的核心工具。

然而，现有的时间序列概念提取方法存在三项根本性限制。其一，既有方案（如 ECLAD-ts 和 MultiVISION）的解释与掩码完全局限于时域。但在现代信号处理与物理故障诊断中，频域模式（如特定故障共振频率带）往往承载着本质判决依据；若模型在时域信号上学会了频域表征，纯时域解释便丢失了一半关键线索。其二，概念数量 $K$ 必须在提取前人工手动预设并网格搜索，这强行注入了人为先验偏置，违背了“概念数应反映模型自身内部结构”的初衷。其三，现有定位机制要么直接线性上采样探测层激活图而遗漏有效线索，要么简单取探测层的全部有效感受野（ERF）而引入大量非决策背景区域。

针对这一系列矛盾，本文提出自然领域表征概念提取方法（CENDRe）。其切入角度在于：利用微分可逆变换在计算图反向传播中的无损梯度映射，将隐空间的对比存在度信号原生地拉回到任何具有物理可读性的自然域（如时域、傅里叶频域、时频小波域），同时借助轮廓系数自动化决定聚类粒度。核心 idea：通过两阶段聚类将逐时间步局部聚合描述子压缩至微质心并由轮廓系数自适应确定概念数，进而基于对比原型存在度构建目标函数，借助虚拟检查层将反向传播梯度投影至时域与傅里叶变换等可逆自然域，生成紧凑且高保真的跨域概念掩码与类别重要度。

方法详解¶

整体框架¶

CENDRe 的处理流程面向已训练完毕的 1D CNN 分类或回归模型 $f: \mathbb{R}^{T \times D} \to \mathbb{R}^{n_{\mathrm{out}}}$。整体管线主要由三个串行模块构成：首先，在前向传播中提取多层探测层的激活，插值拼接得到逐时间步的局部聚合描述子（LAD），并经两阶段聚类自适应挖掘概念集合；其次，基于每个样本各时间步对概念微质心的对比相似度计算存在度得分，通过虚拟检查层（Virtual Inspection Layer）将梯度反向传播至时域或频域，生成各概念的紧凑敏感度掩码；最后，将概念掩码与目标类别的输出敏感度做内积，量化计算每个概念对各个类别的归一化重要度得分。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入多变量时间序列<br/>x ∈ R^(T×D)"] --> B["阶段 1：多层激活提取与局部聚合描述子（LAD）构建<br/>提取多层特征并线性上采样拼接得到 z_t(x)"]
    B --> C["阶段 2：两阶段自适应概念聚类<br/>Mini-batch k-Means 压缩至微质心 + 轮廓系数自适应聚合确定概念数 K"]
    C --> D["阶段 3：对比存在度计算与虚拟检查层跨域梯度定位<br/>对比原型存在度 ρ_k(x,t) 经可逆变换反向传播生成时域/频域掩码"]
    D --> E["阶段 4：类别敏感度加权与重要度归因<br/>概念掩码与类别对数敏感度内积量化归一化重要度 I_(c,k,ch)"]
    E --> F["输出跨域可解释概念集合<br/>时域/频域概念掩码及类别决策重要度归因"]

关键设计¶

1. 两阶段自适应概念聚类：摆脱预设概念数并高效解析非球状隐空间

为了捕捉 CNN 在不同抽象层级学习到的表征，CENDRe 首先选定一组内部探测层 $\mathcal{L}$，将各探测层激活图 $a_{\ell}(x) \in \mathbb{R}^{T_\ell \times D_\ell}$ 线性上采样至最长探测长度 $T^*$，在每个时间步 $t \in \{0, \dots, T^*-1\}$ 处拼接形成局部聚合描述子（LAD）$z_t(x) \in \mathbb{R}^{D^*}$，其中 $D^* = \sum_{\ell \in \mathcal{L}} D_\ell$。由于在庞大的时序数据集上直接对数以百万计的高维 LAD 运行层次聚类或密度聚类在计算与显存上不可行，CENDRe 提出了两阶段聚类压缩范式：第一阶段利用 Mini-batch $k$-Means 将全部 LAD 快速量化为 $J \gg K$ 个微质心（Micro-centroids）$\Gamma = \{\mu_j\}_{j=0}^{J-1}$（实验默认取 $J=50$），并将每个时间步的表征映射到最近的微质心 $\pi(x,t) = \arg\min_j \|z_t(x) - \mu_j\|_2^2$；第二阶段在 $J$ 个微质心上执行基于余弦距离的层次凝聚聚类（Hierarchical Agglomerative Clustering），通过最大化全局平均轮廓系数（Silhouette Score）在 $K \in \{2, \dots, 10\}$ 候选集中自动选择最优概念数量 $K$，生成概念分组 $C_k = \{\mu_j \mid \kappa(j) = k\}$。该设计彻底消除了既有方法对人工指定概念数 $K$ 的敏感性，将超参数转移至鲁棒性显著更高的微质心数 $J$。

2. 对比存在度计算与虚拟检查层跨域梯度定位：高对比度局部归因跨越自然域

针对既有方法简单上采样激活或机械截取整段感受野导致定位边界模糊的缺陷，CENDRe 采用可微分的存在度对比机制。定义 LAD 与微质心之间的反衰减相似度为 $d(z, \mu) = (1 + \|z - \mu\|_2)^{-1}$。对于落入概念 $C_k$ 对应微质心子集 $\mathcal{J}_k$ 的时间步 $t \in T_k(x)$，其对比存在度得分定义为该点到所属微质心的相似度减去其到所有其他概念微质心集合 $\bar{\mathcal{J}}_k$ 的平均相似度： $$\rho_k(x,t) = d(z_t(x), \mu_{\pi(x,t)}) - \frac{1}{|\bar{\mathcal{J}}_k|} \sum_{j \in \bar{\mathcal{J}}_k} d(z_t(x), \mu_j)$$ 当该样本包含该概念时，其样本级存在度 $\bar{\rho}_k(x) = \frac{1}{|T_k(x)|} \sum_{t \in T_k(x)} \rho_k(x,t)$ 严格大于 0。为了实现跨领域掩码提取，CENDRe 引入虚拟检查层机制，在计算图中插入可逆无参映射 $\phi^{-1} \circ \phi$。当时域输入通过实数快速傅里叶变换（rFFT）映射为频域复数张量 $x_f = \mathcal{F}(x) \in \mathbb{C}^{F \times D}$ 时，根据复数 Wirtinger 微积分，标量存在度相对于对数功率谱 $\log P$（其中 $P = |x_f|^2$）的敏感度为 $\Re(\overline{x_f} \odot \nabla_{x_f} \bar{\rho}_k(x_f))$。通过 ReLU 滤除抑制概念的负向扰动，得到时域与频域的概念定位掩码： $$m_k^{\mathrm{time}}(x) = \mathrm{ReLU}(\nabla_x \bar{\rho}_k(x)), \qquad m_k^{\mathrm{freq}}(x) = \mathrm{ReLU}(\Re(\overline{x_f} \odot \nabla_{x_f} \bar{\rho}_k(x)))$$ 该机制将归因集中于真正激活概念原型的输入局部结构，同时支持扩展至短时傅里叶变换（STFT）与离散小波变换（DWT）等任意可逆自然域。

3. 类别敏感度加权与概念重要度量化：解耦通道级正负驱动贡献

为了量化各概念 $C_k$ 在各通道 $\mathrm{ch}$ 上究竟如何影响最终分类预测，CENDRe 在特定域 $\mathrm{dom} \in \{\mathrm{time}, \mathrm{freq}\}$ 内计算概念掩码与目标类输出敏感度的重叠度。对类别 $c$ 的输出对数或回归目标 $y_c(x)$ 反向传播计算敏感度场 $s_{c,\mathrm{ch}}^{\mathrm{dom}}(x)$（频域对应为 $s_{c,\mathrm{ch}}^{\mathrm{freq}}(x) = \Re(\overline{x_{f,\mathrm{ch}}} \odot \nabla_{x_{f,\mathrm{ch}}} y_c(x))$），并施加平滑梯度（Noise Tunnel）抑制单点高频噪声。样本级关联度为掩码与敏感度在该域维度上的内积 $r_{c,k,\mathrm{ch}}(x) = \langle m_{k,\mathrm{ch}}^{\mathrm{dom}}(x), s_{c,\mathrm{ch}}^{\mathrm{dom}}(x) \rangle$。随后在概念出现子集 $\mathcal{D}_{k,\mathrm{ch}} = \{x \in \mathcal{D} \mid m_{k,\mathrm{ch}}^{\mathrm{dom}}(x) \neq 0\}$ 上求期望，并除以跨所有类别、概念及通道的最大绝对均值，映射至标准化重要度 $I_{c,k,\mathrm{ch}} \in [-1, 1]$： $$I_{c,k,\mathrm{ch}} = \frac{\mathbb{E}_{x \sim \mathcal{D}_{k,\mathrm{ch}}}[r_{c,k,\mathrm{ch}}(x)]}{\max_{c',k',\mathrm{ch}'} |\mathbb{E}_{x \sim \mathcal{D}_{k',\mathrm{ch}'}}[r_{c',k',\mathrm{ch}'}(x)]| + \varepsilon}$$ 为了在下游评测中获取与类别无关的单概念-通道重要度，CENDRe 对比受影响最大类别与其他类别的平均影响：$I_{k,\mathrm{ch}} = 0.5 |I_{c^\star(k,\mathrm{ch}), k, \mathrm{ch}} - \frac{1}{n_{\mathrm{out}}-1} \sum_{c \neq c^\star} I_{c,k,\mathrm{ch}}| \in [0, 1]$。该指标精准度量了该概念是否具有强类别选择性区分能力。

实验关键数据¶

主实验¶

实验采用 InceptionTime10、ResNet1D-18 及 DenseNet1D-121 三种经典时序 CNN 骨干，在包含局部时域几何形状注入（正方形、圆形、三角形）的 syntheticLocal 基准和注入特定频段峰值（中频 70-75 Hz、中高频 125-130 Hz、高频 170-175 Hz）的 syntheticFrequency 基准上进行双重检验。评测指标采用软表征正确率（sRC，度量概念掩码与真实基元掩码的相关能量质量精度）与软重要度正确率（sIC，度量各概念重要度得分与该基元判别属性的一致性）。每个配置在 11 个独立随机种子下运行，并在 3 种架构间汇总（共 33 次运行每单元格，下表呈现全数据集均值及 95% 置信区间）：

数据集族	指标	CENDRe (Silhouette)	CENDRe (HDBSCAN)	CENDRe ($k$-Means)	ECLAD-ts	MultiVISION
syntheticLocal	sRC (↑)	0.651 ± 0.078 [0.642, 0.660]	0.633 ± 0.082 [0.623, 0.642]	0.704 ± 0.084 [0.695, 0.714]	0.741 ± 0.091 [0.731, 0.751]	0.525 ± 0.077 [0.516, 0.534]
syntheticLocal	sIC (↑)	0.792 ± 0.110 [0.779, 0.805]	0.858 ± 0.107 [0.846, 0.871]	0.658 ± 0.134 [0.642, 0.673]	0.556 ± 0.262 [0.526, 0.586]	0.722 ± 0.105 [0.710, 0.734]
syntheticFrequency	sRC (↑)	0.510 ± 0.044 [0.504, 0.517]	0.511 ± 0.044 [0.504, 0.517]	0.571 ± 0.054 [0.563, 0.578]	— (不支持频域)	— (不支持频域)
syntheticFrequency	sIC (↑)	0.792 ± 0.112 [0.776, 0.807]	0.791 ± 0.112 [0.776, 0.807]	0.701 ± 0.130 [0.683, 0.719]	— (不支持频域)	— (不支持频域)

消融实验¶

针对 CENDRe 聚类聚合模式（自适应轮廓系数 vs 自适应 HDBSCAN vs 固定 $K$ 的 $k$-Means）以及超参数微质心数 $J$ 的全局敏感性分析（在 syntheticLocal 与 syntheticFrequency 覆盖 $J \in [11, 3200]$ 的对数网格上测试），方差分解 Sobol 一阶指数 $S_1^J$（越低越不敏感）、随机种子方差贡献 $S_1^{\mathrm{seed}}$ 以及微质心倍增对指标的平均初等效应 $\mu_{EE}$ 如下表：

变体 / 配置	考察指标	$S_1^J$ (参数影响占比)	$S_1^{\mathrm{seed}}$ (随机种子占比)	$\mu_{EE}$ (每倍增 $J$ 漂移)	核心特性说明
CENDRe (Silhouette)	sRC	0.022	0.702	-0.0002	表现极为平稳，在 3 个数量级跨度内性能近乎恒定
CENDRe (Silhouette)	sIC	0.072	0.577	+0.0004	重要度衡量高保真，极低 $J$ 敏感度
CENDRe (Silhouette)	概念数 $K$	0.010	0.159	+0.0200	概念数完全由数据隐结构锁定，不受微质心数干扰
CENDRe (HDBSCAN)	sRC	0.144	0.320	+0.0115	密度聚类易受局部疏密变化影响，小幅度敏感
CENDRe (HDBSCAN)	sIC	0.320	0.280	-0.0240	在超大 $J$ 时微质心被切得过碎，偶发重要度坍缩
CENDRe (HDBSCAN)	概念数 $K$	0.416	0.180	+1.8400	密度连通半径固定导致 $K$ 随微质心数目单调攀升

关键发现¶

sRC 与 sIC 的权衡机理：ECLAD-ts 在 syntheticLocal 上 sRC 略高（0.741 vs 0.651），原因在于基线直接给出了覆盖整个基元的宽幅粗粒度矩形掩码，且基准结果选自人工调参遍历的最优 $K$。而 CENDRe 基于梯度反向传播，精准锁定了模型真正依赖的局部边缘与跳变角点（快捷学习特征），因而 sIC 大幅领先（0.792/0.858 vs 0.556），标准差更缩减了一半以上（0.110 vs 0.262）。
频域概念提取的独有能力：在 syntheticFrequency 上，时域掩码呈现杂乱无章的伪随机分布，而频域掩码精准收敛于注入的真实特征带。CENDRe 在频域达到了与时域完全相当的高重要度正确率（sIC 均达 0.792），填补了以往时序可解释性方法只能盲目猜测频域决策模式的空白。
工业真实轴承故障的可验证性：在真实 CWRU 轴承数据集上，CENDRe 从 InceptionTime10 中提取出的概念完全按故障类别解耦。提取的特征掩码在驱动端精准定位在 2000 Hz 主频共振区，在风扇端定位在 250 Hz 与 1000 Hz 特征带；在 BearingPD 数据集上精准定位至 0.6-1.3 kHz、2 kHz、3.4 kHz 与 10 kHz 结构共振带，与机械故障诊断专家进行包络解调分析的理论特征频带高度吻合。

亮点与洞察¶

虚拟检查层的梯度桥接技巧：利用无参可逆变换算子（如 rFFT）作为反向传播的虚拟通道，将隐空间的对比概念存在度梯度直接拉到频域的对数功率谱上，免去对黑盒模型进行任何重训练或结构破坏，非常优雅。
两阶段微质心聚类化解维度灾难：将数以百万计的 LAD 先经轻量 Mini-batch $k$-Means 压缩为几十个微质心，再在微质心上施加层次聚类与轮廓分析，既保留了非球状聚类与自适应概念数推断的能力，又彻底攻克了传统谱聚类或凝聚聚类的二次方计算爆炸难题。
可迁移至时频分析工具：公式推导直接建立在复数 Wirtinger 微积分与可逆变换基础上，除一维傅里叶变换外，天然即插即用扩展至短时傅里叶变换（STFT）和连续小波变换（DWT），兼顾了高时域分辨率与高频域分辨率。

局限与展望¶

模型架构假设限制：当前局部聚合描述子（LAD）高度依赖一维 CNN 的近似平移等变性（Translation Equivariance）。针对 Vision Transformer、Mamba 等状态空间模型（SSM）或递归结构，由于缺乏天然的时序滑窗等变映射，现有的 LAD 构建机制难以无缝适配。
频域负相关与相位表征待拓展：当前频域敏感度掩码聚焦于幅值/对数功率谱对概念存在度的正向驱动（ReLU 过滤），未显式解释复数相位对波形波形时差与波峰构造的交互贡献。
未来方向：探索无监督概念提取指导模型去偏（Model Debugging / De-biasing），自动检测并剔除依赖频域虚假高频共振的脆弱捷径；开发面向临床心电与声学专家的交互式跨域可视化解释平台。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次打通时序概念提取的时域与频域跨域表征，自适应概念数与梯度反向定位设计完整优雅。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖合成时域、频域、多通道、混淆实验，结合 3 种 CNN 架构与 UCR/CWRU/BearingPD 等多个真实基准，统计显著性与 Sobol 敏感度分析扎实。
写作质量: ⭐⭐⭐⭐⭐ 概念陈述严密，数学推导清晰规范，实验问题意识突出。
价值: ⭐⭐⭐⭐⭐ 为高风险时序与工业振动信号深度学习模型的黑盒可信审查提供了实质性强有力的跨域解释工具。