FiTS: Interpretable Spiking Neurons via Frequency Selectivity and Temporal Shaping¶

会议: NeurIPS 2026
arXiv: 2605.13071
OpenReview: https://openreview.net/forum?id=xukoeVXJJ9
代码: https://github.com/JongminChoi-0/FiTS
领域: 可解释性
关键词: 脉冲神经网络, 神经元可解释性, 频率选择性, 群延迟调制, 全通滤波级联

一句话总结¶

FiTS 将单个脉冲神经元内的时域计算解耦为最大化亚阈值幅频响应的频率选择性（FS）与基于全通滤波凸混合的群延迟时间整形（TS），使神经元无需循环连接或网络级延迟即可显式表征并自组织频率与时序特征。

研究背景与动机¶

脉冲神经网络（SNN）因具备事件驱动的稀疏脉冲传递特性，被广泛视为极具能效优势的第三代神经网络范式，尤其在处理音频与神经形态事件流等富含时间结构的数据时展现出显著潜力。为了捕获复杂的长时序依赖，现有研究多沿袭两条技术路线展开：其一是在网络级引入循环连接（如 RadLIF、DelRec）、可学习突触/轴突延迟（如 DCLS-Delays）或大核拓扑；其二是在神经元级设计自适应阈值、双室/多房室分支或谐振动力学（如 resonate-and-fire、State Space SNN）。然而，这两条路线往往将频率偏好与响应时序隐式混杂在黑盒更新系数或庞杂的网络拓扑中，难以直接观察或剖析单个神经元在网络中所承担的具体频域和时域特化角色。

在具有强时频结构的听觉与生物感知任务中，生物神经元固有的亚阈值共振特性提示我们：单个神经元应当对特定频段产生共鸣，并对不同频率成分在膜电位上的积分时相进行精密微调。但传统 LIF 神经元本质上仅是简单的一阶低通滤波器，其幅频响应最大值永远锚定在零频；而现有的共振模型或阻抗分析虽然注意到了亚阈值谐振，却大多将共振频率作为系统特征根（极点虚部）的隐式被动结果，既无法作为显式坐标直接参与优化，也无法将“优先响应哪些频率”与“这些频率何时触发脉冲发放”解耦调控。

面对这一矛盾，本文提出了一种内生于神经元状态更新的时域计算分解范式。核心 idea：将单神经元内的时域计算显式解耦为频率选择性（FS）与时间整形（TS）两个可解释模块，利用闭式反函数将目标响应频率直接参数化为可学习坐标，并通过全通滤波器的凸混合调制膜电位累积群延迟，在纯前馈无循环网络中实现自组织、可直读的时频表征。

方法详解¶

整体框架¶

FiTS 在标准单室 LIF 动力学的基础上引入了电压驱动的自适应电流，构建出具有带通谐振特性的二阶线性子系统，并将整个前向更新严格划分为三个阶梯阶段： 1. 频率选择性模块（FS Module）：接收外部输入电流 $I[k]$，在连续时间频域中定义使膜电位幅频响应达到全局唯一的非零极大值目标频率 $\Omega^\star$，通过严格可逆的闭式代数映射求得自适应耦合强度 $\kappa^\star$，并在离散时间下经半隐式欧拉格式（Semi-implicit Euler）稳定推进，输出未整形的中间膜电位 $V_0[k+1]$。 2. 时间整形模块（TS Module）：将 $V_0[k+1]$ 输入至阶数为 $M$ 的一阶全通滤波器（All-pass Filter, AP）级联链路中；各级全通滤波器保持幅频增益恒为 1，仅调整相位；通过逐级递归引入凸混合参数 $\lambda_m \in [0, 1]$，将直通分量与全通输出线性插值，打破级联全通滤波群延迟恒正的物理局限，实现局部负群延迟偏移与任意时间整形，输出整形后的膜电位 $\widetilde{V}_M[k+1]$。 3. 脉冲发放与软重置（Spike & Soft Reset）：对最终混合电位 $\widetilde{V}_M[k+1]$ 进行固定阈值比较发射脉冲 $S[k+1] \in \{0, 1\}$，并执行相减型软重置更新下一时刻所携带的基底电位 $V[k+1]$。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["输入电流 I[k] + 历史状态 (V[k], a[k])"] --> FS["频率选择性模块 (FS Module)<br/>闭式反函数映射目标频率 Ω* → 耦合强度 κ*<br/>半隐式欧拉离散化计算 V0[k+1] 与 a[k+1]"]
    FS --> TS["时间整形模块 (TS Module)<br/>M 阶全通滤波器级联调制相位<br/>λ-混合递归插值调控局部群延迟"]
    TS --> SR["脉冲发放与软重置<br/>比较阈值发射脉冲 S[k+1] 并扣减 Vth"]
    SR --> Out["输出脉冲 S[k+1] 传递至下一层"]

关键设计¶

1. 闭式可逆目标频率参数化：使神经元亚阈值响应极值成为直接学习坐标

传统自适应 LIF 模型通常通过经验设置或直接梯度下降来学习自适应电导系数 $\eta$ 和反馈系数 $\gamma$。但耦合强度 $\kappa = \eta\gamma$ 与物理响应频率之间存在复杂的非线性隐式依赖，导致调谐过程不可见。FiTS 针对带电压自适应电流的连续时间动力学系统： $$ \dot{V}(t) = -\mu V(t) + I(t) - \eta a(t), \quad \dot{a}(t) = -\rho a(t) + \gamma V(t) $$ 对其进行拉普拉斯变换，导出零初始条件下的输入-膜电位传递函数 $H(j\Omega) = \frac{\rho + j\Omega}{(\mu\rho + \kappa - \Omega^2) + j(\mu + \rho)\Omega}$。论文严格证明了平方幅频响应 $|H(j\Omega)|^2$ 在 $\Omega > 0$ 上存在唯一全局最大值点的充分必要条件，并推导出了目标频率 $\Omega^\star$ 与系统参数之间的闭式双向解析映射： $$ \kappa^\star = \rho(\rho + \mu)\left[\sqrt{1 + \frac{\left(1 + (\Omega^\star/\rho)^2\right)^2}{(1 + \mu/\rho)^2}} - 1\right] $$ 这一反向解析映射构成了 FS 模块的核心：FiTS 舍弃直接将 $\kappa$ 作为参数进行黑盒优化的做法，转而将对数频率域中的物理目标频率 $\Omega^\star$ 作为独立可训练坐标。这赋予了模型三大根本优势：可以在初始化时根据任务频段直接按对数尺度均匀铺展神经元的目标频率；在反向传播中直接针对实际共振频率进行平滑梯度更新；在训练完成后无需借助复杂的动力学系统仿真，即可直接读取每个神经元所聚焦的特征物理频段。

2. 半隐式欧拉离散化保证宽频带状态稳定性

在连续时间参数化向离散时序仿真的映射中，离散步长 $\Delta t$ 往往会受到经典显式欧拉数值积分数值爆炸的制约。若采用全显式欧拉更新，系统的二阶 Jury 稳定性判据要求耦合强度必须满足 $\kappa < \frac{\mu+\rho}{\Delta t} - \mu\rho$。以典型听觉配置（$\Delta t = 4\text{ ms}, \tau_m = 40\text{ ms}, \tau_a = 200\text{ ms}$）为例，显式欧拉格式允许的最大目标频率上限仅为 $13.8\text{ Hz}$，高频输入将直接引发状态发散和自激振荡。

FiTS 采用了一种计算轻量的半隐式欧拉离散化方案：在计算下一时刻自适应变量 $a[k+1]$ 时，使用刚刚更新的前向预重置膜电位 $V_0[k+1]$ 进行驱动： $$ V_0[k+1] = (1 - \mu\Delta t)V[k] - \eta\Delta t\, a[k] + I[k] $$ $$ a[k+1] = (1 - \rho\Delta t)a[k] + \gamma\Delta t\, V_0[k+1] $$ 经严格特征方程推导，半隐式格式的稳定性边界被放宽至 $\kappa < \mu\rho + \frac{4}{\Delta t^2} - \frac{2(\mu+\rho)}{\Delta t}$，在上述听觉超参数下，可支持的最大稳定目标频率跃升至 $77.2\text{ Hz}$，全面覆盖了语音与脉冲声音数据集的核心基频与共振峰范围。同时，论文给出了离散时间传递函数极值点的封闭解 $\widehat{f}^\star_{\text{DT}}$，证实连续时间目标频率与真实离散时间共振峰之间的绝对平均误差仅为 $0.76\text{ Hz}$，并可通过封闭解近乎无损（误差 $< 0.0038\text{ Hz}$）地完成离散时间校验。

3. 全通滤波级联与 $\lambda$-混合的时间整形机制：实现符号不定的局部群延迟重构

FS 模块一旦确定了频率选择性，根据柯尔莫哥洛夫/最小相位系统原理，其亚阈值传递函数的相位响应 $\phi_{\text{FS}}(\omega) = \arg H_d(e^{j\omega})$ 及其负导数——群延迟 $\tau_{\text{FS}}(\omega) = -d\phi_{\text{FS}}(\omega)/d\omega$ 也会随之被严格锁定，使得单个神经元无法在保持频段敏感性的同时独立调节膜电位的峰值到达时刻。为了解决“频率已被筛选，但脉冲应当何时跨过阈值”的时序对齐问题，TS 模块设计了一组 $M$ 阶一阶全通滤波器级联： $$ A_m(z) = \frac{z^{-1} - \beta_m}{1 - \beta_m z^{-1}}, \quad |\beta_m| < 1 $$ 由于全通滤波器在单位圆上的模长恒为 1（$|A_m(e^{j\omega})| = 1$），级联全通滤波可以在完全不干扰 FS 模块已建立的精细幅频选择特性的前提下，仅对信号各频段施加相位旋转。然而，纯全通滤波级联在物理上只能单调累加非负群延迟（$\tau_{A_m}(\omega) \ge 0$），导致响应只能被延后而无法前移。为此，FiTS 引入了递归凸组合的 $\lambda$-混合结构： $$ \widetilde{V}m[k+1] = (1 - \lambda_m)\widetilde{V}_m) \in [0, 1] $$ 论文通过严格解析求导证明（Proposition 1）：由于复数信号凸混合的复合相位并不是各自相位的简单线性叠加，当满足条件 }[k+1] + \lambda_m V_m[k+1], \quad \lambda_m = \sigma(\hat{\lambda$\lambda_1 < 0.5$ 且 $\cos\phi_{A_1}(\omega) < -\frac{\lambda_1}{1-\lambda_1}$ 时，混合响应的有理传递函数能够产生严格为负的局部群延迟偏移。这使得单个神经元不仅可以迟延特定频率分量，还可在前馈路径中提前累加特定频率相位，为网络提供了极小参数开销（每神经元仅 $2M$ 个参数）的高自由度时序塑形能力。

损失函数 / 训练策略¶

模型采用标准交叉熵损失函数进行端到端优化，采用分段线性三角替代梯度（Piecewise-linear Triangular Surrogate Gradient）克服脉冲阶跃函数的不可微性，配合减法型软重置（Soft Reset）传递残余电位。所有全通参数 $\beta_m = \tanh(\hat{\beta}_m)$ 与混合参数 $\lambda_m = \sigma(\hat{\lambda}_m)$ 均初始化在无约束实数空间（分别初始化为 0 和 -3.0，使初始状态等价于纯 FS 直通路径，随后由数据驱动自适应演化）。为了避免多层前馈时序更新的 Python 循环开销，论文基于 Triton 实现了融合算子（Fused Kernel），将层内时序更新、双状态演化、全通滤波及反向传播融合成块处理，在单卡 A5000 上获得高达 $31\times$ 至 $135\times$ 的端到端训练吞吐加速。

实验关键数据¶

主实验¶

在代表性的神经形态脉冲语音数据集（SHD、SSC）以及传统声学特征语音数据集（GSC）上，纯前馈全连接架构（2 个隐藏层，无循环连接 Rec.，无网络级延迟 Del.）下的性能对比见下表：

数据集 / 评测协议	模型	架构机制 (Rec. / Del.)	时间步长 / 采样	参数量 (# Params)	Top-1 准确率 (Acc.)
SHD (Best-Test)	RadLIF [4]	✓ / ✕	10 ms	3.9 M	94.62%
	DCLS-Delays [16]	✕ / ✓	10 ms	0.20 M	95.07 ± 0.24%
	Plain LIF (Baseline)	✕ / ✕	4 ms	0.04 M	81.74 ± 0.76%
	cAdLIF [8]	✕ / ✕	10 ms	0.04 M	94.19%
	C-SiLIF [11]	✕ / ✕	4 ms	0.35 M	89.30 ± 1.20%
	FiTS (Ours)	✕ / ✕	4 ms	0.04 M	95.31 ± 0.21%
*SHD (20% Val-Split)**	SE-adLIF [2]	✓ / ✕	4 ms	0.45 M	93.79 ± 0.76%
	DelRec [29]	✓ / ✓	10 ms	0.24 M	93.73 ± 0.69%
	Plain LIF (Baseline)	✕ / ✕	4 ms	0.11 M	79.34 ± 0.67%
	FiTS (Ours)	✕ / ✕	4 ms	0.11 M	94.38 ± 0.12%
SSC (Official Split)	RadLIF [4]	✓ / ✕	10 ms	3.9 M	77.40%
	DCLS-Delays [16]	✕ / ✓	10 ms	2.5 M	80.69 ± 0.21%
	Plain LIF (Baseline)	✕ / ✕	4 ms	0.35 M	69.17 ± 0.18%
	cAdLIF [8]	✕ / ✕	10 ms	0.35 M	77.50%
	C-SiLIF [11]	✕ / ✕	4 ms	0.35 M	81.59 ± 0.31%
	FiTS (Ours)	✕ / ✕	4 ms	0.35 M	78.23 ± 0.16%
GSC (Non-spiking Mel)	RadLIF [4]	✓ / ✕	10 ms	0.83 M	94.51%
	DCLS-Delays [16]	✕ / ✓	10 ms	2.5 M	95.35 ± 0.04%
	Plain LIF (Baseline)	✕ / ✕	10 ms	0.30 M	80.22 ± 0.16%
	cAdLIF [8]	✕ / ✕	10 ms	0.30 M	94.67%
	FiTS (Ours)	✕ / ✕	10 ms	0.30 M	94.48 ± 0.12%

消融实验¶

为了严格厘清频域对数初始化、可学习目标频率优化以及时间整形级联阶数 $M$ 的各自贡献，下表展示了在 SSC 数据集上跨不同隐藏层宽度（Width = 64, 128, 256, 512）的渐进式因子分解消融数据：

变体配置	机制细节	W = 64	W = 128	W = 256	W = 512
Plain LIF	标准一阶无自适应动力学	60.91 ± 0.28%	65.91 ± 0.16%	68.52 ± 0.15%	69.17 ± 0.18%
Adapt. LIF	引入自适应但参数全零初始化	61.18 ± 0.22%	65.96 ± 0.14%	68.38 ± 0.13%	68.88 ± 0.13%
FS (Frozen $f^\star$)	基于反函数对数初始化目标频率且冻结	69.46 ± 0.30%	73.75 ± 0.15%	76.15 ± 0.20%	77.13 ± 0.22%
FS (Learnable $f^\star$)	目标频率参与反向传播持续更新	71.72 ± 0.12%	74.94 ± 0.16%	76.81 ± 0.08%	77.78 ± 0.15%
FS + TS ($M=1$)	引入 1 阶全通混合群延迟整形	72.58 ± 0.08%	75.69 ± 0.12%	77.28 ± 0.06%	78.22 ± 0.12%
FS + TS ($M=2$)	引入 2 阶全通混合群延迟整形	73.16 ± 0.30%	75.94 ± 0.16%	77.50 ± 0.18%	78.23 ± 0.16%

此外，在推理阶段对训练完成的 FS 神经元目标频率进行消融扰动实验显示：若将各神经元的目标频率强制复位（Reset）至初始对数分布，W=64 下准确率暴跌 $50.78\%$；若在同层内随机打乱（Shuffle）神经元与其目标频率的对应关系（保持全局分布不变但破坏局部对齐），各宽度下的准确率均彻底崩塌至随机猜测水平（$3.49\% \sim 4.20\%$，降幅达 $68\% \sim 74\%$）。这直接证明学到的目标频率已与全连接突触权重高度特化咬合。

关键发现¶

对数频域初始化的决定性作用：若自适应系数按常规方法零初始化，模型表现与标准 LIF 几乎毫无区别（提升不足 $0.3\%$）；而借助推导出的闭式反函数将目标频率在有效物理频带内按对数刻度均匀铺开，模型在各尺寸下直接迎来 $8\% \sim 9\%$ 的巨大跨越，证明了先验频率覆盖对脉冲时空学习的基础引导价值。
层级时频自组织规律：对多随机种子学习轨迹的统计分析表明，深层（Layer 2）相较于浅层（Layer 1）更倾向于向低频段发生大幅度偏移，并在 TS 模块中演化出更显著、更复杂的非零正负群延迟波动；这表明浅层专注于宽频段瞬态感知，而深层神经元自发特化为整合低频音素包络与上下文节奏的时序聚合器。
能效与算力的权衡取舍：根据 45 nm CMOS 工艺能耗模型测算，FiTS 的高选择性与自适应抑制大幅降低了平均脉冲发放率，使线性能耗从基线的 $6.1\ \mu\text{J}$ 降至 $2.7\ \mu\text{J}$；但内部全通级联带来了状态更新开销（神经元内能耗由 $2.8\ \mu\text{J}$ 升至 $17.6\ \mu\text{J}$，总能耗从 $8.9\ \mu\text{J}$ 升至 $20.3\ \mu\text{J}$），构成了清晰的以神经元内部计算换取时序建模容量的精度-功耗 Trade-off。

亮点与洞察¶

闭式反函数消除了共振参数的黑盒壁垒：常规共振神经元将特征频率视为系统参数的隐式输出，而 FiTS 反向求解解析解，使物理频率直接变成优化变量与初始化接口，巧妙兼顾了数学严密性与直观可解释性。
$\lambda$-混合破解了因果全通滤波群延迟非负的物理桎梏：纯全通系统仅能产生正向相位延迟，而本文通过证明全通滤波与直通路径的凸混合能产生负向有效群延迟，在极小参数代价下赋予了前馈脉冲神经元“时相提前”的调节自由度。
强有力的白盒可解释性工具：通过直接提取训练后的目标频率直方图与群延迟偏移曲线，研究者无需进行昂贵的黑盒探针或特征图反卷积，即可直观透视整网对时序频谱的组织与分工机制。

局限与展望¶

神经元内状态存储开销：TS 模块每增加一阶全通滤波就需要为每个神经元额外保存历史电位状态 $V_m[k]$，在极端边缘计算芯片中对片上 SRAM 提出了更高要求，未来需探索结构修剪与稀疏阶数分配。
缺乏与大核拓扑/复杂网络机制的联合探索：当前工作主要在前馈浅层全连接网络中完成隔离验证，未来有待进一步探究 FiTS 神经元与显式循环连接、脉冲卷积 Transformer 或大规模神经形态预训练模型相结合的潜力。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙构建了连续时间幅频极值的闭式反解与全通混合负群延迟机制，理论推导扎实优雅。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖三大多分类语音基准、非脉冲声学特征、手势事件流与像素序列识别，提供了完备的消融、扰动、能耗与 Triton 吞吐验证。
写作质量: ⭐⭐⭐⭐⭐ 动机阐述自然流畅，数学公式与物理机制环环相扣，图表详实且极具洞见。
价值: ⭐⭐⭐⭐⭐ 为事件驱动脉冲神经网络的单神经元可解释性设计开辟了新视角，对神经形态芯片算法协同极具启发。