Training a Predictive Coding Network on ImageNet using Equilibrium Propagation¶

会议: NeurIPS 2026
arXiv: 2606.03584
领域: 其他
关键词: 平衡传播, 预测编码网络, 物理学习算法, 能量基模型, 生物可解释性

一句话总结¶

本文将平衡传播（EP）的能量微扰机制与预测编码网络（PCN）相结合，提出了针对连续状态松弛的改进型投影梯度下降（mod-PGD）与异步层更新策略，首次在全尺寸 ImageNet 上成功训练 10 层卷积预测编码网络并取得 13.23% Top-5 错误率（逼近反向传播基线的 12.20%）。

研究背景与动机¶

随着深度学习计算规模的爆炸式增长，探索基于模拟物理与神经形态硬件的新型计算架构成为克服传统冯·诺依曼瓶颈与能耗壁垒的关键方向。在此背景下，“物理学习算法”备受关注，其中最具代表性的是平衡传播（Equilibrium Propagation, EP）。EP 属于能量对比学习范式，能够利用动力学系统在不同边界扰动下的平衡态差异计算能量函数梯度，从而在弱扰动极限下逼近传统梯度下降。然而，长久以来 EP 的实验探索大多受制于连续霍普菲尔德网络、非线性电阻网络或相位振荡器等物理模型，规模一直停留在小数据集或低分辨率样本（如 32x32 的 ImageNet 缩略版本）上，无法向深层现代视觉架构拓展。

阻碍物理学习算法规模化的核心症结在于：现有研究难以解耦算法本身的局限性与底层物理系统的计算表达缺陷。物理网络往往缺乏与现代前馈深度架构的直接映射，能量松弛依赖耗时的高维数值优化，且近似梯度对微扰强度与有限差分格式高度敏感。与此同时，源自计算神经科学的预测编码网络（PCN）虽然在自由推理阶段等价于标准前馈网络，但传统 PCN 普遍依赖硬性的输出端钳位（clamping）训练机制，同样长期局限于 Tiny ImageNet 等小规模任务。此前少数学者尝试将 EP 的输出轻微偏置（nudging）引入 PCN，却仅测试了前向差分方案并得出消极结论，使得学界普遍怀疑无反向传播算法在大规模复杂视觉基准上的可行性。

本文的切入点正是将 PCN 作为一座清晰的“解耦桥梁”：PCN 在自由相能通过单次前向传播直接落入能量全局最小点，不仅避免了物理模拟的收敛耗时，还能与标准反向传播进行绝对公平的横向对照。核心 idea：将平衡传播的能量微扰机制与预测编码网络深度融合，结合交叉熵代价微扰、中心/随机差分格式以及带抑制缓冲的改进型投影梯度下降（mod-PGD），打破非反向传播算法的扩展瓶颈，首次在全尺寸 ImageNet 上实现深层卷积 PCN 的高效端到端训练。

方法详解¶

整体框架¶

本文构建的训练框架将深度卷积前馈网络视为特定的能量最小化系统。给定输入图像 $x$，网络各层状态向量为 $h=(h_1, \ldots, h_L)$，其无监督 PCN 能量函数定义为各层状态与自底向上预测之间的均方预测误差之和： $$E_{\rm PCN}(\theta, x, h) = \frac{1}{2}\sum_{k=1}^L \|h_k - f_k(\theta_k, h_{k-1})\|^2$$ 其中 $h_0 = x$。在自由相（推理阶段），扰动系数 $\beta=0$，系统全局最小能量为零，状态由标准前馈计算一次性确定，完全等价于标准深度神经网络。

进入微扰相（训练阶段）后，算法在能量函数中引入监督目标损失项 $C(h_L, y)$，构成总能量标量场 $F_{\rm PCN}(\theta, \beta, h) = E_{\rm PCN}(\theta, x, h) + \beta C(h_L, y)$。此时顶层输出神经元受到微弱力量拉扯（$\beta \ne 0$），该扰动转化为顶层预测误差，并借由连续动力学向浅层反向渗透。网络在状态空间执行改进型投影梯度下降（mod-PGD）直至进入微扰平衡态，最后利用各层局部激活差异更新突触权重。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    In["输入图像 x"] --> Free["自由相前向推断<br/>单次前向传导求得自由平衡态"]
    Free --> Nudge["基于代价函数的能量微扰<br/>施加目标引导项产生顶层预测误差"]
    Nudge --> Dyn["改进型投影梯度下降与异步松弛<br/>偶数/奇数层交替迭代达到微扰平衡态"]
    Dyn --> Diff["中心与随机差分参数更新<br/>局部赫布式误差差分近似目标梯度"]
    Diff --> Out["权重参数原地更新<br/>逼近反向传播性能边界"]

关键设计¶

1. 基于交叉熵损失的能量微扰机制：打破传统输出钳位的表达瓶颈 传统 PCN 通常采用硬性输出钳位（Clamping），即直接强制将顶层输出设定为网络预测与目标标签的凸组合 $h_{\rm out}^\beta = (1-\beta)h_{\rm out}^0 + \beta y$。钳位机制无法显式定义代价函数，其参数更新在数学上并不对应任何目标函数的梯度下降，容易出现梯度尺度失真与训练停滞。本文引入 EP 的能量偏置（Nudging）范式，通过在总能量中加入 $\beta C(h_L, y)$ 使得顶层状态遵循动力学调整：$h_L \leftarrow a_L - \beta \frac{\partial C}{\partial h_L}$。相比传统的均方误差（MSE），本文发现采用交叉熵损失（CE-Nudge）能产生与分类误差幅度动态匹配的非线性误差流，极大缓解了深层网络中反向传播信号的衰减问题，为深层模型在大规模分类中的梯度保真度奠定了基础。

2. 改进型投影梯度下降（mod-PGD）与异步逐层松弛：抑制自顶向下过度激发 在微扰相寻找平衡态时，标准投影梯度下降更新带有 ReLU 激活的隐藏层时满足 $h_k \leftarrow \text{ReLU}(\text{ReLU}(a_k) + \Delta_k)$（其中 $a_k$ 为自底向上预激活，$\Delta_k = \frac{\partial \epsilon_{k+1}^2}{\partial h_k}$ 为自顶向下反馈误差）。这种经典更新存在严重缺陷：当神经元处于自底向上抑制状态（$a_k < 0$）时，只要接收到微弱的正向顶层反馈（$\Delta_k > 0$），就会直接翻转被错误激活，导致微扰相能量剧烈震荡甚至发散（NaN）。为此，本文提出了改进型投影梯度下降（mod-PGD）： $$h_k \leftarrow \text{ReLU}\left(a_k + \frac{\partial \epsilon_{k+1}^2}{\partial h_k}\right)$$ 在 mod-PGD 中，负的预激活 $a_k$ 充当了自然的抑制缓冲层，只有当自顶向下反馈信号强度足以克服底层抑制时神经元才会激活。此外，算法弃用了全层同步更新，转而采用“偶数层-奇数层”异步交替松弛方案，每轮松弛信息向浅层推进两层，显著加快了微扰平衡态的稳定收敛速度。

3. 单相随机方案与高阶中心差分方案：兼顾极速训练与高精度梯度逼近 在平衡态建立后，权重梯度需通过有限差分评估。中心差分方案（Centered Scheme）分别计算正向偏置态 $h_\star^{+\beta}$ 与负向偏置态 $h_\star^{-\beta}$，梯度的截断误差降至 $O(\beta^2)$，在精细实验中表现最优。但本文进一步揭示：在 PCN 中，由于自由相状态本身就是能量极小值点，自由态的能量对权重导数恒等于零（$\frac{\partial F}{\partial \theta}(\theta, 0, h_\star^0) = 0$）。这意味着单侧微扰方案同样无需保存自由态，若以 $50\%$ 概率随机选取 $\beta$ 的符号（Random Scheme），仅需进行一次微扰松弛即可完成梯度估计。实验证明，该单相随机方案在全尺寸 ImageNet 上的性能极为接近中心方案，而训练耗时直接减半。

4. 卷积拓扑与残差跳连扩展：验证现代拓扑结构的通用兼容性 针对视觉分类任务的层次化特性，本文将 PCN 能量形式从全连接拓展为包含卷积、最大池化（Max Pooling）及步长为 2 下采样的 VGG 拓扑，并在微扰相精确推导了逆池化与转置卷积的局部误差传递。更进一步，为探索深层 ResNet 类架构的可行性，模型在层 2 至层 5、层 5 至层 8 之间引入带步长 $1 \times 1$ 卷积的残差跳连（VGG10Skip），并将其预测误差直接并入全局能量函数。这表明 EP 能量约束不仅适用于前馈链式图，也能无缝兼容任意有向无环的残差计算图。

损失函数 / 训练策略¶

训练采用两阶段超参数解耦策略：首先在反向传播基线上微调通用超参数（优化器动量 0.9、权重衰减 $2 \times 10^{-4}$、余弦退火学习率调度及批量大小 256），随后专门标定 EP 特有参数。全尺寸 ImageNet 训练中，微扰强度设定为 $\beta=0.05$，微扰松弛迭代次数固定为 $K=10$（对应 10 层网络自顶向下完整传递的理论极小轮数），采用 mod-PGD 算法与余弦退火优化器端到端训练 50 个 epoch。

实验关键数据¶

主实验¶

主实验在全尺寸 ImageNet（1000 类别，128 万张 $224 \times 224$ 高清图像）上评估了 10 层卷积预测编码网络（VGG10），并与过往基于 PCN 与 EP 的代表性工作及标准反向传播基线进行了全方位对比。

数据集	模型 / 算法	图像规模与分辨率	Top-1 错误率 (%)	Top-5 错误率 (%)
Tiny ImageNet	Pinchetti et al. (2024) [PCN]	100K, 64x64, 200类	58.85	33.75
Tiny ImageNet	Qi et al. (2025) [PCN]	100K, 64x64, 200类	44.69	20.70
ImageNet 32x32	Laborieux & Zenke (2022) [EP]	1.28M, 32x32, 1000类	63.50	39.20
ImageNet 32x32	Høier et al. (2023) [EP]	1.28M, 32x32, 1000类	58.52	35.10
ImageNet 32x32	Nest & Ernoult (2024) [EP]	1.28M, 32x32, 1000类	54.00	30.00
ImageNet (全尺寸)	VGG10 + EP (随机方案)	1.28M, 224x224, 1000类	34.73	14.02
ImageNet (全尺寸)	VGG10 + EP (中心方案)	1.28M, 224x224, 1000类	33.81	13.23
ImageNet (全尺寸)	VGG10 + BP (反向传播基线)	1.28M, 224x224, 1000类	32.35	12.20
ImageNet (全尺寸)	VGG10Skip + EP (中心方案)	1.28M, 224x224, 1000类	33.92	13.32
ImageNet (全尺寸)	VGG10Skip + BP (跳连基线)	1.28M, 224x224, 1000类	32.40	12.10

消融实验¶

消融实验重点验证了状态动力学算法（mod-PGD 对比标准 PGD）以及微扰松弛迭代次数 $K$ 对训练稳定性的影响。实验在 VGG5 架构下使用 MSE-Nudge 开展，测试了跨数据集的表现差异。

动力学算法配置	迭代轮数 $K$	CIFAR-10 Top-1 错误率 (%)	CIFAR-100 Top-1 错误率 (%)	ImageNet 32x32 Top-1 错误率 (%)	说明
mod-PGD (本文方法)	K = 5	7.82 ± 0.14	30.13 ± 0.08	70.82 ± 0.20	稳定收敛，抑制顶层噪声过度放大
标准 PGD	K = 5	22.97 ± 0.30	30.47 ± 0.09	71.38 ± 0.19	CIFAR-10 训练至中途易发散 (NaN)
标准 PGD	K = 10	7.86 ± 0.09	30.20 ± 0.27	71.30 ± 0.11	需加倍迭代才能缓解发散风险
CE-Nudge + 中心方案	K = 5	9.70 ± 0.20	34.70 ± 0.10	60.00 ± 0.10	换用交叉熵在大规模下错误率骤降 10.8%
Clamping (钳位基线)	K = 5	-	~35.00	~67.00	传统输出钳位在大规模复杂任务上表现落后

关键发现¶

动力学算法的鲁棒性差异：在 $K=5$ 较小迭代预算下，标准 PGD 因缺乏预激活抑制缓冲，在 CIFAR-10 上由于自顶向下误差注入过激而频繁出现数值爆炸；mod-PGD 完美抵御了负值激增，在 $K=5$ 下即可取得最佳收敛表现。
代价函数的断层级提升：在小数据集 CIFAR-10/100 上，MSE 与 CE 微扰表现接近；但在 ImageNet 32x32 和全尺寸 ImageNet 上，CE-Nudge 将 Top-1 错误率直接降低超过 10 个百分点，充分印证了非线性代价微扰在大规模输出空间中的关键作用。
随机单相方案的实用性：在全尺寸 ImageNet 上，随机符号方案仅比耗时翻倍的中心差分方案在 Top-5 错误率上落后 0.79%（14.02% vs 13.23%），且大幅超越 AlexNet 历史经典基线（15.3%），证明单相局部微扰完全具备大规模工业级可扩展性。

亮点与洞察¶

解耦物理算法与物理介质：首次利用 PCN 证实了平衡传播在百万级大规模高清视觉数据上的可扩展性，有力驳斥了“物理对比学习无法处理现代大模型与大数据”的传统猜想，证明以往瓶颈主要源于特定硬件的表达能力而非算法自身。
抑制缓冲的精巧设计：mod-PGD 将神经元的未激活前馈电位巧妙保留作为反馈阻抗，既符合生物神经元超极化时更难被兴奋性突触激发的生理机制，又在算法层面彻底解决了状态发散问题。
极小扰动下的渐进等价：实验证实当 $\beta$ 低至 0.0002 时网络依然能精准学习，这为未来利用具有高信噪比模拟忆阻器阵列实现极低功耗神经形态芯片设计提供了坚实的理论支撑。

局限与展望¶

反向传播性能轻微代差：虽然 EP 取得了 13.23% Top-5 的突破性成绩，但与标准反向传播的 12.20% 仍存在约 1.0% 的微小精度差距，更深层模型中残差积累对微扰梯度的稀释仍待深入解析。
推理与训练的时间开销：在数字 GPU 仿真环境下，微扰相需要执行多步（$K=10$）的迭代松弛计算，导致纯软件模拟下的训练墙钟时间约为反向传播的 2-3 倍，其真正的速度与能效红利必须依赖模拟物理硬件才能释放。
更深架构与规范化组件的适配：论文尚未评估带批量归一化（Batch Normalization）的超深 ResNet-50 或 Vision Transformer，如何在非前馈动态松弛期间保持动态统计量的一致性仍是开放课题。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次将平衡传播与预测编码网络推进至全尺寸 ImageNet，填补了生物可解释学习算法在大规模任务上的空白。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 5 大数据集，包含详尽的差分格式、代价函数、动力学算法消融与松弛动态分析。
写作质量: ⭐⭐⭐⭐⭐ 理论推导清晰完备，从概率解释、能量映射到动力学设计层层递进，洞察深入。
价值: ⭐⭐⭐⭐⭐ 为类脑计算、神经形态芯片与无反向传播物理学习提供了决定性的基准证明与架构范式。