2D Spatial Reasoning with Adaptive Neural Cellular Automata¶

会议: NeurIPS 2026
arXiv: 2610.08518
OpenReview: https://openreview.net/forum?id=BE5GW03vMR
代码: https://github.com/mspitzna/NCAtorch
领域: VLM Reasoning
关键词: 空间推理, 神经元胞自动机, 可变形卷积, 数独求解, 迷宫寻路

一句话总结¶

针对传统神经元胞自动机（NCA）因固定的局部感受野而无法处理全局几何依赖的问题，本文提出了自适应神经元胞自动机（aNCA），利用多头可变形卷积实现动态、数据自适应且可解释的空间感知，以仅数十万级参数在数独与迷宫寻路等任务上显著超越传统扩散与层次推理大模型。

研究背景与动机¶

空间推理是认知智能的核心能力，要求智能体在二维或三维物理空间中心智化地表征、操纵实体几何关系并推演动态变化。然而，即便最新的多模态大语言模型（MLLMs）在语言对话上极为流畅，在空间几何感知上仍存在严峻的“语义-几何鸿沟”，缺乏稳定的空间工作记忆与几何公理推理能力。与自顶向下建模的“世界模型”不同，在受控的二维网格结构（如数独与迷宫）中孤立研究空间推理机制，是一条极具探索价值的自底向上技术路径。

神经元胞自动机（NCA）由于其底层的离散网格架构与递归状态演化特性，天然契合网格空间上的迭代计算。然而，经典 NCA 依赖空间与时间完全平移不变的静态局部卷积核（如固定的 $3\times 3$ 卷积），每个元胞在单步更新中只能感知局部紧邻邻域。对于数独中跨越整行、整列及宫块的全局排斥约束，或者迷宫中需要跨越障碍的长程拓扑连通性，静态 NCA 必须依赖极长序列的局部扩散，极易在递归展开中出现累积误差、梯度消失或解的崩溃发散。若强行通过扩大标准卷积核（如 $7\times 7$ 或 $9\times 9$）来扩大感受野，不仅参数量剧增，还会因过度平滑丧失稳定性。

为了打破静态局部感受野的物理限制，本文探索了能否让元胞自主学会“看哪里以及看多重”。核心 idea：将经典 NCA 的时空不变静态感知重构为基于 DCNv2 的多头自适应可变形感知，使每个元胞在演化过程中根据当前局部与全局上下文动态预测采样偏移与调制权重，以轻量递归参数自主发现并对齐长程任务约束图。

方法详解¶

整体框架¶

aNCA 将二维空间推理任务建模为定义在离散网格 $\mathcal{G}$ 上的递归状态演化过程。在每个时间步 $t$，每个元胞维持一个包含任务条件输入和隐状态的连续特征向量 $s_{i,t} \in \mathbb{R}^n$。系统整体分为两个解耦的核心阶段：自适应感知模块（Perception Module）与状态更新模块（Update Module）。感知模块利用多头自适应可变形卷积动态收集全局约束信息，更新模块则通过紧凑的 $1\times 1$ 卷积预测状态增量并施加残差更新。对于像素级任务（如手写数字数独），模型采用冻结的编码器-解码器编解码管线（Codec），让 aNCA 完全在隐式数字逻辑网格上推理，解耦底层感知与高级符号约束推演。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入网格 / 图像<br/>数独线索 / 迷宫墙壁与起终点"] --> B["状态初始化与拼接<br/>隐状态 + 任务条件 + 位置编码"]
    B --> C["自适应多头感知<br/>动态预测采样偏移与调制权重"]
    C --> D["特征聚合与残差更新<br/>多头特征拼接 + 1x1 Conv 预测增量"]
    D --> E["样本池与随机展开策略<br/>持久化状态池防崩溃 + 随机步长展开"]
    E -->|未达到收敛步数| C
    E -->|完成迭代展开| F["最终空间推理输出<br/>填补数字板 / 最短路径掩码"]

关键设计¶

1. 自适应多头感知：动态预测采样偏移与调制权重

传统卷积 NCA 采用固定相对网格位置 $\mathbf{p}_n$ 进行特征加权聚集： $$\mathcal{P}(s,\mathbf{p})=\sum_{n=1}^{k^{2}}w_{n}\cdot s(\mathbf{p}+\mathbf{p}_{n})$$ 该范式无法跨越长距离直接感知约束。针对这一瓶颈，aNCA 引入基于可变形卷积 DCNv2 的感知机制，由辅助轻量卷积网络根据元胞当前隐状态直接预测位置自适应偏移 $\Delta\mathbf{p}_n(\mathbf{p}) \in \mathbb{R}^2$ 以及逐点调制因子 $m_n(\mathbf{p}) \in [0, 2]$。分数坐标采样通过双线性插值实现： $$\mathcal{P}_{\phi}^{\mathrm{def}}(s,\mathbf{p})=\sum_{n=1}^{k^{2}}w_{n}\cdot m_{n}(\mathbf{p})\cdot s(\mathbf{p}+\mathbf{p}_{n}+\Delta\mathbf{p}_{n}(\mathbf{p}))$$ 调制因子 $m_n(\mathbf{p}) = 2\,\sigma(a_n(\mathbf{p}))$ 赋予了模型在动态“寻址”之外抑制无效干扰点或放大关键线索点的灵活性。为了捕捉多重正交的空间约束，模型构建了 $H=3$ 个并行的可变形感知头，单步每个元胞输出 81 个偏移与调制标量。实验表明，三个感知头在完全无监督引导下，自然分工对齐了数独的行约束、列约束与宫块局部约束，展现出极强的自组织可解释性。

2. 特征聚合与残差更新：轻量共享的逐点演化核心

为保证计算效率并隔离感知机制的归纳偏置影响，aNCA 将所有并行感知头的输出特征沿通道维度直接拼接，输入到结构精简的共享更新模块 $\mathcal{U}_\phi$。更新网络由单隐层、隐藏维度为 128 的 $1\times 1$ 卷积（即逐元胞 MLP）构成，输出状态增量并以残差方式叠加到当前状态： $$s_{i,t+1} = s_{i,t} + \mathcal{U}_\phi\bigl[\mathcal{P}_\phi(s_{i,t})\bigr]$$ 在整个演化过程中，原始输入的条件信息（如已给定的线索数字、迷宫障碍物位置）在每一步都重新与状态通道拼接，确保外部可观测证据不被递归动态冲刷遗忘。全模型参数量控制在 165k-256k 级别，避免了庞大参数带来的过拟合与昂贵计算。

3. 样本池与随机展开策略：长程递归稳定训练

递归神经网络在多步展开时极易出现吸引子退化、梯度爆炸或发散失稳。aNCA 继承并改进了经典 NCA 的持久样本池（Sample Pool）训练机制。在训练过程中，批次中 50% 的样本直接由初始状态启动，另外 50% 则从容量为 512 的演化样本池中随机抽取历史中间状态继续展开，每轮更新后的状态重新写入样本池。展开步数设定为随机采样 $T \sim \mathcal{U}[T_{\min}, T_{\max}]$（数独为 18 到 24 步，推断时可稳定延拓至 1500 步）。这种设计迫使元胞更新规则不仅要学习如何从初始状态起步推理，还要学会在偏离平衡态的任意中间构型中自我修正与维持稳定，从而赋予模型在测试期无限延展推理深度的能力。

4. 解耦式表征编解码管线：隐式空间推理与视觉生成分离

在端到端图像级空间推理（如手写数字 MNIST 数独）中，同时优化像素级笔画渲染与高阶全局离散约束会导致优化目标严重冲突：模型要么生成清晰的字形但违反数独规则，要么满足数独规则但使图像退化。为此，设计了将感知与推理彻底解耦的双层管线。前端使用轻量卷积编码器 $E_\psi$ 将像素图像识别并映射为 $9\times 9\times 9$ 的逻辑数字对数概率格点；aNCA 核心完全在逻辑隐空间内遵循纯约束损失迭代演化；最后由条件 VAE 解码器 $D_\omega$ 结合独立采样的风格隐变量 $z \sim \mathcal{N}(0, I)$ 将解盘结果逆向渲染回高清手写图像。该解耦架构不仅极大降低了 NCA 的学习难度，还使得模型能够对多解数独呈现出解空间多样性与书写风格多样性的双重生成能力。

损失函数 / 训练策略¶

针对不同任务的几何与逻辑特性，aNCA 均采用面向非确定性解的软约束优化目标： - 数独任务：定义所有行、列、宫组成的 27 个单元集合 $\mathcal{U}$，约束损失惩罚单元内每个数字的预测 softmax 概率和偏离 1 的均方误差： $$\mathcal{L}_{\text{constraint}}=\frac{1}{|\mathcal{U}|}\sum_{U\in\mathcal{U}}\sum_{d=1}^{9}\left(\sum_{i\in U}p_{i,d}-1\right)^{2}$$ 同时结合已知线索单元的交叉熵损失 $\mathcal{L}_{\text{given}}$，总损失为 $\mathcal{L} = \mathcal{L}_{\text{constraint}} + \mathcal{L}_{\text{given}}$。训练使用 AdamW（学习率 $4\times 10^{-4}$，WSD 调度），梯度裁剪为 1.0。 - 迷宫寻路任务：在自由可行走单元 $\mathcal{F}$ 上联合优化二元交叉熵损失 $\mathcal{L}_{\text{BCE}}$、处理路径极度不平衡的 Dice 损失 $\mathcal{L}_{\text{Dice}}$ 以及与真实最短路径长度绝对差的归一化惩罚 $\mathcal{L}_{\text{len}}$： $$\mathcal{L}=\mathcal{L}_{\text{BCE}}+\mathcal{L}_{\text{Dice}}+0.05\,\mathcal{L}_{\text{len}}$$

实验关键数据¶

主实验¶

在公开基准 SRM 数独（阵列与图像表示）和 $30\times 30$ 迷宫最短路径任务上，aNCA 均取得了当前最佳性能，且参数量仅为对比基线模型的极小部分。

数独阵列表示求解率（ASR）与元胞精度（ACP）对比（4 次独立运行均值±标准差）

方法 / 感知机制	困难级别 (55-81空缺) ASR (%)	困难级别 ACP (%)	参数量
NCA w. 3x3 静态卷积	78.23 ± 1.84	98.63 ± 0.10	50k
NCA w. 5x5 静态卷积	75.03 ± 8.38	96.27 ± 4.05	105k
NCA w. 7x7 静态卷积	76.95 ± 2.07	98.43 ± 0.15	189k
NCA w. 9x9 静态卷积	39.80 ± 37.15	84.95 ± 19.71	300k
NCA w. 行/列/宫预设卷积	78.18 ± 2.81	98.58 ± 0.19	145k
NCA w. 空洞卷积	77.23 ± 10.43	98.48 ± 0.67	150k
NCA w. DCNv1 (仅偏移)	64.55 ± 10.43	97.50 ± 0.58	159k
aNCA (Ours, DCNv2)	87.78 ± 6.74	99.18 ± 0.46	165k

30×30 迷宫最短路径求解性能对比（5 次独立运行均值±标准差）

方法	来源	可行路径率 Valid Path (%)	最优路径率 Valid Optimal (%)	参数量
HRM	Wang et al. 2025	–	74.5%	27M
ItrSA++	Kubo et al. 2026	–	78.6%	3M
TRM-Att	Jolicoeur-Martineau 2025	–	85.3%	7M
NCA w. 3x3 静态卷积	本文基线	2.54 ± 0.84	0.08 ± 0.08	50k
NCA w. 空洞卷积	本文基线	74.26 ± 1.07	64.30 ± 1.32	150k
aNCA (Ours)	本文方法	98.56 ± 0.72	94.18 ± 1.14	256k

消融实验¶

为了进一步探究自适应感知机制在各组件中的贡献，作者针对可变形卷积类型（DCNv1 vs DCNv2）、核大小以及在全局颜色平衡约束任务上的表现展开了详尽消融。

感知机制在全局颜色平衡任务中的消融对比

配置 / 感知模型	来源	绝对计数误差 Imbalance ↓	完美满足率 Accuracy (%) ↑	参数量
扩散模型 (Diffusion)	Wewer et al. 2025	1.27	25.0%	19.7M
SRM 降噪模型	Wewer et al. 2025	0.53	51.8%	19.7M
NCA w. 3x3 静态卷积	消融基线	1.13 ± 0.17	26.0% ± 5.0%	48k
NCA w. 5x5 静态卷积	消融基线	0.07 ± 0.06	95.3% ± 2.0%	100k
NCA w. DCNv1 (无调制)	消融基线	1.61 ± 0.59	18.7% ± 11.0%	147k
aNCA (DCNv2 多头调制)	完整模型	0.10 ± 0.08	96.8% ± 3.0%	152k

此外，在数独感知头对齐量化分析中，aNCA 训练得到的 3 个感知头在测试集上的采样位置有 81.0% 至 86.9% 的权重自动聚焦在源单元的行、列、宫区域内，相比均匀随机采样的基线（25.9%）富集了 3.13 到 3.35 倍。

关键发现¶

大核静态卷积存在严重优化瓶颈：将静态卷积核从 $3\times 3$ 盲目增大到 $9\times 9$，困难数独求解率反而从 78.23% 骤跌至 39.80%，且训练方差急剧扩大到 $\pm 37.15$。静态全网格感受野引入了大量无用参数与局部优化陷阱，证明“大核静态感受野”不等同于“长程有效推理”。
逐点调制因子（DCNv2）具有决定性作用：仅带坐标偏移的 DCNv1 在数独困难任务上仅获得 64.55% ASR，显著劣于静态 $3\times 3$ 基线（78.23%），在颜色平衡任务上准确率甚至跌至 18.7%。这是因为缺乏幅值门控时，强制采样导致的插值噪声会破坏递归动力系统的稳定性；DCNv2 的 $m_n \in [0, 2]$ 门控机制让元胞能主动屏蔽无关空间点，是自适应感知成功的关键所在。
无监督约束对齐展现出卓越泛化性：在 $30\times 30$ 迷宫任务中，在 Sapient 数据集上训练的 aNCA 模型无需任何微调，在全新 Prim 算法生成的分布外测试迷宫上实现了 100% 的连通路径率与 99.4% 的最优路径率，证明模型学到了鲁棒的拓扑连通扩散机制而非简单记忆几何路径。

亮点与洞察¶

将神经元胞自动机从模式生成推向符号几何推理：开创性地突破了传统 NCA 仅用于生物形态发生模拟或纹理生成的局限，首次系统性证明轻量递归元胞系统完全具备承载复杂离散符号逻辑与二维空间规划的能力。
几何寻址与动力系统的有机融合：利用 DCNv2 作为 NCA 的感知层，不仅大幅提升了模型的表达能力，其预测的采样偏移与调制权重还天然构成了一个透明的“空间注意力”热力图，为探查黑盒神经网络的空间逻辑推演过程提供了直观依据。
小模型战胜大参数的典范：aNCA 仅需约 250k 参数，便在数独与迷宫难题上击败了拥有数百万乃至上亿参数的层次推理模型（HRM 27M、TRM 7M）及图像扩散模型（SRM 118M），充分展现了强归纳偏置递归系统的参数效率优势。

局限与展望¶

单步计算开销高于普通卷积：可变形卷积包含动态坐标插值与多头重采样，虽然总参数量极低，但在 GPU 上的单步内存吞吐与推理延迟显著高于高度优化的高效静态卷积（数独单题推断耗时从 160ms 升至 830ms）。
结构约束局限于刚性正交网格：当前 aNCA 严格绑定在二维笛卡尔网格坐标系上，尚无法直接迁移至三维立体点云、连续非结构化网格或复杂图拓扑场景。
未来方向：探索在非欧几里得图结构与三维立体体素中构建可变形自适应图元胞自动机，以及将该递归微推理模块作为轻量插件集成进多模态大模型的视觉编码前端中。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 首次将多头自适应可变形卷积引入神经元胞自动机，打通了局部元胞系统处理全局空间约束的技术瓶颈。
实验充分度: ⭐⭐⭐⭐⭐ 覆盖数独、图像数独、迷宫规划与全局颜色平衡四大公开基准，包含详尽的核大小、结构变体消融与无监督对齐可解释性分析。
写作质量: ⭐⭐⭐⭐⭐ 结构清晰严谨，数学公式与动机交代透彻，附录给出了完整的复现超参数与硬件资源评测。
价值: ⭐⭐⭐⭐⭐ 为轻量化空间推理与神经符号推理开辟了兼具高参数效率与强可解释性的全新探索方向。