Next Forcing: Causal World Modeling with Multi-Chunk Prediction

会议: NeurIPS 2026
arXiv: 2606.11187
代码: https://gangweix.github.io/next-forcing/
领域: 机器人
关键词: 世界模型、自回归视频生成、多块预测、因果链式结构、具身操作

一句话总结

本文针对自回归世界模型在教师强制训练下因相邻帧高度相似而陷入外观捷径（近视监督）的痛点，提出了多块预测框架 Next Forcing，通过轻量级因果链模块同时去噪多步未来视频块并融合主模型多层特征，在大幅提升训练收敛速度与物理建模精度的同时实现了 2 倍推理加速。

研究背景与动机

以自回归视频生成为核心的世界动作模型（World Action Models, WAMs）正逐渐成为具身智能与机器人策略学习的关键范式。这类模型通过联合建模未来的视觉演变与动作执行，使智能体能够在执行物理操作前对环境演进进行动态预想。当前 WAMs 的主流训练目标是基于教师强制（Teacher Forcing）的单步下一个视频块去噪（next-chunk denoising），即在给定真实历史干净视频块的条件下，对当前加入噪声的块进行去噪恢复。

然而，传统的单块预测目标本质上是一个高度局部化的学习任务，极易诱发严重的“外观捷径”（appearance shortcut）。由于时间上相邻的视频块在视觉特征上极其相似，模型只需学到一个从前序干净块到当前块的近恒等映射叠加微小的残差修正，就能快速大幅拉低去噪损失。这种表面特征捷径消耗了主干网络的大量梯度信号，使得模型缺乏足够的内在驱动去理解和捕捉支配物理世界实际演进的长程动态规律。我们称这种现象为“近视监督”（myopic supervision）。这一痛点在高帧率场景下尤为尖锐：当帧率升至 50 fps 时，相邻块之间的外观差异进一步缩窄至几乎无损复制的程度，标准教师强制训练出现严重的收敛迟缓且最终精度显著劣化。

受大语言模型中多标记预测（Multi-Token Prediction, MTP）的启发，本文的核心思考在于将局部的单块去噪目标扩展为长程多块预测，迫使网络必须通过学习潜在的时序因果动力学而非表面捷径来完成去噪。核心 idea：通过构建多层特征融合与因果链式的辅助多块预测模块（MCP），为因果世界模型引入多时间尺度的未来动力学强监督，并在测试时通过并行块生成实现零开销或倍速推理加速。

方法详解

整体框架

Next Forcing 围绕“多块预测（Multi-Chunk Prediction, MCP）”范式构建。在整体架构上，主干网络采用基于 Mixture-of-Transformers（MoT）的双流架构，分别处理视频动力学生成与动作逆动力学解码。在训练期间，主模型负责对当前的加噪视频块 \(x_t^{(i)}\) 进行标准流匹配（Flow Matching）去噪；与此同时，系统并行挂载了 3 个轻量级的辅助 MCP 模块，分别对应预测未来第 1、2、3 个视频块（next1, next2, next3）。

这 3 个 MCP 模块并不独立运作，而是构成自回归因果链：浅层模块的去噪预测表征作为深层未来模块的输入先验。此外，为了让长程时序监督信号能够深入主模型的骨干特征，MCP 模块并非直接挂在主模型的最后一层输出，而是抽取主模型 30 层 Transformer 中的多个中间层隐状态（第 4、12、20、30 层）进行拼接与压缩融合。在推理阶段，辅助 MCP 模块既可以直接丢弃以实现与基线一致的零计算开销部署，也可以保留深度为 1 的 MCP 模块与主模型并行去噪，单步生成 2 个块，从而带来 2 倍的推理吞吐量加速。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["历史干净视频块 + 文本指令"] --> B["主模型 Backbone (30层 MoT)"]
    B --> C["当前视频块去噪预测<br/>Flow Matching v_theta"]
    B --> D["多层特征抽取与融合 (第4, 12, 20, 30层)"]
    D --> E["因果链式多块预测模块 (MCP Depth 1..3)"]
    E --> F["独立加噪与偏置时间步调度 (s_mcp > s_main)"]
    F --> G["联合训练损失回传 (反传至主模型各中间层)"]
    E -.->|推理时并行模式| H["并行双块去噪输出 (2x 推理加速)"]

关键设计

1. 时序块偏移与偏置时间步加噪调度：破解局部外观复制并强化梯度回传

为了给主模型提供关于未来动态的直接显式监督，框架为每个预测深度 \(k \in \{1, 2, 3\}\) 构造未来偏移目标 \(x_0^{[k]}[i] = x_0[\min(i+k, F)]\)，并通过旋转位置编码（RoPE）显式注入块偏移信息。每个偏移目标均依据流匹配独立注入高斯噪声 \(x_{t_k}^{[k]} = (1-t_k)x_0^{[k]} + t_k \epsilon_k\)。关键创新在于噪声时间步 \(t_k\) 的采样参数设定：主模型使用时间步频移参数 \(s_{\text{main}}=5\)，而辅助 MCP 模块则配置了更大的偏置时间步频移参数 \(s_{\text{mcp}}=10\)。这种调度机制使得 MCP 模块在训练时显著偏向更高噪声的区间，在极高噪声下 MCP 输入自身包含的真实目标信息极其微弱，迫使轻量级辅助头必须严重依赖主模型传递过来的中间表征进行去噪，从而强力将多块监督的梯度压入主干特征，防止辅助模块自身通过过拟合局部捷径吸收掉全部训练信号。

2. 多层中间特征融合机制：让未来动态梯度直达主干网络深浅各层

常规的预测辅助头通常仅接收骨干网络的最终输出，但这会导致监督信号在漫长的反向传播中大幅衰减，难以重塑底层的结构表征。Next Forcing 在主模型的 30 层 Transformer 前向传播过程中，同步抽取第 4、12、20 与 30 层的隐状态。这些状态同时覆盖了含噪的当前块与干净的历史块上下文，既表征了当前的去噪进度，又保留了全局几何与语义信息。系统将这 4 层的特征沿通道维度拼接后通过一个两层 MLP 压缩映射为紧凑表征：

\[h_{\text{fuse}} = \text{MLP}([h_4; h_{12}; h_{20}; h_{30}]) \in \mathbb{R}^{B \times N \times d}\]

在反向传播时，未来 3 个块的流匹配损失梯度通过该融合表征直接且无损地回传至主模型的各关键层，驱动主模型从底层粗粒度几何特征到高层细粒度动态均向“面向长程时序演进”的方向对齐。

3. 因果链式 MCP 模块架构与掩码复用：近景预测指导远期动态的轻量扩展

3 个 MCP 模块之间采用级联因果链结构连接，而非相互割裂的平行分支。对于预测深度 \(k\)，输入的未来加噪块经过共享的 Patch Embedding 映射后，与前一深度的输出特征 \(h_{\text{prev}}^{[k-1]}\) 拼接并通过线性层投影融合，其中基底输入为 \(h_{\text{prev}}^{[0]} = h_{\text{fuse}}\)：

\[z^{[k]} = W_k [h_{\text{prev}}^{[k-1]}; \text{Embed}(x_{t_k}^{[k]})]\]

融合向量仅需经过 3 个轻量级 Transformer 模块即可预测流匹配速度场，同时该输出无缝作为下一深度 \(h_{\text{prev}}^{[k]}\) 的条件输入。这一设计模拟了时序演进的因果链条，使远期未来（next2、next3）的预测能够充分以近期未来（next1）的中间预想为基础。更巧妙的是，MCP 模块与主模型共享完全相同的注意力掩码设计（含噪块仅对前序干净块单向因果注意，含噪块内部自注意，干净块禁止关注含噪块），每个训练步只需构造一次掩码，极大降低了辅助任务的内存开销与额外计算复杂度。

损失函数 / 训练策略

Next Forcing 的总训练目标由主模型损失与多块预测损失加权组合而成。主模型包括视频流去噪损失与动作流逆动力学解码损失：

\[\mathcal{L}_{\text{video}} = \mathbb{E}_{t, x_0, \epsilon} [\|v_\theta(x_t, t, c) - (\epsilon - x_0)\|^2]\]

\[\mathcal{L}_{\text{action}} = \mathbb{E}_{t, a_0, \epsilon} [\|v_\psi(a_t, t, c_a) - (\epsilon - a_0)\|^2]\]

对于 \(k \in \{1, 2, 3\}\) 的 MCP 模块，其流匹配去噪损失 \(\mathcal{L}_k^{\text{MCP}}\) 针对偏移目标计算，序列末尾由边界填充产生的块不参与损失计算。最终的总体联合优化目标为：

\[\mathcal{L} = \mathcal{L}_{\text{video}} + \mathcal{L}_{\text{action}} + \sum_{k=1}^3 w_k \cdot \mathcal{L}_k^{\text{MCP}}\]

其中损失权重采用衰减设置：\(w_1 = 0.5\)，\(w_2 = 0.2\)，\(w_3 = 0.1\)。每个训练 step 中视频块的大小 \(M\) 在 \(\{1, \dots, M_{\text{max}}\}\)（\(M_{\text{max}}=4\)）之间随机采样，增强多尺度时序鲁棒性。

实验关键数据

主实验

在涵盖 50 项复杂双臂协同操作任务的 RoboTwin 仿真基准上，Next Forcing 与主流 VLA 模型及 WAM 模型进行了全面评测（评测包含固定初始位姿的 Clean 环境与具有随机位姿和场景布局的 Random 环境）：

方法	类型	Clean 成功率 (%)	Random 成功率 (%)
X-VLA	VLA	72.9	72.8
\(\pi_0\)	VLA	65.9	58.4
\(\pi_{0.5}\)	VLA	82.7	76.8
Motus	WAM	88.7	87.0
Being-H0.7	WAM	90.2	89.6
Fast-WAM	WAM	91.9	91.8
LingBot-VA (基线)	WAM	92.9	91.5
Next Forcing (本文)	WAM	94.1	93.5

在高帧率（50 fps）挑战性场景下，训练收敛性实验进一步展现了显著优势：在 5k 步初始训练阶段，Next Forcing 在 Random 任务上达到 61.6% 成功率，较 LingBot-VA 的 31.9% 取得高达 29.7 个百分点的绝对领先（相对提升 93.1%）；收敛速度提升 2.3 倍，且最终 50k 步精度达到 91.8% / 90.5%，远超基线的 88.6% / 85.2%。

此外，在物理规律生成评测基准 PhyWorld 以及 350 万真实人类行为视频的预训练泛化实验中，Next Forcing 均展现出卓越表现：

评测基准	指标	LingBot-VA	Next Forcing (本文)	改善幅度
PhyWorld (模版外 OOT)	FVD (\(\downarrow\))	5.3	4.7	-11.3%
PhyWorld (模版外 OOT)	异常物理比率 (\(\downarrow\))	12%	8%	-33.3%
PhyWorld (模版内 IT)	FVD (\(\downarrow\))	3.5	3.2	-8.6%
PhyWorld (模版内 IT)	异常物理比率 (\(\downarrow\))	3%	2%	-33.3%
通用视频预训练 (Test Set 1)	50k 步 FVD (\(\downarrow\))	225	94	-58.2%
通用视频预训练 (Test Set 2)	50k 步 FVD (\(\downarrow\))	204	97	-52.5%

消融实验

在 RoboTwin Clean 子集上使用 16 卡 GPU 训练 20k 步进行系统性设计消融分析：

模块配置	成功率 SR (%)	说明
Baseline (LingBot-VA, \(s_{\text{main}}=5\))	75.6	默认基线
Baseline w/o 噪声历史增强	69.8	移除历史噪声增强导致性能暴跌 5.8%
Baseline (\(s_{\text{main}}=1\))	65.3	较低噪声频移表现较差
Baseline (\(s_{\text{main}}=10\))	78.4	增大基线自身频移取得一定增益
Baseline + MCP (本文默认配置)	85.8	引入 MCP 后相对基线净增 +10.2%
w/o 多层特征融合 (仅用最后一层)	83.6	缺乏浅层到中层梯度，下降 2.2%
设置 \(s_{\text{mcp}}=5\) (与主模型相同频移)	83.2	降噪偏置减弱导致耦合下降 2.6%
w/o 权重初始化 (不从主模型后几层初始化)	83.8	随机初始化导致收敛放缓，下降 2.0%
MCP Transformer 层数 = 1	86.5	极轻量结构逼迫主模型承担更多监督
MCP Transformer 层数 = 5	85.0	辅助模块容量过大反而吸收了过多梯度

在推理加速测试中，保留 Depth-1 模块进行并行块生成（MCP-accelerated 2×），在 12 fps 下 Clean/Random 成功率为 93.5% / 90.6%，在 50 fps 下更达到 92.2% / 91.3%，与标准串行去噪（91.8% / 90.5%）相比几乎无性能损耗，实现了严格无损的 2 倍吞吐量翻倍。

关键发现

• 高帧率下 MCP 价值尤为关键：在 12 fps 时相邻块已有一定视觉变化，捷径效应尚温和；而在 50 fps 下相邻块相似度极高，基线严重依赖复制前一帧，而 MCP 强制预测未来 2~3 步（跨越数十毫秒乃至上百毫秒）的非连续位移，彻底打破了局部复制模式。
• 辅助模块越轻，主模型学得越好：消融显示将 MCP 模块精简至 1 层 Transformer 时主任务成功率最高（86.5%），证实辅助模块并非用来替网络“代劳”，而是充当纯粹的监督“梯度通道”；设为 3 层则是兼顾并行推理时生成画面质量的最佳折中。
• 多层特征穿透必不可少：仅从主模型最后一层引出特征（83.6%）显著落后于多层融合（85.8%），证明底层的运动轮廓与中间层的因果推断必须尽早受到长程未来目标的直接拉动。

亮点与洞察

• 精巧的时序频移错位调度：设置 \(s_{\text{mcp}} > s_{\text{main}}\) 是极其敏锐的流匹配设计，它让辅助头处于高噪声困难任务下，由于输入自身信噪比低，辅助模块必须完全仰赖主模型抽出的特征，强制把未来梯度的有效信息量全部灌注给主干。
• 训练超额监督与推理无损转化的双重收益：MCP 模块在训练时是提供长程动力学监督的“脚手架”，在推理时既可无缝拆除实现零额外开销，也可变为投机/并行去噪生成头，以近乎免费的方式带来 2 倍生成速度提升。
• 广泛的泛化性与正交兼容性：Next Forcing 改变的是“预测什么目标”，因而与改变上下文构造的 Self Forcing、改变加噪形式的 Diffusion Forcing 完全正交，且在非机器人数据的 350 万通用视频预训练上直接砍掉一半以上的 FVD，验证了其基础世界模型属性。

局限与展望

• 额外的训练计算开销：挂载 3 个深度的 MCP 模块虽然参数量轻巧，但仍额外增加了多步流匹配前向与反向传播的显存与计算时间。
• 并行推理加速步数受限：当前并行推理仅利用了 Depth-1 实现了 2 倍加速；对于 Depth-2 与 Depth-3，由于长步预测误差累积引发的漂移效应，目前尚未能直接用于更长序列的无损并行展开，未来有待结合自适应验证或校准机制探索更高倍率加速。

相关工作与启发

• vs LingBot-VA / 传统单块 Teacher Forcing: 传统方法只关注下一个视频块，在视频高帧率或微小运动时极易退化为局部恒等映射外观复制；Next Forcing 通过引入未来多块因果链，迫使世界模型学会轨迹级因果动力学。
• vs Diffusion Forcing / Self Forcing: Diffusion Forcing 侧重单帧独立采样噪声级别以减轻暴露偏差，Self Forcing 引入自生成历史以消除训练-测试分布偏移，它们的核心在“上下文怎样输入”；Next Forcing 则探索“监督目标该延伸到多远的未来”，二者能够完全正交叠加。
• vs LLM 中的 Multi-Token Prediction (MTP): MTP 作用于离散离散字典空间的单步交叉熵预测，而 Next Forcing 首次将其拓展至连续隐空间的扩散与流匹配迭代去噪任务中，并给出了多层特征融合与噪声频移错位的成套解法。

评分

• 新颖性: ⭐⭐⭐⭐⭐ 首次将多标记预测思想成功泛化到连续流匹配因果世界模型，并提出了时间步错位调度与因果特征链。
• 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 50 项复杂双臂任务的 RoboTwin 全局评测、50 fps 高帧率收敛诊断、PhyWorld 物理律检验及 350 万通用视频预训练。
• 写作质量: ⭐⭐⭐⭐⭐ 逻辑严密，对近视监督与外观捷径的机理解析极其透彻，消融设计扎实客观。
• 价值: ⭐⭐⭐⭐⭐ 为具身智能因果世界模型提供了训练提速、精度增强且兼具推理加速的通用训练新范式。

相关论文

• [NeurIPS 2026] Masked Visual Actions for Unified World Modeling
• [NeurIPS 2026] Language-Conditioned World Modeling for Visual Navigation
• [NeurIPS 2026] UniT: Toward a Unified Physical Language for Human-to-Humanoid Policy Learning and World Modeling
• [NeurIPS 2026] Rethinking Causal Action Tokenization with Conditional Annealing in Flow Matching
• [NeurIPS 2026] ICAT: Incident-Case–Grounded Adaptive Testing for Physical-Risk Prediction in Embodied World Models