跳转至

PACE: Phase-Aware Chunk Execution for Robot Policies with Action Chunking

会议: NeurIPS 2026
arXiv: 2606.00537
OpenReview: https://openreview.net/forum?id=mjYg599A94
领域: 机器人/具身智能
关键词: 动作分块、执行时界、运动学速度剖面、相位感知重规划、具身智能

一句话总结

PACE 提出了一种免训练的测试期执行策略,直接从预测动作分块的运动学速度谷底中自适应识别操作相位转换点,在线决定重规划时界,在 RoboTwin2.0 仿真与真实 ALOHA/Franka 机器人上显著超越固定时界基线。

研究背景与动机

近年来,基于视觉语言动作模型(VLA)与扩散策略的端到端机器人操作取得了显著进展,模型参数规模、跨场景演示数据以及多模态预训练不断推动预测精度的提升。为了提高物理执行中的局部动作平滑性与时间连续性,主流策略普遍采用了动作分块(Action Chunking)机制,即策略在每次查询时不再输出单步动作,而是预测一段包含未来多步控制指令的动作序列。然而,动作分块仅决定了策略预测多长的时间范围(预测时界 \(L\)),并没有规定机器人在物理世界中应当开环执行其中多少步动作才获取新观测并重新查询策略,即执行时界(Execution Horizon \(h_i\))。

当前学术界与工业界在部署动作分块策略时,几乎普遍将其退化为全局固定的常数 \(H\)。这种固定时界策略对动作分块的具体内容完全不敏感:不论预测的轨迹是一段平滑高速的自由空间运移,还是横跨了接触碰撞、精准对齐或抓取释放的关键接触阶段,系统都必须等待执行完预设的 \(H\) 步才引入反馈。若选择过小的 \(H\),虽然能高频引入视觉反馈,却会频繁打断原本连贯的局部平滑运动;若选择过大的 \(H\),虽然保障了轨迹连续性,但在面对接触敏感或需要快速纠偏的动态阶段时,开环累积误差会导致严重失败。更严峻的是,经验扫参表明成功率随 \(H\) 的变化高度非单调且极度依赖特定任务,任务间最优时界互不泛化,使得任何单一静态时界都无法作为通用的可靠部署规则。

本文的核心洞察在于,机器人操作轨迹在物理本质上具有由不同阶段构成的运动学相位结构——轨迹由若干局部连贯的运动段组成,而阶段转换(如预接触对准、抓取闭合、物体交接或放置稳定)天然伴随着显著的减速停顿,这种减速在预测动作序列中表现为清晰的速度谷底。核心 idea:无需修改或重新训练策略,PACE 在测试期直接从模型生成的动作分块中提取经平滑的运动学速度剖面,将显著的局部低速谷底作为自适应重规划边界,在连贯运动时保持长时开环执行,在接触转换前及时截断并刷新观测。

方法详解

整体框架

在测试部署阶段,机器人策略以开环方式执行所选前缀,随后通过闭环感知重新规划。在第 \(i\) 次策略查询时,策略网络输入当前观测 \(o_{\tau_i}\) 与自然语言任务指令 \(\ell\),输出包含 \(L\) 步预测动作的动作分块 \(\mathbf{A}_i = \pi_\theta(o_{\tau_i}, \ell) \in \mathbb{R}^{L \times d_a}\)。PACE 的核心目标是构建一个确定性映射函数 \(h_i = g(\mathbf{A}_i) \in \{1, \dots, H_{\max}\}\),仅依靠分析当前动作分块自身的运动学速度特性,在线决定本次查询的最佳执行步数 \(h_i\)。

机器人执行所选前缀 \((a_{i,1}, \dots, a_{i,h_i})\),丢弃剩余未执行的后缀动作,并在时间戳 \(\tau_{i+1} = \tau_i + h_i\) 处获取全新观测进行下一次策略重规划。PACE 不依赖任何策略内部注意力图、置信度或中间去噪特征,是完全即插即用的轻量推理执行器。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入当前观测与指令<br/>策略预测未来动作分块"] --> B["运动学速度剖面提取与平滑滤波<br/>计算关节速度并滤除高频抖动"]
    B --> C["基于显著性评分的低速谷底候选筛选<br/>结合最小时间间隔与相对减速幅度"]
    C --> D["多臂边界协同池化与动态截断执行<br/>取最早跨臂有效边界确定执行时界"]
    D -->|截断后序动作并获取新观测| E["执行选定前缀动作并触发重规划"]

关键设计

1. 运动学速度剖面提取与平滑滤波:将动作序列映射为鲁棒相位特征

固定时界规则的盲目性在于其脱离了机器人手臂运动的实际物理状态。在操作任务中,机械臂在逼近目标、预备接触或放置稳定时,各关节通常会主动降低角速度以保障操作安全与平顺接触。针对这一物理特性,PACE 针对每个受控臂组 \(b \in \mathcal{B}\),将动作分块 \(\mathbf{A}_i\) 中的连续动作差分映射为一维速度序列 \(\mathbf{v}_i^b = \psi_b(\mathbf{A}_i) = (v_{i,1}^b, \dots, v_{i,L-1}^b)\)。由于模仿学习策略生成的动作序列在局部不可避免地存在高频小幅度震荡,若直接检测极小值,会产生大量假阳性低速点,导致不必要的高频切片与运动停顿。

因此,PACE 引入平滑滤波算子 \(\mathcal{S}\) 生成平滑速度剖面 \(\tilde{\mathbf{v}}_i^b = \mathcal{S}(\mathbf{v}_i^b)\)。在动作空间表示上,消融实验表明关节空间与笛卡尔空间在平滑后表现相当,但关节空间速度无需在每个控制查询周期运行正向运动学(FK),计算开销更低且与策略输出空间原生对齐,因此被选为默认配置。

2. 基于显著性评分的低速谷底候选筛选:精准过滤微小停顿与噪声

仅仅检测局部极小值并不能区分真正具有任务语义的操作阶段转换与持续低速蠕动中的微小波动。为了提取具有物理语义的重规划点,PACE 首先在速度剖面 \(\tilde{\mathbf{v}}_i^b\) 上寻找局部低速谷底集合 \(\mathcal{V}_i^b \subseteq \{1, \dots, H_{\max}\}\),并强制要求相邻候选边界之间满足最小时间间隔约束 \(d_{\min}\)(默认设为 10),防止在密集极小点处连续触发碎片化重规划。

在此基础上,PACE 为每个候选谷底位置 \(r \in \mathcal{V}_i^b\) 定义了相对显著性评分 \(\Phi_i^b(r)\)。该评分定量衡量当前速度谷底相对于其前后邻域运动峰值的减速幅度与深度。只有当相对减速显著性达到任务级阈值 \(\delta_{\mathcal{T}}\) 时,该谷底才被确认为有效的相位转换点: $\(\mathcal{R}_i^b = \left\{ r \in \mathcal{V}_i^b : \Phi_i^b(r) \ge \delta_{\mathcal{T}} \right\}\)$ 这种设计确保了系统只在真正存在从高速运移向接触减速的临界点才切断执行,而在整体处于恒定低速微调阶段时不触发误断。

3. 多臂边界协同池化与动态截断执行:跨肢体安全对齐与闭环适时介入

在双臂或多臂协作操纵任务中(如双臂交接、翻转或协同装配),不同机械臂的相位转换时序往往不同步。若某一机械臂已进入接触对齐阶段而另一手臂仍在自由运移,延后重规划会导致接触臂在陈旧开环指令下发生碰撞或偏摆。为了解决多执行器协同下的时序安全问题,PACE 将所有参与任务的臂组候选边界进行联合池化: $\(\mathcal{R}_i = \bigcup_{b \in \mathcal{B}} \left\{ r \in \mathcal{V}_i^b : \Phi_i^b(r) \ge \delta_{\mathcal{T}} \right\}\)$

当候选集非空时,PACE 采取严格的最早边界原则;若预测分块全程平滑、无显著减速谷底,则说明当前处于长程平稳运移,系统安全回退到最大允许执行时界 \(H_{\max}\): $\(h_i = \begin{cases} \min \mathcal{R}_i, & \mathcal{R}_i \neq \emptyset \\ H_{\max}, & \mathcal{R}_i = \emptyset \end{cases}\)$ 最终确定的执行时界 \(h_i\) 驱动机器人执行前缀动作 \((a_{i,1}, \dots, a_{i,h_i})\),而后序动作序列被直接废弃。在下一个时间步,策略基于真实更新的视觉感知重新采样完整的长时预测,从根本上防止了累积漂移向后续阶段蔓延。

损失函数 / 训练策略

PACE 是完全测试期的免训练执行算法,其自身不引入任何可学习网络权重,也不需要对基础操作策略 \(\pi_\theta\)(实验中采用预训练 \(\pi_{0.5}\) 架构)进行重新微调。底层策略依旧基于标准模仿学习的连续动作生成目标进行训练。

PACE 唯一的超参数是任务级显著性阈值 \(\delta_{\mathcal{T}}\)。该阈值的校准过程完全在离线训练集上进行:通过在专家演示轨迹的平滑速度剖面上提取谷底显著性,取特定分位数 \(\rho\)(默认设为 5%)作为该任务的判定阈值。校准过程严格不使用任何测试滚转、环境奖励标签或固定时界网格搜索,保证了方法在面对新环境与新任务时的泛化与自洽性。

此外,训练预测时界 \(L=H_{\text{train}}\) 的选择对测试期动作前缀质量具有全局正则化作用:当策略以较长的 \(L=50\) 目标监督训练时,动作前缀在序列建模下蕴含更优的时序上下文连续性,测试期即便截断后缀,执行的前缀动作质量也显著优于使用短时界监督训练的模型。

实验关键数据

主实验

仿真实验在包含 50 项双臂精细操作任务的 RoboTwin2.0 基准(demo_clean 设置)上展开,每个任务评测 3 个随机种子,每个种子进行 3 批独立的 100 回合测试(每任务共 900 回合)。全量 50 任务等权重平均成功率与 6 项跨短、中、长周期的代表性任务表现如下表所示:

任务 / 评估范围 固定 H=5 (%) 固定 H=25 (%) 固定 H=50 (%) PACE (本文) (%) 相比最优固定基线提升
Pick Dual Bottles 1.8 46.2 27.6 48.2 +2.0
Grab Roller 89.9 96.2 96.2 98.6 +2.4
Place A2B Right 7.9 42.4 38.6 54.6 +12.2
Dump Bin Bigbin 58.7 85.1 84.3 93.0 +7.9
Put Bottles Dustbin 0.3 79.3 70.8 88.9 +9.6
Stack Bowls Two 96.1 86.8 66.8 95.6 +8.8 (vs H=25) / 95.6 vs 96.1
RoboTwin 2.0 (50任务均值) 48.8 57.8 53.4 64.2 +6.4

在真实机器人实验中,PACE 在双臂 ALOHA 平台的 RoboChallenge 公开标准化测试集以及单臂 Franka 平台物体摆放任务上均取得了巨大突破:

评测基准与平台 评估任务 评估指标 基线 (H=25) PACE (本文) 绝对增益
RoboChallenge (ALOHA 双臂) stack_bowls 任务得分 (Score) 73.0 93.5 +20.5
RoboChallenge (ALOHA 双臂) stack_bowls 完全成功率 (Succ. %) 70.0 90.0 +20.0%
RoboChallenge (ALOHA 双臂) put_pen_into_pencil_case 任务得分 (Score) 37.2 51.7 +14.5
RoboChallenge (ALOHA 双臂) put_pen_into_pencil_case 完全成功率 (Succ. %) 10.0 33.3 +23.3%
实验室自测 (Franka 单臂) place_object_on_plate 成功率 / 得分 (%) 72.0 88.0 +16.0%
真实机器人综合平均 3项测试集合计 得分 / 成功率 60.7 / 50.7% 77.7 / 70.4% +17.0 / +19.7%

消融实验

1. 速度剖面空间与平滑算子消融(50 任务全量评测,900 回合/配置)

配置方案 动作空间形式 平滑滤波处理 平均成功率 (%) 相对基线 (H=25) 提升 平均执行时界 (步)
固定基线 H=25 — — 57.8 — 25.0
变体 A 笛卡尔空间 (Cartesian) 原始未经平滑 (raw) 62.2 +4.4 11.3
变体 B 笛卡尔空间 (Cartesian) 平滑滤波 (smoothed) 64.5 +6.7 19.5
变体 C 关节空间 (Joint) 原始未经平滑 (raw) 60.4 +2.6 16.7
PACE 默认 关节空间 (Joint) 平滑滤波 (smoothed) 64.2 +6.4 24.3

2. 训练预测时界 \(H_{\text{train}}\) 对测试执行质量的影响(6 代表任务,控制 \(H_{\text{eval}}\))

固定测试时界 \(H_{\text{eval}}\) 训练 \(H_{\text{train}}=10\) 训练 \(H_{\text{train}}=20\) 训练 \(H_{\text{train}}=30\) 训练 \(H_{\text{train}}=40\) 训练 \(H_{\text{train}}=50\) 相对最短可行训练时界增益
\(H_{\text{eval}} = 10\) 57.2 68.7 69.9 74.6 77.9 +20.7%
\(H_{\text{eval}} = 20\) — 68.7 72.6 73.8 75.3 +6.6%
\(H_{\text{eval}} = 30\) — — 70.2 71.4 73.8 +3.6%
\(H_{\text{eval}} = 40\) — — — 70.1 73.4 +3.3%
\(H_{\text{eval}} = 50\) — — — — 71.4 +0.0%

关键发现

  • 平滑滤波消除伪谷底至关重要:未平滑的原始速度信号中充斥着高频伪极小值,使模型退化为过于激进的高频重规划(平均时界跌至 11.3 步),频繁破坏动作连贯性;平滑后平均时界恢复至约 24 步,成功率提升 2.0~4.0 个百分点。
  • 自适应重规划时机优于平均频次:诊断性对齐实验表明,当使用固定时界精确匹配 PACE 的平均执行步长时,PACE 仍在全量代表任务上显著占优(如 Place A2B Right 上 PACE 54.6% 对比匹配固定时界 H=24 的 44.0%,净胜 +10.6%),证明收益源自对物理相位转换点的精确切断,而非单纯由于改变了查询频率。
  • 训练预测长时界对前缀具有显著正则效益:在测试执行步长固定的前提下,将训练预测时界由 10 扩展至 50 可带来高达 20.7% 的绝对成功率提升,表明更长维度的时序动作监督能促使模型学到更具物理一致性的局部轨迹。

亮点与洞察

  • 将轨迹物理相位与测试期推理时界深度解耦绑定:巧妙利用了操作任务在接触边界必然减速的物理运动学不变量,将纯黑盒的动作预测序列转变为天然的在线相位检测器,无需模型内部特征即可获得相位可解释性。
  • 纯测试期即插即用且跨平台零额外开销:完全绕开了繁重的策略重训、架构改造或辅助预测头设计,在保持极低推理延迟的同时,无缝适配单臂与双臂系统。
  • 可推广至其他生成式轨迹规划范式:通过运动学差分剖面引导执行截断的设计思想,可以直接迁移至导航轨迹分段执行、四足/双足步态过渡判定或自动驾驶交互重规划管线中。

局限与展望

  • 受限于底层策略的动作空间容量:PACE 仅能优化模型何时引入新观测,但无法弥补底层策略动作分布的固有缺失。如在放笔进笔盒失败案例中,机械臂因未学会在插笔前充分撑开盒盖而失败,及时的重规划无法挽回策略本身的行为缺陷。
  • 对非速度突变型临界决策点不敏感:如果某些操纵任务的关键决策转换点不表现为显著的减速停顿(如动态连续抛接或恒速旋转),速度剖面谷底信号将显著减弱。
  • 未来方向:未来可将 PACE 拓展至结合末端力/力矩传感器的主动交互感知,并将相位敏感时界选择机制向更多主流开源 VLA(如 OpenVLA、SmolVLA)与动作世界模型迁移验证。

相关工作与启发

  • vs Diffusion Policy / ACT:ACT 依赖重叠动作的时间集成(Temporal Ensembling),Diffusion Policy 则依赖固定的前缀步长;本文指出了固定时界在不同任务上的非单调性缺陷,提出完全基于内容自适应的动态截断机制。
  • vs AutoHorizon:AutoHorizon 尝试动态选择执行步长,但深度绑定流匹配 VLA 的内部动作自注意力权重,无法跨架构复用;PACE 仅基于输出的动作轨迹运动学,具备完全的模型不可知性。

评分

  • 新颖性: ⭐⭐⭐⭐☆ [从动作序列运动学特征自适应推导执行时界,切入视角简洁巧妙]
  • 实验充分度: ⭐⭐⭐⭐⭐ [覆盖 50 个仿真任务以及真实 ALOHA/Franka 机器人双重验证,消融详实]
  • 写作质量: ⭐⭐⭐⭐⭐ [逻辑严密,动机分析、诊断对比与失败案例解剖清晰深刻]
  • 价值: ⭐⭐⭐⭐⭐ [即插即用,有望成为未来动作分块策略标准化部署的关键执行组件]