Frequency-Aware Flow Matching for Continuous and Consistent Robotic Action Generation¶

会议: NeurIPS 2026
arXiv: 2606.20135
OpenReview: https://openreview.net/forum?id=G7fOG13nTJ
代码: https://anonymous.4open.science/r/FAFM
领域: 机器人
关键词: 机器人动作生成, 流匹配, 离散余弦变换, 索伯列夫正则化, 动作平滑性

一句话总结¶

针对传统离散动作块在异构控制频率训练下出现辨识失败以及推理时高频抖动的问题，提出频域感知流匹配（FAFM），通过离散余弦变换将动作映射至物理时间锚定的频域系数空间生成连续动作，并引入解析一阶时间导数流匹配构建索伯列夫正则化，实现平滑、时间一致且跨频率鲁棒的机器人动作生成。

研究背景与动机¶

流匹配（Flow Matching）与扩散策略凭借建模复杂多模态分布的强大表征能力，已被广泛采纳为机器人基础模型（如 $\pi_0$、$\pi_{0.5}$、SmolVLA 等）的核心动作生成头。为了支持实时闭环控制，当前主流方法通常采用动作块（action chunking）范式，即在固定控制频率下预测未来若干个离散时间步的动作序列。

然而，物理机器人的真实运动本质上是平滑且时间连续的。将连续物理轨迹强制离散化为固定步长的离散动作块在训练与推理阶段均引发了严峻挑战。在训练阶段，真实多机操控数据集（如 Open X-Embodiment）汇聚了来自不同硬件平台的轨迹，其控制频率跨度极大（如 RT-1 为 3 Hz，而 ALOHA 为 50 Hz）。当直接基于离散步长索引（step-indexed）训练策略时，模型抛弃了真实的物理时间信息，导致同一物理轨迹在不同采样率下产生长度与尺度各异的监督目标，理论上会导致贝叶斯最优解退化为不同物理时刻动作的非物理均值，引发严重的梯度冲突与辨识失败（Identifiability Failure）。在推理阶段，离散动作块通常假定各时间步动作独立回归，忽视了相邻动作间的时间连续性约束；相邻步即使单步误差极小，反向的偏差也会激化高频震颤，这在流体倾倒、手术机器人等可变形软体操作场景中极易诱发飞溅或不可逆组织损伤。

解决该矛盾的核心在于打破离散时间步索引的束缚，构建一种能锚定真实物理时间并在频谱层级显式约束高阶动态的动作生成架构。核心 idea：利用离散余弦变换（DCT）将任意采样率的动作序列映射至与物理时间绑定的连续余弦正交基系数空间，在频域系数空间进行流匹配建模，并引入解析一阶时间导数监督构成加权 $H^1_\mu$ 索伯列夫正则化，以零额外网络参数彻底解决异构频率梯度冲突并二次方抑制高频抖动。

方法详解¶

整体框架¶

频域感知流匹配（FAFM）的核心机制在于将动作生成的建模对象从「离散步长索引的动作块」转变为「连续物理时间基函数展开的频域系数」。对于任意采样频率采集的示教轨迹，首先在物理时间窗口 $T_\xi$ 内提取前 $M+1$ 维 DCT-II 正交系数；随后策略网络以观测特征为条件，在频域系数空间执行条件流匹配生成目标系数；最后利用余弦基展开在任意时间分辨率下解析重建连续动作轨迹，并结合解析一阶时间导数施加时间一致性流匹配正则化。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["示教动作轨迹<br/>任意采样频率 f, 物理时长 T"] --> B["1. 频域系数映射<br/>DCT-II正交基展开与积分求积"]
    B --> C["2. 频域流匹配<br/>在 (M+1) 维系数空间学习连续速度场"]
    C --> D["3. 连续动作重构<br/>余弦基解析展开评估任意时刻动作"]
    D --> E["4. 索伯列夫导数正则化<br/>解析一阶速度场匹配二次惩罚高频误差"]
    E --> F["输出连续平滑动作<br/>执行机构/机器人底层连续控制"]

关键设计¶

1. 频域系数映射：消除异构采样频率引起的辨识失败 传统动作块将动作序列按离散步长索引 $k \in \{0, \dots, K-1\}$ 监督，当示教数据混杂不同频率 $f_1 \neq f_2$ 时，最小二乘最优解 $\hat{a}^\star(k|\mathbf{o})$ 实际上平均了不同物理时刻 $\tau = k/f_1 \neq k/f_2$ 的状态，产生脱离真实轨迹流形的非物理目标。FAFM 将物理轨迹建模为索伯列夫空间 $\mathcal{H} := H^1([0, T_\xi]; \mathbb{R}^d)$ 中的元素，在固定物理窗口时长 $T_\xi$ 下将其投影到 $L^2$ 标准正交余弦基 $\phi_j(\tau) = \alpha_j \cos(\omega_j \tau)$（其中 $\omega_j = j\pi / T_\xi$）。在离散采样下，截断至前 $M$ 阶的 DCT-II 系数计算公式为： $$\hat{c}_j = 2 \sum_{n=0}^{K-1} \xi_n \cos\left(\frac{j\pi (2n+1)}{2K}\right), \quad j=0,\dots,M$$ 由于该求积公式在数学上直接逼近与采样率无关的物理时间连续积分 $c_j^* = \frac{2}{T_\xi} \int_0^{T_\xi} \xi^*(\tau) \cos\left(\frac{j\pi \tau}{T_\xi}\right) d\tau$，截断误差满足 $\hat{c}_j = c_j^* + \mathcal{O}(1/K)$。因此，即使控制频率不同，相同物理动作在频域中的系数表征完全一致，从根源上消除了梯度冲突。

2. 频域流匹配与连续动作重构：任意时间分辨率的无缝生成 在获取目标系数向量 $\hat{\mathbf{c}}^* \in \mathbb{R}^{(M+1) \times d}$ 后，FAFM 构建系数空间的直线最优传输路径 $\hat{\mathbf{c}}_t = t \hat{\mathbf{c}}^* + (1-t)\varepsilon$（其中 $\varepsilon \sim \mathcal{N}(\mathbf{0}, \mathbf{I})$）。流匹配损失直接在系数空间定义： $$\mathcal{L}_{\mathrm{FM}}(\theta) = \mathbb{E}_{(\mathbf{o}, \hat{\mathbf{c}}^*), t, \varepsilon} \left\| v_\theta(\hat{\mathbf{c}}_t, \mathbf{o}, t) - (\hat{\mathbf{c}}^* - \varepsilon) \right\|^2$$ 在推理阶段，模型仅需在低维系数空间中进行常微分方程（ODE）数值积分求解目标系数 $\hat{\mathbf{c}}$。解码时，直接使用余弦基函数在任意物理时刻 $\tau \in [0, T_\xi]$ 解析计算动作值： $$\hat{v}(\tau) = \frac{1}{2}\hat{c}_0 + \sum_{j=1}^M \hat{c}_j \cos(\omega_j \tau)$$ 由于 $M \ll K$（实验中 $K=12$ 时取 $M=4$，$K=50$ 时取 $M=16$），该参数化天然过滤了高阶高频噪声，且赋予策略按底层执行器所需任意频率插值采样的能力。

3. 索伯列夫一阶时间导数正则化：二次方加权抑制高频运动震颤 为解决相邻离散步独立预测导致的时序不一致与机械抖动，FAFM 引入对动作一阶时间导数（速度）的联合监督。得益于解析余弦基表达，动作的速度无需依赖带噪的离散差分估算，而是能够直接从系数向量解析求导： $$\hat{\dot{v}}(\tau) = -\sum_{j=1}^M \hat{c}_j \omega_j \sin(\omega_j \tau)$$ 据此构建一阶时间导数的流匹配速度损失 $\mathcal{L}_{\mathrm{vel}}(\theta) = \mathbb{E}_{(\xi, \tau_k)} \|\hat{\dot{v}}(\tau_k) - \dot{\xi}(\tau_k)\|^2$。总训练目标设定为： $$\mathcal{L}_{\mathrm{FAFM}}(\theta) = \mathcal{L}_{\mathrm{FM}}(\theta) + \lambda \cdot \mathcal{L}_{\mathrm{vel}}(\theta), \quad \lambda=1$$ 理论证明，基于离散正弦变换（DST）正交性，该总损失等价于带权索伯列夫空间 $H_\mu^1$ 范数，即 $\mathcal{L}_{\mathrm{FAFM}}(\theta) = \sum_{j=0}^M (1 + \lambda \omega_j^2) \delta_j^2$（其中 $\delta_j = \hat{c}_{\theta, j} - c_j^*$ 为第 $j$ 阶系数误差）。权重项随频率阶数 $j$ 呈 $\mathcal{O}(j^2)$ 递增，对高频系数施加强力梯度约束，从而在理论上根除了离散动作跳变。

损失函数 / 训练策略¶

FAFM 的端到端优化目标完全由解析加权误差驱动，无需引入辅助判别器或多步展开网络。对于独立策略，采用 6 层 Transformer 架构（4 个注意力头，隐层维度 256），优化器采用 AdamW，学习率设为 $1.0 \times 10^{-4}$，权重衰减为 $1.0 \times 10^{-3}$，批大小为 256。推理时 ODE 采样步数固定为 10 步。在集成至大型视觉-语言-动作模型（$\pi_0$ / $\pi_{0.5}$）时，保持原 VLM 与 Action Expert 全参数微调，批大小为 32，训练步数为 30,000 步，频域系数维度取 $M=16$。正则化超参数全局固定为 $\lambda=1$。

实验关键数据¶

主实验¶

论文在 LapGym 腹腔镜微创手术仿真基准（包含绳索穿孔 RT、抓取-提起-触碰 GLT、双臂组织操作 BTM 和结扎环操作 LL）以及避障导航任务上，与扩散策略（DP）、离散流匹配（FM）、流式流策略（SFP）、频率策略（FreqPolicy）和运动基元扩散（MPD）进行了全面对比。评估指标包括任务成功率（SR, %）与对数无量纲加加速度（LDLJ，数值越大表明运动越平滑）。

任务 / 基准	指标	FAFM (本文)	FM (离散基线)	DP	MPD	SFP
LapGym RT (穿孔)	SR (%) ↑ / LDLJ ↑	97 / -7.57±1.32	89 / -10.69±2.06	92 / -10.88±1.61	94 / -9.38±2.12	72 / -11.54±2.26
LapGym GLT (触碰)	SR (%) ↑ / LDLJ ↑	100 / -14.31±0.58	100 / -16.62±0.60	100 / -16.62±0.52	99 / -14.37±0.52	13 / -17.09±1.44
LapGym BTM (双臂组织)	SR (%) ↑ / LDLJ ↑	99 / -2.21±2.34	94 / -5.82±1.87	96 / -6.05±2.18	100 / -3.81±1.92	95 / -5.62±2.53
LapGym LL (结扎环)	SR (%) ↑ / LDLJ ↑	100 / -11.28±1.17	100 / -13.23±0.87	100 / -13.04±0.93	100 / -11.47±1.00	99 / -12.46±1.33
避障导航 (Obstacle)	SR (%) ↑ / LDLJ ↑	61 / -5.60±1.08	48 / -8.62±0.69	35 / -9.16±0.77	16 / -6.78±0.47	49 / -6.98±0.82
避障多模态数 $M$	独立有效模态数 ↑	12	14	8	2	3

消融实验¶

在 LapGym 绳索穿孔（RT）任务上评估 FAFM 各核心模块对动作生成性能与平滑度的贡献。

配置	成功率 (SR, %)	运动平滑度 (LDLJ)	说明
FAFM 完整模型	97	-7.57±1.32	频域 DCT + 解析一阶导数索伯列夫正则化
去掉 DCT (仅离散时域+有限差分导数)	89	-10.51±1.98	退化为普通时域流匹配，平滑度几乎无增益
去掉 $\mathcal{L}_{\mathrm{vel}}$ 导数正则化 ($\lambda=0$)	93	-8.92±1.45	仅保留频域 DCT 系数流匹配，平滑度与成功率中幅下降
标准离散流匹配 (FM Backbone)	89	-10.69±2.06	完全基线配置

此外，在 VLA 混合频率训练与机械偏差鲁棒性实验中： 1. 混合频率鲁棒性（LIBERO Drawer 任务）：在 10 Hz 单一频率数据集（43 条示教）下，$\pi_0$ 与 FAFM 分别取得 94% 与 92% 的成功率；但在 5/10/20 Hz 混合频率数据集（总数同为 43 条示教）下，传统 $\pi_0$ 遭遇梯度冲突而彻底崩溃（成功率降为 0%），而 FAFM 保持稳定的 92% 成功率。 2. 机械偏差抗扰性（LIBERO）：引入恒定机械偏移偏差后，传统 $\pi_0$ 与 $\pi_{0.5}$ 成功率发生断崖式下跌，而 FAFM 凭借 DCT 系数正交性（恒定偏差仅被隔离在零频直流分量 $\hat{c}_0$ 中，高频形状系数完全不受干扰），在带偏置环境下成功率依然超越基线 20% 以上。 3. 真实机器人部署（Franka 机械臂）：在 Pick-and-Place 任务中，基于 $\pi_{0.5}$ 的 FAFM 相比原始 $\pi_{0.5}$ 成功率从 75% 提升至 90%（+15%），在避障任务中从 80% 提升至 90%（+10%），抖动消除带来了显著的目标抓取与避障稳定性改善。

关键发现¶

频域映射是核心使能支柱：消融实验显示，如果去掉 DCT、仅靠离散时间有限差分进行速度惩罚，LDLJ 提升微乎其微。这是因为有限差分离散近似带有显著高频噪声，唯有基于解析余弦基展开才能提供无噪且连续的导数监督信号。
索伯列夫权重充当谱预条件子：在理论分析中，平滑物理轨迹能量衰减满足 $|c_j^*| \lesssim \mathcal{O}(1/j^2)$，标准流匹配的高频梯度会趋近于零，导致收敛缓慢；而 FAFM 的损失权重 $\mu_j = 1 + \lambda \omega_j^2 \sim \mathcal{O}(j^2)$ 恰好抵消了衰减，充当了谱预条件子（Spectral Preconditioner），实验证明其收敛速度显著快于所有 baseline。
频域截断兼顾多模态与平滑性：相比于 MPD 等全局基函数方法因过度平滑破坏局部多模态（在避障任务中仅发现 2 种模态），FAFM 在系数空间保持了完全的流匹配表达能力，有效模态数高达 12，同时取得了最佳的平滑度。

亮点与洞察¶

物理时间锚定的正交积分投影：通过将离散求和重新解释为连续物理时间积分的求积规则，巧妙证明了不同控制频率采集的轨迹具有完全一致的频域渐近系数，优雅解开了具身智能领域跨频率异构数据预训练的梯度死结。
等价于索伯列夫 $H^1_\mu$ 范数的一阶导数解析正则化：无需构造额外网络，直接在余弦基上进行时间求导并借助离散正弦变换正交性，推导出损失对高频误差的二次方强惩罚特性，以极简形式同时达成了平滑动作输出与快速收敛。
直流偏置与交流形状的高效解耦：发现恒定机械误差在 DCT 域中严格局限在零频分量 $j=0$ 上，从而天然具备了应对执行机构静态系统偏差的结构级免疫力，可直接迁移至不同刚度的机械臂底盘迁移任务中。

局限与展望¶

高频冲击类动作适配受限：由于截断 DCT 倾向于保留主导低频分量，对于敲击、瞬态跳变、高频颤动等强非线性脉冲式操作，低阶频域建模可能产生欠拟合，需要自适应或变阶基函数拓展。
物理时间窗口 $T_\xi$ 的预先固化假设：当前方法需在预先假定固定物理时间窗口长度的前提下计算 DCT 系数，对变时延控制或执行时间剧烈波动的场景仍需动态时变基函数支持。
高阶微分约束拓展：当前仅引入一阶速度导数，理论分析指明二阶加速度或三阶加加速度监督可分别对应更高级别的索伯列夫范数，未来可进一步探索高阶动力学约束对超精密操控的增益。

评分¶

新颖性: ⭐⭐⭐⭐⭐ 巧妙利用 DCT 与正弦变换正交性建立连续时间流匹配，并在频域构筑等价索伯列夫正则化，数学形式典雅。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖一维多模态、PyBullet 避障、LapGym 软体手术、LIBERO VLA 大模型微调及物理 Franka 机械臂实机，验证极度详实。
写作质量: ⭐⭐⭐⭐⭐ 理论推导清晰完备，从梯度冲突命题到索伯列夫等价性定理层层递进，论证严谨。
价值: ⭐⭐⭐⭐⭐ 切中了具身智能跨机型、异构频率海量数据混合训练的真实痛点，且零参数开销，具有很强的落地实用性。