跳转至

learning fractional-order dynamics from a single trajectory

会议: NeurIPS 2026
arXiv: 2609.18127
领域: 学习理论
关键词: 分数阶动力系统、单轨迹系统辨识、Grünwald–Letnikov 差分算子、剖面最小二乘网格搜索、非渐近统计界

一句话总结

针对非马尔可夫长程依赖动力系统,本文提出了利用对角差分结构解耦行辨识的两阶段算法 FO-GS,首次在单条观测轨迹下为离散时间线性分数阶系统提供了阶数 \(\boldsymbol{\alpha}\) 与系统矩阵 \(A\) 均为 \(\mathcal{O}(t^{-1/2})\) 的高概率非渐近统计恢复保证。

研究背景与动机

许多现实世界的物理与信息系统都表现出显著的长程依赖特性,其时间自相关函数呈现幂律衰减而非经典的指数衰减。从神经元放电活动与心率变异性等生物节律,到水文气候、网络流量、金融高频波动,乃至现代大语言模型的长上下文激活表征,历史状态对当前系统的持续影响无处不在。传统的整数阶离散线性时不变(LTI)系统本质上遵循马尔可夫性质,一步状态转移仅取决于当前瞬时状态,无法紧凑地刻画这类具有无限记忆效应的非局部演化动力学。分数阶系统通过 Grünwald–Letnikov 差分算子将一步差分替换为对全历史状态的幂律衰减加权求和,为捕获长记忆动力学提供了优雅且物理自洽的紧凑数学工具。

然而,将分数阶微积分引入系统辨识带来了极严峻的理论与算法瓶颈。其核心矛盾在于:分数阶差分算子使得当前观测与整个过去的历史轨迹紧密耦合,彻底打破了经典时间序列分析中常用的马尔可夫性与混合条件;同时未知分数阶向量 \(\boldsymbol{\alpha}\) 以高度非线性的形式内嵌在记忆卷积核的伽马函数系数中,导致联合辨识阶数 \(\boldsymbol{\alpha}\) 与系统矩阵 \(A\) 变成一个非凸、非局部且强耦合的非线性逆问题。以往的分数阶辨识方法要么依赖预设控制输入的多轨迹独立采样,要么借助粗糙的小波方差回归作为代理,抑或通过截断记忆构造高维增广状态空间,无法在单条含噪观测轨迹下建立原始参数的有限样本统计保证。

本文的切入角度是:虽然全状态之间存在动态耦合,但 Grünwald–Letnikov 算子关于各状态维度呈现严格的对角解耦特性。只要固定候选阶数,系统矩阵的最小二乘估计便能退化为凸优化,且可按行独立求解。核心 idea:利用 Grünwald–Letnikov 差分算子的对角性实现行级别解耦,提出两阶段剖面最小二乘网格搜索算法(FO-GS),在鞅偏移复杂度与局部等距下界分析下首次证明了单轨迹下阶数与转移矩阵均达 \(\mathcal{O}(t^{-1/2})\) 的最优非渐近统计收敛速率。

方法详解

整体框架

算法处理的离散时间分数阶线性时不变(FOLTI)系统描述为: $\(\Delta^{\boldsymbol{\alpha}} x_{s+1} = A x_s + \eta_s\)$ 其中 \(x_s \in \mathbb{R}^n\) 为 \(n\) 维系统状态向量,\(\boldsymbol{\alpha} = [\alpha_1, \dots, \alpha_n]^\top \in (0, 1)^n\) 为分数阶向量,\(\eta_s \sim \mathcal{N}(0, \sigma^2 I_n)\) 为独立同分布的高斯白噪声。Grünwald–Letnikov 离散差分算子作用在状态上时展开为历史全卷积:\(\Delta^{\boldsymbol{\alpha}} x_s = \sum_{j=0}^s \Psi(\boldsymbol{\alpha}, j) x_{s-j}\),核权重为对角阵 \(\Psi(\boldsymbol{\alpha}, j) = \operatorname{diag}(\psi(\alpha_1, j), \dots, \psi(\alpha_n, j))\),其分量权重系数为 \(\psi(\alpha_i, j) = \frac{\Gamma(j - \alpha_i)}{\Gamma(-\alpha_i)\Gamma(j + 1)}\)。

FO-GS 算法以单条长度为 \(t\) 的状态轨迹 \(\{x_s\}_{s=0}^t\) 为输入。整体辨识流水线分为三个紧密衔接的阶段:首先,利用算子的对角结构将全局联合优化分解为 \(n\) 个相互独立的单行辨识子问题;其次,针对每一行 \(i\),在紧区间 \([\underline{\alpha}_i, \bar{\alpha}_i]\) 上建立步长为 \(\epsilon_i\) 的一维离散网格,针对每个网格点条件求解线性回归的显式行解 \(\hat{a}_i(\alpha)\) 并计算剖面经验损失;最后,选取最小化残差平方和的最佳网格点作为阶数估计 \(\hat{\alpha}_i\),回代锁定对应行向量 \(\hat{a}_i\),拼接重构出完整的阶数向量 \(\hat{\boldsymbol{\alpha}}\) 和系统转移矩阵 \(\hat{A}\)。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["单轨迹输入<br/>状态序列 {x_s}"] --> B["行级解耦分解<br/>对角差分算子逐行剥离"]
    B --> C["一维候选网格构建<br/>区间离散化 A_{eps,i}"]
    C --> D["条件剖面最小二乘求解<br/>解析解 a_i(alpha) 与残差损失"]
    D --> E["剖面损失最小化选择<br/>最佳阶数 alpha_i 与行向量 a_i"]
    E --> F["双参数输出<br/>阶数向量 alpha 与系统矩阵 A"]

关键设计

1. 基于对角差分算子的行级解耦分解:规避全维度笛卡尔积组合爆炸

在多元动力系统中,联合搜索阶数向量 \(\boldsymbol{\alpha} \in (0, 1)^n\) 面对巨大的参数空间。若采用全局笛卡尔网格搜索,复杂度将以 \(\mathcal{O}(M^n)\) 随系统维度指数爆炸。本文发掘了 Grünwald–Letnikov 差分核 \(\Psi(\boldsymbol{\alpha}, j)\) 的对角可分离性:第 \(i\) 个维度的分数阶导数 \(\Delta^{\alpha_i} x_{s+1}^{(i)}\) 仅依赖于状态的第 \(i\) 个坐标分量历史 \(x_{s+1-j}^{(i)}\),而与其它的坐标序列无关。因此全局经验平方损失可按维度精确拆分为 \(n\) 个非耦合的行损失之和: $\(\mathcal{L}(\boldsymbol{\alpha}, A) = \sum_{s=0}^{t-1} \|\Delta^{\boldsymbol{\alpha}} x_{s+1} - A x_s\|_2^2 = \sum_{i=1}^n \sum_{s=0}^{t-1} \left( \Delta^{\alpha_i} x_{s+1}^{(i)} - a_i x_s \right)^2\)$ 其中 \(a_i \in \mathbb{R}^{1 \times n}\) 为矩阵 \(A\) 的第 \(i\) 行。这一解耦使原本指数级复杂的搜索空间锐减为 \(n\) 个并行的标量网格搜索问题,将复杂度严格限制在 \(\mathcal{O}(n M)\)。

2. 条件剖面最小二乘求解与闭式残差评估:消除非凸双变量联合优化困境

虽然关于 \((\alpha_i, a_i)\) 的联合优化高度非凸,但当候选标量 \(\alpha \in \mathcal{A}_{\epsilon, i}\) 固定时,目标函数关于行向量 \(a_i\) 转化为严格凸的普通最小二乘(OLS)问题。算法直接利用充分统计量矩阵 \(X_t = [x_0, \dots, x_{t-1}] \in \mathbb{R}^{n \times t}\) 与历史差分行向量 \(\Delta^\alpha X_t^{(i)} = [\Delta^\alpha x_1^{(i)}, \dots, \Delta^\alpha x_t^{(i)}] \in \mathbb{R}^{1 \times t}\),推导出条件参数的闭式解析最优解: $\(\hat{a}_i(\alpha) = \arg\min_{a_i} \mathcal{L}^{(i)}(\alpha, a_i) = (\Delta^\alpha X_t^{(i)}) X_t^\top (X_t X_t^\top)^{-1}\)$ 将该闭式解代回原损失函数,即可得到仅关于单变量 \(\alpha\) 的剖面损失函数(Profiled Loss): $\(\mathcal{L}^{(i)}(\alpha) = \sum_{s=0}^{t-1} \left( \Delta^\alpha x_{s+1}^{(i)} - \hat{a}_i(\alpha) x_s \right)^2 = \|\Delta^\alpha X_t^{(i)} - \hat{a}_i(\alpha) X_t\|_2^2\)$ 通过遍历大小为 \(M_i = \mathcal{O}(t^{1/2})\) 的离散候选集合,选择使剖面损失全局最小的网格点 \(\hat{\alpha}_i = \arg\min_{\alpha \in \mathcal{A}_{\epsilon, i}} \mathcal{L}^{(i)}(\alpha)\),并锁定 \(\hat{a}_i = \hat{a}_i(\hat{\alpha}_i)\)。这彻底规避了陷入局部极小值的风险,同时保证了计算的高效确定性。

3. 鞅偏移复杂度与局部等距下界分析:长程非局部依赖下的精确有限样本收敛保障

在非马尔可夫单轨迹观测下,传统独立样本大数定律或快混合鞅浓度不等式直接失效。本文在广义分数阶稳定性假设(即对任意 \(|z| \leq 1\) 均满足 \(\det(\operatorname{diag}((1-z)^{\alpha_{1, \star}}, \dots, (1-z)^{\alpha_{n, \star}}) - z A_\star) \neq 0\))下,创新性地构建了双向统计控制技术。首先利用鞅偏移复杂度(Martingale Offset Complexity)精确界定样本内预测误差 \(\mathcal{E}_t\),分离出可调负二次项以吸收统计涨落,并显式隔离出有限网格逼近误差 \(\Gamma_t^{\text{grid}}\);随后建立非退化的总体曲率与局部等距下界(Lower Isometry Bound): $\(\underline{\mathcal{Q}}_{t,i}(\hat{\alpha}_i) \geq \frac{t \mu_{t,i}}{8} |\hat{\alpha}_i - \alpha_{i, \star}|^2\)$ 这证明了离散网格误差 \(\epsilon_{\max} = \mathcal{O}(t^{-1/2})\) 与统计噪声误差在阶数上完全匹配,进而证明了估计误差 \(\|\hat{\boldsymbol{\alpha}} - \boldsymbol{\alpha}_\star\|_\infty = \mathcal{O}(t^{-1/2})\)。最后,误差分解定理严格刻画了阶数估计误差向系统矩阵 \(A\) 的传递通道: $\(\|\hat{A}(\hat{\boldsymbol{\alpha}}) - A_\star\|_{\text{op}} \leq \mathcal{O}\left( \sqrt{\frac{\Xi_t(\delta, k)}{t \lambda_{\min}(\Gamma_k)}} + S_1 \|\hat{\boldsymbol{\alpha}} - \boldsymbol{\alpha}_\star\|_\infty \sqrt{\frac{n \tilde{C}_G^2}{\delta \lambda_{\min}(\Gamma_{\lfloor k/2 \rfloor})}} \right)\)$ 证实了矩阵恢复误差同步达到 \(\mathcal{O}(t^{-1/2})\),在 \(\boldsymbol{\alpha}_\star = \mathbf{1}\) 时退化对齐了经典整数阶 LTI 系统的已知理论上限。

实验关键数据

主实验

论文在合成连续动力系统与真实脑电图(EEG)多通道生理时间序列上进行了系统辨识与单步状态预测评估。对比基线包括:基于小波方差回归估计阶数再行 OLS 的小波法(FO-WT),以及基于二分查找与截断增广状态空间 OLS 的二分截断法(FO-BS)。在合成实验中,基准设置包含 5 个独立随机生成的稳定系统实例,每实例进行 20 次蒙特卡洛独立轨迹模拟。

实验任务与数据源 评估指标 本文 (FO-GS) 基线 FO-BS 基线 FO-WT 相对表现 / 结论
合成系统 (固定 \(t=200, \sigma=0.1\)) 阶数 MSE (\(\|\hat{\boldsymbol{\alpha}}-\boldsymbol{\alpha}_\star\|_2^2\)) 0.0004 0.0031 0.0125 显著优于小波代理与截断近似
合成系统 (固定 \(t=200, \sigma=0.1\)) 矩阵 MSE (\(\|\hat{A}-A_\star\|_F^2\)) 0.0018 0.0089 0.0210 误差较 FO-BS 下降近一个数量级
合成系统 (短轨迹 \(t=50, \sigma=0.1\)) 矩阵 MSE (\(\|\hat{A}-A_\star\|_F^2\)) 0.0095 0.0480 0.0920 短轨迹优势尤为悬殊,无截断截断误差
真实数据: 36名受试者 EEG 心算 (19通道) 测试集单步 NMSE 0.128 (受试者均值) 0.285 0.342 36位受试者测试误差全面保持最低
真实数据: 36名受试者 EEG 心算 (19通道) 训练集单步 NMSE 0.115 0.118 0.122 训练误差各方法相近,泛化测试差距显著

消融与敏感性分析

下表总结了在合成系统与极小阶数长记忆极端情形下的性能衰减及网格分辨率/时序长度的渐进收敛特性。

配置 / 实验切片 观测指标 具体数值与变化趋势 理论与经验说明
网格数消融 \(M=3\) 矩阵估计 MSE 0.0230 网格粗糙,离散逼近误差占主导
网格数消融 \(M=5\) 矩阵估计 MSE 0.0075 仅需 5 个网格点即超越 FO-BS/WT 基线
网格数消融 \(M=20\) (完整推荐配置) 矩阵估计 MSE 0.0018 达到统计误差与网格误差的最佳平衡点
小阶数极度长记忆 \(\boldsymbol{\alpha}_\star \in [0.01, 0.2], n=10\), 短时窗 \(t \in [100, 400]\) RMSE 经验收敛速率 \(t^{-0.2526}\) (MSE 斜率 -0.5052) 小阶数时有限样本长记忆效应极其显著,慢于渐近界
小阶数极度长记忆 \(\boldsymbol{\alpha}_\star \in [0.01, 0.2], n=10\), 扩展时窗全集至 \(t=25600\) RMSE 经验收敛速率 \(t^{-0.3617}\) (MSE 斜率 -0.7234) 随单轨迹长度增长,有限样本偏差逐步衰减
小阶数极度长记忆 \(\boldsymbol{\alpha}_\star \in [0.01, 0.2], n=10\), 尾部大时窗 \(t \ge 3200\) RMSE 经验收敛速率 \(t^{-0.4342}\) (MSE 斜率 -0.8684) 经验收敛渐近贴近理论预测的 \(t^{-0.5}\) 极限速率
较大阶数 \(\boldsymbol{\alpha}_\star \in [0.5, 0.99], n=2\), 短时窗 \(t \in [100, 400]\) RMSE 经验收敛速率 \(t^{-0.5642}\) (MSE 斜率 -1.1285) 记忆衰减较快,即使极短轨迹也能迅速吻合快收敛界

关键发现

  • 网格效率极高:FO-GS 并不需要极密集的网格搜索,实验表明仅需 \(M \approx 10\) 个网格点即可在阶数估计上压倒基线,\(M \approx 5\) 时在矩阵估计上已超越基线,验证了 \(M = \mathcal{O}(t^{1/2})\) 在计算开销与精度之间的优越权衡。
  • 真实脑电长程记忆的非均匀性:在 19 导联脑电图心算数据集上,FO-GS 学到的平均分数阶中位数为 0.855,74.6% 的时间窗呈现跨通道阶数跨度大于 0.5,且 72.8% 的窗口至少包含一个 \(\alpha < 0.1\) 的通道,实证表明人脑各皮层脑电信号存在极其显著的非均匀长程记忆效应。
  • 小分数阶下的有限样本门槛:理论界中包含的 \(\min_i \underline{\alpha}_i^{-4}\) 采样长度门槛在实验中得到了定性印证;当 \(\alpha\) 逼近 0 时,历史记忆核衰减极慢,短轨迹下有限样本扰动较大,必须依赖更长的单轨迹才能完全进入 \(t^{-1/2}\) 的理论快速收敛区。

亮点与洞察

  • 解耦结构破解维度诅咒:巧妙识别出 Grünwald–Letnikov 差分算子在坐标维度的对角解耦性质,将指数级复杂度 \(\mathcal{O}(M^n)\) 降为线性的 \(n\) 次一维搜索 \(\mathcal{O}(nM)\),为原本不可行的高维分数阶系统辨识打开了大门。
  • 免截断与免代理学习:摒弃了此前将无限记忆强制截断为有限 Markov 滞后增广的次优近似,直接在全历史非局部模型上做闭式剖面回归,消除了截断偏差,在短轨迹场景下优势尤为显著。
  • 可复用的非局部动力学分析框架:文章推导的“鞅偏移复杂度 + 局部等距二次下界”分析范式,可推广至包含分数阶扩散、反常输运、分数阶自回归(FARIMA)等具有长程记忆物理过程的统计学习与系统控制中。

局限与展望

  • 计算复杂度随轨迹长度二次增长:由于 Grünwald–Letnikov 算子每步差分均需回溯到时间起点 \(s=0\),处理整条轨迹的状态差分计算量为 \(\mathcal{O}(n t^2)\),在超长序列(如 \(t > 10^5\))下缺乏时间换空间的递推轻量化机制。
  • 严格稳定性与可逆性假设:理论证明依赖于极点远离单位圆及矩阵 \(A\) 可逆的强假设,无法直接覆盖临界稳定系统、含积分环节系统或存在退化零特征值的奇异动力学。
  • 噪声假设较为理想:当前保证依赖于独立同分布的高斯白噪声,尚未涵盖分数布朗运动驱动的有色噪声或重尾噪声环境。

相关工作与启发

  • vs Chatterjee et al. (FO-BS, 2022):FO-BS 通过截断长度 \(p\) 强行将非马尔可夫系统提升为高维整数阶系统,并利用二分查找搜索标量同质阶数,不仅带来不可规避的截断模型误差,且无法解耦处理异质阶数向量;本文直接对全历史原始方程建模,支持行级异质阶数,且给出了两参数显式的非渐近收敛速率。
  • vs Flandrin (FO-WT, 2002):FO-WT 依赖小波变换对长记忆过程进行标度分析以估计分数阶,属于启发式解耦的两阶段代理方法,在短轨迹下小波系数方差估计极不稳定;FO-GS 将阶数估计直接与动力学一步预测损失绑定,端到端剖面拟合,有限样本鲁棒性显著更优。
  • vs Simchowitz et al. (2018) / Sarkar & Rakhlin (2019):经典普通 LTI 系统的单轨迹辨识理论依赖马尔可夫性质与块鞅浓度不等式;本文将该经典体系成功拓展至历史全卷积的非马尔可夫长程依赖范式,且在 \(\boldsymbol{\alpha} \to \mathbf{1}\) 时完美保持了经典最紧统计上界 \(\mathcal{O}(t^{-1/2})\)。

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 首次建立非马尔可夫单轨迹分数阶系统辨识的非渐近统计理论,行级解耦设计巧妙实用。
  • 实验充分度: ⭐⭐⭐⭐ 覆盖了不同轨迹长度、噪声强度、网格密度及真实 19 导联脑电数据集,若能补充高维机器人或流体动力学实验将更丰富。
  • 写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨精炼,从离散鞅偏移到下界局域化逻辑清晰,定理与实验呼应极好。
  • 价值: ⭐⭐⭐⭐⭐ 填补了非局部动力学单轨迹统计学习理论的空白,对复杂系统、脑科学及时间序列基础模型辨识有深远启发。