Geometry-Aware Visual Representation for Remaining Useful Life Prediction¶
会议: ECCV 2026
论文: ECCV 官方
领域: 时间序列
关键词: 剩余使用寿命预测、相空间重构、全局针定表示、知识蒸馏、时间序列视觉化
一句话总结¶
针对振动信号时频表征忽略系统本征动力学几何结构的问题,提出相空间密度图像(PSDI)与全局锚定重构机制,将退化过程显式建模为吸引子空间发散,并结合滑动窗口时间聚合与紧凑知识蒸馏实现高鲁棒 RUL 预测。
研究背景与动机¶
关键机械部件的剩余使用寿命(Remaining Useful Life, RUL)预测是工业设备预测与健康管理(PHM)的核心任务。然而,由于机械系统内在的非线性与混沌动力学特性,再加上实际退化过程受到各类随机扰动,准确评估寿命极其困难。传统研究通常将传感器采集的振动信号视作一维时序数据,利用循环神经网络或时序 Transformer 挖掘退化趋势;但在实际运行工况中,原始振动信号往往表现出高频局部振荡与强非平稳性,时域波形在健康状态与故障早期高度相似,仅在失效临界期呈现振幅发散,致使一维深度模型极易陷入局部噪声波动。
为此,时序视觉化(Time-Series-to-Image)逐渐成为主流,研究者普遍采用短时傅里叶变换(STFT)或小波变换(Wavelet Transform)生成时频谱图,试图借助高容量视觉主干网络捕捉能量演化。然而,谱图分析本质上仍是对实测观测强度的局域能量分解,反映的是信号强度与频率分布的变化,而非物理系统底层动力学演化的本征几何状态。依据非线性动力学理论,标量振动信号仅是高维动力系统在单一维度的投影;当系统健康状态劣化时,其相空间吸引子轨迹会经历从紧凑收敛到发散破碎的拓扑形变。现有基于时频热图或递归图(RP)、格拉姆角场(GAF)的方法未能保持统一的空间几何参照基准,无法稳定追踪这种吸引子结构的渐进式退化。
面对动力学结构失真与局部坐标漂移的矛盾,本文的切入角度是重构相空间拓扑并将其转化为具有坐标一致性的二维空间密度分布。核心 idea:基于延迟嵌入定理构建相空间密度图像(PSDI),通过在健康基准数据上冻结全局锚定参考系消除坐标漂移,将机械退化显式刻画为吸引子的几何发散,并利用紧凑学生网络的滑动窗口时间聚合与多尺度蒸馏消除振动瞬态抖动。
方法详解¶
整体框架¶
整体预测框架由三大部分串联构成:全局锚定相空间重构、相空间密度图像与 1D 轨迹双通道表征生成、以及融合滑动窗口时间聚合的多尺度知识蒸馏网络。系统首先在无故障的健康参考数据上统一求解全局延迟时间与嵌入维度,并拟合 2D 主成分分析(PCA)全局正交基底与统计分位数网格边界;随后,各输入通道的振动信号映射至该静态空间,生成保持坐标一致性的 PSDI 密度图像与主成分轨迹。在预测阶段,预训练的高容量视觉教师网络提供几何表征先验,轻量级学生网络则通过滑动窗口时间平滑、多尺度特征对齐以及跨注意力机制联合优化,输出单调稳定的 RUL 预测结果。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
In["多通道原始振动信号序列"] --> GAR["全局锚定相空间重构<br/>全局参数与健康参考基底"]
GAR --> PSDI["相空间密度图像与轨迹构建<br/>2D空间网格直方图与PC1轨迹"]
PSDI --> SWTA["滑动窗口特征提取与时间聚合<br/>轻量级编码器结合低通滤波降方差"]
SWTA --> MSKD["多尺度特征对齐与跨模态蒸馏<br/>金字塔对齐结合注意力分布监督"]
MSKD --> Out["单调稳定的剩余寿命预测值"]
关键设计¶
1. 全局锚定相空间重构:解决局部独立投影造成的坐标漂移 标量振动信号仅能提供物理系统动态特性的部分观测。根据 Takens 嵌入定理,系统可通过时间延迟 \(\tau_d\) 与嵌入维度 \(m\) 构建相空间向量 \(\mathbf{r}_i = [x_i, x_{i+\tau_d}, \dots, x_{i+(m-1)\tau_d}] \in \mathbb{R}^{1 \times m}\),将时序升维至相空间轨迹矩阵 \(\mathbf{R} \in \mathbb{R}^{T \times m}\)(其中有效长度 \(T = N - (m - 1)\tau_d\))。然而,若对每个测试样本分别拟合局部投影基底,将引入不可控的任意旋转和平移,使得退化引起的拓扑变形与坐标系旋转相互混淆。为杜绝坐标漂移(Coordinate Drift),本设计提出全局锚定机制(Globally Anchored Reconstruction, GAR):在早期健康参考子集 \(\mathcal{D}_{\mathrm{ref}} \subset \mathcal{D}_{\mathrm{train}}\) 上,分别利用互信息极小化(Mutual Information)与 Cao 氏算法估计最优参数,取序列中位数锁定全局参数 \((\tau^*, m^*)\);随后将全部健康轨迹汇总,计算全局中心向量 \(\boldsymbol{\mu} \in \mathbb{R}^{1 \times m^*}\),并拟合二维全局主成分投影基底 \(\mathbf{U} \in \mathbb{R}^{2 \times m^*}\)。该基准坐标对 \((\boldsymbol{\mu}, \mathbf{U})\) 一旦确定便永久冻结,所有样本均投影到相同的健康基准平面 \(\mathbf{Z} = (\mathbf{R} - \mathbf{1}_T \boldsymbol{\mu})\mathbf{U}^\top \in \mathbb{R}^{T \times 2}\),确保不同运行阶段的几何形变均具备严格的物理可比性。
2. 相空间密度图像与轨迹构建:兼顾空间访问拓扑与时间因果动态 为了将连续相空间轨迹转换为标准视觉模型适配的二维表征,本设计在全局投影平面上建立二维网格密度统计。若直接基于最大最小值划分区间,极端瞬变冲击会大幅压缩主体有效动态范围;因此,算法从健康投影分布 \(\mathbf{Z}_{\mathrm{ref}}\) 的经验分位数(如 1% 与 99% 分位数)确定边界范围 \(\mathbf{B}\),将 2D 连续空间离散化为 \(H_{\mathrm{img}} \times W_{\mathrm{img}}\) 个网格单元。各通道轨迹落入每个单元的频次构成原始密度直方图 \(\mathbf{H}\)。由于健康吸引子高度聚集导致局部单元频次极高,直接归一化会淹没故障扩展期中低密度的外围发散细节,方法引入对数压缩变换: $$ \mathbf{I} = \mathrm{MinMaxNorm}\left(\log(1 + \mathbf{H})\right) $$ 该操作拓宽了低密度区域的对比度,凸显微弱的退化裂痕。与此同时,纯空间密度直方图丢失了时间演化的先后顺序;为此,模型提取投影轨迹的第一主成分(PC1)作为一维显式时间信号 \(\mathbf{P}_t \in \mathbb{R}^{C \times P}\),利用跨注意力(Cross-Attention)将时序动态注入视觉补丁(Patch)中,使视觉特征兼备空间拓扑发散度与时间发展历程。
3. 滑动窗口时间聚合:滤除高频振动瞬态与预测抖动 单帧振动数据受工业现场工况抖动与测量噪声影响极其显著,逐帧独立推理会导致 RUL 曲线剧烈振荡甚至出现非物理的“寿命回升”。本设计在轻量级学生编码器提取全局表征 \(\mathbf{c}_t\) 之后,部署宽度为 \(K\) 的因果滑动窗口时间低通滤波器: $$ \bar{\mathbf{c}}t = \frac{1}{K} \sum_\tau $$ 在退化过程局部平稳、测量噪声独立同分布且预测头满足 Lipschitz 连续性的理论假设下,该滑动平均操作使预测方差严格满足 }^t \mathbf{c\(\mathrm{Var}(\hat{y}_t) = \mathcal{O}(1/K)\)。这一设计在特征层面消除了瞬态波动,从根本上保证了退化轨迹向失效状态单调收敛的平滑度。
4. 多尺度特征对齐与跨模态蒸馏:高效迁移几何先验并抑制冗余 直接在下游小规模机械数据集上微调高容量预训练视觉主干(如 ViT 或 MAE)易导致过拟合与过大的算力开销。本设计利用高容量教师模型指导轻量级学生模型(如 Tiny-ViT 或 MobileNet)。由于师生网络隐层维度存在差异,设计引入金字塔型多尺度投影映射器 \(\psi_i\),以可学习权重 \(\boldsymbol{\alpha} = \mathrm{softmax}(\boldsymbol{\theta})\) 自适应融合不同粒度的特征变换: $$ \hat{\mathbf{c}}t = \sum}^S \alpha_i \psi_i(\bar{\mathbf{c}t) $$ 在损失函数层面,蒸馏目标不仅包含均方误差与余弦相似度以拉齐特征点对与空间方向,还引入温度超参 \(T_{\mathrm{KL}}\) 调控的分布散度,并对多头自注意力图的 Logits 实施基于温度 \(T_a\) 的注意力相关性对齐: $$ \mathcal{L}\right)\right) $$ 学生模型联合最小化平滑 L1 任务回归损失 }} = \frac{T_a^2}{B} \sum_{i=1}^B D_{\mathrm{KL}}\left(\sigma\left(\frac{\mathbf{A}_t^{(i)}}{T_a}\right) \Bigg| \sigma\left(\frac{\mathbf{A}_s^{(i)}}{T_a\(\mathcal{L}_{\mathrm{rul}}\) 与结构化蒸馏损失 \(\mathcal{L}_{\mathrm{distill}}\),既继承了预训练模型的全局注意力先验,又排除了与退化无关的自然图像高层语义冗余。
损失函数 / 训练策略¶
教师模型在冻结预训练骨干网络的前提下,仅使用 Smooth L1 损失对 RUL 回归头进行优化:\(\mathcal{L}_{\mathrm{teacher}} = \mathrm{SmoothL1}(\hat{y}_t, y_t)\)。 学生模型整体优化目标由下游真实寿命回归损失与跨模态蒸馏正则化加权构成: $$ \mathcal{L}{\mathrm{student}} = \mathcal{L}}} + \lambda_{\mathrm{distill}} \left( \lambda_{\mathrm{feat}}\mathcal{L{\mathrm{feat}} + \lambda \right) $$ 其中特征蒸馏损失 }}\mathcal{L}_{\mathrm{att}\(\mathcal{L}_{\mathrm{feat}} = \lambda_{\mathrm{mse}}\mathcal{L}_{\mathrm{mse}} + \lambda_{\mathrm{cos}}\mathcal{L}_{\mathrm{cos}} + \lambda_{\mathrm{KL}}\mathcal{L}_{\mathrm{KL}}\),蒸馏权重与对齐参数在训练过程中作为可学习组件端到端联合更新。
实验关键数据¶
主实验¶
实验在 XJTU-SY 和 PHM 两个经典滚动轴承全寿命基准数据集上进行,覆盖 5 种典型工况 Case(Case 1-3 为同工况评估,Case 4-5 为跨运行工况迁移评估)。评价指标采用均方根误差(RMSE)与平均绝对百分比误差(MAPE)。
| 方法 | Case 1 (RMSE / MAPE) | Case 2 (RMSE / MAPE) | Case 3 (RMSE / MAPE) | Case 4 (RMSE / MAPE) | Case 5 (RMSE / MAPE) |
|---|---|---|---|---|---|
| AE-TCA-LSSVM | 0.128 / 0.243 | 0.232 / 0.317 | 0.096 / 0.358 | 0.159 / 0.281 | 0.214 / 1.243 |
| 2D-CLSTM | 0.324 / 1.320 | 0.215 / 0.302 | 0.075 / 0.251 | 0.081 / 0.177 | 0.191 / 0.266 |
| CNN-ORC | 0.164 / 0.306 | 0.426 / 0.391 | 0.192 / 1.789 | 0.225 / 0.316 | 0.219 / 0.290 |
| Bi-LSTMF | 0.218 / 0.291 | 0.328 / 0.370 | 0.129 / 0.215 | 0.169 / 0.241 | 0.216 / 0.342 |
| CLSTMF | 0.146 / 0.409 | 0.190 / 0.285 | 0.234 / 0.540 | 0.144 / 0.271 | 0.091 / 0.184 |
| PatchTST | 0.151 / 0.234 | 0.095 / 0.040 | 0.120 / 0.053 | 0.099 / 0.070 | 0.087 / 0.040 |
| TimesNet | 0.195 / 0.283 | 0.183 / 0.195 | 0.119 / 0.048 | 0.117 / 0.101 | 0.104 / 0.053 |
| TimeMixer | 0.164 / 0.257 | 0.113 / 0.086 | 0.120 / 0.045 | 0.122 / 0.087 | 0.103 / 0.046 |
| TimeMixer++ | 0.166 / 0.270 | 0.079 / 0.026 | 0.118 / 0.046 | 0.094 / 0.092 | 0.086 / 0.035 |
| Only Teacher (CLIP) | 0.170 / 0.267 | 0.125 / 0.117 | 0.063 / 0.051 | 0.096 / 0.107 | 0.090 / 0.078 |
| Ours (PSDI + KD) | 0.099 / 0.156 | 0.107 / 0.070 | 0.071 / 0.039 | 0.067 / 0.055 | 0.060 / 0.040 |
消融实验¶
表 1:知识蒸馏框架下不同图像表征形式对比(KD 模型)
| 图像表征形式 | Case 1 (RMSE / MAPE) | Case 2 (RMSE / MAPE) | Case 3 (RMSE / MAPE) | Case 4 (RMSE / MAPE) | Case 5 (RMSE / MAPE) |
|---|---|---|---|---|---|
| Recurrence Plots (RP) | 0.125 / 0.206 | 0.084 / 0.041 | 0.097 / 0.046 | 0.079 / 0.060 | 0.066 / 0.046 |
| Gramian Angular Fields (GAF) | 0.123 / 0.203 | 0.085 / 0.044 | 0.097 / 0.045 | 0.069 / 0.056 | 0.070 / 0.037 |
| STFT | 0.128 / 0.212 | 0.127 / 0.089 | 0.094 / 0.047 | 0.072 / 0.059 | 0.064 / 0.027 |
| Wavelet Transform | 0.119 / 0.192 | 0.093 / 0.028 | 0.096 / 0.045 | 0.071 / 0.062 | 0.062 / 0.029 |
| PSDI (本文) | 0.099 / 0.156 | 0.107 / 0.070 | 0.071 / 0.039 | 0.067 / 0.055 | 0.060 / 0.040 |
表 2:全局锚定机制(GAR)对特征空间聚类质量的影响
| 设定 | 轮廓系数 (Silhouette) ↑ | 类间分离度 (Inter-cluster) ↑ | 类内聚合度 (Intra-cluster) ↓ | 结论 |
|---|---|---|---|---|
| w/o Anchoring(局部重构) | 0.101 | 0.175 | 0.308 | 存在严重坐标系随机旋转与漂移 |
| Anchoring(全局锚定) | 0.516 | 0.741 | 0.233 | 轮廓系数提升超 4 倍,退化阶段显著分离 |
关键发现¶
- 相空间几何结构的普适优势:相较于 STFT 与 Wavelet 这类局域能量热图,PSDI 在 Case 1、3、4、5 中全面刷新了 RMSE 指标,尤其在工况发生偏移的 Case 4(0.067 对比 Wavelet 的 0.071)和 Case 5(0.060 对比 0.062)展现出强健的跨工况自适应性。
- 全局锚定的决定性作用:去除全局锚定参考系后,各工况的 RMSE 出现普遍回升(如 Case 1 从 0.099 劣化至 0.128,Case 4 从 0.067 劣化至 0.084)。聚类评估表明,全局锚定使轮廓系数从 0.101 跃升至 0.516,类间间距从 0.175 扩增至 0.741,证明统一坐标系是神经网络识别退化形态的前提。
- 知识蒸馏的“青出于蓝”效应:经过滑动窗口时间平均和多尺度对齐紧凑化后,学生网络(CLIP \(\to\) Tiny-ViT)在 Case 1、4、5 中的 RMSE 表现显著优于仅使用高容量 Teacher 的基线(如 Case 1 由 0.170 压降至 0.099),验证了时间平滑能够消除振动高频噪声诱发的过拟合。
亮点与洞察¶
- 将退化过程重新解释为动力学吸引子发散:突破了传统时频图像仅关注能量强度的局限,利用延迟嵌入与二维对数直方图将复杂的混沌动力学退化直观转化为“由紧密到离散”的视觉几何扩散过程。
- 单次确定并永久冻结的全局健康基准系:设计仅需早期健康工况拟合一次参数 \((\tau^*, m^*, \boldsymbol{\mu}, \mathbf{U}, \mathbf{B})\),即从根本上消除了测试阶段局部独立投影带来的坐标系任意翻转与空间漂移。
- 滑动窗口时间聚合与低通滤波的方差约束保证:从理论上证明了在局部平稳假设下预测方差按 \(\mathcal{O}(1/K)\) 衰减,巧妙地在轻量级特征流中滤除了机械冲击噪声,平抑了 RUL 曲线的非单调抖动。
局限与展望¶
- 局部时窗缺乏长期累积损伤记忆:当前 PSDI 表征由固定长度的局部振动时间片切窗重构而来,虽然包含即时动力学发散状态,但无法显式建模设备在数千小时运行历史中的长期疲劳累积与非可逆塑性损伤。
- 全局锚定强依赖初始无故障参考段:该框架假定在生命周期初期可采集到纯净的健康参考样本;若设备投运初期即处于亚健康或伴随装配缺陷,初始参考基底将产生系统性偏差。
- 未来方向:探索引入长时序退化序列建模(如相空间密度流或状态演化视频扩散),并研究动态自适应校准基准系以推广至变转速、变负载等剧烈工况。
相关工作与启发¶
- vs STFT / Wavelet 时频分析:时频变换反映的是信号分量的能量在时频网格上的强度变化;而本文基于 Takens 定理将隐式相空间展开,不仅展示能量变化,更直观暴露出混沌动力系统拓扑发散状态。
- vs Recurrence Plots (RP) / Gramian Angular Fields (GAF):RP 和 GAF 虽具空间结构,但主要捕捉时间步间的点对相关性或极坐标角度关联;PSDI 在全局健康正交基准下统计空间落点密度,具备明确的全局物理坐标基准,聚类可分性明显更优。
- vs TimesNet / TimeMixer++:通用时序大模型聚焦于多周期时序分解与特征混合;本文针对预后健康管理场景定制了具有物理动力学几何可解释性的视觉先验,计算开销更低且跨工况泛化性能更扎实。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次将相空间动力学几何发散与全局锚定引入振动 RUL 预测视觉表征中。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖两大轴承基准、5种严苛工况、多组不同师生视觉架构及多种时序视觉基线。
- 写作质量: ⭐⭐⭐⭐⭐ 动力学理论推导扎实,方差衰减定理清晰,实验分析逻辑完备。
- 价值: ⭐⭐⭐⭐⭐ 为工业设备状态监测与时序特征视觉化提供了极具落地可行性的新表征范式。