VACE: Learning Geometrically Structured Representations for Time Series Anomaly Detection¶

会议: NeurIPS 2026
arXiv: 2605.23504
OpenReview: https://openreview.net/forum?id=qQU99P2wBC
代码: https://github.com/ari-dasci/S-VACE
领域: 时间序列
关键词: 多变量时间序列、异常检测、自监督学习、轨迹几何、速度一致性

一句话总结¶

VACE 抛弃传统对比学习的负样本启发式采样，利用深度可分离卷积提取通道特征并设计前后向速度一致性损失，将正常时序显式塑造成紧凑且方向连贯的潜空间轨迹，在推理阶段乘性联合马氏距离位置分与速度库方向分，在 TSB-AD-M 基准上以极低算力斩获 SOTA。

研究背景与动机¶

多变量时间序列异常检测（MTSAD）在工业监控、服务器运维以及智慧医疗等场景中起着兜底保障作用。由于实际系统中的异常样本极端稀缺、形态异构且标注昂贵，学术界主流方案普遍遵循无监督或自监督范式：仅在无异常的正常数据上学习正常行为的分布参考基准，在测试阶段将偏离该基准的样本判定为异常。近年来，基于时间块（patch）的自监督表示学习逐渐崭露头角，通过将时序切片映射到潜空间，利用与正常嵌入区域的几何偏离程度替代传统的重构误差来计算异常得分。

然而，现有的自监督时序异常检测方法在几何空间的构建与偏离度量上存在根本性缺陷。主流方法几乎完全依赖对比学习（如 TS2Vec、CARLA 等），其实质是将几何形状的塑造交由正负样本对的构造启发式策略间接完成。这种做法诱发了三重病态表现：将不重叠的正常窗口硬当成负样本会人为拆散语义相近的边界段；基于固定扰动的合成负样本缺乏难度多样性与边界覆盖度；更严重的是，缺乏显式紧凑性约束导致正常与异常表征在决策边界附近高度缠绕。与此同时，测试时大多数方法仅仅退化为计算一个标量欧氏或近邻距离，忽视了时间序列作为动态轨迹的内在运动模式——那些在静态位置上处于正常边缘、但在演化方向上发生剧烈突变的动态异常往往被漏检。

面对上述问题，本文跳出负样本设计的思维定式，提出正常时序在潜空间中应当具备局部平滑与方向连贯的内在物理先验。核心 idea：摒弃负样本采样与对抗扰动，利用速度一致性预训练任务显式约束潜空间局部轨迹呈平直光滑延伸，并结合通道解耦卷积与位置-动态双重几何评分器，以乘性联合机制精确捕捉静态分布偏离与动态流向异常。

方法详解¶

整体框架¶

VACE 将多变量时序建模为嵌入空间中的一条连续几何轨迹。输入为包含 $D$ 个通道、长度为 $T$ 的多元时序 $\mathbf{X}$，模型首先通过单位步长的滑动窗口切分出长度为 $P$ 的连续重叠时间块 $\mathbf{x}_i \in \mathbb{R}^{P \times D}$。这些时间块被送入通道感知的 1D-CNN 编码器 $f_\theta$ 映射为低维潜向量 $\mathbf{z}_i \in \mathbb{R}^{d_z}$。由于相邻块之间共享 $P-1$ 个时间步，由连续块映射得到的隐向量序列自然构成平滑过渡的轨迹 $\mathcal{Z} = (\mathbf{z}_1, \dots, \mathbf{z}_N)$。

在训练阶段，模型仅依靠速度一致性损失 $\mathcal{L}_{\mathrm{vel}}$ 优化编码器参数，促使轨迹在局部沿连贯方向演进，形成具备适度各向异性的紧凑几何空间。在推理阶段，给定任意测试块嵌入，系统分别提取表征静态偏离的马氏距离位置分与表征动态演化的近邻速度方向分，并以乘性方式融合成最终的异常得分。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["多元时序输入<br/>P=96, 单位步长滑窗"] --> B["通道感知编码器<br/>深度可分离 1D-CNN"]
    B --> C["轨迹隐向量序列 Z"]
    C --> D["速度一致性表征学习<br/>前后向速度余弦对齐"]
    D --> E["测试时双重几何评分"]
    E --> F["马氏距离位置分<br/>自适应协方差度量"]
    E --> G["速度库方向分<br/>超球面聚类原型匹配"]
    F & G --> H["乘性融合异常得分<br/>位置与动态联合触发"]

关键设计¶

1. 通道感知编码器：解耦单通道特征提取与跨通道信息混合
在多变量时序分析中，传统共享卷积核会自首层起直接混叠全部通道，若异常仅发生在单一局部传感器上，其异常信号极易被大量正常的背景通道平均稀释；而完全独立的通道网络又会割裂通道间的协同关系，使系统级关系异常隐形。为此，VACE 引入延迟跨通道混合范式，采用 4 层深度可分离 1D-CNN 架构。第一阶段使用深度卷积（Depthwise Conv）对每个通道独立配备专用卷积核组进行特征升维与时间特征提炼，通道膨胀系数设为 $c_e=8$；第二阶段通过逐点卷积（Pointwise $1 \times 1$ Conv）将高维通道特征融合成统一的隐向量 $\mathbf{z}_i \in \mathbb{R}^{d_z}$。这种设计确保了单通道突发异常在被融合前已具备足够的表征显著度。

2. 速度一致性表征学习：无负样本与无合成异常的轨迹几何整形
为摆脱对比学习在正负对采样上的启发式妥协，VACE 提出一阶速度一致性损失直接调控潜空间的轨迹流形。对于时间步 $t$ 和时间偏移步长 $\delta = P/2$，定义沿轨迹进入当前状态的后向归一化速度 $\mathbf{v}_t^b$ 与离开当前状态的前向归一化速度 $\mathbf{v}_t^f$： $$\mathbf{v}^{b}_{t}=\frac{\mathbf{z}_{t}-\mathbf{z}_{t-\delta}}{\max\left(\epsilon,\|\mathbf{z}_{t}-\mathbf{z}_{t-\delta}\|_{2}\right)},\qquad\mathbf{v}^{f}_{t}=\frac{\mathbf{z}_{t+\delta}-\mathbf{z}_{t}}{\max\left(\epsilon,\|\mathbf{z}_{t+\delta}-\mathbf{z}_{t}\|_{2}\right)}$$ 模型最小化前后向速度矢量的余弦夹角损失： $$\mathcal{L}_{\mathrm{vel}} = \frac{1}{N}\sum_{t=1}^{N}\left(1-\langle\mathbf{v}^{b}_{t},\mathbf{v}^{f}_{t}\rangle\right)$$ 当且仅当轨迹在局部呈分段直线延伸（$\mathbf{v}_t^b = \mathbf{v}_t^f$）时损失达到下界 0。该先验强制正常数据的隐状态演化具备高度的方向惯性，使得隐空间自然收敛至中度各向异性（熵有效秩维持在 $0.115/d_z$、活跃维度占比 99.6%），既避免了因方差单一坍缩至一维直线，又遏制了无序均匀扩散，为后续下游距离度量提供了良构的几何支撑。

3. 乘性状态-动态评分器：联合惩罚空间位置偏离与速度方向异常
时序异常通常兼具“位置偏离正常区”与“运动方向违背物理惯性”两种形态，单一欧氏距离无法胜任。VACE 在隐空间中分别构建静态与动态两套互补标尺：首先，在全体正常训练块嵌入 $\mathcal{Z}$ 上拟合单高斯分布 $\mathcal{N}(\boldsymbol{\mu}, \boldsymbol{\Sigma})$，测试块 $\mathbf{z}_\star$ 的位置得分由带数值稳定项的正规化马氏距离决定： $$s_p(\mathbf{z}_\star) = (\mathbf{z}_\star - \boldsymbol{\mu})^\top (\boldsymbol{\Sigma} + \varepsilon \mathbf{I})^{-1} (\mathbf{z}_\star - \boldsymbol{\mu})$$ 该度量能够自动降低全局主方差维度的噪声干扰，敏感放大低方差维度的微弱异常扰动。其次，在正常轨迹的所有前向速度集合 $\{\mathbf{v}_t^f\}$ 上通过单位超球面 MiniBatch $k$-means 聚类提炼出 $K$ 个典型运动方向原型 $\{\mathbf{c}_i\}_{i=1}^K$。测试时检索与测试速度 $\mathbf{v}_\star^f$ 余弦相似度最高的前 $k_{\mathrm{np}}=3$ 个原型，计算平均角偏离作为方向得分： $$s_d(\mathbf{z}_\star) = \frac{1}{k_{\mathrm{np}}} \sum_{i \in \mathcal{I}_{k_{\mathrm{np}}}(\mathbf{v}_\star^f)} (1 - \langle \mathbf{v}_\star^f, \mathbf{c}_i \rangle)$$ 将两类得分在测试集上分别进行 Z-score 标准化为 $\tilde{s}_p$ 与 $\tilde{s}_d$，最终通过乘性公式计算联合异常得分： $$s(\mathbf{z}_\star) = \tilde{s}_p(\mathbf{z}_\star) \cdot \big(1 + w \cdot \tilde{s}_d(\mathbf{z}_\star)\big),\qquad w=1$$ 乘性融合能够发挥门控抑制效应：仅当样本处于分布外边界且动态速度方向严重失调时，综合警报才会急剧拉升，显著压低误报率。

损失函数 / 训练策略¶

训练阶段完全端到端仅由速度一致性损失驱动：$\mathcal{L} = \mathcal{L}_{\mathrm{vel}}$。输入时间块长度设为 $P=96$，在送入网络前使用可逆实例归一化（RevIN）消除均值与方差飘移。网络使用 AdamW 优化器配合余弦退火学习率，批量大小为 512。值得注意的是，得益于轨迹几何先验极强的归纳偏置，VACE 仅需迭代训练 20 个 step（在单张普通 RTX 2080 Ti 上耗时仅数分钟）即可充分收敛，速度库最多仅保留 500 个聚类质心（占训练块约 10%）。最后，每个时间点的点级异常得分由覆盖该点的所有滑动窗口得分取平均获得。

实验关键数据¶

主实验¶

在涵盖 17 个实际应用领域（NASA 遥测、SMD 服务器、SWaT 水处理等）、共 180 条序列的严格基准 TSB-AD-M Held-out 评估集上，与 14 种经典及前沿算法对比（10 随机种子均值）。

方法分类	模型	VUS-PR	VUS-ROC	AUC-ROC	AUC-PR	F1	Range-F1
神经网络	TimesNet	0.19	0.64	0.56	0.13	0.20	0.17
神经网络	DeepAnT	0.31	0.76	0.73	0.32	0.37	0.37
神经网络	KAN-AD	0.41	0.75	0.73	0.38	0.42	0.41
神经网络	xLSTMAD-R	0.37	0.72	0.68	0.32	0.38	0.36
Transformer	CrossAD	0.33	0.77	0.74	0.34	0.38	0.37
传统方法	PCA	0.31	0.74	0.70	0.31	0.37	0.29
传统方法	IForest	0.20	0.69	0.66	0.19	0.26	0.24
自监督基线	PaAno (前 SOTA)	0.43	0.79	0.76	0.38	0.43	0.41
本文方法	VACE	0.48	0.78	0.76	0.43	0.46	0.46

消融实验¶

在 180 条评测序列上的组件剥离实验（10 次运行平均，$\Delta$VUS-PR 表示相对完整模型的降幅）：

变体配置	通道感知编码器	速度预训练 $\mathcal{L}_{\mathrm{vel}}$	马氏距离评分	速度方向评分	VUS-PR	AUC-PR	F1	$\Delta$VUS-PR
w/o 通道编码器	✗	✓	✓	✓	0.438	0.390	0.439	-0.039
w/o 速度预训练	✓	✗	✓	✓	0.441	0.395	0.438	-0.037
w/o 马氏评分 (换 MemoryBank)	✓	✓	✗	✓	0.470	0.421	0.458	-0.008
w/o 速度评分	✓	✓	✓	✗	0.472	0.423	0.459	-0.006
完整模型 (Full)	✓	✓	✓	✓	0.478	0.429	0.465	—

关键发现¶

通道分离与速度预训练是性能基石：去掉通道感知编码器导致 VUS-PR 下跌 3.9%，去掉速度一致性预训练任务下跌 3.7%。在 MSL 与 SMD 这类单通道传感器局部故障占主导的数据集上，通道感知模块让 MSL 的有效特征维度从 47 跃升至 64 满维。
适度各向异性流形优于均匀分布与维度坍缩：隐空间谱分析证实，完整模型将隐空间维持在各向异性健康区间（$\rho_H/d=0.115$，首主成分占比 55%）。去掉速度预训练会导致特征发散趋向无序均一（$\rho_H/d=0.143$），而去掉 BN 会使特征坍缩为一维线段（$\rho_H/d=0.037$），直接瘫痪马氏距离评分器。
与大规模预训练模型的越级对抗：相比于在千万级时序语料上预训练的大模型 TSPulse（其微调版 VUS-PR 为 0.44），仅迭代 20 步从零训练的轻量级 VACE（VUS-PR 达 0.49）实现了显著反超。

亮点与洞察¶

将表征学习目标与下游距离几何直接对齐：传统自监督通过样本对比“间接”迫使特征分离，而 VACE 的速度一致性让潜空间天然呈现连贯平滑的轨迹流形，使得简单的单高斯马氏距离就足以超越复杂的非参数 Memory Bank。
通道延迟混合有效规避故障稀释：在时间卷积层面先通过 Depthwise Conv 强化各传感器独有的特征轨迹，再由 Pointwise Conv 聚合跨通道相关性，在多元复杂工业传感数据上展现出极高的故障捕获精度。
极小训练预算换取极高精度：整套模型仅需 20 步优化，无需负样本构建、无需数据增广与对抗生成，在普通单卡边缘设备上即可快速部署与在线自适应。

局限与展望¶

复杂周期与长程循环动态表征偏弱：速度一致性先验鼓励局部线性平直，若时序本身处于极度高频震荡、混沌或大幅非线性跳跃的复杂物理系统中，局部切线方向变化过快，可能降低速度原型的匹配特异性。
时序重构优势场景下略有落后：在少部分依赖长程自回归预测或全局序列重构的数据集（如 SWaT 和 Genesis）上，以 xLSTM 为代表的重构预测范式仍保有优势，未来可探索局部轨迹动力学与长程状态记忆机制的融合。

评分¶

新颖性: ⭐⭐⭐⭐☆ 速度一致性轨迹平直化先验巧妙规避了对比学习负样本构造弊端，几何动机极其纯粹。
实验充分度: ⭐⭐⭐⭐⭐ 在权威的 TSB-AD-M 180 序列多随机种子评测下指标全面领先，提供了详尽的隐空间有效秩与特征谱几何分析。
写作质量: ⭐⭐⭐⭐⭐ 逻辑层层推进，从对比学习的几何失真剖析到速度轨迹建模，表述清晰干练。
价值: ⭐⭐⭐⭐⭐ 架构超轻、算力需求极低、不依赖启发式阈值或负样本，对工业界边缘端时序监控极具实用价值。