Gaussian Mixture Models in Hilbert Spaces via Kernel Methods¶
会议: NeurIPS 2026
arXiv: 2605.05996
OpenReview: https://openreview.net/forum?id=nE56ZJgIrl
代码: https://github.com/dani2442/rkhs-mixture-models/
领域: 学习理论
关键词: 希尔伯特空间、高斯混合模型、核均值嵌入、最大均值差异、泛函数据聚类
一句话总结¶
本文针对无限维希尔伯特空间中的复杂及动态随机对象,基于核均值嵌入提出了一种无须概率密度的无似然高斯混合模型(MMD-GMM),推导了闭式目标并给出谱投影一致性算法与 Wasserstein 逼近保证,在泛函曲线、连续血糖轨迹与图拉普拉斯空间中实现了高效精确聚类。
研究背景与动机¶
在生物医学、神经影像、移动健康及物理建模等前沿科学领域,现代观测数据正日益表现为具有时间演化特征的潜在无限维随机对象,例如连续时间泛函轨迹、空间随机场、大脑功能连接相关矩阵以及图拉普拉斯几何信号。将这类结构化数据机械地离散化为有限维欧氏向量,往往会破坏其固有的平滑性、微分几何流形约束或内在拓扑连续性;因此,直接在可分希尔伯特空间 \(\mathcal{X}\) 中建模此类随机对象已成为统计机器学习与泛函数据分析(FDA)的基石范式。
然而,将有限维中最经典的聚类与密度估计工具——高斯混合模型(GMM)推广至无限维希尔伯特空间,面临着深刻的数学瓶颈。无限维可分希尔伯特空间上不存在平移不变的勒贝格测度,使得概率密度函数无法以标准方式定义;传统的极大似然估计或基于 EM 算法的参数估计必须依赖某种参考先验高斯测度,通过 Radon-Nikodym 导数定义测度绝对连续性。然而在无限维空间中,不同高斯测度往往根据 Cameron-Martin / Feldman-Hajek 定理呈现相互奇异(mutually singular),导致似然比退化或对参考测度的选取极度敏感。此外,虽然部分基于距离的非参数聚类方法绕过了密度假设,但它们丧失了生成式模型清晰的概率解释以及对时间演化动态混合权重的自然建模能力。
为打破这一理论僵局,本文提出了一种彻底摆脱概率密度依赖的无似然高斯混合建模新视角:利用再生核希尔伯特空间(RKHS)中的核均值嵌入(Kernel Mean Embedding)表征概率测度,通过最小化经验测度与高斯混合测度之间的最大均值差异(Maximum Mean Discrepancy, MMD)来优化混合参数。核心 idea:利用特征核将希尔伯特空间中的高斯混合测度与经验分布映射为 RKHS 元素,通过最小化 MMD 距离构建无须勒贝格密度的解析拟合准则,并基于谱投影将无限维优化严格降维至等价欧氏空间,提供 Wasserstein 稠密性与投影一致性双重理论支撑。
方法详解¶
整体框架¶
本文构建了从无限维抽象希尔伯特空间测度到有限维欧氏矩阵闭式计算的完整数学体系。输入为可分希尔伯特空间 \(\mathcal{X}\) 中的独立同分布样本观测 \(X_1, \dots, X_n \sim P\)。目标是用由 \(K\) 个高斯测度组成的混合分布 \(Q_\theta = \sum_{k=1}^K \pi_k \mathcal{N}(m_k, \mathcal{K}_k)\) 逼近未知真实分布 \(P\)。算法依托特征正定核 \(\kappa\),将拟合目标表述为经验测度 \(P_n\) 与 \(Q_\theta\) 的平方 MMD 最小化: $\(\min_{\theta \in \Theta_K} \operatorname{MMD}_\kappa^2(P_n, Q_\theta) = \frac{1}{n^2}\sum_{i,j=1}^n \kappa(X_i, X_j) - \frac{2}{n}\sum_{i=1}^n \sum_{k=1}^K \pi_k J_{i,k} + \sum_{k,s=1}^K \pi_k \pi_s I_{k,s},\)$ 其中交叉期望 \(J_{i,k} = \mathbb{E}_{Y \sim \nu_k}[\kappa(X_i, Y)]\) 和组间期望 \(I_{k,s} = \mathbb{E}_{Y \sim \nu_k, Y' \sim \nu_s}[\kappa(Y, Y')]\) 是优化的核心。为了在计算机中进行严谨数值计算,系统利用正交基(如余弦基、图拉普拉斯特征基或 Karhunen-Loève 基)将无限维数据投影到 \(M\) 维坐标空间 \(\mathbb{R}^M\),交替求解凸二次规划(更新权重 \(\pi\))与流形梯度步(更新各高斯分量的均值向量与 Cholesky 协方差因子)。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入:希尔伯特空间观测样本 {Xᵢ} 与正交基 (eᵣ)"] --> B["谱正交投影与坐标参数化<br/>Π_M 将测度投影至 ℝᴹ,得到 𝐱ᵢ, 𝐦ₖ, 𝐊ₖ"]
B --> C["解析核均值期望与 Fredholm 行列式闭式计算<br/>闭式求解交叉期望 Jᵢ,ₖ^(M) 与组间核 Gram 矩阵 Iₖ,ₛ^(M)"]
C --> D["权重向量的严格凸二次规划求解<br/>固定分量参数,通过标准 QP 精确求解 π* ∈ Δ^(K-1)"]
D --> E["Cholesky 协方差流形参数化与梯度更新<br/>𝐋ₖ 与 𝐦ₖ 的解析梯度步,自动保证正定性 𝐊ₖ ≻ 0"]
E -->|交替迭代直至收敛| F["后验概率估计与动态时间神经ODE扩展<br/>计算后验责任度 γₖ(X) 或通过 Neural ODE 拟合 π(t)"]
关键设计¶
1. 谱正交投影与坐标参数化:降维不失真的确定性线性代数映射 在可分希尔伯特空间中,直接对无穷维算子优化会导致求逆与梯度算子难以数值离散。本文设计了保距谱正交投影机制:选取 \(\mathcal{X}\) 的规范正交基 \((e_j)_{j\geq 1}\),定义截断正交投影算子 \(\Pi_M: \mathcal{X} \to \mathcal{X}_M \coloneqq \operatorname{span}\{e_1, \dots, e_M\} \cong \mathbb{R}^M\)。对于任意观测 \(X_i\) 与高斯分量均值 \(m_k\),其坐标向量分别为 \(\mathbf{x}_i = (\langle X_i, e_r \rangle_\mathcal{X})_{r=1}^M \in \mathbb{R}^M\) 和 \(\mathbf{m}_k = (\langle m_k, e_r \rangle_\mathcal{X})_{r=1}^M \in \mathbb{R}^M\);高斯分量在子空间上的协方差算子 \(\mathcal{K}_{k,M}\) 自然诱导实对称正定矩阵 \((\mathbf{K}_k)_{r\ell} = \langle \mathcal{K}_{k,M} e_\ell, e_r \rangle_\mathcal{X}\)。作者在理论上给出了投影一致性证明(Proposition 2.1):只要核函数满足多项式增长条件 \(|\kappa(x,y)| \le C(1+\|x\|_\mathcal{X}^q)(1+\|y\|_\mathcal{X}^q)\) 且高斯分量具有对应阶有限矩,则随着截断维数 \(M \to \infty\),投影经验 MMD 目标以概率 1 严格收敛至无穷维真实经验 MMD。
2. 希尔伯特高斯核均值期望与 Fredholm 行列式闭式计算:无采样解析求值 MMD 目标函数优化的核心在于高效计算期望 \(J_{i,k}\) 与 \(I_{k,s}\)。若采用蒙特卡洛抽样逼近,会引入显著估计方差与计算延迟。针对具有算子度量的高斯核 \(\kappa_A(x,y) = \exp(-\frac{1}{2}\langle x-y, A(x-y)\rangle_\mathcal{X})\)(其中 \(A \in \mathcal{L}(\mathcal{X})\) 为有界自伴半正定算子,各向同性时取 \(A = \sigma_\kappa^{-2} I_\mathcal{X}\)),本文推导了适用于无穷维迹类算子的精确解析解。在投影空间中,令 \(\mathbf{A} \in \mathbb{R}^{M \times M}\) 为 \(A\) 的坐标矩阵表示,交叉期望与组间期望具有如下解析闭式解: $\(J_{i,k}^{(M)} = \det(I_M + \mathbf{A}^{1/2}\mathbf{K}_k\mathbf{A}^{1/2})^{-1/2} \exp\left\{ -\frac{1}{2}(\mathbf{x}_i - \mathbf{m}_k)^\top \mathbf{A}^{1/2}(I_M + \mathbf{A}^{1/2}\mathbf{K}_k\mathbf{A}^{1/2})^{-1} \mathbf{A}^{1/2}(\mathbf{x}_i - \mathbf{m}_k) \right\},\)$ $\(I_{k,s}^{(M)} = \det(I_M + \mathbf{A}^{1/2}(\mathbf{K}_k + \mathbf{K}_s)\mathbf{A}^{1/2})^{-1/2} \exp\left\{ -\frac{1}{2}(\mathbf{m}_k - \mathbf{m}_s)^\top \mathbf{A}^{1/2}(I_M + \mathbf{A}^{1/2}(\mathbf{K}_k + \mathbf{K}_s)\mathbf{A}^{1/2})^{-1} \mathbf{A}^{1/2}(\mathbf{m}_k - \mathbf{m}_s) \right\}.\)$ 在实际计算中,为避免高维下矩阵指数数值溢出,算法利用对称特征分解 \(\mathbf{A}^{1/2}\mathbf{K}_k\mathbf{A}^{1/2} = \mathbf{V}_k \operatorname{diag}(\lambda_{k,1}, \dots, \lambda_{k,M})\mathbf{V}_k^\top\),将行列式计算转化为特征值连乘对数和 \(\sum_r \log(1+\lambda_{k,r})\),并在对数域中通过旋转坐标 \(\mathbf{z}_{i,k} = \mathbf{V}_k^\top \mathbf{A}^{1/2}(\mathbf{x}_i - \mathbf{m}_k)\) 稳定计算指数二次型。此外,对于多项式核 \((\langle x,y \rangle_\mathcal{X} + c)^p\),论文亦通过高斯高阶矩恒等式推导出了单维与联合多项式矩闭式。
3. 权重凸二次规划与 Cholesky 流形参数化:收敛可控的交替最小化算法 由于全体混合参数 \((\pi, \{m_k, \mathcal{K}_k\})\) 的联合优化是非凸问题,直接使用端到端梯度下降易陷入次优解并违背单纯形与半正定约束。本文提出了将参数正交解耦的交替最小化策略: - 权重更新的凸二次规划:在固定分量均值与协方差时,矩阵 \(\mathbf{I}^{(M)} = (I_{k,s}^{(M)})_{k,s=1}^K\) 对应于再生核中分量均值嵌入的 Gram 内积矩阵,必然半正定。优化权重 \(\pi\) 等价于求解受限于概率单纯形 \(\Delta^{K-1}\) 的标准凸 QP 问题:\(\min_{\pi \ge 0, \mathbf{1}^\top \pi = 1} \pi^\top \mathbf{I}^{(M)} \pi - 2 (\mathbf{J}^{(M)})^\top \pi\)。其几何意义是经验均值嵌入在分量均值嵌入凸包上的唯一正交投影。 - 协方差的 Cholesky 参数化与正定保证:各分量协方差矩阵采用下三角 Cholesky 分解 \(\mathbf{K}_{k,M} = \mathbf{L}_k \mathbf{L}_k^\top + \varepsilon \mathbf{I}\) 进行参数化(其中 \(\varepsilon > 0\) 为小岭正则项)。在梯度回传时,直接对无约束矩阵 \(\mathbf{L}_k\) 和均值向量 \(\mathbf{m}_{k,M}\) 执行梯度更新,无须复杂的流形投影或黎曼流形线搜索即可严格确保正定性 \(\mathbf{K}_{k,M} \succ 0\)。每个优化步骤的理论计算复杂度仅为 \(\mathcal{O}(K^2 M^3 + n K M^2)\);在对角协方差假设下,更可线性压缩至 \(\mathcal{O}(K^2 M + n K M)\)。
4. 动态时间混合权重与神经常微分方程(Neural ODE):连续时间异质亚群演变建模 为了分析纵向连续监测数据(如临床连续血糖监测轨迹),论文将静态混合模型推广至时间演化混合过程 \(Q_\theta(t) = \sum_{k=1}^K \pi_k(t) \mathcal{N}(m_k, \mathcal{K}_k)\)。其物理假设极为精妙:共享的高斯分量 \((m_k, \mathcal{K}_k)\) 刻画群体中内在的、相对稳态的生理原型(Archetypes)或潜在表型;而时变权重向量 \(\pi(t) \in \Delta^{K-1}\) 刻画群体在不同表型之间的连续动态迁移。为保证时间平滑性并避免逐时间片拟合导致的剧烈震荡,权重 logits 路径 \(\mathbf{z}: [0,T] \to \mathbb{R}^K\) 由连续神经 ODE \(\dot{\mathbf{z}}(t) = f_\Phi(\mathbf{z}(t), t)\) 控制,满足 \(\pi(t) = \operatorname{softmax}(\mathbf{z}(t))\)。整体模型通过最小化时间累积积分差异 \(\frac{1}{T}\int_0^T \operatorname{MMD}^2(P_n(t), Q_\theta(t)) \mathrm{d}t\) 联合优化神经网络参数 \(\Phi\) 与共享高斯分量,并从数学上建立了基于全变差距离 \(\mathrm{TV}(t) = \frac{1}{2}\|\bar{\gamma}_{\text{treat}}(t) - \bar{\gamma}_{\text{ctrl}}(t)\|_1\) 的治疗组与对照组动态差异定量分析工具。
损失函数 / 训练策略¶
静态模型的拟合目标为式 (8) 所示的投影平方 MMD 损失。优化策略采用端到端 Adam 优化器配合 Cholesky 梯度反向传播。均值向量使用 KMeans++ 在投影坐标空间中初始化,初始协方差根据最近质心划分的经验样本协方差设置。时间混合模型采用 Runge-Kutta 4阶(RK4)数值微分方程求解器,学习率初始设为 \(10^{-2}\),配合余弦退火策略逐步衰减。
实验关键数据¶
主实验¶
论文在五大类截然不同的几何空间与数据类型上进行了无监督聚类基准测试:(1) \(\mathbb{R}^d\) 欧氏空间合成数据集;(2) \(L^2\) 无穷维经典泛函基准(Growth、Waveform、Phoneme、Kneading、ECG200 平均);(3) CGM 连续血糖监测时间序列;(4) \(\mathrm{SO}(3)\) 三维李群旋转数据(基于 Wigner-D 正交基投影);(5) 分子图信号数据集(MUTAG)。所有算法均以调整兰德指数(Adjusted Rand Index, ARI,取值 \([-1, 1]\),越大越好)在无监督模式下评估。
| 方法 | 适配空间 | 训练复杂度 | 推理复杂度 | 空间占用 | \(\mathbb{R}^d\) (ARI) | \(L^2\) (ARI) | CGM (ARI) | \(\mathrm{SO}(3)\) (ARI) | Molecular (ARI) |
|---|---|---|---|---|---|---|---|---|---|
| MMD GMM (Gaussian) (本文) | 任意可分希尔伯特空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(0.692_{0.379}\) | \(0.412_{0.219}\) | \(\mathbf{0.053}_{0.040}\) | \(\mathbf{0.867}_{0.140}\) | \(0.104_{0.032}\) |
| MMD GMM (Polynomial) (本文) | 任意可分希尔伯特空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(0.615_{0.334}\) | \(0.376_{0.144}\) | \(0.051_{0.022}\) | \(0.675_{0.217}\) | \(\mathbf{0.151}_{0.009}\) |
| Projected GMM (似然EM) | 希尔伯特空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | — | \(0.386_{0.276}\) | \(0.034_{0.000}\) | \(0.828_{0.172}\) | \(0.104_{0.059}\) |
| K-Medoids | 度量空间 | \(\mathcal{O}(n^2 K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n^2)\) | \(0.569_{0.328}\) | \(\mathbf{0.458}_{0.201}\) | \(0.020_{0.000}\) | \(0.828_{0.109}\) | \(-0.005_{0.000}\) |
| 层次聚类 (Average) | 度量空间 | \(\mathcal{O}(n^2 \log n)\) | — | \(\mathcal{O}(n^2)\) | \(0.555_{0.320}\) | \(0.234_{0.296}\) | \(0.002_{0.000}\) | \(0.490_{0.315}\) | \(0.081_{0.000}\) |
| DBSCAN | 度量空间 | \(\mathcal{O}(n)\) | — | \(\mathcal{O}(n)\) | \(0.844_{0.164}\) | \(0.000_{0.000}\) | \(0.000_{0.000}\) | \(0.627_{0.273}\) | \(0.074_{0.000}\) |
| HDBSCAN | 度量空间 | \(\mathcal{O}(n)\) | — | \(\mathcal{O}(n)\) | \(0.870_{0.171}\) | \(0.171_{0.227}\) | \(0.000_{0.000}\) | \(0.691_{0.227}\) | \(0.117_{0.000}\) |
| Kernel k-Groups | 度量空间 | \(\mathcal{O}(K n^2)\) | — | \(\mathcal{O}(n^2)\) | \(0.567_{0.328}\) | \(0.438_{0.219}\) | \(0.019_{0.000}\) | \(0.751_{0.189}\) | \(0.125_{0.000}\) |
| FDA K-Means | \(L^2\) 泛函空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | — | \(0.451_{0.196}\) | \(0.023_{0.000}\) | — | — |
| Funclust | \(L^2\) 泛函空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | — | \(0.451_{0.186}\) | \(0.015_{0.000}\) | — | — |
| FunHDDC | \(L^2\) 泛函空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | — | \(0.419_{0.217}\) | \(0.013_{0.000}\) | — | — |
| fclust | \(L^2\) 泛函空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | — | \(0.430_{0.218}\) | \(0.030_{0.000}\) | — | — |
| 谱聚类 (Spectral) | \(\mathbb{R}^d\) 欧氏空间 | \(\mathcal{O}(n^3)\) | — | \(\mathcal{O}(n^2)\) | \(\mathbf{0.949}_{0.074}\) | — | — | — | — |
| 高斯混合模型 (EM) | \(\mathbb{R}^d\) 欧氏空间 | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(\mathcal{O}(n K)\) | \(0.683_{0.387}\) | — | — | — | — |
消融与代表性实验设置¶
论文在补充材料附录中给出了在不同希尔伯特空间表象下的混合恢复实验,充分验证了不同基函数配置下的拟合能力与数值稳定性:
| 实验任务 | 希尔伯特空间与正交基类型 | 样本数 \(n\) | 类别数 \(K\) | 投影维数 \(M\) | 训练 Epochs | 优化细节与核函数配置 |
|---|---|---|---|---|---|---|
| 1D 高斯混合恢复 | 欧氏标准基 (B1) | 1500 | 3 | 1 | 400 | 高斯核 \(\sigma=1.0\), Adam lr \(0.05\) |
| \(L^2(0,1;\mathbb{R}^2)\) 泛函恢复 | \(L^2\) 余弦基 (B2) | 500 | 5 | 30 (\(R=15\)) | 400 | 高斯核 \(\sigma=1.2\), Adam lr \(0.1\) |
| \(L^2([0,1]^2)\) 空间场 | 张量积余弦基 (B3) | 400 | 3 | 64 (\(R_s=R_t=8\)) | 400 | 高斯核 \(\sigma=2.0\), Adam lr \(0.1\) |
| \(L^2(\mathrm{SO}(3))\) 李群旋转 | 实 Wigner-D 矩阵基 (B5) | 200 | 3 | 84 (\(L_{\max}=3\)) | 400 | 高斯核 \(\sigma=10.0\), Adam lr \(0.05\) |
| 图信号分布恢复 | 图拉普拉斯特征基 (B6) | 150 | 3 | 15 (\(\alpha=0.1\)) | 200 | 高斯核 \(\sigma=2.0\), Adam lr \(0.1\) |
| 线性 SDE 系统辨识 | \(L^2\) 余弦基 (B2) | 20 | 1 | 28 (\(R=7\)) | 400 | 学习参数 \((A,B,G)\), lr \(10^{-2}\) |
| 3D 分子图 (QM9) | WL 指纹 + DCT 系数 (B8) | 500 | 5 | 64 | 150 | 对角协方差, 高斯核 \(\sigma=2.0\) |
| NTU 骨骼时空序列 | 关节余弦基 (B2) | 150 | 5 | 750 (\(R=10\)) | 250 | 对角协方差, 75关节坐标轨迹 |
| CGM 动态时变混合 | \(H^1\) 余弦基 (B4) | 98 | 2 | 8 (\(R_s=8\)) | 400 | 2层神经ODE权重, RK4求解器 |
关键发现¶
- 非欧氏与复杂几何优势显著:在李群流形数据 \(\mathrm{SO}(3)\) 上,高斯核 MMD-GMM 取得了 \(0.867\) 的高 ARI,大幅击败 DBSCAN (\(0.627\))、层次聚类 (\(0.490\)) 等基线;在分子图结构上多项式核 MMD-GMM 取得最高分 \(0.151\)。这表明该方法能完美自适应由正交谱基所诱导的非欧几何结构。
- 动态健康生物标志物辨识能力:在青少年糖尿病临床闭环胰岛素疗法(CGM)测试中,两分量模型准确分离出「高血糖剧烈波动型」(\(m_1\)) 与「平稳健康受控型」(\(m_2\))。对照组在随访期间混合权重保持恒定,而治疗组的后验概率稳步向平稳型 \(m_2\) 倾斜,治疗组与对照组的全变差距离 \(\mathrm{TV}(t)\) 从初始的 \(0.11\) 单调上升至试验结束时的 \(0.19\),精准捕捉到了传统标量指标无法呈现的连续时间生理重构。
- 投影维数与样本扩展性:实验分析表明,当投影基维数 \(M \ge 15\) 时,经验 MMD 损失即迅速收敛达到渐近稳定状态;对角协方差假设在大幅缩减计算量至 \(\mathcal{O}(nKM)\) 的同时,能够完整保留聚类判别能力。
亮点与洞察¶
- 无须勒贝格密度的全新概率建模范式:传统无限维测度理论受困于 Feldman-Hajek 奇异性导致的似然比失效问题,而本文将 MMD 作为泛函测度拟合准则,彻底解耦了生成式统计模型与勒贝格密度的绑定关系。
- Fredholm 行列式与谱坐标的对偶统一:巧妙利用高斯积分与算子行列式的解析性质,将无穷维抽象特征期望转化为等价的有限维正交坐标代数运算,既保留了严谨的无穷维数学意义,又实现了工程上的高精度 GPU/CPU 向量化并行。
- 多表象统一建模通用性:同一个算法内核无缝支撑了 1D 连续函数、2D 随机场、非欧李群旋转矩阵、分子图指纹以及动态网络信号,极大地统一了现代结构化泛函数据的统计分析框架。
局限与展望¶
- 大规模高维协方差算子扩展瓶颈:当处理极高分辨率网格或超大维数骨骼/流形(如 \(M > 1000\))且必须使用全秩密集协方差时,\(\mathcal{O}(K^2 M^3)\) 的求逆与特征分解开销将成为计算瓶颈;未来需要引入随机投影(Random Projections)或低秩 Nyström 近似进行加速。
- 时间变异模型的单向权重假设:目前时间动态混合模型仅允许混合权重 \(\pi(t)\) 随时间演进,而假定高斯原型 \((m_k, \mathcal{K}_k)\) 静态不变;在长期慢性疾病进展等复杂场景下,成分均值自身也可能发生非线性漂移,未来需进一步扩展至时变算子动态系统。
相关工作与启发¶
- vs. 传统似然投影 GMM (Projected GMM / Sequential Monte Carlo):传统方法依赖指定的参考高斯先验 \(\rho = \mathcal{N}(0, C)\) 构建坐标投影似然函数,若先验算子与真实生成过程不匹配,似然估计将产生显著偏差;本文采用的 MMD 准则基于特征核直接度量测度间距离,完全摆脱了对特定参考测度的依赖。
- vs. Kernel k-Groups 与非参数聚类:Kernel \(k\)-Groups 等核聚类方法本质上是判别式划分,缺乏显式的生成式分布表示,亦无法计算连续样本后验归属概率;本文提出的 MMD-GMM 结合了非参数核距离的高适应度与生成式混合模型的概率可解释性。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次系统性推导了可分希尔伯特空间中基于 MMD 的高斯混合模型闭式解与一致性理论。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 1D/2D 泛函、\(\mathrm{SO}(3)\) 旋转流形、分子图、NTU 骨骼序列及真实 CGM 临床动态试验,实验极为扎实。
- 写作质量: ⭐⭐⭐⭐⭐ 数学推导严谨自洽,附录定理证明详尽清晰,工程实现完备。
- 价值: ⭐⭐⭐⭐⭐ 为泛函数据分析(FDA)和结构化数字医疗数据提供了强有力的概率聚类与动态建模基础工具。