跳转至

A Scalable Nonparametric Continuous-Time Survival Model through Numerical Quadrature

会议: NeurIPS 2026
arXiv: 2605.16208
代码: https://github.com/hyungrok-do/qsurv
领域: 其他
关键词: 生存分析, 连续时间危险率建模, 高斯-勒让德数值求积, 时间条件低秩自适应, 非参数模型

一句话总结

提出了 QSurv 模型,通过高斯-勒让德数值求积直接参数化瞬时危险率并闭式反传累积危险率积分,配合时间条件低秩自适应(Time-LoRA)实现了高维医学数据与连续时间生存分析的高效端到端拟合。

研究背景与动机

生存分析(Survival Analysis)旨在对感兴趣事件的发生时间建模,广泛应用于临床预后评估、工程可靠性分析与金融风险分级。在实际场景中,数据普遍面临右删失(Right-Censoring)挑战。尽管传统的 Kaplan-Meier 估计量与 Cox 比例风险(PH)模型因可解释性而被广泛使用,但它们受制于比例风险假设或线性假定,难以刻画高维多模态协变量与事件时间之间的复杂交互。近年来兴起的深度生存模型虽然显著提升了拟合表达能力,但大多采取妥协策略:Cox 范式深度模型(如 DeepSurv)仅输出相对风险评分,离散时间模型(如 DeepHit、NnetSurv)严重依赖预设的时间网格划分,而参数化深度模型(如 Deep Survival Machines)则强行将危险率约束在特定分布族内。

直接建模连续时间瞬时危险率函数 \(h(t|x)\) 在临床上具有关键意义,因为它是表征局部瞬时风险最自然的工具。诸如治疗初期短暂毒性、延迟疗效、风险曲线交叉(Crossing Hazards)以及晚期复发等复杂动态,在累积生存概率曲线或固定离散网格上极易被掩盖或平滑掉。然而,直接利用神经网络参数化瞬时危险率极具挑战性:连续时间负对数似然(NLL)既需要针对观测事件评估点瞬时危险率 \(\lambda_\theta(o_i|x_i)\),又需要针对存活区间计算累积危险率积分 \(\Lambda_\theta(o_i|x_i) = \int_0^{o_i} \lambda_\theta(s|x_i) ds\)。基于神经常微分方程的连续时间方法(如 SODEN)依赖自适应 ODE 求解器,计算和反向传播开销极大;而基于数值微分的方法(如 DeSurv)则绕过危险率去拟合累积分布函数,导致还原出的危险率充斥高频震荡与伪峰。

为了在保留瞬时危险率作为原始建模对象的前提下克服积分瓶颈,本文的核心切入点是将连续区间的累积积分转化为固定节点的代数求积,避免密集网格划分与微分方程迭代。核心 idea:提出基于高斯-勒让德数值求积的连续时间非参数生存模型 QSurv,用轻量可微的前向求和精确逼近累积危险率,并结合时间条件低秩自适应(Time-LoRA)消除高维骨干网络对时间节点的冗余前向传播。

方法详解

整体框架

QSurv 的核心架构将瞬时危险率 \(\lambda_\theta(t|x) = \exp\{f_\theta(x, t)\}\) 作为基本建模实体,通过神经网络 \(f_\theta\) 直接预测给定协变量 \(x\) 和连续时间 \(t\) 下的对数危险率。在训练阶段,模型无需依赖密集的等间距时间网格,而是通过仿射变换将区间 \([0, o_i]\) 映射到标准区间,利用 \(K\) 阶高斯-勒让德求积节点精确计算累积危险率。面对高维图像等复杂特征时,骨干网络(如 ResNet-18)首先提取与时间无关的静态特征嵌入,并在倒数第二层引入时间条件低秩权重调制,使得同一受试者的 \(K\) 个求积节点可直接共享骨干计算并矢量化反向传播。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入协变量 x 与时间 t"] --> B["特征提取与静态投影<br/>骨干网络提特征 h 缓存储备"]
    B --> C["时间条件低秩自适应 Time-LoRA<br/>低秩调制生成动态表征 z(t)"]
    C --> D["瞬时对数危险率预测<br/>网络输出 f_theta(x, t)"]
    D --> E["高斯-勒让德数值求积<br/>K 个代数节点加权逼近累积危险率"]
    E --> F["连续时间全似然目标优化<br/>标准 SGD 联合反向传播"]

关键设计

1. 高斯-勒让德数值求积:解析累积危险率的高阶逼近 连续时间生存模型训练的核心瓶颈在于累积危险率积分 \(\int_0^{o_i} \lambda_\theta(s|x_i) ds\) 无解析解。若采用黎曼和或梯形法则等等间距离散网格,要达到合理的积分精度往往需要成百上千个采样点,计算代价不可承受;而神经常微分方程求解器(如 SODEN)需要多步自适应迭代,前向与伴随反传耗时极高。QSurv 采用 \(K\) 点高斯-勒让德求积,通过变量替换 \(s = t\tau\) 将积分域 \([0, t]\) 映射到标准区间 \([0, 1]\),其离散累积危险率估计量定义为: $$ \hat{\Lambda}{\theta}(t|x) = \frac{t}{2} \sum w_k \lambda_\theta(t\tau_k|x) $$ 其中 }^{K\(\tau_k = (\xi_k + 1)/2\) 为勒让德多项式根经仿射映射后的正交节点,\(w_k\) 为满足 \(\sum_{k=1}^K w_k = 2\) 的标准高斯-勒让德权重。该积分法则对最高 \(2K-1\) 次的时间多项式能够实现严格代数精确积分。在理论上,当危险率函数具备 \(2K\) 阶连续导数时,其积分截断误差 \(\varepsilon_K(t|x) = |\Lambda_\theta(t|x) - \hat{\Lambda}_{\theta,K}(t|x)|\) 满足: $$ \varepsilon_K(t|x) \le \frac{t^{2K+1}(K!)^4}{(2K+1)[(2K)!]^3} \max_{\tau \in [0, t]} \left| \lambda_\theta^{(2K)}(\tau|x) \right| $$ 更关键的是,由于负对数似然损失中累积危险率呈线性进入,定理证明损失函数逼近误差严格等于求积截断误差 \(|\mathcal{L} - \hat{\mathcal{L}}_K| = \varepsilon_K(t|x)\)。这保证了极小且固定的节点数(如 \(K=5\) 到 \(10\))即可实现数值饱和,避免了网格密度增加带来的计算爆炸。

2. 时间条件低秩自适应:高维骨干网络的时间调制与特征解耦 在表格数据中,时间标量 \(t\) 可直接与输入特征拼合,但在卷积网络(如 ResNet)或视觉 Transformer 等高维多模态骨干中,输入端拼接标量时间不仅破坏空间先验,且在计算求积时需要针对 \(K\) 个求积时间节点将图像重复输入骨干网络运行 \(K\) 次前向传播,开销巨大。QSurv 设计了位于倒数第二层的时间条件低秩自适应(Time-LoRA)机制,将静态权重矩阵 \(W \in \mathbb{R}^{d_{\text{out}} \times d_{\text{in}}}\) 参数化为包含低秩时间扰动的动态结构: $$ W(t) = W + \Delta W(t) = W + U \cdot \text{diag}(s(t)) \cdot V $$ 其中 \(U \in \mathbb{R}^{d_{\text{out}} \times r}\) 与 \(V \in \mathbb{R}^{r \times d_{\text{in}}}\) 为可学习的低秩基底矩阵(秩 \(r \ll \min(d_{\text{in}}, d_{\text{out}})\)),时间调制系数 \(s(t) = g_\psi(\phi(t)) \in \mathbb{R}^r\) 由轻量级 MLP 映射时间嵌入向量 \(\phi(t)\) 产生。前向过程等价于: $$ z(t) = Wh + U \big( s(t) \odot (Vh) \big) + b $$ 该设计实现了深层特征提取与时间维度的正交解耦:静态图像特征 \(h\)、基础变换 \(Wh\) 与低秩投影 \(Vh\) 仅依赖输入图像 \(x\),整个训练过程中仅需单次前向传播并缓存在显存中;对于各个求积时间节点 \(o_i \tau_k\),模型只需并行计算极轻量的时间分支 \(s(o_i \tau_k)\) 并完成低秩重组。相比于逐通道缩放平移的 FiLM,Time-LoRA 提供了通道间的跨特征低秩混合能力,在保证强大时间表征能力的同时避免了全网络对每个时间节点的重复评估。

损失函数 / 训练策略

给定包含 \(n\) 个独立同分布观测样本的训练集 \(\mathcal{D} = \{(x_i, o_i, \delta_i)\}_{i=1}^n\)(其中 \(o_i = \min(T_i, C_i)\) 为观测时间,\(\delta_i = \mathbb{I}(T_i \le C_i)\) 为事件指示符),QSurv 最小化基于高斯-勒让德求积逼近的负对数似然目标函数: $$ \mathcal{L}(\theta; \mathcal{D}) = -\frac{1}{n} \sum_{i=1}^n \left[ \delta_i f_\theta(x_i, o_i) - \frac{o_i}{2} \sum_{k=1}^K w_k \exp\left( f_\theta(x_i, o_i \tau_k) \right) \right] $$ 在训练算法中,批大小为 \(B\) 的小批量样本并行前向计算。第一项直接评估在观测时间点 \(o_i\) 处的对数危险率,第二项通过权重向量 \(\mathbf{w}^\top \exp(f_\theta(x_i, o_i \boldsymbol{\tau}))\) 的矢量化内积得到累积危险率。优化采用 AdamW 优化器,配合余弦退火学习率衰减(Cosine Annealing),全程通过 PyTorch 标准自动微分进行端到端反向传播。

实验关键数据

主实验

论文在合成基准、6 个大型真实世界表格生存数据集(FLCHAIN、FRAMINGHAM、GBSG、METABRIC、NWTCO、SUPPORT2)以及 3 个高维放射影像数据集(COVID-19-NY、C4KC-KiTS、BraTS)上进行了全面评测,评估指标包括时间依赖一致性指数(\(C_{td}\),越高越好)、积分 Brier 分数(IBS,越低越好)、积分二项对数似然(IBLL,越高越好)以及分布校准性检验 \(p\) 值(D-cal)。

下表展示了代表性合成数据集上不同生存模型恢复真实瞬时危险率函数 \(h(t|x)\) 的 \(L_1\) 绝对误差对比(20 次随机重复的均值 \(\pm\) 标准差):

分布族 CoxCC CoxTime NnetSurv MDN DeSurv SODEN QSurv (本文)
指数分布 (Exponential) 0.1775 ± 0.0410 0.1775 ± 0.0422 0.3830 ± 0.0438 0.0568 ± 0.0446 0.0448 ± 0.0159 0.0330 ± 0.0138 0.0352 ± 0.0164
威布尔分布 (Weibull) 0.1576 ± 0.0322 0.1182 ± 0.0207 0.2383 ± 0.0254 0.0644 ± 0.0102 0.0295 ± 0.0090 0.0272 ± 0.0119 0.0282 ± 0.0139
伽马分布 (Gamma) 0.9012 ± 0.0921 0.5661 ± 0.1769 0.7249 ± 0.0370 0.5646 ± 0.0459 0.2930 ± 0.0907 0.1716 ± 0.0901 0.1718 ± 0.0859
冈珀茨分布 (Gompertz) 0.1713 ± 0.0262 0.1890 ± 0.0549 0.2921 ± 0.0276 0.0920 ± 0.0140 0.0502 ± 0.0278 0.0262 ± 0.0174 0.0258 ± 0.0180
对数正态 (Log-Normal) 0.1235 ± 0.0248 0.1114 ± 0.0294 0.1938 ± 0.0219 0.1882 ± 0.0520 0.0473 ± 0.0201 0.0462 ± 0.0183 0.0457 ± 0.0185
对数逻辑 (Log-Logistic) 0.1621 ± 0.0210 0.1266 ± 0.0242 0.3290 ± 0.0525 0.1031 ± 0.0090 0.0513 ± 0.0299 0.0517 ± 0.0295 0.0491 ± 0.0291

在高维医学影像生存预测任务中(全时间跨度),QSurv 展现出明显的判别与校准优势:

数据集 模型 全时间跨度 \(C_{td} \uparrow\) 全时间跨度 IBS \(\downarrow\) 全时间跨度 IBLL \(\uparrow\) 中位时间 \(T_{Q_2}\) \(C_{td} \uparrow\)
COVID-19-NY CoxTime 0.5587 ± 0.0847 0.2079 ± 0.1211 -0.6197 ± 0.3588 0.5636 ± 0.0891
(胸部 X 光) DeepHit 0.6677 ± 0.0793 0.0708 ± 0.0209 -0.2426 ± 0.0600 0.6516 ± 0.0859
DeSurv 0.7420 ± 0.0923 0.0617 ± 0.0269 -0.1981 ± 0.0802 0.7944 ± 0.0615
SODEN 0.7143 ± 0.0530 0.1000 ± 0.0282 -0.2967 ± 0.0709 0.7689 ± 0.1099
QSurv 0.7456 ± 0.1046 0.0716 ± 0.0155 -0.2318 ± 0.0489 0.7951 ± 0.0908
C4KC-KiTS CoxTime 0.5808 ± 0.1985 0.1086 ± 0.0015 -0.3571 ± 0.0139 0.5806 ± 0.1851
(肾肿瘤 CT) DeSurv 0.5740 ± 0.1630 0.1156 ± 0.0152 -0.6108 ± 0.3646 0.5685 ± 0.1636
SODEN 0.4987 ± 0.1159 0.1074 ± 0.0045 -0.3558 ± 0.0307 0.5150 ± 0.0939
QSurv 0.6381 ± 0.1446 0.1260 ± 0.0453 -0.4002 ± 0.1113 0.6207 ± 0.1596
BraTS CoxTime 0.4541 ± 0.0359 0.1171 ± 0.0130 -0.3764 ± 0.0363 0.4460 ± 0.0406
(脑胶质瘤 MRI) DeSurv 0.5459 ± 0.0297 0.1038 ± 0.0176 -0.3405 ± 0.0707 0.5438 ± 0.0297
SODEN 0.5672 ± 0.0510 0.1089 ± 0.0121 -0.3489 ± 0.0442 0.5763 ± 0.0607
QSurv 0.5811 ± 0.0387 0.1038 ± 0.0133 -0.3327 ± 0.0371 0.5968 ± 0.0537

消融实验

针对时间条件机制的有效性,论文对比了特征拼接(Concat)、特征仿射变换(FiLM)和时间条件低秩自适应(Time-LoRA)在瞬时危险率 \(L_1\) 误差上的表现(数值越小越好):

分布族 QSurv (Concat 拼接) QSurv (FiLM 仿射变换) QSurv (Time-LoRA 低秩自适应) 机制特性说明
冈珀茨分布 (Gompertz) 0.0506 ± 0.0157 0.0421 ± 0.0403 0.0258 ± 0.0180 LoRA 跨通道动态重组拟合指数级加速风险优势最显著
对数逻辑分布 (Log-Logistic) 0.0939 ± 0.0283 0.0590 ± 0.0507 0.0491 ± 0.0291 单峰先升后降非单调动态下,LoRA 误差比 Concat 降低约 48%
指数分布 (Exponential) 0.0327 ± 0.0159 0.0260 ± 0.0104 0.0352 ± 0.0164 常数危险率基线下,简单的特征调制已经足够
威布尔分布 (Weibull) 0.0278 ± 0.0055 0.0345 ± 0.0182 0.0282 ± 0.0139 单调幂律风险下,三者性能接近,LoRA 紧跟最优
对数正态分布 (Log-Normal) 0.0431 ± 0.0154 0.0469 ± 0.0197 0.0457 ± 0.0185 复杂单峰分布下,LoRA 达到与全参数拼接同级别的高精度

求积节点数 \(K\) 的敏感性消融表明,随着节点数从 \(K=1, 2\) 增加至 \(K=5\),瞬时危险率、累积危险率与生存函数的积分绝对误差(IAE)呈指数级迅速收敛并完全饱和;计算耗时随 \(K\) 严格呈线性增长。在训练吞吐量方面,单核拟合一次仿真数据,SODEN 耗时高达 82~243 秒,而 QSurv 仅需 5~8 秒,加速比达到 15~30 倍。

关键发现

  • 瞬时危险率恢复精度媲美 ODE 模型,但训练耗时降低数十倍:QSurv 在各种复杂分布下能够准确还原单峰、交叉、振荡等非单调非比例风险曲线,性能与 SODEN 不相上下,但彻底摆脱了伴随微分方程求解的密集计算。
  • 高维医学影像场景提升最显著:在 COVID-19-NY、KiTS 和 BraTS 三个影像任务中,QSurv 在全时间跨度与中位时间跨度的 \(C_{td}\) 均位列第一,充分证明连续时间、非参数瞬时危险率建模在高维表征中的强大泛化力。
  • 聚类危险率曲线具备极高临床可解释性:在 COVID-19 住院患者队列的风险聚类可视化中,QSurv 清晰刻画出高危患者“早期死亡风险骤升、随出院逐渐衰减”的临床现实,而离散时间模型 NnetSurv 产生剧烈不规则尖刺,ODE 模型 SODEN 则过于扁平退化,DeSurv 伴随严重虚假高频震荡。

亮点与洞察

  • 正交求积规避离散化与微分求解两难:巧妙利用高斯-勒让德求积以极少节点数(\(K \le 10\))捕获平滑危险率的代数积分,将看似棘手的连续积分转化成矩阵级可微运算,既保持了连续时间特性又享受了深度学习批处理并行红利。
  • Time-LoRA 破解重型视觉骨干在求积训练时的计算冗余:将时间变量的调制隔离在特征提取网络的末端低秩空间,使得主干网络仅需前向推断一次,求积节点计算仅在紧凑潜在空间中进行,极大释放了高维连续生存分析的应用潜力。
  • 理论推导完备自洽:不仅给出了累积危险率高阶求积截断误差的严密上界,更建立了损失函数逼近误差与求积误差的恒等关系,从数学上澄清了求积节点 \(K\) 是数值精度控制超参而非模型正则化参数。

局限与展望

  • 依赖危险率函数的时间光滑性假设:高斯-勒让德求积的高阶收敛建立在危险率对时间的 \(2K\) 阶光滑性之上。若真实世界遭遇外部突发冲击(如突发外科手术干预引起的阶跃式风险突变),可能导致多项式逼近出现龙格现象或局部震荡。
  • 极度重度删失下的边界风险:当研究末期的删失率极高、存活样本极少时,累积危险率后半段缺乏足够的事件监督信号,数值积分可能积累外推漂移。
  • 未来方向:可进一步将 QSurv 扩展到竞争风险(Competing Risks)与多状态转移(Multi-state)模型,或在时间调制分支中融入连续小波变换以更好地兼顾局部瞬变与全局平滑。

相关工作与启发

  • vs SODEN (Tang et al., 2022):二者都坚持以连续时间瞬时危险率作为原始建模对象。区别在于 SODEN 采用神经常微分方程求解器逼近积分,训练反向传播极其耗时,且在实际聚类拟合中呈现平坦化退化;QSurv 采用高斯-勒让德正交求积,训练速度提升 15~30 倍,且能更敏锐地还原瞬时风险动态。
  • vs DeSurv (Danks & Yau, 2022):DeSurv 虽也引入了高斯求积,但其将累积分布函数(CDF)作为原始建模对象,瞬时危险率完全靠数值微分反推,导致预测的危险率曲线出现剧烈震荡与伪峰;QSurv 将瞬时危险率置于核心建模地位,保证了风险输出的光滑性与生理可解释性。
  • vs DeepHit / NnetSurv:离散时间模型将时间强制切割为固定网格(如 50 个时间桶),引入了网格分辨率与参数量的刚性折中,输出危险率呈锯齿状;QSurv 摆脱了固定网格约束,输出真正连续光滑的风险轨迹。

评分

  • 新颖性: ⭐⭐⭐⭐ [将正交高斯求积与 Time-LoRA 深度融合,巧妙解决了连续生存分析长期存在的积分与骨干重复计算痛点]
  • 实验充分度: ⭐⭐⭐⭐⭐ [覆盖 6 个经典表格数据集、3 个放射影像数据集和 6 种参数化复杂分布仿真,评估指标与消融完备]
  • 写作质量: ⭐⭐⭐⭐⭐ [数学推导严密自洽,从定理到推论层层递进,动机剖析与可视化分析透彻深入]
  • 价值: ⭐⭐⭐⭐ [为医学预后和工程可靠性提供了一个既精确又高度可扩展的开源连续生存分析工具基准]