STRAND: Sequence-Conditioned Transport for Single-Cell Perturbations¶
会议: NeurIPS 2026
arXiv: 2602.10156
OpenReview: https://openreview.net/forum?id=Sxea2QV2oZ
领域: 计算生物
关键词: 单细胞扰动预测、调控DNA序列、最优传输、薛定谔桥扩散模型、转录起始位点
一句话总结¶
STRAND 提出基于调控 DNA 序列表征与最优传输薛定谔桥扩散模型的单细胞基因扰动预测框架,打破了传统模型依赖离散基因 ID 的分辨率与词表瓶颈,实现了核苷酸级位点特异性及全基因组范围的零样本转录组响应预测。
研究背景与动机¶
预测遗传干预如何改变单细胞状态是构建基因调控可控模型的关键基石。然而,细胞内的真实调控效应本质上是由具体的启动子、增强子及可变转录起始位点(TSS)等 DNA 序列介导的,而非以不可分割的基因实体为单位运作。当前绝大多数单细胞扰动预测模型(如 GEARS、BioLord、STATE 等)均在基因层面建模扰动,将干预操作表示为离散的基因标识符或静态图节点。这一抽象方式导致靶向同一基因但处于不同调控位点的扰动被强行压缩为完全相同的嵌入,造成了显著的“分辨率鸿沟”:现代 CRISPR-i/a 和碱基编辑技术已能实现核苷酸级的精准位点干预,而下游预测模型却将基因体内的所有扰动一视同仁。
这种分辨率缺失在生物学上会带来严重误判。例如靶向 BCL11A 蛋白编码区具有致死毒性,而靶向其特定增强子则能产生红系治疗效应且不损伤细胞;即使在同一增强子内部,也仅有少数特定碱基控制转录活性。更严重的是,全基因组中超过 98% 的非编码调控区域(绝大多数疾病相关变异的富集区)因无法映射到蛋白编码基因 ID,完全被现有基因级模型排除在外,实际基因组覆盖率仅约 1.5%。尽管前沿 DNA 大模型(如 Borzoi、AlphaGenome)能从序列预测表观调控轨道,但它们局限于局部序列窗口的逐位点预测,无法建模干预后全转录组的全局系统性响应,亦无法联合未受扰动的基线细胞状态实现细胞类型特异的生成式状态演化。
核心 idea:将单细胞扰动预测重塑为以调控 DNA 序列为条件的生成式最优传输(Optimal Transport)过程,通过交叉注意力将局部靶向序列与全局基因组上下文映射为扰动嵌入,并利用薛定谔桥潜在扩散模型将对照组细胞分布连续传输至受扰动细胞分布,实现核苷酸级分辨率与全基因组零样本泛化。
方法详解¶
整体框架¶
STRAND 的输入包含两个模态:单细胞层面的未受扰动(对照组)基因表达谱 \(x_c \in \mathbb{R}^G\) 以及扰动靶点的局部调控 DNA 序列 \(s \in \mathcal{A}^w\) 与二值扰动掩码 \(m \in \{0, 1\}^L\)。整体预测流程分为三个核心阶段:首先,DNA 扰动模块从冻结的 Flashzoi/Borzoi DNA 基础模型中提取序列嵌入,利用掩码引导的交叉注意力提炼出具备长程顺式调控上下文的扰动向量 \(u_p\);随后,通过高维最优传输(HiRef)对无配对的对照细胞与扰动细胞建立生物学合理的传输耦合,并以此作为端点,在 SCimilarity RNA 潜在空间中训练以 \(u_p\) 和对照状态 \(z_c\) 为联合条件的薛定谔桥(I2SB)扩散模型,合成受扰动细胞的隐层表征 \(\hat{z}_p\);最后,基于残差框架结合跨模态对比对齐与跨越零膨胀的 Hurdle 截断高斯似然解码器,输出最终恢复的单细胞转录组分布 \(\hat{x}_p\)。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入:对照组细胞表达谱 + 靶向DNA序列与扰动掩码"] --> B["阶段1:序列驱动的扰动上下文编码<br/>单查询交叉注意力提炼长程顺式调控嵌入"]
B --> C["阶段2:基于最优传输耦合的双向潜在薛定谔桥扩散<br/>以对照状态与序列嵌入联合调制受扰动流形演化"]
C --> D["阶段3:多目标联合优化与零膨胀残差似然解码<br/>跨模态对比对齐约束 + Hurdle截断高斯似然生成"]
D --> E["输出:预测的单细胞受扰动转录组分布"]
关键设计¶
1. 序列驱动的扰动上下文编码:以连续 DNA 嵌入取代离散基因 ID
针对离散基因 ID 无法表征非编码区及位点特异性的问题,STRAND 将扰动定义为基因组坐标上的连续序列干预。模型利用预训练 DNA 基础模型(Flashzoi/Borzoi)将长为 524,288 bp 的基因组窗口映射为序列标记特征 \(E_s \in \mathbb{R}^{L \times d_0}\)(\(L=4096, B=128\) bp)。对于 CRISPR 扰动区间 \(\mathcal{P}=\{i \mid m_i=1\}\),首先通过掩码均值池化提炼出靶向区域锚点查询向量 \(q_p = \text{MLP}(\frac{1}{|\mathcal{P}|}\sum_{i \in \mathcal{P}} E_{s,i})\)。由于调控效应不仅取决于靶点局部序列,更依赖于远端增强子与染色质拓扑,模块利用单查询多头交叉注意力检索全序列上下文: $\(\alpha_j = \text{softmax}_j\left(\frac{(q_p W_Q)(E_{s,j} W_K)^\top}{\sqrt{d_k}} + b_j\right), \quad h_p = \sum_{j=1}^L \alpha_j (E_{s,j} W_V)\)$ 其中 \(b_j\) 为基于基因组距离的可学习位置偏置。最终扰动向量通过融合靶点与长程上下文获得:\(u_p = \text{Proj}([q_p \parallel h_p])\)。该设计使模型脱离了预设的已知基因闭集词表,可支持任意基因组坐标(覆盖度由 1.5% 跃升至 95%)的零样本推断。
2. 基于最优传输耦合的双向潜在薛定谔桥扩散:保真单细胞异质性传输
传统回归模型(如 MLP 或线性映射)常因单细胞高噪声而退化至预测均值,导致严重的模式坍塌(mode collapse)。STRAND 引入以对照组细胞为锚点的生成式传输,模拟细胞群体的异质性跃迁。由于实验测得的对照细胞与扰动细胞在测序层面并非成对观测,STRAND 采用分层精炼最优传输(HiRef)算法,在预训练 SCimilarity 潜在空间(128维)经过 PCA 降维后,以 \(O(n \log n)\) 复杂度构建低秩 Monge 双射对齐,生成严格成对的 \((z_c, z_p)\) 样本。
在此成对流形上,STRAND 采用图像到图像薛定谔桥(I2SB)条件扩散机制构建随机插值桥梁: $\(z_t = w_0(t) z_p + w_1(t) z_c + \sigma(t) \varepsilon, \quad \varepsilon \sim \mathcal{N}(0, I)\)$ 噪声预测网络 \(\epsilon_\theta(z_t, t, u_p, z_c)\) 联合以对照组基态 \(z_c\) 与序列嵌入 \(u_p\) 为条件,逼近引导潜在向量场。该“基线锚定”特性确保扰动并非在无条件高斯白噪声上随机采样,而是学习从特定细胞系的基线转录状态出发的有向演化轨迹,天然赋予了模型强大的跨细胞系迁移泛化能力。
3. 跨模态对比对齐与零膨胀残差似然解码:保障调控语义与物理非负性
为桥接序列模态与转录组反应之间的语义断层,STRAND 引入了伪群体(pseudo-bulk)原型的软目标对称 InfoNCE 对比损失(\(\mathcal{L}_{\text{align}}\))。通过将 DNA 扰动嵌入投影并与该扰动诱导的 RNA 潜在平均位移 \(\Delta \bar{z}_k = \bar{z}_{p,k} - \bar{z}_{c,k}\)(通过 EMA 动态维护)对齐,并使用基于 RNA-RNA 相似度的软标签(温度 \(\tau_{\text{soft}}=0.1\))缓解生物学功能相似扰动带来的假阴性惩罚。
在解码阶段,模型针对单细胞 RNA-seq 普遍存在的非负性与极高零膨胀(drop-out)特性,设计了 Hurdle 截断高斯残差解码器。首先利用轻量级 MLP 自编码器重构对照基线 \(\hat{x}_c\),随后通过残差网络预测扰动偏移 \(r_{ij} = y_{ij} - x^{\text{ref}}_{ij}\)。伯努利门控决定基因表达是否大于零(\(p^{\text{nz}}_{ij} = \sigma(\ell_{ij})\));在表达非零的条件下,残差服从截断于 \(a_{ij} = -x^{\text{ref}}_{ij}\) 下界的高斯分布,从而在数学上严格保证了重构表达量 \(\hat{y}_{ij} = x^{\text{ref}}_{ij} + r_{ij} \ge 0\) 的非负约束,避免了粗暴截断导致的数值失真。
损失函数 / 训练策略¶
STRAND 采用端到端联合训练,总损失函数为: $\(\mathcal{L} = \lambda_1 \mathcal{L}_{\text{bridge}} + \lambda_2 \mathcal{L}_{\text{align}} + \lambda_3 \mathcal{L}_{\text{rec}}\)$ 其中桥匹配损失 \(\mathcal{L}_{\text{bridge}} = \mathbb{E}[\|\epsilon_\theta(z_t, t, u_p, z_c) - \frac{z_t - z_p}{\sigma_t}\|_2^2]\),\(\mathcal{L}_{\text{align}}\) 采用双向软目标 InfoNCE,\(\mathcal{L}_{\text{rec}}\) 对应 Hurdle 负对数似然。为平衡不同尺度任务梯度的收敛动态,STRAND 引入基于同方差不确定性加权(Uncertainty Weighting)机制动态自适应学习各项权重 \(\sigma_i\),确保跨模态流形稳定优化。在训练采样中混合了无条件模式(用于分类器无关引导 CFG)、源条件模式及常规条件模式。
实验关键数据¶
主实验¶
评估基于 PerturbQA 基准在 K562、Jurkat 和 RPE1 细胞系上的 CRISPR-i 单细胞扰动数据集。主要涵盖两大基准设置:(1)低样本设置(Low-sample,每测试基因允许 5 个细胞参与训练);(2)零样本设置(Zero-shot,测试基因扰动完全未在训练集出现)。评估指标包括判别余弦得分(Discr. Cos \(\times 10\))、能量距离(E-Dist)、差异表达方向匹配率(Dir. Match \(\times 10\))、Top 差异基因精度 Prec.@N、重合度 Ov.@N、差异表达皮尔逊相关系数(\(\Delta\)Pearson)以及均方误差(MSE \(\times 10^2\))。
| 任务场景 | 方法 | Discr. Cos ↑ | E-Dist ↓ | Dir. Match ↑ | Ov.@N ↑ | \(\Delta\)Pearson ↑ | MSE (\(\times 10^{-2}\)) ↓ | 平均排名 (Avg. Rank) ↓ |
|---|---|---|---|---|---|---|---|---|
| 低样本 (Low-sample) | BioLord | 5.04 ± 0.09 | 9.41 ± 0.11 | 6.10 ± 0.04 | 0.40 ± 0.02 | 0.16 ± 0.00 | 1.38 ± 0.04 | 4.71 |
| GEARS | 5.40 ± 0.10 | 1.64 ± 0.06 | 7.05 ± 0.05 | 0.77 ± 0.03 | 0.31 ± 0.01 | 1.19 ± 0.03 | 3.14 | |
| Linear | 5.04 ± 0.09 | 8.90 ± 0.08 | 3.91 ± 0.03 | 1.03 ± 0.03 | 0.19 ± 0.01 | 1.11 ± 0.03 | 3.29 | |
| PerturbMean | 5.02 ± 0.09 | 8.91 ± 0.08 | 8.43 ± 0.03 | 0.58 ± 0.02 | 0.52 ± 0.01 | 1.03 ± 0.03 | 3.29 | |
| STATE | 6.40 ± 0.09 | 12.46 ± 0.11 | 5.75 ± 0.06 | 0.38 ± 0.02 | 0.13 ± 0.01 | 5.06 ± 0.09 | 4.71 | |
| STRAND (本文) | 7.10 ± 0.09 | 2.07 ± 0.05 | 7.69 ± 0.05 | 1.21 ± 0.04 | 0.39 ± 0.01 | 1.04 ± 0.03 | 1.86 | |
| 零样本 (Zero-shot) | BioLord | 5.05 ± 0.09 | 9.44 ± 0.11 | 6.15 ± 0.04 | 0.45 ± 0.02 | 0.15 ± 0.00 | 1.30 ± 0.04 | 3.43 |
| Linear | 5.03 ± 0.09 | 8.91 ± 0.08 | 3.83 ± 0.03 | 1.02 ± 0.03 | 0.20 ± 0.01 | 1.04 ± 0.03 | 2.43 | |
| PerturbMean | 5.02 ± 0.09 | 8.92 ± 0.08 | 8.43 ± 0.03 | 0.58 ± 0.02 | 0.52 ± 0.01 | 1.03 ± 0.03 | 2.43 | |
| STATE | N/A | N/A | N/A | N/A | N/A | N/A | N/A | |
| STRAND (本文) | 5.17 ± 0.09 | 2.38 ± 0.07 | 7.25 ± 0.05 | 1.15 ± 0.04 | 0.34 ± 0.01 | 1.10 ± 0.03 | 1.71 |
注:STATE 依赖已知扰动标记,无法进行零样本基因扰动预测;GEARS 依赖预构建基因互作图谱,在未重叠子集上不可行(在可预测子集上见下文消融分析)。指标中 Ov.@N、Prec.@N、Dir.Match、Discr.Cos 均放大 10 倍显示。
消融实验¶
消融分析分别验证了:(1)生成式传输模块(潜在扩散 vs 确定性 MLP 回归);(2)DNA 扰动模块对高差异基因响应的影响;(3)跨模态 CLIP 对齐损失在各细胞系中的有效性。
| 实验配置 | 评估场景 / 指标 | 指标表现 | 关键结论与说明 |
|---|---|---|---|
| 确定性预测 (Concatenation MLP) | Combined 数据集:能量距离 (E-Dist) | 8.21 | 无法拟合细胞多模态分布,易退化至群体平均 |
| 生成式传输 (STRAND 完整扩散) | Combined 数据集:能量距离 (E-Dist) | 5.02 | 能量距离降低 38.9%,伪群体 \(R^2\) 提升 27.6% |
| 固定 DNA 均值池化 (w/o Perturb Module) | Top-K 差异表达基因:皮尔逊相关性 | 基线水平 | 无法捕捉靶向位点与长程染色质环境的交互作用 |
| 动态注意力扰动 (STRAND 完整模块) | Top-K 差异表达基因:皮尔逊相关性 | 相对提升 12.08% | 差异方向匹配率提升 11.39%,有效提升关键表型保真度 |
| STRAND (w/o CLIP 对齐损失) | K562: Discr. Cos / E-Dist | 6.81 ± 0.17 / 1.42 ± 0.05 | 潜在空间中基因组与转录组的模态位移对齐被弱化 |
| STRAND (完整模型) | K562: Discr. Cos / E-Dist | 7.10 ± 0.17 / 1.53 ± 0.05 | 判别余弦得分显著提高,有效防止潜在空间模式坍塌 |
| STRAND (完整模型) | RPE1: Discr. Cos / E-Dist | 7.04 ± 0.14 / 2.62 ± 0.10 | 对比去 CLIP 版本(6.23 / 2.84),判别性与传输距离均全面占优 |
关键发现¶
- 打破判别性与全局拟合的权衡瓶颈:非参数基线(PerturbMean)因直接预测全局均值,在 MSE 与 \(\Delta\)Pearson 上指标虚高,但在判别余弦得分上极低(\(\approx 0.50\)),完全失去区分不同扰动的生物异质性能力;深度学习基线(如 STATE)具有一定异质性但全局误差与能量距离极差(E-Dist 高达 12.46)。STRAND 实现了两者的统一:在保持高全局精度的同时,判别得分比 STATE 高出 33%(0.71 vs 0.54),并在跨细胞系联合数据上将能量距离削减了 4 倍以上。
- 跨细胞系外推的强大鲁棒性:在“留一细胞系”严苛设置下,当面对从髓系 K562 到上皮 RPE1 的巨大协变量偏移时,现有基线大多退化至接近恒等映射(Identity Baseline),而 STRAND 凭借序列调控语法的内在泛化性,在 K562 迁移任务上相比 STATE 取得 \(\Delta\text{Pearson}\) 提升达 0.14,高变基因方向预测准确率提升超过 10%。
- 位点特异性可变 TSS 的精准定位:在 K562 细胞中针对 FLVCR1 基因进行 100 bp 步长的虚拟扰动扫描实验中,STRAND 成功将非经典转录起始位点 FLVCR1b(内含子内 TSS,驱动红系分化的功能主导转录本)预测为最高干预效应(E-dist = 0.683),显著高于经典位点 FLVCR1a(E-dist = 0.564),完美重现了实验生物学结论;而所有基于基因 ID 的传统方法均无法识别同一基因下的不同启动子差异。
亮点与洞察¶
- 将扰动建模范式从“离散语义标签”重塑为“连续基因组调控场”:打破了以基因符号为最小单位的传统桎梏,利用 DNA 基础模型将扰动接地到具体的核苷酸序列上,把扰动预测的基因组有效搜索空间由 1.5% 的编码区一举扩展至 95% 的全基因组范围。
- 对照锚定的潜在扩散薛定谔桥设计:区别于传统扩散模型从纯各向同性高斯噪声生成样本的范式,STRAND 构建从实测对照组细胞到受扰动细胞的随机扩散流,让模型专注于学习扰动引起的“状态位移向量”,天然适应了基线细胞系状态的异质性。
- 可复用的非对称跨模态对齐技巧:在冻结 RNA 编码器的前提下,通过维持 EMA 扰动位移原型库与 RNA 软目标双向 InfoNCE 损失,有效避免了多模态表征微调过程中的单细胞特征畸变与表示坍塌。
局限与展望¶
- 作者承认的局限性:当前基准数据中使用的 CRISPR-i 干预窗口主要基于经典 TSS 上下文 \(\pm 200\) bp 的粗粒度掩码,尚未显式融合 sgRNA 的精确核苷酸序列及其切割结合效率;此外,单细胞测序数据集中非编码区调控扰动的实验真值仍然相对匮乏。
- 延伸思考与局限:模型所依赖的预训练 DNA 骨干网络(Borzoi)上下文窗口固定在 524 kb,对于数兆碱基(Mb)尺度的超远端增强子-启动子环化互作(如复杂 CTCF 绝缘子介导的高阶三维基因组构象)仍难以完全捕捉;且扩散逆向去噪采样耗时较高,难以直接部署在亿级单细胞筛选流水线中。
- 改进方向:后续可探索引入配对 Hi-C / Micro-C 三维基因组接触图谱作为结构偏置,将单步一致性模型(Consistency Models)或整流流(Flow Matching)融入扩散传输,大幅削减采样推理延迟。
相关工作与启发¶
- vs GEARS / BioLord / STATE:上述主流方法均基于离散基因标识符或基因功能网络(GO 图)构建扰动先验,不仅分辨率粗糙(\(\sim 27\) kb 基因均值),且完全无法推广至非编码调控元件或同一基因的可变剪接位点;STRAND 首次将输入粒度细化至 0.1 kb 序列级,实现了真正的全基因组序列可感知的扰动推断。
- vs DNA 基础模型(Borzoi / AlphaGenome):DNA 序列模型属于预设轨道的“序列-表观活性”预测器,仅能预测局部窗口内的表观修饰或转录活性,无法建模全转录组的单细胞异质性响应与细胞类型状态变迁;STRAND 通过将 DNA 序列嵌入投影至 RNA 潜在流形,打通了从“局部 DNA 序列干预”到“全局单细胞转录组动力学”的完整通路。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次将单细胞基因扰动预测从离散基因标识符拓展到基于调控 DNA 序列的最优传输与扩散建模,概念与架构极具开拓性。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖三类细胞系、低样本、零样本、跨细胞系留一泛化、消融实验以及多位点 in silico 序列扫描案例研究,证据链扎实完整。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑结构层次分明,方法论推导严谨自洽,对生物学背景与数学物理映射的阐述清晰透彻。
- 价值: ⭐⭐⭐⭐⭐ 为功能基因组学、非编码区疾病变异解读及精准基因编辑虚拟筛选提供了首个通用且高分辨率的基础算法模型。