pCoMole: Pareto-Constrained Molecule Editing with Discrete Flows¶
会议: NeurIPS 2026
arXiv: 2610.01663
代码: https://huggingface.co/ChatterjeeLab/pCoMole
领域: 计算生物
关键词: 分子编辑, 离散流匹配, 多目标优化, 帕累托前沿, 杜布h变换
一句话总结¶
针对变长生物大分子序列在序列缩减与多目标优化中难以严格满足生化可行性约束的难题，本文提出了基于离散流匹配与杜布-h变换的 Pareto 约束分子编辑框架 pCoMole，在 GFP、Cas9 缩减与拟肽结合剂压缩中实现了严格的可行性保证与优异的多目标权衡，并在大肠杆菌湿实验中验证了缩减 10 个残基的 eGFP 仍保留完整绿色荧光。
研究背景与动机¶
生物大分子药物与基因编辑工具的工程化改造极少从头（de novo）设计，而是普遍始于具有已知活性的天然前驱序列，通过靶向编辑持续提升其疗效与成药性，并严格满足生化相容性与可生产性等硬性约束。在诸多临床前与临床应用场景中，序列缩减（sequence shrinkage）往往是核心驱动目标：例如，革命性基因编辑工具 CRISPR-Cas9 的天然序列体量过大（通常超过 1300 个氨基酸），严重超出了主流重组腺相关病毒（AAV）载体的有效包装容量限制，迫切需要对骨架进行攻击性缩短，同时严苛保持对特定原间隔相邻基序（PAM）的特异性识别与切割活性；在胰岛素类似物、单克隆抗体或 GLP-1R 类似物的开发中，消除冗余骨架片段亦能大幅降低化学合成成本并改善药代动力学性质。
然而，现有的离散序列生成与优化方法无法有效协同多目标优化、离散变长编辑与终端硬约束满足。传统的基于贝叶斯优化、进化算法或强化学习的方法高度依赖繁重且昂贵的在线预言机评估，且缺乏在复杂非均匀变长离散序列空间中进行连续时间编辑的内在动力学；近年来涌现的离散扩散模型与离散流匹配（Edit Flows）虽然开创了基于局部插入、删除与替换的变长序列演进机制，但绝大多数受控引导方案仅面向从头生成任务，要么将约束处理为软惩罚项导致可行解命中率极低，要么采用标量化目标退化为单目标搜索，无法为用户提供可控探索 Pareto 前沿的引导工具。
面对在广阔离散变长空间中既要定向缩短骨架、又要沿 Pareto 前沿平衡多个物理生化目标、且必须 100% 满足终端硬可行性约束的核心矛盾，本文提出了离散流引导编辑框架。核心 idea：在预训练变长 Edit Flows 连续时间马尔可夫链之上，构建基于增强切比雪夫效用与可行性门控的终端倾斜目标分布，通过杜布-h变换将不可行的中间状态解耦并导出精确引导流速，进而利用短蒙特卡洛展开与候选剪枝实现高效、具备理论一致性保证的离散分子编辑。
方法详解¶
整体框架¶
pCoMole 将生物序列的编辑建模为变长离散符号空间 \(\mathcal{X}=\bigcup_{n=0}^N \mathcal{T}^n\) 上的连续时间马尔可夫链（CTMC）引导过程。系统以天然或待改造分子序列 \(x_0\) 作为初始状态，以预训练的无条件 Edit Flow 速率场 \(u_t(\cdot \mid x)\) 作为局部变动提议分布（涵盖单点插入 \(\mathrm{ins}\)、删除 \(\mathrm{del}\) 与替换 \(\mathrm{sub}\)）。在编辑过程中，算法无需强制中间过渡态满足约束，允许轨迹临时跳出可行域以完成复杂的协同结构重排；但在终端 \(t=1\)，通过显式构造包含硬约束指示因子的增强切比雪夫效用函数，形成对终端高价值可行态的倾斜测度 \(q_G(x_1 \mid x_0) \propto q(x_1 \mid x_0) G(x_1)\)。
为了驱动连续时间链在每一步演进时朝向该倾斜目标演化，pCoMole 引入杜布-h变换（Doob's \(h\)-transform），利用空时调和函数 \(h_t(x) = \mathbb{E}[G(X_1) \mid X_t=x]\) 调整转移速率。针对庞大序列空间下调和函数无闭式解的问题，算法在每个决策步抽取候选编辑事件集合，基于短蒙特卡洛前向展开计算对数域调和函数估计值，并结合快速标量化筛选与最优可行解缓存（Incumbent Tracking），稳定输出兼顾长度缩减与多维物化性质的最终设计。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入分子序列 x0<br/>(GFP / Cas9 / 拟肽结合剂)"] --> B["预训练 Edit Flows 提议分布<br/>生成候选编辑集合 {yc}"]
B --> C["可行性门控与增强切比雪夫偏好 G(x)<br/>定义多目标 Pareto 终端分布"]
C --> D["杜布-h 变换引导速率<br/>Doob-h Transform 理论倾斜"]
D --> E["短蒙特卡洛展开与对数域稳定估计<br/>Monte Carlo Rollout 估算调和函数"]
E --> F["候选快速剪枝与最优可行解缓存<br/>Pruning & Incumbent Tracking"]
F --> G["输出最终优化分子 x_out<br/>严格满足可行性与显著缩短"]关键设计¶
1. 可行性门控与增强切比雪夫偏好函数：实现严格可行性下的非凸 Pareto 前沿探索
传统多目标优化常采用线性加权和，但在非凸 Pareto 前沿面上极易丢失边界凸凹区域的最优解，且通过惩罚项处理硬约束容易产生大量生化不可行样本。pCoMole 首先在目标空间中引入增强切比雪夫效用（Augmented Tchebycheff, ATC）： $\(U(x) \coloneqq \min_{k \in \{1,\dots,K\}} \omega_k \left(f_k(x) - r_k\right) + \rho \sum_{k=1}^K \omega_k \left(f_k(x) - r_k\right)\)$ 其中 \(\omega \in \mathbb{R}_{>0}^K\) 为用户自定义的偏好权重向量，\(r \in \mathbb{R}^K\) 为参考理想点，\(\rho > 0\) 为微小正数。ATC 效用保证了对 Pareto 支配关系的严格单调性，能够通过调节权重覆盖整个离散前沿。随后，pCoMole 将生化与生产制造等硬约束集合 \(\mathcal{F} = \{x: g_m(x) \le 0, h_\ell(x) = 0\}\) 构建为刚性指示因子，定义终端偏好函数： $\(G(x) \coloneqq \exp\left(\beta U(x)\right) \mathbb{I}[x \in \mathcal{F}]\)$ 当且仅当序列在终端时刻严格满足所有生化分类器、光谱波段或分子有效性约束时赋予正偏好权重，任何不可行状态直接被赋予 \(0\) 测度，从根本上排除了不可行终态的生成。
2. 杜布-h变换引导流速：将终端分布精确反传为局部编辑转移率
为了使连续时间流从初始状态 \(x_0\) 演化到目标倾斜分布 \(q_G(x_1 \mid x_0) \propto q(x_1 \mid x_0) G(x_1)\)，算法利用概率测度变换中的杜布-h变换，定义空时调和函数 \(h_t(x) \coloneqq \mathbb{E}[G(X_1) \mid X_t = x]\)。根据鞅性质，导出偏置马尔可夫链的非对角转移速率： $\(u_t^G(y \mid x) \coloneqq u_t(y \mid x) \frac{h_t(y)}{h_t(x)}, \quad y \neq x\)$ Proposition 3.1 严格证明了在调和函数严格正的连通路径上，由上述速率驱动的编辑流终态分布与理论目标测度 \(q_G\) 完全一致。这一设计的深层机制在于：它利用比值 \(h_t(y) / h_t(x)\) 对基础 Edit Flow 提议的局部突变（插入、删除、单点置换）赋予了前瞻性权重——若某一局部编辑 \(y\) 具有极高的概率在后续演变中演化为高适应度且完全满足硬约束的终态，其发生速率被成倍放大；反之，若后续分支必然导向不可行，其比值趋于 0，该编辑事件被即时阻断。
3. 短蒙特卡洛展开与对数域稳定估计：解耦高维期望并消除数值溢出
高维离散序列空间中精确求解 \(h_t(y)\) 计算不可行，pCoMole 采用短步长蒙特卡洛展开进行在线逼近。在时间点 \((t, x_t)\)，算法首先从基础速率场 \(u_t(\cdot \mid x_t)\) 中采样 \(C\) 个候选突变状态 \(\{y_c\}_{c=1}^C\)；对于每一个候选状态 \(y_c\)，利用未偏置的基础 Edit Flow 独立仿真 \(R\) 条快速前向轨迹至 \(t=1\)，生成终端态集合 \(\{X_1^{(c, r)}\}_{r=1}^R\)。为了防止大分子评分在指数项中导致数值溢出，算法完全在对数域执行计算，推导对数偏好 \(\ell(x) = \beta U(x) + \log \mathbb{I}[x \in \mathcal{F}]\)（不可行时自然计为 \(-\infty\)），并使用 LogSumExp 算子估计调和函数： $\(\log \widehat{h}_t(y_c) = \log \sum_{r=1}^R \exp\left(\ell(X_1^{(c, r)})\right) - \log R\)$ 进而计算候选归一化抽样概率。理论分析表明（Proposition C.3-C.5），单步估计具备乘性稳定性界，多步累积误差在有限步长下保持受控，保证了有限展开步数对理论 Pareto 偏好的渐近逼近。
4. 候选快速剪枝与最优可行解缓存（Pruning & Incumbent Tracking）
由于每次展开都需要调用下游预言机评估性质，全局无差别展开计算成本过高。pCoMole 设计了双阶段防御性计算剪枝策略：第一阶段在生成候选突变后，先计算一次无需复杂展开的即时启发标量化得分，直接剔除劣于当前状态的候选；第二阶段在完成 \(R\) 次展开后，若某一候选的所有展开终态皆为不可行（\(\log \widehat{h}_t(y_c) = -\infty\)）或其观测到的最佳可行偏好不及当前分子，则立刻剪枝舍弃。同时，算法在整个多步编辑历程中维持一个全局最优可行序列缓存池 \(\mathcal{S}\)，在循环结束后从所有实际生成的可行展开解中选取 \(\arg\max_{x \in \mathcal{S} \cap \mathcal{F}} G(x)\) 作为最终输出。这一机制在数学上严格保证了算法单调性，即使主编辑链中途偶发停滞，也不会退化为不可行分子。
损失函数 / 训练策略¶
底层 Edit Flows 采用基于最少对齐（least optimal alignment）的流匹配目标训练。在带空位标记 \(\varepsilon\) 的对齐空间中，损失函数形式化为： $\(\mathcal{L}(\theta) = \mathbb{E}\left[\sum_{x \neq x_t} u_t^\theta(x \mid x_t) - w_t \sum_{i \in \Delta_t} \log u_t^\theta\left(x_t^{(i)} \mid x_t\right)\right]\)$ 在编辑阶段，底层 Edit Flow 权重完全冻结。对于针对性缩短任务，针对性配置引导超参数：在 GFP 与 Cas9 缩减中，算法将插入速率显式置零（\(\lambda_{\mathrm{ins}} = 0\)），并将删除速率放大 100 至 3000 倍以提供强大的缩短动力；多目标评分中引入各领域专用预测模型（如 FPredX 预测荧光波长与亮度、Protein2PAM 预测 Cas9 识别基序交叉熵、PeptiVerse 预测结合亲和力），完全通过无梯度前向打分驱动杜布-h采样。
实验关键数据¶
主实验¶
实验在三项高难度生物分子缩减任务中展开：GFP 蛋白缩短、Cas9 核酸内切酶缩减（保留 PAM 特异性）及基于 SELFIES 表达的短拟肽结合剂压缩（多达 7 维药代物化性质联合优化）。与现有最先进蛋白质缩减模型 RayGun 与扩散缩短模型 SCISOR 进行了全面横向对比。
表1：固定长度（213 残基）GFP 缩短设计对比（输入原长 238 残基，各方法生成 100 条候选）
| 方法 | 激发波长偏差 \(|\lambda_{\mathrm{exc}} - 488|\) (nm, ↓) | 预测荧光亮度 Brightness (↑) | 序列有效率 Validity Rate | | :--- | :--- | :--- | :--- | | RayGun | 22.3594 | 9.4207 | ~100% | | SCISOR | 20.1279 | 19.0333 | ~100% | | pCoMole (UniRefS 骨架) | 5.8213 | 43.5116 | 100% | | pCoMole (GFP 专用骨架) | 8.4372 | 49.0121 | 100% |
在固定截断至 213 氨基酸的实验中，pCoMole 展现出极其显著的物化性质保留与优化能力，预测亮度相比 SCISOR 提升超过 150%，且激发波长紧密对齐生物实验常用的 488 nm 激光谱线。
表2：Cas9 直系同源物缩短与 PAM 识别基序保持性能评测（生成 50 条序列统计平均）
| 原型 Cas9 | 长度变化 (aa) | Cas9 似然度评分 | PAM 分布交叉熵 (↓) | PAM 严格匹配率 | 保留的 PAM 基序 |
|---|---|---|---|---|---|
| SpCas9 | \(1368 \to 1211\) (-157) | \(1.00 \to 0.97\) | \(0.97 \to 0.90\) | 1.00 (100%) | NGG |
| St1Cas9 | \(1121 \to 1023\) (-98) | \(1.00 \to 0.98\) | \(0.91 \to 0.89\) | 1.00 (100%) | NNANAA |
| St3Cas9 | \(1388 \to 1301\) (-87) | \(1.00 \to 0.95\) | \(0.94 \to 0.90\) | 1.00 (100%) | NGGNG |
| GeoCas9 | \(1087 \to 1035\) (-52) | \(0.96 \to 0.95\) | \(0.93 \to 0.89\) | 1.00 (100%) | NNNNCNAA |
在大型基因组编辑酶测试中，pCoMole 实现了高达 157 个氨基酸的大跨度缩减，且所有测试种属的 PAM 预测匹配率均达到严格的 100%。
表3：三类临床代表性拟肽药物多目标压缩设计（各 100 条生成序列均值）
| 靶点 / 药物 | 设计方法 | 序列长度 | 非毒性 | 溶解度 | 膜透性 | 半衰期 (h) | 亲和力 | Pocket Motif | 特异性 |
|---|---|---|---|---|---|---|---|---|---|
| PTH1R (Teriparatide) | 原始药物 | 259 | 0.8890 | 0.6905 | 0.2793 | 2.8301 | 0.9148 | 0.2696 | 0.9834 |
| PTH1R | pCoMole | 217 | 0.8729 | 0.7268 | 0.2959 | 2.9488 | 0.9358 | 0.3593 | 0.9706 |
| p53 (p28) | 原始药物 | 170 | 0.8533 | 0.6737 | 0.2627 | 2.2015 | 0.6369 | 0.5418 | 0.9873 |
| p53 | pCoMole | 133 | 0.8076 | 0.6309 | 0.3071 | 3.8517 | 0.6885 | 0.5014 | 0.9649 |
| GLP-1R (Semaglutide) | 原始药物 | 248 | 0.8872 | 0.7656 | 0.2583 | 1.8571 | 0.9467 | 0.4691 | 0.9827 |
| GLP-1R | pCoMole | 186 | 0.8122 | 0.7240 | 0.2985 | 4.0277 | 0.9367 | 0.5212 | 0.9778 |
消融实验¶
为定量剖析各核心机制对多目标优化与可行性生成的支撑作用，论文开展了充分的消融评测。
表4：GFP 目标引导消融实验（每组 100 条序列，均施加软长度缩减约束）
| 激发波长引导 | 荧光亮度引导 | \(|\lambda_{\mathrm{exc}} - 488|\) (nm, ↓) | 荧光亮度 Brightness (↑) | 缩短后平均长度 | 绿色荧光可行率 | | :---: | :---: | :---: | :---: | :---: | :---: | | ✓ | ✓ | 3.7557 | 54.0159 | 214 | 100% | | ✓ | ✗ | 2.9810 | 31.2600 | 213 | 100% | | ✗ | ✓ | 12.9500 | 62.1200 | 214 | 100% | | ✗ | ✗ | 32.8200 | 25.0200 | 213 | 100% |
表5：拟肽结合剂设计中终端约束消融（PDB 3AMA 与 5JHF 靶点，100 条序列均值）
| 约束配置 | 3AMA 长度 | 3AMA 亲和力 | 3AMA 拟肽有效率 \(R_{\mathrm{PM}}\) | 3AMA 长度达标率 \(R_{\mathrm{LEN}}\) | 5JHF 长度 | 5JHF 亲和力 | \(R_{\mathrm{PM}}\) | \(R_{\mathrm{LEN}}\) |
|---|---|---|---|---|---|---|---|---|
| 完整约束 (PM+LEN) | 129 | 0.6946 | 1.00 | 1.00 | 70 | 0.6327 | 1.00 | 1.00 |
| 仅拟肽有效性 (PM only) | 112 | 0.6666 | 1.00 | 0.27 | 54 | 0.5861 | 1.00 | 0.42 |
| 仅长度约束 (LEN only) | 131 | 0.6947 | 1.00 | 1.00 | 72 | 0.6319 | 0.99 | 1.00 |
| 无约束基线 (None) | 21 | 0.4696 | 0.10 | 0.02 | 7 | 0.4342 | 0.00 | 0.00 |
关键发现¶
- 终端约束消除不可逆坍缩：当移除所有约束时，模型出现严重的“极度坍塌”现象（序列长度退化至 7~21 个 token），且结合活性与特征基序丧失殆尽；引入软长度约束能有效遏制长度雪崩，而加入 RDKit 硬拓扑有效性约束则使合格成药结构达到 100% 保证。
- 高阶质量门槛下的计算效率逆转：在生成满足高标准可用样本的时间预算对比中（Table 3），虽然在极低质量阈值下无引导的 SCISOR 耗时更短，但在高标准设定（High Tier）下，SCISOR 与 RayGun 由于缺乏联合控制机制而陷入持续尝试-失败的死循环，最终超时（N.A.）；而 pCoMole 耗时维持在恒定的 130~140 秒左右，展现出随着约束收紧其引导效率越发显著的反直觉优势。
- 湿实验生物表型验证突破：除计算模拟外，研究团队在大肠杆菌 BL21 细胞中对 2 种经 pCoMole 缩短 10 个氨基酸残基（239 aa 缩短至 229 aa）的 eGFP 变体进行了转化表达。在 488 nm 荧光显微成像下，两款变体均展现出清晰的绿色荧光信号，而手工截断 11 个残基的阴性对照则完全丧失荧光活性。
亮点与洞察¶
- 离散变长连续时间流上的杜布-h引导创新：跳出了传统离散扩散模型固定长度与加噪去噪范式的束缚，首次在离散变长 Edit Flow 上严格推导出可解耦中间不可行状态的连续时间杜布变换，数学形式优雅且通用。
- 对数域蒙特卡洛与自适应剪枝策略：针对高维调和函数不可解的工程困境，设计了基于对数均值指数算子（Log-Mean-Exp）的稳定估计器，并配合启发式标量化前置剪枝，成功在有限计算开销下维持了 Pareto 探索的理论乘性保证。
- 打通计算流匹配与合成生物学湿实验闭环：不仅在 Cas9、GFP、拟肽药物上刷新了在构象保留、活性识别上的计算基准，更用严谨的体外表达验证了复杂 \(\beta\)-桶状折叠在经历 10 个位点缺失重组后仍具荧光表型，展示出极高的实用价值。
局限与展望¶
- 展开评估引入的显著算力开销：在每一步编辑中都需要对 \(C\) 个候选状态执行 \(R\) 次前向蒙特卡洛展开，导致每个候选分子的生成耗时显著高于无引导的单步自回归或普通扩散采样器，大规模高通量筛选存在吞吐量瓶颈。
- 依赖正向离线预言机的准确度与鲁棒性：引导质量上限取决于下游属性预测模型（如 FPredX、Protein2PAM、PeptiVerse）在序列缩短后的域外泛化能力，若预言机出现对抗性盲区，可能引导模型生成假阳性结果。
- 未来方向：探索训练紧凑的价值网络（Value Network / Critic）来直接蒸馏替代在线蒙特卡洛展开，并进一步将方法拓展到多聚体复合物设计与全长抗体 CDR 区骨架剪裁。
相关工作与启发¶
- vs. 结构引导的蛋白质缩减模型 (RayGun / SCISOR)：RayGun 依赖固定维度的潜在空间映射再解码，SCISOR 采用反向插入式扩散模拟删除。二者均专注于单维度的几何长度缩短，无法灵活控制物化属性并在非凸前沿上协同平衡多目标；pCoMole 则将缩减融入多目标编辑框架，支持变长探索与特定 PAM/荧光功能的严格锁定。
- vs. 基于强化学习与进化算法的分子优化 (MolDQN / GCPN / CMOMO)：RL 与 GA 依赖大量的在线预言机交互调用，采样样本易丧失序列多样性且在大型变长蛋白质空间中收敛极慢；pCoMole 立足于离线预训练的 Edit Flow 动力学先验，仅在采样推断时引入杜布-h偏置，兼顾了生成合理性与采样探索效率。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次将杜布-h变换与离散变长流匹配结合，开创了带硬约束的离散多目标分子编辑新范式。
- 实验充分度: ⭐⭐⭐⭐⭐ 涵盖 GFP、Cas9、拟肽结合剂三大代表性模态，涵盖算法消融、理论证明与体外细菌表达荧光湿实验。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑主线清晰，数学推导详尽，对数域数值稳定性处理与理论误差分析严密透彻。
- 价值: ⭐⭐⭐⭐⭐ 针对基因编辑工具 AAV 载体递送瓶颈与多肽药物口服利用度等临床卡脖子难题，提供了切实可行的计算缩短与优化路径。