AgentFold: Closed-Loop Agentic Search for Protein Folding Model Design¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/lmqfly/AgentFold
领域: LLM Agent
关键词: LLM Agent、蛋白质结构预测、闭环代码搜索、蒙特卡洛树搜索、AI for Science
一句话总结¶
AgentFold 构建了面向科学机器学习代码库的闭环多智能体搜索框架,基于 MCTS 树控制器在 ESMFold 紧凑底座上迭代执行代码修改、自动调试与昂贵结构验证,不仅将最佳 lDDT 相比独立 Codex 提议提升 7.5%,还首次系统沉淀了指导几何深度学习设计的经验归纳模式。
研究背景与动机¶
大语言模型智能体(LLM Agents)近期在科学文献综述、自动化假设生成以及实验规划中展现出巨大潜力,但这些工作多停留在自然语言层面的方案构思或浅层脚本生成。在真实的科学机器学习(Scientific ML)研发场景中,系统往往由数千行高度耦合的专业代码构成,各个模块之间存在微妙的几何不变性与复杂的反向传播约束,仅仅提出看似合理的自然语言构想或独立代码片段远远无法转化为真正有效的科学模型。
这种矛盾在蛋白质结构预测领域尤为突出。现代蛋白质折叠系统(如 AlphaFold2、ESMFold)深度集成了残基序列与残基对表征、迭代几何细化(Structure Module / IPA)、循环机制(Recycling)以及复杂的结构损失函数(如 FAPE 损失与违规惩罚)。对这类系统的改进不仅需要多模块协同的代码级精确干预,而且每次验证都需要消耗高昂的 GPU 训练算力,并在局部距离精度(lDDT)、全局拓扑(TM-score、RMSD)以及立体化学物理合理性(MolProbity)等多维度指标之间进行权衡。现有代码生成智能体在缺乏领域约束和长期闭环验证时,极其容易陷入语法崩溃、参数游离或破坏几何流形等灾难性失败。
为了突破这一瓶颈,本文将科学机器学习模型的自主研发形式化为在可执行代码变体树上的闭环搜索问题。系统不能只停留在代码生成助手角色,而必须具备从真实运行反馈中归因成败、动态调整算力分配并积累结构化经验的能力。核心 idea:构建面向蛋白质折叠代码库的双循环多智能体搜索系统 AgentFold,利用 MCTS 树控制器在紧凑 ESMFold 底座上协调「去重-统一规划实现-交互调试-评估归因」闭环,在代码空间探索高价值结构干预并沉淀出可复现的经验设计范式。
方法详解¶
整体框架¶
AgentFold 将折叠模型研发建模为在可执行代码变体树上的启发式搜索,核心目标是双重的:一是自主产出超越基线的优势模型变体,二是从反复试错的干预轨迹中提炼出结构化的经验设计模式集合 \(\mathcal{P} = \{P_k\}_{k=1}^K\)。为兼顾昂贵训练算力的利用效率与探索广度,AgentFold 采用「内层探索闭环 + 外层周期同步」的双循环架构。
内层闭环以当前代码快照为父节点,依次通过上下文总结、去重拦截、统一规划与编码、交互式实时调试、多目标训练评估以及多维度归因分析,完成一次完整的变体演化;外层周期更新则以批次为单位(默认每 10 次内层迭代触发一次),由算法指标解析器结合 Critic Agent 评审综合计算得分,对经验池中的搜索树节点价值进行回传更新,动态引导下一阶段 Top-\(k\) 采样的算力倾斜。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["经验池树节点<br/>可执行代码变体"] --> B["动态采样与上下文总结<br/>Top-k 高分分支与相似成败对比"]
B --> C["自演化智能体链<br/>去重检查 → 统一规划与代码实现"]
C --> D["交互式调试与训练执行<br/>Debugger 实时捕获异常并反馈修复"]
D --> E["多目标归因与经验挖掘<br/>Analyst 归因增益并提取设计模式"]
E --> F["文献检索与元数据留存<br/>Searcher 关联外部证据写入数据库"]
F --> G["周期更新与综合评分<br/>客观指标与 Critic 联合更新树策略"]
G -->|更新搜索树价值| A
关键设计¶
1. 动态采样与上下文总结:在高分聚焦与模式对比之间平衡搜索算力
针对长周期科学探索中训练成本极高的问题,AgentFold 放弃了纯随机或无记忆的离散提议,引入基于 MCTS 的动态采样机制。Sampler 会从经验池中同时选取高得分节点与具有代表性的多样化参考节点作为父代,并在同一个父节点下采样多个兄弟变体,以构建局部代码受控对比。在生成新提案前,Summarizer Agent 会检索历史数据库中与当前父节点相似的编辑类型或历史失败模式,浓缩成一份包含正面增益、致命缺陷以及当前候选设计模式的紧凑上下文简报,使后续规划代理在立项时能够精准避开已知死胡同。
2. 自演化智能体链与统一规划实现:消除设计与代码落地的接口不匹配
传统多智能体系统常将「架构设想」与「代码编写」拆分给不同角色,在复杂的科学模型中极易因理解偏差导致接口断裂或语法挂起。AgentFold 采用高度收敛的自演化流水线:首先由 Deduplicator Agent 依据问题定义、作用机制、序列尺度和贡献预期等严格标准对研究方向进行保守去重;随后由 Unified Planner 独立负责从架构机理构思到完整可执行代码编写的全过程。代码进入执行环境后,专门的 Debugger Agent 实时监听输出日志,一旦捕获语法错误、张量维度不一致或运行时异常,便就地提取堆栈追踪信息,与 Unified Planner 交互回传补丁,直至训练脚本成功拉起。
3. 多目标归因分析与文献增强记忆:将试错痕迹转化为经验设计范式
在模型完成 150 轮训练或遭遇不可逆失败后,系统触发双通道事后分析。第一通道由 Analyst Agent 对训练动态、结构指标(lDDT、TM-score、RMSD、MolProbity、接触图精度)以及具体代码差异进行深入归因,输出结构化报告,判断本次实验是支持、反驳还是修正了先验假设模式;第二通道由 Searcher Agent 依据所观察到的特定失效机理(如注意力崩溃或流形扭曲)检索外部文献并建立关联,所有快照、代码 diff 与归因记录沉淀入中央元数据数据库。通过对全树数十次干预痕迹的系统梳理,AgentFold 提炼出三条关键经验设计范式: - P1: Bias before geometry(先验先于几何):在坐标生成之前,向初始残基对表征或 IPA 的注意力 logits 中注入软先验(如残基索引差异偏置、序列距离平滑项)能够显著引导注意力分布并提升局部残基精度;反之,若在结构细化后直接给骨架刚体变换或扭转角施加硬性偏移,极易造成训练发散。 - P2: Multiplicative refinement(乘性门控细化):对骨架更新量采用 Sigmoid 等乘性门控缩放能够自适应抑制不确定区域的扰动幅值;相比之下,粗暴施加加性位移约束会破坏几何演化轨迹。 - P3: Avoid geometry-to-attention feedback(避免几何回灌注意力):在初期预测坐标尚不精确时,若将几何距离或微分几何特征反向注入到后续注意力计算中,会形成正反馈误差放大回路,导致折叠灾难性瓦解。
4. 周期更新与混合评价函数:兼顾硬性验证与实现风险的多尺度评分
标准 MCTS 在每次展开后立即更新节点,而蛋白质折叠训练耗时漫长,单次小样本变体易引入随机波动。AgentFold 引入每 10 次迭代一次的批次周期同步机制,采用由客观物理指标与主观风险评审协同构成的混合评分函数:
其中 \(S_L(e)\) 为训练损失得分,\(S_B(e)\) 为基于 CAMEO2022 开发集自动计算的基准结构得分(涵盖 lDDT、Backbone lDDT、oligo GDT-TS、RMSD 及 TM-score 的基线归一化加权聚合 NWRS),而 \(S_A(e)\) 则由 Critic Agent 对该变体干预逻辑的理论自洽性、代码实现风险及潜在不稳定性进行审阅打分。\(S_A\) 仅用于前瞻性调整搜索树分支的探索优先级,绝不参与最终模型的科学性能宣称,从而有效防止了伪优变体浪费后续搜索算力。
一个完整示例:从构想到高分变体的演化轨迹¶
在探索局部环区精度优化的分支上,系统展示了典型的协同推演过程:
1. 采样与上下文提示:以基准 ESMFold 为父节点,Summarizer 提示「直接在刚体更新模块叠加位置偏置(如早期变体 #11)会导致模型崩溃(lDDT < 0.005),建议尝试坐标实例化前的隐式表征干预」。
2. 去重与规划实现:Deduplicator 核准该方向未被探索。Unified Planner 设计了变体 esmfold_struct_enhanced_v4(索引 #36),在保留 IPA 核心计算流的基础上,前置一个以残基索引为条件的微型 MLP,将学习到的动态序列偏置 \(b_{\text{seq}}^h(\Delta \text{residx}_{i,j})\) 与结构先验 \(b_{\text{struct}}^h(s_i, s_j)\) 注入注意力 logits:
$\(a_{h,i,j} = \alpha \langle q_{h,i}, k_{h,j} \rangle + b_h(z_{i,j}) + b_{\text{dyn}}^h z_{\text{bias}_{i,j}} + b_{\text{seq}}^h(\Delta \text{residx}_{i,j}) + b_{\text{struct}}^h(s_i, s_j) + \text{point\_term}_{h,i,j} + \text{mask}_{i,j}\)$
同时在骨架刚体更新量 \(\Delta \in \mathbb{R}^6\) 后附加可学习的门控参数 \(g \in \mathbb{R}^6\) 进行逐元素乘性缩放:\(\Delta \leftarrow \Delta \odot \sigma(g)\)。
3. 调试与评估执行:Debugger 验证无张量形状冲突后,在 1,000 条链的精简数据集上启动 150 轮训练。验证集输出 lDDT 从 0.232 跃升至 0.285,NWRS 达到全树最高的 0.526,参数量仅从 22.61M 微增至 22.86M(增幅仅 1.1%)。
4. 归因沉淀:Analyst 提炼并写入证据库,明确记录「前置注意力偏置引导了柔性区信息流,而骨架门控有效滤除了未稳定区域的大幅位移,二者协同产生了最佳局部与环区重构精度」。
实验关键数据¶
主实验¶
实验在紧凑版 ESMFold 单层 Folding Trunk 底座上展开(训练集为经 MMseqs2 聚类采样的 1,000 条 PDB 单链),在 CAMEO2022 开发基准上对探索产出的变体进行多维度评测。基准对比实验设定在相同的 36 次昂贵评估预算下,对比了 AgentFold、独立 Codex 提议基线以及随机搜索控制器。
| 方法 / 变体 | 评估预算 | Best lDDT ↑ | Top-5 lDDT ↑ | Best NWRS ↑ | Top-5 NWRS ↑ |
|---|---|---|---|---|---|
| Random controller | 36 次评估 | 0.260 | 0.242 | 0.510 | 0.506 |
| Codex proposals | 36 次评估 | 0.265 | 0.257 | 0.512 | 0.509 |
| AgentFold (Ours) | 36 次评估 | 0.285 | 0.267 | 0.526 | 0.516 |
在代表性代码变体的详细多指标对比中(以原始 ESMFold 基线为参照),AgentFold 产出的一系列高 NWRS 变体均展现出稳定且显著的局部结构精度提升,同时保持了全局折叠拓扑的完整性。
| 模型变体 | NWRS ↑ | bb_lddt ↑ (均值/中位数) | lddt ↑ (均值/中位数) | oligo_gdtts ↑ (均值/中位数) | rmsd ↓ (均值/中位数) | tm_score ↑ (均值/中位数) |
|---|---|---|---|---|---|---|
| esmfold (基线绝对值) | 0.500 | 0.644 / 0.651 | 0.232 / 0.220 | 0.564 / 0.570 | 7.380 / 5.358 | 0.648 / 0.693 |
| esmfold_struct_enhanced_v4 (#36) | +0.026 | +0.009 / +0.010 | +0.053 / +0.059 | +0.005 / -0.003 | +0.082 / -0.038 | +0.004 / -0.012 |
| esmfold_struct_local_context_v1 (#47) | +0.020 | +0.002 / +0.006 | +0.049 / +0.044 | -0.001 / -0.005 | +0.176 / -0.129 | +0.001 / -0.012 |
| esmfold_struct_dist_aware_v1 (#28) | +0.018 | +0.011 / +0.014 | +0.027 / +0.024 | +0.011 / +0.020 | -0.088 / -0.134 | +0.011 / -0.009 |
| esmfold_struct_enhanced_multiscale_v2 (#50) | +0.017 | +0.007 / +0.014 | +0.045 / +0.049 | +0.004 / +0.006 | +0.261 / +0.338 | +0.001 / -0.019 |
| esmfold_net_conformal_geometric_attention (#31) | +0.017 | -0.006 / -0.008 | +0.043 / +0.046 | -0.006 / +0.011 | -0.063 / +0.240 | -0.005 / -0.001 |
| esmfold_struct_enhanced_v1_dup2 (#58) | +0.014 | +0.012 / +0.010 | +0.023 / +0.025 | +0.007 / +0.010 | +0.029 / -0.038 | +0.007 / -0.009 |
消融与定向分析¶
针对综合表现最强的 esmfold_struct_enhanced_v4,论文进行了模块消融以及深度 Folding Trunk(8 层 Evoformer block)下的可扩展性与鲁棒性验证。
| 模型配置 | 设定 | 平均 lDDT | 平均 bb_lddt | GDT-TS | NWRS | 说明 |
|---|---|---|---|---|---|---|
| ESMFold (基线单运行) | 1-block trunk | 0.238 | 0.638 | 0.552 | 0.500 | 基础对照 |
| Enhanced v4 (完整模型) | 1-block trunk | 0.274 | 0.648 | 0.564 | 0.521 | 完整双机制增益 |
| Enhanced v4 w/o IPA bias | 1-block trunk | 0.257 | 0.643 | 0.558 | 0.511 | 移除残基索引偏置后 lDDT 掉点 0.017 |
| Enhanced v4 w/o BB gate | 1-block trunk | 0.262 | 0.644 | 0.560 | 0.514 | 移除骨架更新门控后 lDDT 掉点 0.012 |
| ESMFold (基线深层) | 8-block trunk | 0.321 | 0.665 | 0.575 | 0.500 | 扩展至深层折叠干线 |
| Enhanced v4 (深层迁移) | 8-block trunk | 0.355 | 0.676 | 0.588 | 0.524 | 增益稳定保持(lDDT +0.034) |
在针对柔性环区(Loop Region)、物理合理性(MolProbity)与中程残基接触(12–24 separation)的定向分析中,Enhanced v4 展现出全方位的细粒度改善:其环区 lDDT 提升 +0.060,环区骨架 lDDT 提升 +0.008;MolProbity 评分显著下降 -0.157(表示空间冲突减少、立体化学构型更合理,其中 Ramachandran 离群率降低 1.435%,冲突值 Clashscore 下降 18.169);在 12–24 序列间距接触上,Precision 与 F1 分别提升 +0.019 与 +0.010。
关键发现¶
- 参数效率极高:性能提升并非依赖参数堆砌。最强变体 #36 仅增加约 0.25M 参数(+1.1%),变体 #47 增加仅 0.015M 参数,而盲目增加至 28.46M 甚至 32.49M 的大型复杂变体(如 #24、#57)表现反而明显劣化,直接施加微分几何流的变体 #60(31.03M 参数)更是彻底瓦解(lDDT 暴跌至 0.000)。
- 增益机制高度正交互补:消融实验证明,IPA 注意力偏置与 BackboneUpdate 乘性门控缺一不可。偏置项负责调整注意力在序列上下文中的信息流向,门控机制则动态控制坐标更新的步长,两者的结合才能在不破坏全局刚体拓扑的前提下大幅提升柔性区域精度。
- 性能增益集中于局部几何与柔性环区:各项指标分解表明,AgentFold 搜索出的有效改动主要改善了局部原子距离一致性(lDDT)以及残基接触质量,而全局 TM-score 与 RMSD 保持稳定,说明模型学会了精细化修正局部构象而非推翻整体骨架。
亮点与洞察¶
- 将自然语言假设转化为可执行代码级验证闭环:不仅克服了代码助手缺乏执行落地能力的通病,更通过 Debugger 与 Unified Planner 的紧密交织解决了紧密耦合系统中的调试瓶颈。
- MCTS 树搜索驱动的长期探索算力分配:在单次实验动辄耗费数小时 GPU 的限制下,依靠历史结构化经验与定期重评分机制动态收缩搜索分支,使探索轨迹从初期的广谱发散迅速收敛至高潜质代码子树。
- 试错过程的知识沉淀与反向赋能:没有简单丢弃失败尝试,而是通过 Analyst 总结出「先验先于几何」「乘性细化」等通用启发式法则,使失败代码转化为防范后续同类错误的显式经验约束。
局限与展望¶
- 探索基底局限于精简单层底座:为了在可承受的算力预算(约 5,000 GPU-hours)内完成约 80 次完整训练评估,核心搜索基于单层 Evoformer 的 ESMFold 变体展开,尽管 8 层验证表明了迁移性,但在百亿参数完整模型上的表现仍需进一步检验。
- 缺乏多聚体与复合物评估:当前训练和主要评估集中在单链蛋白质,对于涉及复杂界面几何约束的抗原-抗体结合或大分子多聚复合物,现有的单链干预机制与单一得分函数尚无法直接外推。
- 未来的跨领域演化:这一闭环搜索机制具有通用性,未来有望向 RNA 结构预测、分子动力学力场调优以及晶体结构生成等其他计算生物与物理建模场景拓展。
相关工作与启发¶
- vs FunSearch / AlphaEvolve: FunSearch 等主要面向数学算法或标准神经网络架构搜索(NAS),搜索空间多为独立的算法函数或超参数连边;AgentFold 则深入生物大分子建模领域,在超过 2,000 行且包含复杂 SE(3) 不变性约束与多级损失流的工程级折叠系统上实现了端到端代码演化。
- vs The AI Scientist / BioReason: 此类科学智能体偏向于文献阅读、宏观假说规划与自然语言报告生成;AgentFold 聚焦于可执行代码干预与客观物理评估的强反馈闭环,确保每一项科学结论都有确切的数值与立体化学证据支撑。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次在工程级蛋白质折叠系统上实现基于多智能体与 MCTS 的闭环代码搜索,并系统提炼经验设计模式。
- 实验充分度: ⭐⭐⭐⭐⭐ 投入约 5,000 GPU-hours 与 170M tokens,覆盖 ~80 个变体的多轮真实训练验证与多尺度结构分析。
- 写作质量: ⭐⭐⭐⭐⭐ 逻辑结构严谨,方法流程清晰,问题定义与设计权衡论述透彻。
- 价值: ⭐⭐⭐⭐⭐ 为 AI for Science 领域探索复杂科学模型的自主代码演化与设计机理挖掘树立了重要范式。