Tracing Agentic Failure from the Flow of Success¶

会议: NeurIPS 2026
arXiv: 2607.12747
OpenReview: https://openreview.net/forum?id=dPFKov09YE
代码: https://github.com/deeplearning-wisc/OAT
领域: LLM Agent
关键词: 故障归因, 智能体系统, 单类学习, 神经受控微分方程, 异常检测

一句话总结¶

针对大语言模型智能体长程任务故障定位难题，本文提出基于神经受控微分方程（Neural CDE）的无监督故障归因方法 Oat，仅在成功轨迹上学习正常潜在动态流，推理时无需调用大模型即可毫秒级精确定位失败步骤。

研究背景与动机¶

随着大语言模型（LLM）被广泛部署于软件工程、科学探索等高风险、长流程场景中，多智能体协同系统在规划、工具调用及环境交互上的脆弱性日益暴露。当一个包含数十甚至数百步交互的复杂任务最终失败时，准确定位到底是哪一步或哪几步导致了崩溃，成为系统调试、行为审计与安全性提升的决定性瓶颈。然而，现实中人工排查单条长轨迹可能耗费专家数小时；现有针对故障归因（Failure Attribution）的自动化方案主要分为两类：一是基于大模型 Prompt 的推理管线，不仅单次归因延迟长达数十秒且成本高昂，在复杂基准上的准确率甚至低于 15%；二是基于强化学习或监督微调的模型，高度依赖对失败轨迹的人工或合成步级错误标注。

这种现状暴露出深刻的核心矛盾：一方面，在失败轨迹上进行精细化步级标注代价极大，且现实中往往存在多步复合错误（Compounding Errors），难以定义反事实意义下的“单一根因”修复算子；另一方面，在生产环境中运行前沿大模型进行实时归因，计算延迟与 token 成本完全无法承受。相比之下，任何处于正常运行状态的智能体系统，其日常产生的海量“成功轨迹”几乎是免费且无需标注的副产物。

本文的切入角度是打破“依赖失败样本学习故障特征”的思维定势，将故障归因重塑为表征空间中的无监督单类学习（One-Class Learning）问题：目标不是拟合错综复杂、形态各异的错误模式，而是精准刻画成功轨迹所蕴含的目标导向连续动态演化规律。核心 idea：将无监督故障归因建模为神经受控微分方程（Neural CDE）驱动的单类动力学重建任务，仅利用成功轨迹学习潜在状态的连续流向，推理时通过自适应门控抑制分布外扰动，并将偏离正常动力学轨迹的重建残差作为异常得分定位错误步骤。

方法详解¶

整体框架¶

Oat 将智能体任务执行视为高维表征空间中的连续动态演化过程。给定任务查询与步骤动作，首先利用冻结的 LLM 提取各步骤的隐藏层表征并进行降维，将离散的步骤序列视作潜在连续路径上的不规则采样点。在训练阶段，Oat 仅接收无任何步级标注的成功轨迹，通过自然三次样条拟合构建连续控制路径，利用轻量多层感知机（MLP）参数化的神经受控微分方程（Neural CDE）学习系统从初始查询向目标状态平滑迁移的动态流；在推理阶段，面对一条失败轨迹，Oat 预测其对应的期望成功路径，通过实际表征与期望重建状态之间的欧氏距离计算每一步的异常得分，最后经由 Top-$k$ 截断或具备统计覆盖保证的保形预测（Conformal Prediction）自适应输出错误步骤集合。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["输入轨迹<br/>任务查询 Q 与步骤动作序列"] --> B["步骤表征提取与投影<br/>LLM 隐层均值池化 + PCA 降维"]
    B --> C["连续时间潜在轨迹建模<br/>三次样条构建控制路径 X(u) 与 Neural CDE"]
    C --> D["自适应门控控制路径<br/>门控函数 q 抑制分布外异常导数扰动"]
    D --> E["双轨步级异常检测策略<br/>计算重建误差 + Top-k / 保形预测阈值过滤"]
    E --> F["输出故障归因步骤集合<br/>定位导致失败的根因与传播步骤"]

关键设计¶

1. 连续时间潜在轨迹建模：将离散多步交互升维为连续受控动力学 离散模型（如 RNN 或 Transformer）将每一步执行视为孤立离散事件，难以捕捉智能体面向最终目标时连续平滑演化的宏观趋势；而传统的神经普通微分方程（Neural ODE）其潜在演化完全由初始查询状态决定，形成单向确定的流动，无法容纳多智能体系统中“条条大路通罗马”的多样化成功路径。Oat 引入神经受控微分方程（Neural CDE），首先将任务执行步骤 $t \in \{0, 1, \dots, T_\tau\}$ 归一化映射至连续时间区间 $u \in [0, 1]$，并通过自然三次样条对离散状态观测 $(h_t, u_t)$ 进行插值，构建起连续控制路径 $X(u) \in \mathbb{R}^{d_h+1}$。在此基础上，隐状态 $z(u)$ 的演化由控制路径的导数持续驱动： $$z(u) = z(0) + \int_0^u f(v, z(v); \theta_f) \frac{\mathrm{d}X(v)}{\mathrm{d}v} \, \mathrm{d}v$$ 其中初始隐状态 $z(0) = g_2(h_Q; \theta_{g_2})$ 由查询表征线性映射生成，矢量场 $f$ 由 3 层隐层维度为 64 的轻量 MLP 构成。通过将隐状态映射回原始表征空间 $\hat{h}(u) = g_1(z(u); \theta_{g_1})$，Oat 在成功轨迹集合 $\mathcal{D}_{\text{succ}}$ 上最小化全轨迹重建均方误差。这样一来，模型时刻受控于观测轨迹的变化率与方向，对局部异常扰动具备极高的动力学敏感度。

2. 自适应门控控制路径：抑制跨域与分布外高频扰动 将 Neural CDE 应用于现实智能体系统的一大现实障碍在于分布外（OOD）泛化脆弱性：当面对未见过的多智能体拓扑、不同底座模型或全新任务类型时，输入轨迹在样条插值后往往产生异常陡峭或方向陌生的样条导数 $\mathrm{d}X(u)/\mathrm{d}u$。若未经约束，此类未对齐的导数信号会直接冲垮潜在微分方程的积分积分路径，引发假阳性震荡。为此，Oat 设计了创新的自适应门控控制路径，引入轻量神经网络门控函数 $q: \mathbb{R}^{d_h+1} \to [0, 1]^{d_h+1}$，对控制路径的导数实施逐元素自适应调节： $$\frac{\mathrm{d}\tilde{X}(u)}{\mathrm{d}u} = q\left(\frac{\mathrm{d}X(u)}{\mathrm{d}u}; \theta_q\right) \odot \frac{\mathrm{d}X(u)}{\mathrm{d}u}$$ 当轨迹处于分布内且导数平滑时，$q$ 保持高通透度以保留 CDE 的丰富驱动力；当遇到分布外剧烈突变或异常导数模式时，$q$ 迅速收缩衰减权重，抑制扰动向潜在隐状态传递。实验证明，该机制以微小的域内性能折损（-0.028 AUROC）换取了巨大的跨域泛化增益（+0.172 AUROC）。

3. 双轨步级异常检测策略：兼顾固定开销与严格误报率控制 在推理阶段，给定失败轨迹 $\tau'$，Oat 运行前向 CDE 积分重构出整条轨迹在成功动力学下的期望表征 $\hat{h}(u_t)$，并计算各步骤的欧氏重建残差作为异常得分 $e_t = \| h'_t - \hat{h}(u_t) \|_2^2$。为将连续得分转化为最终的故障步骤集合 $\hat{y}(\tau')$，Oat 提供了两种互补策略：其一是无参数假设的 Top-$k$ 截断，直接选取异常得分最高的 $k$ 个步骤（默认 $k=3$），具备极高的召回率与命中率，适合在排查预算明确的场景下捕获潜在复合错误；其二是具备严格统计理论支撑的 保形预测（Conformal Prediction, CP），在留出的成功校准集 $\mathcal{D}_{\text{cal}}$ 上计算步级非一致性得分，取 $(1-\alpha)$ 分位数确立全局自适应阈值 $\delta$。保形预测保证了正常步骤的假阳性率在理论上被严格控制在预设水平 $\alpha$（如 $\alpha=0.2$）之内，无需人为预设错误数量，显著提升了归因的精准率（Precision）。

一个完整示例¶

以论文在 MCP-Atlas 数据集上的真实数据分析案例为例：任务要求智能体在数据库中检索目标集合并计算特定统计量。 1. 正常推进阶段（步骤 1–6）：智能体顺利完成权限验证与表单枚举，隐状态表征紧密贴合成功路径，Oat 测得各步异常得分稳定保持在极低水平（$e_t < 0.15$）。 2. 根因错误发生（步骤 7）：智能体调用查询工具检索目标集合时发现数据为空，本应报错并调整策略，却因逻辑缺陷强行推进，导致工具返回异常未被妥善处理，且伴随不合规的参数构造。此时样条导数方向突变，由于偏离成功流，Oat 的神经 CDE 重建残差骤升至 $e_7 = 0.82$。 3. 错误扩散与发酵（步骤 8–14）：智能体陷入重复尝试与无效推理循环，虽未直接崩溃但偏离了有效演化方向，Oat 测得异常得分保持在中高位（$0.40 \sim 0.60$）。 4. 致命虚假假设（步骤 15）：智能体为了强行结束流程，凭空捏造虚假假设输出错误结论，Oat 测得异常得分达到峰值 $e_{15} = 0.95$。 5. 归因输出：保形预测阈值 $\delta=0.38$ 成功剔除了前期的正常步骤，精准圈定步骤 7、9、15 为故障贡献步骤，完整还原了“根因触发 $\to$ 循环扩散 $\to$ 虚假假设”的演化链条。

损失函数 / 训练策略¶

Oat 采用完全端到端的自监督均方误差损失函数进行优化，训练集仅包含采样自真实任务的成功轨迹 $\mathcal{D}_{\text{succ}}$： $$\mathcal{L}(\theta) = \mathbb{E}_{\tau \sim \mathcal{D}_{\text{succ}}} \left[ \sum_{t=1}^{T_\tau} \| h_t - \hat{h}(u_t) \|_2^2 \right]$$ 模型采用轻量级配置：矢量场 $f$ 为 3 层 MLP（隐层维度 64），门控网络 $q$ 为 4 层 MLP（隐层维度 12），PCA 将 LLM（Qwen3.5-27B 顶层第 64 层经过均值池化后的表征）统一投影至 64 维。采用 Euler 求解器解常微分方程，学习率设为 $4 \times 10^{-5}$，批量大小 32，权重衰减 $1 \times 10^{-5}$，训练 300 轮。划分 80% 成功轨迹用于训练，20% 作为验证与保形预测校准集。

实验关键数据¶

主实验¶

主实验在 MCP-Atlas（单智能体工具调用，分布内测试，103 条成功轨迹训练，88 条失败轨迹测试）与 Who&When（多智能体协作，跨模型 GPT-4o 生成，分布外测试，184 条失败轨迹测试）两个权威基准上展开。除传统集合指标外，引入排序指标 AUROC 与 AUPRC 全面衡量异常打分质量。

数据集	方法	Precision	Recall	F1	Hit Rate	AUROC	AUPRC
MCP-Atlas (In-Domain)	Random-Step	0.284	0.246	0.255	0.284	0.529	0.226
	First-Step	0.136	0.108	0.116	0.136	0.469	0.206
	OC-SVM	0.311	0.695	0.411	0.772	0.569	0.282
	Isolation Forest	0.314	0.691	0.411	0.784	0.589	0.295
	GPT-4o (Prompting)	0.233	0.210	0.212	0.250	0.509	0.217
	GPT-5 (Prompting)	0.217	0.183	0.181	0.250	0.515	0.217
	Oat (Top-$k$, $k=3$)	0.321±0.006	0.706±0.015	0.420±0.008	0.777±0.012	0.629±0.007	0.324±0.009
	Oat (CP, $\alpha=0.2$)	0.443±0.019	0.484±0.018	0.435±0.013	0.566±0.024	0.629±0.007	0.324±0.009
Who&When (OOD)	Random-Step	0.137	0.137	0.137	0.137	0.547	0.061
	First-Step	0.115	0.115	0.115	0.115	0.535	0.057
	GPT-4o (Prompting)	0.129	0.198	0.151	0.198	0.566	0.066
	GPT-5 (Prompting)	0.111	0.275	0.152	0.275	0.584	0.078
	Oat (Top-$k$, $k=3$)	0.150±0.002	0.451±0.006	0.225±0.003	0.451±0.006	0.758±0.005	0.128±0.004
	Oat (CP, $\alpha=0.2$)	0.184±0.005	0.330±0.016	0.211±0.006	0.330±0.016	0.758±0.005	0.128±0.004

在系统开销与推理延迟方面，Oat 展现出压倒性的工程实用价值：

数据集	方法	输出 Token 数量 ↓	单轨迹归因延迟 (ms) ↓	部署显存需求
MCP-Atlas	GPT-4o	121 ± 31	4,241 ± 1,684	云端 API
	GPT-5	3,012 ± 683	39,626 ± 11,079	云端 API
	Oat	0	7 ± 4	< 1 GB
Who&When	GPT-4o	118 ± 33	4,522 ± 2,351	云端 API
	GPT-5	2,694 ± 808	37,819 ± 14,281	云端 API
	Oat	0	16 ± 22	< 1 GB

消融实验¶

论文系统检验了动力学模型选择、门控机制、表征层级及池化策略的核心影响：

实验切片	变量配置	AUROC / F1	说明与结论
连续建模机制	Neural CDE (完整模型)	0.629 / 0.435	持续受控机制最佳，能灵敏响应观测动态变化
	Neural ODE	0.561 / 0.332	仅靠初始查询驱动，无法适应多分支成功路径，性能大幅下跌
	离散 RNN 循环网络	0.554 / 0.320	离散步进机制无法建模非均匀时间间隔与连续动力学流
自适应门控机制	启用 Gated Control Path (OOD)	0.758 (OOD)	抑制分布外异常导数扰动，跨域泛化能力显著提高 (+0.172 AUROC)
	禁用 Gated Control Path (OOD)	0.586 (OOD)	未经门控的异常导数剧烈冲击潜在流，跨域性能显著退化
表征池化策略	全步 Token 均值池化 (Mean-pooling)	0.435 (F1)	完整捕获步内推理链与参数细节，表征信息密实度最高
	末尾 Token (Last Token)	0.312 (F1)	严重丢失步内中间推理信息，无法敏感捕获早期逻辑漏洞
提取层级深浅	顶层（Layer 64，Qwen3.5-27B）	0.435 (F1)	高层语义富集任务意图与目标连贯性，区分度最强
	中间层（Layer 32）	0.345 (F1)	抽象语义表征不充分，导致动力学重建误差基底偏高
	嵌入层（Layer 0）	0.221 (F1)	浅层仅含表层词法信息，几乎无法提供有效动力学信号

关键发现¶

无监督单类学习碾压前沿大模型 Prompting：仅在约 80 条成功轨迹上训练的轻量 3 层 MLP，在 MCP-Atlas 上 F1 达到 0.435，较 GPT-5（0.181）和 GPT-4o（0.212）取得了翻倍的提升。这证实了即使是顶尖推理模型在面对百步长程复合错误时，也极易陷入上下文注意力分散与偏见陷阱，而潜在空间的动力学残差提供了更为客观敏锐的度量尺。
连续时间微分方程显著优于离散序列建模：Neural CDE 全面超越 Neural ODE 和 RNN。Neural ODE 的单向刚性流动无法涵盖多条可行解路径，而离散 RNN 则丢失了步长演化的平滑导数特征。
极端计算效率赋能实时在线监控：Oat 推理完全摆脱了 LLM 生成，参数量仅数万，单次前向延迟仅 7–16 毫秒，较 GPT-5 提速 2000–5000 倍，且运行时仅需占用不足 1 GB 显存。
根因敏感性与误差沿时间衰减：在定性与 onset error 定位分析中，Oat 预测的最早异常步骤有 68.13% 位于标注的最初决定性错误之前或之时，且异常得分呈现出从初始错误根因向后续继承步骤递减的健康动力学特性。

亮点与洞察¶

问题范式的巧妙重塑：传统思路在“如何让 LLM 读懂错误”上不断堆砌复杂的 Prompt 或耗资巨大标注负样本，而本文反其道而行之，将故障归因转化为“成功流的偏离度检测”，彻底绕开了反事实错误标注与标注歧义的世纪难题。
Neural CDE 与 Agent 状态空间的跨界契合：敏锐地发现了智能体执行序列具有非均匀步长、目标渐进的物理属性，并设计了自适应门控机制，完美解决了神经微分方程在离散语言符号潜在空间中容易受分布外导数冲击的经典痛点。
极具复用性的即插即用架构：Oat 的特征提取甚至支持使用轻量开源代理模型（如 Llama-4-Scout、Gemma-4），即便不接触商业黑盒系统的内部权重，也能作为外挂审计器实现毫秒级故障筛查。

局限与展望¶

异常检测不等于因果溯源：作者诚恳承认，偏离成功流属于相关性异常信号而非严格的因果推断（并非所有异常步骤都必然导致崩溃，反之亦然）。未来可探索将神经 CDE 与因果反事实干预相结合。
依赖少量的成功样本积累：若在冷启动阶段系统任务成功率极低甚至为零，则无法收集到足够构建动力学流的成功轨迹。完全无标签或纯失败轨迹下的自监督定位仍有待探索。
全局固定阈值对多阶段微弱错误的漏检：保形预测采用全域校准阈值，在多步微弱推理错误紧接着剧烈代码崩溃的复合场景下，早期关键但细微的逻辑漂移容易被卡在阈值之下。未来可设计轨迹级的自适应动态阈值。

评分¶

新颖性: ⭐⭐⭐⭐⭐ [首次将神经受控微分方程与单类学习引入大模型智能体故障归因，范式转换极具启发性]
实验充分度: ⭐⭐⭐⭐⭐ [覆盖分布内工具调用与分布外多智能体基准，消融实验详实，定性案例透彻，评测指标全面]
写作质量: ⭐⭐⭐⭐⭐ [数学推导严密规范，动机链条层层递进，方法图示与实验表格清晰直观]
价值: ⭐⭐⭐⭐⭐ [彻底解决前沿智能体生产落地中的实时监控与归因瓶颈，极具工业级部署前景]