Agentic Abstention: Do Agents Know When to Stop Instead of Act?¶
会议: NeurIPS 2026
arXiv: 2606.28733
论文: https://arxiv.org/abs/2606.28733
代码: https://lhannnn.github.io/agentic-abstention
领域: LLM Agent
关键词: 智能体弃权, 序列决策, 上下文工程, 工具调用, 可靠性评测
一句话总结¶
本文形式化定义了智能体弃权（Agentic Abstention）序列决策问题，构建了跨网页购物、终端与问答的 2.8 万道基准，揭示当前智能体普遍难以实现“适时弃权”，并提出无需微调参数的轨迹提炼上下文工程方法 convolve 显著提升及时止损能力。
研究背景与动机¶
在大语言模型智能体（LLM Agents）的研究中，现有工作绝大多数聚焦于通过更优的规划架构、记忆管理或脚手架提升复杂长程任务的完成率。然而，在实际开放交互环境中，用户下达的目标往往存在指令歧义、主观偏好未知或逻辑自相矛盾，环境本身也可能缺失核心依赖、前置工具或匹配目标。面对本质上无法完成的任务，一个可靠的智能体不应在错误路径上盲目消耗算力与环境资源，而应当及时识别不确定性与不可行性，主动停止后续无意义的工具调用并向用户弃权。
现有弃权评测主要局限于单轮问答（LLM Abstention），模型的动作空间被严格约束为直接作答或直接拒答，无法反映智能体与外部环境交互的动态过程。智能体面临的弃权是一个典型的序列决策过程：任务在初始阶段往往看似完全可行，唯有在智能体进行了数轮搜索、点击或终端探测后，环境反馈才会暴露其不可行性。目前学界严重缺乏针对“不仅评测智能体是否会弃权，更评测其能否在证据充分的第一时间适时弃权（Timely Abstention）”的系统性基准与有效改进方法。
针对这一空白，本文提出了智能体弃权（Agentic Abstention）的形式化理论与评测体系，从请求级不可行（Request-based）与环境级不可行（Environment-based）双重視角重构了涵盖 WebShop、Terminal-Bench 2.0 与 AbstentionBench 的多场景数据集。本文的核心 idea 是：将智能体弃权建模为部分可观测马尔可夫决策过程，通过兼顾决策正误与时机的 AbsRec@K 与 SPL 指标量化评测，并提出基于全轨迹反思与停止规则提炼的上下文工程框架 convolve，在不改变模型权重的前提下显著提升适时弃权性能。
方法详解¶
整体框架¶
本文将智能体弃权形式化定义为部分可观测马尔可夫决策过程（POMDP）\(\mathcal{M}=(\mathcal{S},\mathcal{A},\mathcal{O},T,\Omega,R)\)。状态空间 \(\mathcal{S}\) 包含任务是否可在当前环境与工具约束下解决的潜在真值；动作空间统一划分为三类：\(\mathcal{A}=\{\text{ANSWER}, \text{ABSTAIN}, \text{ACT}\}\)，其中 \(\text{ANSWER}\) 为给出最终答案、下单购买或提交代码等终止性任务交付动作，\(\text{ABSTAIN}\) 为明确放弃或向用户发起澄清请求的终止性弃权动作，\(\text{ACT}\) 为搜索、点击、执行终端命令等非终止性环境交互动作。智能体基于交互历史轨迹 \(h_t=(x, o_1, a_1, \dots, o_t)\) 执行策略 \(\pi(a_t \mid h_t)\)。
为了解决智能体无法及时停止的顽疾，本文设计了上下文演化框架 convolve（Context Evolution）。该框架利用环境采样得到的交互轨迹进行离线反思，由反思模型与整理模型将失败或冗余调用归纳为紧凑的停止规则（Playbook），动态注入智能体上下文以指导后续决策。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["任务指令与环境状态输入<br/>x, o_t"] --> B["POMDP 序列决策建模<br/>ACT / ABSTAIN / ANSWER"]
B -->|选择 ACT| C["多环境交互探索<br/>WebShop / Terminal / QA"]
C -->|返回新观测 o_t+1| B
B -->|判断不可行| D["时机敏感型弃权评估<br/>AbsRec@K 与 SPL 测度"]
C -->|输出完整轨迹 tau| E["convolve 轨迹反思与规则整理<br/>Reflection & Curator 生成 Playbook"]
E -->|注入动态停止规则| B
B -->|任务交付| F["终止并输出结果"]关键设计¶
1. POMDP 序列决策建模与双维弃权分类：刻画证据演化的动态决策空间 针对传统单轮问答中作答与拒答二元切分无法拟合工具交互的问题，该设计将环境探索动作 \(\text{ACT}\) 纳入统一动作空间，并将澄清请求（Clarification）严格视作 \(\text{ABSTAIN}\) 的自然延伸。在此基础上，将弃权诱因解耦为两大类：一是请求级弃权（Request-based Abstention），涵盖主观偏好未知（Subjective Preference）、关键意图欠缺（Underspecified Intent）以及逻辑矛盾/虚假前提（False Premise or Contradiction），理论上智能体在初始步骤即可判定不可行；二是环境级弃权（Environment-based Abstention），例如商品目录中移除目标（Missing Target）或终端缺失必要依赖/权限（Missing Prerequisite），任务在初始状态下看似完全合理，必须经过环境探索才能获得不可行证据。这种划分明确了不同任务下理论最早弃权步数 \(w_i\) 的存在。
2. 时机敏感型弃权评估指标体系：严谨度量止损速度与路径开销 仅考察智能体最终是否弃权无法揭示模型在无效路径上的空转与盲目尝试。为此，本文建立了以理论最早应弃权步数 \(w_i\) 为基准的评测指标体系。设 \(\tau_i\) 为智能体首次选择弃权的步数，若在获得充分证据前盲目早退（\(\tau_i < w_i\)）则判定为失败。定义在弃权成立后容忍 \(K\) 步延迟的弃权召回率： $\(\text{AbsRec}@K = \frac{1}{N_{+}} \sum_{i \in \mathcal{D}_{+}} \mathbf{1}\{w_i \leq \tau_i \leq K\}\)$ 当 \(K=w_i\) 时对应及时召回率（Timely Recall，例如请求级 \(K=1\)，环境级 \(K=2\)），当 \(K=10\) 时对应总召回率（Overall Recall）。同时引入路径长度加权成功率（SPL）以惩罚滞后决策： $\(\text{SPL} = \frac{1}{N_{+}} \sum_{i \in \mathcal{D}_{+}} S_i \cdot \frac{w_i}{\max(\tau_i, w_i)}\)$ 其中 \(S_i = \mathbf{1}\{w_i \leq \tau_i < \infty\}\)。该指标组合杜绝了通过无脑试错耗尽步数后被迫放弃而获取高分的假象。
3. convolve 轨迹反思与规则整理：上下文工程驱动的动态停止法则 为避免高昂的参数微调并增强模型在多步环境下的自省能力，convolve 采用全交互轨迹反思机制。对于训练集交互轨迹 \(\tau^{(k)}=(x^{(k)}, o_1^{(k)}, a_1^{(k)}, \dots, o_{T_k}^{(k)}, a_{T_k}^{(k)})\)，反思模型（Reflection Agent）全面复盘智能体在任务不可行后是否继续执行了无效操作，定位导致弃权成立的关键观测节点与延误弃权的动作模式，生成情境反馈 \(y^{(k)}=\phi(\tau^{(k)})\)。随后，整理模型（Curator Model）对反馈进行抽象提炼，将其归纳为结构化策略手册（Playbook）并执行增量更新 \(c^{(k+1)}=\mathcal{U}(c^{(k)}, \tau^{(k)}, y^{(k)})\)。更新后的规则作为系统提示的增强上下文注入智能体，使模型在后续交互中能够对照特征规律实现毫秒级止损。
一个完整示例¶
以 WebShop 中的环境级缺失目标（Missing Target）任务为例。用户指令为购买一款无麸质、纯素的大豆蛋白粉。
1. 第 1 步：智能体读取指令，初始状态完全正常，智能体调用 search["gluten free vegan plant protein shake"]，符合 \(w_i=2\) 的设定（第 1 步探索是合理且必须的）。
2. 第 2 步：环境返回检索结果列表，所有上架商品均含大豆或不符合纯素声明。基线智能体此时通常会盲目翻页或点击无关商品继续尝试；而在注入 convolve 提炼的停止规则后，智能体识别到搜索结果已覆盖全部相关候选且均不满足硬性约束，立即触发 abstain_action。
3. 判定结果：智能体在 \(\tau_i=2\) 时刻精准弃权，满足 \(\tau_i = w_i\)，获得 Timely Recall 与满额 SPL 加权得分。
实验关键数据¶
主实验¶
在 13 款大语言模型与 2 种智能体脚手架（Codex CLI 与 Terminus 2）上展开跨场景评估。表 1 展示了 WebShop 场景下基础模型、标准上下文学习（ICL）与 convolve 的对比，表 2 展示了 TerminalBench 与 AbstentionBench 上的表现。
| 评估基准与方法配置 | AbsRec@1 (及时召回率 %) | AbsRec@10 (总体召回率 %) | SPL (%) |
|---|---|---|---|
| WebShop: Llama-3.3-8B (Base) | 6.9 | 92.1 | 39.4 |
| + In-Context Learning | 11.2 (+4.3) | 81.1 (-10.0) | 39.1 (-0.3) |
| + convolve (8B Playbook) | 7.9 (+1.0) | 94.1 (+2.0) | 39.5 (+0.1) |
| + convolve (70B Playbook) | 12.9 (+6.0) | 94.1 (+10.9) | 39.7 (+0.3) |
| WebShop: Llama-3.3-70B (Base) | 26.7 | 83.2 | 55.3 |
| + In-Context Learning | 55.1 (+28.4) | 97.0 (+13.8) | 77.2 (+21.9) |
| + convolve (8B Playbook) | 55.3 (+28.6) | 99.0 (+15.8) | 76.4 (+21.1) |
| + convolve (70B Playbook) | 57.4 (+30.7) | 100.0 (+16.8) | 78.9 (+23.6) |
消融实验¶
表 2 汇报了 convolve 在交互式问答（AbstentionBench）与终端系统任务（TerminalBench）上的消融与泛化表现。
| 场景与模型配置 | AbsRec@1 (%) | AbsRec@10 (%) | SPL (%) | 说明 / 结论 |
|---|---|---|---|---|
| AbstentionBench: Llama-3.3-70B (Base) | 25.0 | 41.6 | 33.2 | 未引导时问答搜索易陷入过度检索 |
| + In-Context Learning | 31.1 (+6.1) | 48.9 (+7.3) | 39.4 (+6.2) | 少样本演示带来一定收益 |
| + convolve (70B Playbook) | 39.7 (+14.7) | 64.2 (+22.6) | 47.5 (+14.3) | 动态停止规则大幅缓解无意义搜索 |
| TerminalBench: Llama-3.3-70B (Base) | 37.6 | 66.2 | 32.5 | 终端缺少依赖或目标模糊易乱执行 |
| + In-Context Learning | 43.2 (+5.6) | 69.3 (+3.1) | 36.4 (+3.9) | ICL 在复杂系统调用下提升有限 |
| + convolve (70B Playbook) | 68.9 (+23.6) | 79.1 (+12.9) | 53.4 (+20.9) | 及时弃权率几乎翻倍 |
关键发现¶
- 及时弃权能力极度匮乏：在基线测试中，绝大部分智能体系统的平均及时召回率（AbsRec@1）低于 40%，且超过半数模型在最大 10 轮预算下的总体弃权召回率不足 50%。这表明智能体往往在耗尽步骤后才被动终止，而非主动感知不可行。
- 不可行类型决定弃权难度：环境依赖型任务（如 WebShop 缺失目标、Terminal 缺失前置依赖）难度显著高于请求级任务；而在请求级任务中，意图欠缺（Underspecified Intent）与虚假前提（False Premise）最难被察觉，智能体极易使用默认假设施加脑补。
- 模型缩放与推理的双刃剑效应：单纯增大模型参数量（如 Qwen-3 从 8B 扩至 235B）主要提升了最终的 AbsRec@10，而对及时的 AbsRec@1 改善微乎其微；引入长思考推理（如 Qwen-3-235B-Thinking）提升了初始步判断的敏锐度，但在错过首个弃权点后，后续多轮推理反而使模型对不可行任务过度执着，导致整体召回率出现下降。
- 跨模型规则迁移性极佳：convolve 展现出惊人的数据效率与泛化性。仅需 20 条轨迹反思，Llama-3.3-8B 生成的 Playbook 即可无缝转移至 Llama-3.3-70B 并取得与 70B 原生规则相当的性能（AbsRec@1 达 55.3% vs 57.4%）。
亮点与洞察¶
- 从“完成任务”到“知难而退”的范式延展：突破了传统智能体单纯追求任务成功率的局限，首次系统化确立了智能体弃权的标准定义与 POMDP 序列决策框架，补齐了可靠智能体评测的关键拼图。
- 轻量即插即用的无参上下文进化：convolve 证明了无需对主干模型进行繁重 SFT 或 RL 微调，仅通过反思-整理双角色提炼的 20 条轨迹规则，就能使 70B 模型的总体弃权召回率直接拉满至 100%。
局限与展望¶
- 基准覆盖场景仍有拓展空间：当前基准主要基于 WebShop、Terminal-Bench 和 Wikipedia 检索问答构建，尚未涉及多模态具身交互、私有企业 API 调用或长跨度用户状态追踪等更复杂的生产环境。
- 环境级不可行形式相对受限：目前环境级不可行主要模拟了缺失目标与缺失依赖，未来工作应深入探索权限动态降级、外部接口速率限制以及多工具输出互斥等隐式不可行诱因。
- 过度弃权（Over-abstention）与任务效用的精细权衡：在多轮交互中，持续累积的不确定性可能诱发智能体过于保守（例如在可解任务上错误弃权），如何在追求高收益与防范无效探索之间学习帕累托最优边界是重要方向。
相关工作与启发¶
- vs LLM Abstention (Wen et al., 2025; Kirichenko et al., 2025)：传统单轮弃权仅在固定 Prompt 下决策作答或拒答；本文将场景延伸至多步动态环境，涵盖工具调用、信息检索与状态演化，提出适时召回率测度。
- vs SMART (Qian et al., 2025) & Over-searching (Xie et al., 2026)：现有工具使用研究主要关注在可解任务中优化调用效率；本文聚焦于任务本质不可解的困境，解决何时彻底停止并放弃交互的问题。
- vs ACE (Zhang et al., 2025)：convolve 借鉴了上下文工程的设计哲学，但将优化目标从追求任务成功率转向提炼负反馈与不可行终止规则，拓展了记忆与反思模块的功能边界。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次系统性形式化多轮智能体弃权问题并构建完备基准与时机评价指标。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖 13 种主流模型、2 种主流智能体脚手架及 2.8 万道评测样本，统计结论扎实。
- 写作质量: ⭐⭐⭐⭐⭐ 理论推导清晰规范，实验图表详实，问题切入与论证节奏极佳。
- 价值: ⭐⭐⭐⭐⭐ 对构建安全、可信且低资源消耗的实用自主智能体系统具有重要指导意义。