ToolWeave: Structured Synthesis of Complex Multi-Turn Tool-Calling Dialogues¶
会议: EMNLP 2026
论文: ACL Anthology
代码: https://github.com/IBM/ToolWeave
领域: 大模型智能体
关键词: 多轮工具调用, 合成数据生成, 参数溯源, 工具图谱, 大语言模型智能体
一句话总结¶
ToolWeave 提出了一套基于结构化分解与参数溯源的多轮工具调用对话合成框架,通过由浅入深的工具图谱构建、基于结构模序的工作流采样与细粒度规划,有效杜绝了参数幻觉,并将对话中真实多步工具调用的比例从传统方案的不足 7% 提升至近 45%。
研究背景与动机¶
大语言模型向自主智能体演进的核心基石之一是多轮工具调用能力,即模型需要在多轮人机交互中自主决定何时发起工具调用、如何串联多个具有依赖关系的工具、如何在参数缺失时向用户主动发起澄清反问,并在复杂工作流中维护持久的状态机。然而,直接获取大规模、高质量的真实人机多轮工具调用对话极其昂贵且面临严格的隐私监管,因此基于大模型生成合成数据并进行监督微调(SFT)已成为业界的标准范式。遗憾的是,现有的多轮工具调用合成管线(如 ToolFlow、ToolDial、Magnet 等)生成的数据质量难以令人满意,普遍存在两大系统性顽疾:工作流在语义层面上缺乏真实连贯性,以及严重的工具与参数幻觉。
现有方法在构建工具调用序列时,通常直接采用静态工具库(如从 RapidAPI 抓取的大量接口),并基于参数名与描述的浅层字面或语义相似度计算关联边,进而通过随机游走抽取调用链。这种启发式规则极易将表面相似但业务逻辑无关的工具强行串联(例如将 create_support_ticket(issue) 输出的 ticket_id 与 cancel_movie_ticket(ticket_id) 错误拼接)。由于工具图谱本身缺乏真实的数据依赖,后续生成的对话几乎不需要前序工具的输出去实质性驱动后序工具,导致现有合成语料中包含单轮多工具协同的比例极低(在主流基线中占比不足 7%)。更为严重的是,现有方案往往依赖提示词让大模型一步到位(One-Shot)直接生成整段复杂对话或高层抽象计划。在此过程中,各轮对话的执行结构、参数来源与上下文约束全靠大模型隐式推断,极易凭空捏造既未被用户提供、也未被前序工具返回的幻觉参数;实测表明现有基线生成的对话中,参数与文本输出幻觉率高达 50% 以上。
这些缺陷的根本原因在于缺乏能够显式追踪工作流依赖与参数溯源(provenance)的结构化中间表征。本文的切入角度是改变无约束端到端生成的做法,将对话合成彻底解耦为逐步递进、可验证的模块化阶段:在前置环节以显式信息流生成工具并约束子图拓扑,在规划环节通过形式化状态追踪绑定每个参数的产生源头。核心 idea:将多轮工具对话合成解耦为四个渐进验证的阶段,通过课程驱动的结构化工具图谱合成建立内在数据流依赖,引入细粒度计划追踪每个参数的精确溯源与澄清机制,并将多代理执行与确定性故障注入相结合,生成具备真实多步依赖与高鲁棒性的高质量交互轨迹。
方法详解¶
ToolWeave 摒弃了将对话合成视为无约束文本生成任务的传统思路,将其转化为一个从形式化图结构逐步映射到多智能体交互的执行管线。整体系统由四个核心阶段构成:首先通过外部结构化知识与渐进式课程生成具备内生数据流依赖的领域工具图谱;其次基于预定义的结构模序与多目标语义打分从图谱中采样出契合真实用户意图的工作流子图;接着由细粒度规划器将工作流切分为对话片段,为每个工具参数显式绑定溯源变量并注入主动澄清机制;最后通过维护全局内存的多智能体交互引擎生成真实对话,并经由确定性故障注入与模式泛化完成最终的数据增强。
整体框架¶
ToolWeave 的执行管线自顶向下划分为结构化工具图谱合成、基于模序的工作流采样与目标对齐、细粒度分段与参数溯源规划、以及多智能体对话实例化与鲁棒性后处理四个阶段:
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入:领域名称 d (Domain Descriptor)"] --> B["阶段 1:课程驱动的工具图谱合成<br/>知识检索→实体扩展→模式丰富→连接发现"]
B --> C["阶段 2:基于模序的工作流采样与目标对齐<br/>结构模序抽取 + LLM 意图验证 + MMR 多样性筛选"]
C --> D["阶段 3:细粒度分段与参数溯源规划<br/>子目标路径切分 + 概率参数澄清 + 显式参数绑定"]
D --> E["阶段 4:多智能体状态化对话合成与鲁棒性增强<br/>角色代理解析 + 内存状态追踪 + 确定性错误注入与泛化"]
E --> F["输出:结构化多轮工具调用对话数据集"]
关键设计¶
1. 课程驱动的工具图谱合成:表面模式匹配导致虚假连通 -> 渐进式知识注入与连接发现 -> 构建内在数据流闭环的高质量图谱
传统工具图谱依赖 RapidAPI 静态库并基于参数文本相似度连边,导致跨业务逻辑的虚假连接泛滥(例如将不同实体的 id 强行拼接)。ToolWeave 提出了一套五阶段课程驱动合成机制(Seed Generation \(\rightarrow\) Entity Expansion \(\rightarrow\) Schema Enrichment \(\rightarrow\) Connection Discovery \(\rightarrow\) Pattern Expansion),彻底规避这一问题。系统首先利用领域名称从 Wikidata 解析标准概念并从 Wikipedia 抽取实体属性与业务逻辑约束(例如在设备维护场景中,从百科规则推断出当 recurring=true 时,interval_days 必须为必填字段)。在 Schema Enrichment 阶段,系统主动向接口注入嵌套对象(Nested Objects)、枚举类型(Enums)和必填约束(Required Flags),大幅提升单接口的表达深度。在关键的 Connection Discovery 阶段,系统指导生成模型直接设计能够消费前置工具输出的新接口(例如由 search_product 输出的 product_id 直接作为 get_product_details 的输入);更进一步,管线通过句向量相似度验证与 LLM 仲裁过滤边,并在最终阶段对参数名进行同义转写(如将上游的 feedback_id 改写为下游的 feedback_record_id),从而杜绝后续训练中的简单字面匹配捷径。人工盲评证明,该设计构建的图谱连边在业务连贯性上达到了 74% 的合格率,远超传统相似度连边的 12%。
2. 基于模序的工作流采样与目标对齐:随机游走导致无意义调用链路 -> 拓扑模序提取与混合启发式评分筛选 -> 保证工作流符合真实用户意图
在工具图谱上直接进行随机游走往往会导致无意义的工具死循环或违背常理的操作次序(例如未创建订单就先执行发货)。ToolWeave 将工作流采样严格限制在三种符合现实业务模式的结构模序(Structural Motifs)中:线性链(Linear Chains),采用有界束搜索(Bounded Beam Search)挖掘逐层推进的操作序列(如查询工单 \(\rightarrow\) 提取详情 \(\rightarrow\) 更新状态 \(\rightarrow\) 通知用户);扇入/扇出结构(Fan-in / Fan-out),通过寻找公共后继节点,模拟先分流获取多方依赖(如并行调用库存核查与风控评分)再汇聚执行操作的模式;条件分支(Conditional Branches),识别布尔或枚举型的逻辑判定谓词,依据动态返回值决定下游执行流(如成功则拉取明细,失败则转入补偿链路)。采样完成后,系统利用 LLM 为每条路径逆向合成自然语言用户目标 \(G\),并采用混合启发式函数进行综合评分: $\(S_{\text{final}} = w_l \cdot (S_{\text{coherence}} + S_{\text{relevance}}) + w_d \cdot S_{\text{dataflow}} + w_b \cdot S_{\text{length}}\)$ 其中 \(S_{\text{coherence}}\) 与 \(S_{\text{relevance}}\) 为 LLM 打分(区间 \([-2, +2]\)),\(S_{\text{dataflow}}\) 为路径相邻工具输入输出嵌入的余弦相似度,\(S_{\text{length}}\) 为路径长度奖励(超参设为 \(w_l=0.5, w_d=0.8, w_b=0.3\))。对于线性工作流,在过滤低于质量阈值的样本后,进一步采用最大边际相关性(MMR,多样性权重 \(\lambda=0.7\))进行去重与剪枝;而复杂拓扑则全部保留以增强交互多样性。
3. 细粒度分段与参数溯源规划:单阶段生成导致参数凭空捏造与单步浅交互 -> 显式路径划分、反问反演与参数源绑定 -> 彻底消除幻觉并激发真实多步调用
端到端一次性生成对话是大模型产生参数幻觉的核心诱因。ToolWeave 将推理负荷前置到显式规划阶段,生成包含交互行为原语(Interaction Acts)的严谨状态转移计划。首先,规划器根据子目标将完整工具路径划分为连续的子组(如 \([[A], [B, C], [D]]\)),每个子组对应一个独立的对话段落,从而天然支持在单个轮次中执行多个紧密协作的工具调用。其次,针对当前段落所需的所有工具输入参数,规划器将其精确划分为由用户直接提供的参数(\(P_{\text{user}}\))以及从前序工具执行结果派生的参数(\(P_{\text{derived}}\))。对于用户应给出的参数,系统以概率 \(p_{\text{clar}}=0.3\) 随机扣留部分必填项,强制规划出由助手发起反问(ASSISTANT_CLARIFICATION)及用户答复补充(USER_RESPONSE_TO_CLARIFICATION)的交互环节,拟合现实中用户表述不完整的场景。最后,规划器为所有工具参数建立显式的形式化源绑定表达式(例如将下游入参显式标记为 feedback_record_id ← $submit_feedback.feedback_id,而非硬编码具体数值)。在对话生成阶段,该动态占位符被确定性替换为真实上下文或工具执行的返回值,从机制上根除了参数凭空捏造的可能,将数据流溯源正确率提升至 94.2%。
4. 多智能体状态化对话合成与鲁棒性增强:静态理想化轨迹泛化性弱 -> 内存代理驱动的解耦生成与确定性故障注入 -> 提升模型自愈与长上下文容错能力
为确保规划被忠实执行,ToolWeave 采用了角色解耦的多智能体合成架构。系统中设有专门的交互行为代理分别扮演用户与助手,辅以内存智能体(Memory Agent)维护包含已解析参数、工具响应和交互实体的全局黑板,并在无须真实 API 端点的情况下由工具智能体(Tool Agent)生成完全契合 JSON Schema 的模拟返回。在对话生成完毕后,系统施加三层确定性后处理以增强训练信号的鲁棒性:第一,以概率 \(p_{\text{inject}}=0.7\) 注入三类仿真故障——包括乱序执行(Out-of-Order Execution)(强行提前调用未满足依赖的下游工具并触发报错,迫使模型学会补齐前置步骤)、语义混淆(Wrong Tool)(借助 SBERT 与编辑距离检索表面相似的混淆工具并注入纠错回环)、以及级联失败与类型违规(Cascading / Schema Failures)(制造参数类型错配或缺失工具的场景,训练模型动态利用新传入的 Schema 进行恢复);第二,对用户意图表述进行自然语言同义改写以避免文本过拟合;第三,引入函数名遮蔽(Schema Masking,如替换为 func_01),迫使模型基于参数结构与功能描述进行深度语义推理,而非死记特定 API 名称。
一个完整示例¶
以客户支持领域的满意度闭环工单处理为例,系统串联三个接口:查询工单详情 get_ticket_details、提交工单满意度评价 submit_feedback、以及针对低评分触发电话回访 trigger_feedback_followup。
- 工作流依赖发现:接口定义中,
submit_feedback的入参customer_id必须依赖get_ticket_details返回的user_id;而trigger_feedback_followup的必填入参feedback_record_id必须依赖submit_feedback返回的系统生成的feedback_id。 - 细粒度计划生成:规划器将路径划分为两个段落。段落 1 执行
get_ticket_details({"support_ticket_id": "ST-20251118-8392"}),获取用户 IDU-54892与工单描述。段落 2 处理后续连环调用,规划器触发澄清反问机制:用户在指令中未提供具体评分与回访方式,助手发出澄清提问ASSISTANT_CLARIFICATION(["rating", "comments", "followup_method"])。 - 参数溯源执行:用户回复“打 2 分,问题未解决,希望电话回访”。在执行步骤中,助手在单轮内连续发起两个工具调用:首先以从前序步骤继承的
customer_id: "U-54892"触发submit_feedback,工具返回{"feedback_id": "FB-20251121-68317", "status": "received"};紧接着助手从内存黑板中读取该返回值,精准注入给下一步trigger_feedback_followup({"feedback_record_id": "FB-20251121-68317", "followup_method": "phone"})。整个过程参数无缝级联,完全消除了幻觉。
实验关键数据¶
主实验¶
论文在极具挑战的多轮工具调用基准 BFCL-V3(800 组对话,其中 648 组包含复杂多步交互)上全面评估了不同合成数据对基座模型的微调效果。所有模型均在严格对齐的 QLoRA 设置下微调 3.2K 对话。评价指标包含平均准确率(Avg. Acc)、基础调用能力(Base)、缺失工具拒答能力(Miss Func.)、缺失参数反问能力(Miss Param.)以及长上下文鲁棒性(Long Ctx.)。
| 基座模型与训练数据配置 | 平均准确率 (%) | 基础调用 (Base) | 缺失工具拒答 (Miss Func.) | 缺失参数反问 (Miss Param.) | 长上下文 (Long Ctx.) |
|---|---|---|---|---|---|
| Llama-3.1-8B (Base) | 9.25 | 11.00 | 8.00 | 8.50 | 9.50 |
| + ToolDial | 1.75 | 0.50 | 3.50 | 2.50 | 0.50 |
| + ToolFlow | 7.50 | 9.50 | 5.50 | 5.50 | 9.50 |
| + ToolWeave-R (GPT-5-mini, 真实 API) | 18.38 | 24.00 | 18.00 | 14.50 | 17.00 |
| + ToolWeave (GPT-OSS-120B 开源) | 19.88 | 23.00 | 21.50 | 15.50 | 19.50 |
| + ToolWeave (GPT-5-mini 前沿) | 21.12 | 28.00 | 18.00 | 18.50 | 20.00 |
| Llama-3.1-70B (Base) | 12.50 | 17.00 | 13.00 | 10.50 | 9.50 |
| + ToolDial | 3.75 | 4.50 | 3.00 | 4.00 | 3.50 |
| + ToolFlow | 23.50 | 29.50 | 20.50 | 20.00 | 24.00 |
| + ToolWeave-R (GPT-5-mini, 真实 API) | 37.38 | 40.00 | 43.00 | 34.00 | 32.50 |
| + ToolWeave (GPT-OSS-120B 开源) | 33.25 | 37.50 | 35.00 | 32.00 | 28.50 |
| + ToolWeave (GPT-5-mini 前沿) | 39.75 | 42.50 | 43.00 | 37.00 | 36.50 |
| Phi-4 (Base) | 3.12 | 7.50 | 0.00 | 2.50 | 2.50 |
| + ToolDial | 2.00 | 2.00 | 0.50 | 3.50 | 2.00 |
| + ToolFlow | 10.12 | 11.00 | 10.00 | 11.50 | 8.00 |
| + ToolWeave-R (GPT-5-mini, 真实 API) | 26.25 | 33.50 | 33.50 | 20.50 | 17.50 |
| + ToolWeave (GPT-OSS-120B 开源) | 24.50 | 24.00 | 28.50 | 31.00 | 14.50 |
| + ToolWeave (GPT-5-mini 前沿) | 29.50 | 36.00 | 30.50 | 31.50 | 20.00 |
除 BFCL-V3 外,在泛化性评测中,针对跨领域人机复杂交互基准 CONFETTI(包含目标切换、条件流与复杂反问),ToolWeave-tuned Llama-3.1-70B 取得了 45.45% 的高准确率,相比基座模型的 33.00% 和 ToolFlow 的 28.46% 实现了超过 16 个百分点的显著提升。
消融实验¶
在 Llama-3.1-8B-Instruct 上对 ToolWeave 的各个关键子阶段进行剥离测试(以开源模型 GPT-OSS-120B 为合成种子,在 BFCL-V3 多轮子集上评估):
| 实验配置变体 | 平均准确率 (%) | 性能变化 | 关键说明 |
|---|---|---|---|
| Full ToolWeave Pipeline | 19.88 | - | 完整四阶段管线(包含后处理故障注入) |
| w/o 后处理(无故障注入与转写) | 13.62 | -6.26% | 缺乏对执行报错、工具混淆与参数异常的暴露 |
| w/o 结构化模序采样(退化为随机游走) | 12.25 | -7.63% | 工作流拓扑混乱,缺乏目标对齐与多步真实数据依赖 |
| w/o 细粒度规划器(退化为 ToolFlow 式单层规划) | 7.50 | -12.38% | 性能发生雪崩式崩溃,模型无法在单阶段内自洽推断参数与多步状态 |
在合成数据本身的内在属性对比中,结构化设计展现出巨大优势:
| 合成管线 | 对话平均轮数 | 平均工具调用数 | 多步轮次占比 (%) | 真实数据流多步占比 (%) | 零幻觉对话占比 (%) |
|---|---|---|---|---|---|
| ToolWeave | 2.71 | 3.22 | 44.87% | 40.67% | 80.0% |
| ToolFlow | 6.28 | 2.20 | 6.77% | 0.0% | 16.5% |
| ToolDial | 4.48 | 1.51 | 4.47% | 0.0% | 46.5% |
关键发现¶
- 细粒度规划是防范崩溃的核心支柱:将细粒度规划器替换为无参数追踪的高层粗粒度规划,导致 BFCL-V3 性能从 19.88% 骤降至 7.50%(直降 12.38 个百分点),这一证据强力证明非前沿开源模型根本无法在单次推理中端到端解算跨工具依赖与参数来源。
- 合成 API 质量反超真实 API:使用 ToolWeave 纯合成工具生成的微调数据(Llama-3.1-70B 达 39.75%)全面超越了基于真实 RapidAPI 接口生成的同类数据(ToolWeave-R 仅为 37.38%)。这是由于真实 API 往往充斥扁平参数与模糊隐式依赖,而结构化合成能够主动引入深层嵌套对象与强业务逻辑约束。
- 开源微调模型逆袭前沿合成基线:使用开源 120B 模型(GPT-OSS-120B)运行 ToolWeave 合成数据训练出的 Llama-3.1-70B 达到了 33.25%,远超使用前沿闭源模型 GPT-4o 合成数据的 ToolDial(3.75%)以及使用 GPT-5-mini 合成的 ToolFlow(23.50%),打破了多轮工具数据合成必须极度依赖昂贵闭源大模型的固有认知。
亮点与洞察¶
- 解耦推理负荷到规划态:传统方法试图逼迫生成模型在单次前向对话输出中同时处理意图理解、参数补齐、上下文数据流路由与格式约束,导致灾难性的多处幻觉;ToolWeave 将参数溯源提升为确定性图遍历与变量绑定,化繁为简,使得小型开源模型亦能生成近乎零幻觉的高精度数据。
- 以生成约束逆转数据依赖:不再从已有接口中大海捞针匹配调用流,而是在工具图谱合成阶段显式设计能够承接上游结果的新工具,从源头上保证了真实多步调用链条(True Multi-step)的稠密性(由传统基线的 0% 暴增至 40.67%)。
- 确定性故障注入训练自愈能力:将 70% 的对话人为注入乱序调用、相似工具混淆与 Schema 格式违规,迫使微调模型学会解析错误反馈并在下一轮中动态修正,显著拔高了模型在动态环境下的容错下限。
局限与展望¶
- 工具模拟器缺乏动态运行时副作用:当前工具代理仅返回符合 Schema 的静态合成 JSON,无法模拟底层数据库状态回滚、并发写锁竞争或事务持久化带来的真实隐式状态转移,难以直接支撑在线强化学习(RL)。
- 生成算力开销相对较高:为了保障超高数据纯度与严谨结构,ToolWeave 生成 1000 组对话需调用大模型 30.2K 次(耗时约 2.6 小时),显著高于单阶段方案(如 ToolFlow 的 13.6K 次),但在高质量 SFT 数据生产中这种一次性开销极具性价比。
- 缺乏多模态与 GUI 交互能力:当前工具调用局限于纯文本/JSON 的 RESTful API 范畴,尚未覆盖网页交互、操作系统 GUI 点击及跨视觉模态的具身智能体动作空间。
相关工作与启发¶
- vs ToolFlow (Wang et al., 2025):ToolFlow 虽然引入了工具图谱,但依赖字面相似度建立连接且仅采用高层抽象规划,生成过程中无参数溯源约束,导致大量死循环交互(对话长达 6.28 轮但有效工具调用仅 2.2 个,且真实多步比例为 0%);ToolWeave 引入模序采样、参数显式绑定与内存追踪,平均轮数压缩至 2.71 轮的同时将真实多步比例拉升至 40.67%。
- vs ToolDial (Shim et al., 2025):ToolDial 强依赖固定的 21 个交互模板且限制单轮最多 2 次工具调用,生成的对话僵化且频繁向用户暴露内部变量名;ToolWeave 摆脱了死板模板,以动态交互行为原语与概率参数扣留自然激发多轮反问,在 BFCL-V3 上相比 ToolDial 取得了压倒性优势(70B 模型从 3.75% 提升至 39.75%)。
- vs APIGen / ToolACE (Liu et al., 2024; 2025):APIGen 等工作主要聚焦于单轮工具调用的可验证合成;ToolWeave 将结构化可验证的理念成功推广至复杂的长程多轮、多工具拓扑图谱,为自主 Agent 提供了高质量多步交互训练蓝图。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ [首次系统化提出基于工具内生数据流、结构模序与细粒度参数溯源的多轮工具对话合成范式,设计极为严密]
- 实验充分度: ⭐⭐⭐⭐⭐ [横跨三大多轮评测基准、三大模型家族及不同规模开源/前沿生成底座,涵盖全方位消融与人工盲评]
- 写作质量: ⭐⭐⭐⭐⭐ [问题剖析直击传统合成方案的根本病灶,阶段划分与图示形式化定义极其清晰严谨]
- 价值: ⭐⭐⭐⭐⭐ [彻底开源了生成管线、合成图谱与对话数据集,为业界训练商业可用、可控的高性能多轮工具调用 Agent 提供了坚实基础设施]