TALES: Text Adventure Learning Environment Suite¶

会议: NeurIPS 2026
arXiv: 2504.14128
代码: https://microsoft.github.io/tale-suite
领域: 大模型推理
关键词: 文本冒险游戏, 复合推理能力, 序贯决策, 智能体评估, 零样本基准

一句话总结¶

提出了统一 5 个主流文本冒险环境、涵盖 122 款游戏的评测基准 TALES，并在最小脚手架设定下全面评估了 34 个主流 LLM 的空间、演绎、归纳与具身接地复合推理能力。

研究背景与动机¶

大语言模型在序贯决策任务中的核心瓶颈在于：随着动作轨迹的拉长，环境因果约束愈发严格，任何单一推理维度的失效都会在后续交互中迅速级联并导致任务崩溃。文本冒险游戏作为典型的强约束具身文本环境，因具有超长依赖路径、高维动作空间及严密的因果关系，历来是检验智能体复杂推理能力的试金石。然而，过去的研究要么局限于单个子框架，要么引入过多领域专家知识与外部结构脚手架（如显式规则注入、动作集过滤），甚至刻意裁剪游戏探索规模以换取较高的基准跑分，从而掩盖了模型自身原生的真实推理水平。

构建通用的交互式智能体不仅需要语言理解，更需要同时调动空间推理（环境拓扑与路径搜索）、演绎推理（遵循通用常识推导动作）、归纳推理（从探索和系统反馈中提炼未知动态规则）以及具身接地推理（从漫长历史中筛选与当前局势强相关的线索并执行可行动作）。在这类长程交互环境中，由于缺少显式提示，模型必须在无外界专家先验辅助的真实环境下进行自主试错与探索。

为了真正还原并严谨度量前沿模型在零先验环境下的纯粹推理能力，本文遵循 ECBD 基准构建范式，系统整合了合成规则与人类文学撰写的全谱系交互文本游戏。核心 idea：构建最小脚手架约束的统一文本冒险基准 TALES，通过四大核心推理能力协同评测与全新的 Simon Says 基础能力试金石，揭示前沿模型在人类长程谜题中推理崩溃的根本原因。

方法详解¶

整体框架¶

TALES 将 5 大经典文本环境（TextWorld、TextWorldExpress、ALFWorld、ScienceWorld 以及 Jericho）统一封装在标准化的文本交互接口下，共涵盖 122 款测试游戏。整个系统在 zero-shot 和纯原生提示设定下运行，直接将当前环境文本观察作为用户输入，模型预测简短动作短语，环境引擎反馈观察、错误信号或得分奖励。为了测试智能体是否具备挑战长程任务的最基础指令跟随与记忆能力，TALES 额外引入了 Simon Says 测试套件作为初筛试金石。

%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
    A["环境观察与历史轨迹"] --> B["Simon Says 基础指令与记忆初筛"]
    B -->|通过基线阈值| C["多环境统一文本交互套件 TALES"]
    C --> D["四大核心推理能力协同解耦"]
    D --> E["极简脚手架评测与错误级联归因"]
    E --> F["动作输出与环境反馈执行"]

关键设计¶

1. Simon Says 基础指令与记忆初筛：长程复合推理的准入试金石

在进入庞大复杂的开放世界文本游戏之前，模型必须证明其具备最基础的确定性指令跟随与跨步记忆能力。作者在 TextWorldExpress 中构建了 Simon Says 游戏模式，分为基础版（单步复述指令）与带记忆版（在游戏开局一次性提供完整 walkthrough 专家演示步骤，后续步数必须严格按序逐步执行）。只要模型出现单次错序或错误指令，游戏即刻重置清零。该设计在逻辑上极为纯粹，近乎于经典的复制任务，但实验发现该任务难度极具区分度，且模型在带记忆 100 步版本上的得分与全套基准进阶表现高度相关（Pearson 相关系数高达 \(r = 0.83\)），成为筛除不合格决策基座的有效前置门槛。

2. 多环境统一文本交互套件 TALES：覆盖从全合成到人类文学级的梯度谱系

针对以往研究割裂评测的问题，TALES 将 5 个代表性框架在规范形式下完整统一。全套基准涵盖合成型 CookingWorld（TextWorld，10 个梯度关卡，需搜集食材并加工）、高性能高吞吐量模拟环境（TextWorldExpress，16 款游戏）、多模态纯文本退化版家居任务（ALFWorld，12 款任务，单手持物且极度缺乏有效反馈）、开放世界小学科学实验（ScienceWorld，30 项任务，路径非唯一且包含死锁状态），以及人类作家撰写的互动小说经典 Jericho（54 款长程复杂解谜游戏，步数跨度从 17 到 500+ 步）。各环境梯度递进，共同构成了全面覆盖不同因果复杂度与词法容错率的统一试炼场。

3. 四大核心推理能力协同解耦：系统剖析长程因果交互中的崩溃机理

TALES 显式解耦了交互决策所必需的四项复合推理能力： - 空间推理（Spatial Reasoning）：负责环境拓扑构建、图遍历、路径规划与回溯寻物； - 演绎推理（Deductive Reasoning）：根据预训练世界常识与既有逻辑规则，在不可逆或成本高昂的交互中预判可行性并排除干扰项； - 归纳推理（Inductive Reasoning）：通过环境探索与执行反馈，反向推断环境隐式物理机制（如工具限制、严格动词语法约束）并动态调整策略； - 具身接地推理（Grounded Reasoning）：对齐当前局势感知，在超长历史上下文中滤除无关噪声，精准提取当前状态的合法动作空间。

在这四大维度交织下，任何单维度的失误都会级联扩大：例如在 ALFWorld 中未能从“Nothing happens”的简陋报错中归纳出“一次只能拿一件物品”的隐式物理约束，就会彻底破坏后续的演绎与空间规划。

4. 极简脚手架评测与错误级联归因：剥离先验偏置的纯粹能力评测

不同于其他评测基准普遍为智能体注入动作候选列表、环境语法翻译器或手工设计的子目标拆解模块，TALES 采用极简 prompt，不提供任何人类专家先验与特定游戏规则提示。单局交互步数上限统一定为 100 步（Jericho 在 100 步内人类专家平均可达总分的 57%）。通过捕捉前沿模型在零专家先验下的纯原生行为轨迹，系统暴露出了三大通用缺陷：超长历史导致注意力稀释而产生的状态幻觉、隐式因果反馈归纳失败引发的循环动作死锁、以及即便具备参数化先验记忆（如预训练见过的 Zork1 通关攻略）也无法在动态环境下闭环落地的推理短板。

损失函数 / 训练策略¶

本论文为基准构建与评测分析工作，评测主体针对 34 个代表性开源与闭源前沿大模型在零样本（Zero-shot）设置下的表现。对于支持内置思维链的推理模型（如 Claude-3.7-Sonnet、o1、o3-mini、DeepSeek-R1、Gemini-2.5-Pro），均在原生提示下让其在每一步输出思考过程或动作；其中 DeepSeek-R1 采用两阶段串行查询策略（先生成 thinking trace，再生成 action 短语）。全部实验在温度系数 \(\tau = 0\) 下跨 5 个随机环境种子独立重复运行取均值与标准差。

实验关键数据¶

主实验¶

论文对 34 个主流 LLM 进行了大规模零样本评测，表 1 汇总了各环境框架的核心属性与代表性模型（包含通用零样本模型与推理模型）的平均得分对比。

环境框架	游戏数	平均攻略步数	详细错误反馈	纯合成环境	中间奖励机制	容错解析器	死锁状态	顶尖零样本得分 (Claude-3.5-Sonnet)	顶尖推理模型得分
TextWorld	10	13.70	是	是	是	是	有	95.5	100.0 (Gemini-2.5-Pro)
TextWorldExpress	16	33.06	是	是	是	否	有	81.6	91.8 (Gemini-2.5-Pro)
ALFWorld	12	5.83	否	是	否	否	无	75.0	83.3 (Claude-3.7-Sonnet)
ScienceWorld	30	41.67	是	是	是	是	有	82.3	80.1 (o1)
Jericho	54	87.15	是	否	是	是	有	9.6	13.4 (Gemini-2.5-Pro)

各代表性模型在全框架下的综合平均得分如下表所示（摘录自论文 Table 3）：

模型名称	TextWorld	TextWorldExpress	ALFWorld	ScienceWorld	Jericho	综合平均分 (Average)
Claude-3.7-Sonnet	97.3	91.3	83.3	76.5	12.5	52.5
Claude-3.5-Sonnet	95.5	81.6	75.0	82.3	9.6	50.4
Gemini-2.5-Pro (preview)	100.0	91.8	75.0	64.2	13.4	49.3
OpenAI o1	97.8	70.2	28.3	80.1	10.3	44.2
GPT-4o	83.6	80.6	56.7	61.4	5.6	40.6
Claude-3.5-Haiku	94.9	79.8	26.7	67.3	5.0	39.6
Llama-3.1-405B-Instruct	90.9	79.2	31.7	51.8	6.1	36.4
Qwen2.5-72B-Instruct	76.5	83.8	36.7	35.0	2.9	30.7
OpenAI o3-mini	83.2	61.1	11.7	48.4	4.5	29.9
DeepSeek-R1	37.1	38.6	0.0	15.8	1.0	12.4
Llama-3.1-8B-Instruct	29.7	50.3	0.0	15.7	2.3	13.9

消融实验与分析¶

针对模型在典型游戏中的长程记忆与鲁棒性表现，作者对 Simon Says 变体及典型环境各关卡进行了细粒度对比：

评估维度 / 任务设定	代表模型表现 (Score)	核心瓶颈与表现特征说明
Simon Says (基础版 10-100步)	绝大多数模型接近 100.0	单步直接跟随简单命令，几乎不考验状态转移，基模型普遍能够完成
Simon Says With Memory (100步)	Claude-3.7 (99.6), o1 (20.4), GPT-4o (100.0)	开局给出完整攻略，考验无提示长程轨迹执行；o1 因缺乏状态对齐经常单步出错直接导致游戏重置
ALFWorld 隐式反馈消融	顶尖模型成功率 75%~83%，中小型模型普遍为 0%	缺少视觉模态且报错仅有 "Nothing happens"，模型无法归纳出单手持物约束，频繁死锁在拿取目标物品前
Zork1 (人类解谜经典)	Claude-3.7 (最高分 < 30%), 满分基线 100 步可达 29.1%	即使思维链中频繁泄露 Zork 攻略知识，缺乏闭环接地仍导致 100 步内无法突破基础谜题（如黑暗 Grue 谜题）

关键发现¶

合成环境与人类互动小说的断崖式差距：顶尖模型在纯合成生成环境（TextWorld、TWX）中能取得 90~100 分的高分，但在专为人类心智设计、充满隐喻与长程因果逻辑的 Jericho 真实游戏库中，即使是综合最强的 Claude-3.7-Sonnet 和 Gemini-2.5-Pro 也仅仅取得 12.5~13.4 分（未达人类 100 步可达分数的四分之一），暴露出合成数据微调带来的虚假繁荣。
参数化记忆无法代替动态闭环推理：在 Zork1 测试中，Claude-3.7-Sonnet 的思考链中显式出现了大量通关文本片段，表明其训练语料中极可能包含完整攻略数据；但即使在数据泄漏的情况下，一旦实际交互中出现轻微状态偏离，智能体依旧无法建立稳健的空间拓扑与物体操作链条，陷入无意义的循环指令。
超长上下文导致归纳与接地衰减：在任务复杂度与步数大幅上升的 ScienceWorld 中，随着对话历史拉长，推理模型的思维链往往出现前后矛盾，抓取失败后直接放弃或陷入反复重置游戏的无限死循环。

亮点与洞察¶

评测设计剥离了繁杂的人工脚手架，以最纯粹的零专家先验形式对齐实际 API 调用场景，真实反映了 LLM 作为自治 Agent 的独立解决问题能力。
首创将经典的 Simon Says 改造为带记忆的长程决策单元测试，以极小代价（Pearson \(r=0.83\)）预先筛查出具备长程状态跟踪潜力的骨干模型。
深刻揭示了当前推理模型（Reasoning Models）在交互环境中的“思考-行动脱节”现象：静态思考过程看似严谨，但在面对稀疏或负向反馈时缺乏真正意义上的假设检验（Hypothesis Testing）与反思纠错能力。

局限与展望¶

实验受限于算力与 API 成本，单局交互强制截断在 100 步内，未能完全展现 Jericho 等长篇巨作（部分需要 500+ 步）后期的完整挑战，但这一截断仍足以展现当下的推理瓶颈。
推理模型的分析目前主要在单步抛弃旧思考痕迹的模式下进行，未来若引入显式外部记忆或持久化思维图谱，可能会改善长程一致性。
评测指标主要依赖游戏内建得分与通关率，尚未对每一条轨迹中四大推理维度的瞬时失效进行全自动量化切片。

评分¶

新颖性: ⭐⭐⭐⭐☆ 提出了首个整合 5 大经典环境的文本冒险统一基准，并设计了高预测性的 Simon Says 记忆初筛试金石。
实验充分度: ⭐⭐⭐⭐⭐ 涵盖 34 款前沿开源与闭源模型，横跨 122 款游戏，结合了详尽的质性轨迹分析与定量实验。
写作质量: ⭐⭐⭐⭐⭐ 叙述清晰流畅，问题动机深刻，对模型失败模式的归因切中长程决策痛点。
价值: ⭐⭐⭐⭐⭐ 为评测大模型在真实因果环境中的复合推理与长程规划提供了极其坚实且具有挑战性的评测标杆。