Grounding Agent Memory in Contextual Intent¶

会议: ACL 2026
arXiv: 2601.10702
代码: https://contextual-intent.github.io/ (有)
领域: LLM Agent / 记忆系统
关键词: 长程记忆、agent、contextual intent、Event Structure Theory、retrieval cue

一句话总结¶

STITCH 为 LLM agent 的长程记忆引入"contextual intent"（主题域 + 事件类型 + 关键实体类型）三元组作为结构化检索 cue，在每条 trajectory step 上在线归纳；推理时按"标签密度排序"先做结构匹配再做语义打分，在新构建的 CAME-Bench 上随 trajectory 增长不掉点，比最强 baseline 在 Large subset 上提升 35.6% 绝对（100% 相对）。

研究背景与动机¶

领域现状：LLM agent 被部署到长程任务（多轮人机协作、deep research、tool-augmented 自主环境），需要在数十到数百步 trajectory 里跟踪状态、消解隐式引用、整合多步信息。现有 agentic memory 系统主要有三类：(i) 向量 RAG（embedding 相似度检索）；(ii) hierarchical summarization (RAPTOR, Secom)；(iii) 知识图谱式 (GraphRAG, A-mem)。

现有痛点：(1) embedding 相似 ≠ 上下文相关——"Day 1 的酒店价格"和"Day 2 的酒店价格"语义几乎相同但答案完全不同；(2) summarization 抹掉 episode 边界——相邻段被合并，但同一目标可能跨非相邻段持续（"Day 2 itinerary"散落在多段中间被打断）；(3) knowledge graph 缺 episode 级 disambiguation——同一 entity 在不同 latent goal 下被反复提及，被合并到同一节点；(4) long-context LLM (GPT-5-mini 400k, Gemini 2.5) 超过窗口后失效，实时检索开销大。

核心矛盾：长程 trajectory 里很多 step 在语义上相似但在上下文上截然不同，检索的瓶颈不是召回更多内容，而是"cue quality"——什么样的索引能在 noisy 历史中精准捞回正确的上下文片段。

本文目标：(1) 设计一个 domain-agnostic 的结构化检索 cue，能同时(a) 把非相邻的同目标段连起来、(b) 把同实体的不同 occurrence 按角色区分开；(2) 构造一个能真正考察"context-aware 检索"的 benchmark，而非现有基准里 turn-taking + 主题块的"局部检索"陷阱。

切入角度：借鉴认知科学的 Event Structure Theory (Zacks & Tversky 2001) ——人类回忆长程经验时按 (i) 上位 goal context (partonomy) 和 (ii) 重复出现的 action 类别 (taxonomy) 来组织记忆，再用 entity 角色锚定细节。

核心 idea：把每一步用三元组 \(\iota_t = (\sigma_t, \epsilon_t, \kappa_t)\) 索引——thematic scope（episode 段标签）+ event type（操作类别）+ key entity types（属性 schema），推理时先按 label 重合度排序、再按语义打分。

方法详解¶

整体框架¶

STITCH 分两阶段： 1. Contextual Intent Construction（图 2 左）：对流式 trajectory \(T = \{s_1, \dots, s_n\}\)（每个 step \(s_t = (r_t, a_t, \tau_t)\)），在线诱导三个 cue —— \(\sigma_t\) thematic scope、\(\epsilon_t\) event type、\(\kappa_t\) key entity types。三者合成 \(\iota_t = (\sigma_t, \epsilon_t, \kappa_t)\)，再做 coreference resolution 把 \(s_t\) 改写成消歧后的 \(s'_t\)，最终生成 memory snippet \(m_t = (s_t, \iota_t, c_t)\) 入库，其中 \(c_t = \mathcal{M}_{\text{sum}}(s'_t, \iota_t)\) 是 LLM 写的 canonical summary。 2. Intent-Aware Retrieval（图 2 右）：query \(q\) 来时，LLM 生成 filter \(F_q = (\mathcal{S}_q, \mathcal{E}_q, \mathcal{K}_q)\)，按"label density"（snippet \(\iota_t\) 与 \(F_q\) 的 overlap cardinality）做主排序，相同 density 内再按 semantic similarity \(\text{sim}(q, c_t)\) tie-break，最后 top-\(k_{\text{retrieve}}\) 返回（实验中 \(k_{\text{retrieve}}=40\)）。

关键设计¶

Thematic Scope (\(\sigma_t\)) —— 跨步追踪 latent goal:
- 功能：把 trajectory 切成"behavior episode"，每个 episode 标一个稳定的段名（如 "Day 2 Itinerary"、"Model Optimization"）。同一 episode 内 step 共享 scope，直到 LLM 检测到 goal-state divergence 才换新 scope。
- 核心思路：用滑窗 \(H_{\text{scope}}\) 历史 + 上一个 scope 喂给 LLM predictor \(\sigma_t = \mathcal{M}_{\text{scope}}(s_t, H_{\text{scope}}, \sigma_{t-1})\)。同时维护一个压缩 summary \(\Sigma_\sigma\) 保留当前 scope 的"gist"喂给后续预测，防止 context 爆炸。窗口默认 50 turn，作者实验过 10 / 100 都会变差。
- 设计动机：消融（表 2）显示去掉 \(\sigma_t\) 是最致命的损失——STITCH 在 Small subset 上 F1 从 0.844 跌到 0.463 (-38 个点)。原因：scope 能把"Day 1 酒店价"和"Day 2 酒店价"这种近似事实强行分到不同段，让 retrieval 自然 disambiguate；没有它则只能靠语义相似度，必然挑错段。
Taxonomic Event Labeling (\(\epsilon_t\)) —— 动态演化的 action 词表:
- 功能：给每个 step 标一个 action label（"searching"、"comparing"、"booking"、"Hyperparameter Tuning"、"Price Inquiry"），label 词表 \(\mathcal{V}_\epsilon\) 在线扩张。
- 核心思路：第一阶段在 \(N_{\text{start}}=50\) 步上零样本生成 seed vocabulary；之后每来一个 step 先做语义 retrieval 选 top-\(k_{\text{event}}=5\) 候选 label 喂给 LLM 选最佳：\(\epsilon_t = \mathcal{M}_{\text{label}}(s_t, \text{Retrieve}(\mathcal{V}_\epsilon, s_t, k_{\text{event}}))\)。无合适 label 就引入新词。每 \(k_{\text{update}}=50\) 步做一次 vocabulary 合并（近义 label 合并）。
- 设计动机：跨 scope 复用——同样是 "Booking" action 可能出现在 "Day 1" / "Day 2" / "Day 3" 多个 scope 里。但消融揭示一个 trade-off：去掉 \(\epsilon_t\) 在 Large F1 从 0.592 跌到 0.273 (-32 个点)，对 fine-grained 检索极有效；但对 Type 4 (Information Synthesis) 反而轻微伤害，因为 event 太细会把本应合在一起聚合的 step 分开。
Key Entity Types (\(\kappa_t\)) + Structural Coreference Resolution:
- 功能：抽出每个 step 需要的"属性类别"（"Metric" 而非具体数值，"Price"/"Rating" 而非具体酒店），作为 schema template 锚定哪些字段相关；用上面的 \(\sigma_t, \epsilon_t\) 把 "Book it." 这种 pronoun 改写成 "Book Apollo Hotel"。
- 核心思路：\(\kappa_t = \mathcal{M}_{\text{entity}}(s_t, \mathcal{V}_\kappa)\)，\(\mathcal{V}_\kappa\) 同样在线扩张+周期合并。Coreference 时检索同 scope + 兼容 event type 的历史 step 组成 \(C_{\text{align}}\)，让 LLM 改写 \(s'_t = \mathcal{M}_{\text{rewrite}}(s_t, C_{\text{align}})\)。
- 设计动机：(i) entity type 而非 entity instance 让 schema 跨 domain 通用；(ii) coreference 必须在存储之前完成，否则后续 retrieval 拿到的是带"it"的歧义 snippet，再消歧成本更高。消融显示去掉 coreference 在 Large F1 从 0.592 跌到 0.404 (-19 个点)，验证"先消歧再存储"的必要性。

损失函数 / 训练策略¶

完全 training-free——所有 intent construction 和 retrieval 都用 gpt-5-mini 默认 reasoning effort 推理。
超参：\(N_{\text{start}}=50\), \(k_{\text{update}}=50\), \(k_{\text{retrieve}}=40\), \(k_{\text{event}}=5\)；retrieval token budget = 4096（公平对比）。
LLM-as-judge 用 gpt-4.1-mini (temp=0)。

实验关键数据¶

主实验¶

CAME-Bench (新构建) + LongMemEval + LoCoMo 综合表（关键列）：

方法	CAME-S F1	CAME-M F1	CAME-L F1	LongMemEval Acc-O	LongMemEval Acc-S	LongMemEval Acc-M	LoCoMo Acc
DeepSeek V3.1 (128k)	0.228	0.010	0.000	0.620	0.240	0.267	0.587
GPT-4.1-mini (1M ctx)	0.712	0.362	0.213	0.720	0.200	0.067	0.682
GPT-5-mini (400k ctx)	0.804	0.566	0.212	0.860	0.820	0.533	0.811
text-embedding-3-large RAG	0.317	0.168	0.195	0.800	0.800	0.267	0.661
RAPTOR	0.329	0.117	0.139	0.680	0.480	0.467	0.671
GraphRAG	0.371	0.165	0.156	0.820	0.840	0.667	0.648
HippoRAG 2	0.390	0.191	0.186	0.820	0.800	0.667	0.725
A-mem	0.376	0.196	0.186	0.780	0.740	0.667	0.731
Secom	0.501	0.114	0.236	0.520	0.580	0.600	0.640
STITCH (Ours)	0.844	0.682†	0.592†	0.860	0.860	0.800	0.703

†: 配对 t-test vs. 该 subset 最强 baseline, \(p < 0.05\)。

关键 scaling 现象：从 Small (\(N=144\)) → Medium (\(N=168\), ~6× 长度) → Large (\(N=61\), ~17× 长度)，所有 baseline 急剧塌方（GPT-5-mini F1 从 0.804 → 0.566 → 0.212），STITCH 几乎不掉（0.844 → 0.682 → 0.592），在 Large 上比最强 baseline 高 35.6% 绝对（约 100% 相对）。

消融实验¶

配置	CAME-S F1	CAME-M F1	CAME-L F1	说明
STITCH (full)	0.844	0.682	0.592	完整
w/o thematic scope \(\sigma_t\)	0.463	0.257	0.213	掉幅最大——scope 是核心
w/o event type \(\epsilon_t\)	0.753	0.527	0.273	Large 上掉 32 个点
w/o coreference	0.578	0.489	0.404	不消歧→snippet 含 "it"
w/o key entity type \(\kappa_t\)	0.735	0.511	0.458	实体角色 anchoring 重要

错误模式分析（表 3）：question-time label 选择失败 78.4% 是 "Non_Inducible_Label"（问题本身信息不足以推出正确 label），71.8% 是 "Granularity_Mismatch"（标签太粗或太细）。

关键发现¶

Thematic scope 比 event type 和 entity type 都更关键——这与认知科学 Event Structure Theory 一致：人类回忆首先按 episode/goal 索引，再按 action / entity 细分。
STITCH 的优势随 trajectory 长度指数放大：Small subset 上和 GPT-5-mini 几乎平手，Medium 上 +11.6% F1，Large 上 +37 个点 F1，证明 intent-aware 索引解决的是"长度"而非"难度"的瓶颈。
Long-context LLM 在 Large 上灾难："lost in the middle" 现象——GPT-5-mini 在 Large subset F1 仅 0.212，连 STITCH 的 1/3 都不到，长 context 不能替代结构化记忆。
Granularity trade-off 是开放问题：fine-grained event 利于 Type 2 (factual recall)，但伤害 Type 4 (information synthesis)；作者建议未来用 hierarchical label space 而非单层。
跨 backbone 稳定：换成 gpt-4o-mini / gpt-4.1-mini，STITCH 仍稳定超 Secom 和 long-context 基线，证明收益来自方法本身而非特定模型。
CAME-Bench 暴露了现有 benchmark 缺陷：LongMemEval / LoCoMo 上多数 baseline 已接近 saturation（0.7-0.8 acc），但在 CAME-Bench Large 上 F1 跌到 0.2 以下，说明现有评测低估了 long-horizon context tracking 的难度。

亮点与洞察¶

认知科学 → 工程化的清晰映射：Event Structure Theory 的"partonomy + taxonomy + figure"三元组直接对应 thematic scope + event type + entity type，给"为什么这三个 cue 而不是别的"提供了原则性回答，比"凭直觉设计 schema"更稳。
Label density 排序的简单优雅：先按"满足多少个结构约束"排序，再按语义打分 tie-break。这种"硬过滤 + 软排序"的两阶段策略避免了把结构匹配和语义相似度盲目相加导致的相互稀释，是个直接可复用的 retrieval pattern。
在线 dynamic vocabulary：所有 label 词表都是从数据里 inductive 长出来 + 周期合并，没有任何 domain ontology，让方法天然跨 domain（travel + debate + general dialogue 都直接 work）。这种"自展开 schema"思路可迁移到任何需要结构化但不愿手工标 ontology 的场景。
Coreference 必须在存储之前：把 "Book it" 改写成 "Book Apollo Hotel" 后再入库，让后续 retrieval 拿到的永远是 grounded 的 canonical form，避免了"先存歧义、再现场消歧"的复合误差。这一原则对所有 agentic memory 系统都适用。
CAME-Bench 的"四问题类型"设计：Incremental Memory Revision / Context-Aware Factual Recall / Context-Aware Multi-Hop Reasoning / Information Synthesis 这四类把"长程记忆"拆得很干净，未来 benchmark 设计可以直接复用这套 taxonomy。

局限与展望¶

ingestion 成本高：每个 step 要跑多次 LLM call（scope 推断、event 选择、entity 提取、coreference rewrite、summary 生成），比纯 embedding-based memory 慢一个数量级；作者明确把这当 trade-off。
Granularity 是"单层 flat"：event 词表非层级，导致 fine vs coarse 二选一；synthesis 类问题受损。作者建议未来引入 hierarchical schema。
buffered update 引入小延迟：\(k_{\text{update}}=50\) 意味着新 event type 形式化要等 50 步，对快速变化的 domain 略滞后。
依赖强 LLM 做 intent 推断：所有 backbone 都是 gpt-mini 系列，开源小模型上能否一样稳没验证；当 LLM 误判 scope boundary 时整条 trajectory 的索引都会偏。
label 选择失败模式 78% 是 "non-inducible"：意味着 query 本身不带足信息推 label，未来可考虑"deferred label refinement"——query 时不强行选 label，让 ranking 阶段做软匹配。
改进思路：(i) 分层 event taxonomy（粗→细两层）同时支撑 filter 和 synthesis；(ii) 用小模型做 scope/event 预测降本；(iii) 引入 user-controlled 编辑接口让人工矫正错误索引；(iv) 探索 multi-modal 扩展，把视觉/音频 step 也纳入同一 intent schema。

评分¶

新颖性: ⭐⭐⭐⭐⭐ Contextual intent 三元组的设计 + 认知科学的清晰映射 + 在线 dynamic schema 三件套高度原创，CAME-Bench 也填补了 benchmark 空缺。
实验充分度: ⭐⭐⭐⭐⭐ 3 benchmark × 13 baseline × 4 ablation 配置 × 跨 backbone × 错误分析 × 段长度敏感性，能想到的 sanity check 都做了。
写作质量: ⭐⭐⭐⭐ Figure 1 把"长程记忆"的 4 能力轴拆得非常清晰，Method 部分公式 + 直观解释并行；只是 CAME-Bench 部分的具体 question 例子被放进 Appendix，主文略难想象数据形态。
价值: ⭐⭐⭐⭐⭐ 给所有想做 long-horizon agent 的工业方一个 drop-in 的 memory 方案，开源代码 + benchmark；对 deep research / 多轮助手 / tool-use agent 都有直接落地价值。