Self-Compacting Language Model Agents¶
会议: NeurIPS 2026
arXiv: 2606.23525
论文: https://arxiv.org/abs/2606.23525
代码: https://github.com/tianjianl/selfcompact
领域: LLM Agent
关键词: 上下文压缩, 智能体支架, 上下文腐烂, 自适应压缩, KV缓存复用
一句话总结¶
提出无需微调的自适应上下文压缩支架 SelfCompact，通过在周期探测点引入轻量级规则评审探针与内联压缩工具，让大模型自主判断子任务完结节点并压缩历史轨迹，在显著降低长程交互 Token 成本的同时提升数学推理与智能体搜索精度。
研究背景与动机¶
随着大语言模型在长程复杂任务中的深入应用，模型生成的推理与交互轨迹急剧增长。在竞赛数学推演中，前沿模型动辄生成数万甚至近十万 Token 的思维链；在深度搜索与代码智能体任务中，轨迹更涵盖跨越数十至上百轮的搜索结果、代码执行输出和中间状态。然而，持续膨胀的单滚动上下文伴随着沉重的代价：早期探索中产生的错误分支、失效工具调用和过时假设会在上下文中持续堆积，产生强烈的认知锚定效应（contextual drag），导致模型在后续步骤中被过时的无效信息误导，即所谓的“上下文腐烂”（context rot）。
现有工业界与学术界主流系统多采用基于硬性阈值的刚性启发式压缩策略，如在消耗达到预设固定 Token 间隔（如上下文容量的 30%）或固定轮次时强制触发截断或总结。这种机制对轨迹内在的推理语义与逻辑结构完全盲目：它无法区分模型当前是处于推导正酣的关键半途中，还是刚刚彻底解决了一个子问题；亦无法分辨模型是在迷茫试错还是正在快速收敛。这种盲目性导致严重的非对称代价——一次糟糕时机的强制压缩往往会直接清除模型推导后续步骤所需的关键半成品，迫使模型退化为随机猜测。而将压缩判定完全交给模型自由调用工具，在缺乏外部微调的开源模型上也极易引发无序触发或拒不压缩等失常行为。
为了化解长程交互中“上下文腐烂”与“粗暴截断丢失关键信息”之间的核心矛盾，本文提出将何时压缩的元认知决策权交回给模型本身，但为其配备显式的推理边界判定准则。核心 idea：构建无需参数微调的自适应压缩支架 SelfCompact，将内联总结工具与轻量级基于规则（rubric）的验证探针配对，利用原模型在保留的 KV Cache 上低开销地自评子任务收敛状态，实现“闭合推理单元”边界的自适应精准压缩。
方法详解¶
整体框架¶
SelfCompact 围绕长程自回归智能体的交互轨迹展开，核心在于将原本对状态无感知的“定时器压缩”转变为由轨迹语义驱动的“自适应事件触发压缩”。整个系统在单一模型引擎上运行，无需任何外部分类器或参数微调。智能体正常执行任务（如数学推导或 ReAct 风格的搜索交互），系统每隔固定的探测周期（如数学任务中的固定 Token 步长，或智能体搜索中的工具交互轮数），在保留当前轨迹 KV 缓存的前提下，向上下文末尾追加一段结构化的轻量评审规则探针（Rubric Probe）。
模型自身根据规则对当前轨迹做出二元判定：如果子任务尚未解决或正处于推导中间态，判定为继续探索（continue），支架直接弹出探针消息并恢复无缝推理；若判定当前已解决明确子目标或获得可信事实，判定为应当压缩（compress），支架则追加总结指令让模型提炼出紧凑摘要，并以“原始问题 + 紧凑摘要”重置上下文作为后续生成的新前缀。整个流程构成了紧凑高效的“探索–评审–压缩–续航”自闭环回路。
%%{init: {'flowchart': {'rankSpacing': 24, 'nodeSpacing': 28, 'padding': 6, 'wrappingWidth': 400}}}%%
flowchart TD
A["输入任务与提示词"] --> B["自回归交互与推理生成"]
B --> C{"到达探测间隔？"}
C -->|否 / 未达步长| B
C -->|是| D["轻量级规则评审探针<br/>复用 KV 缓存评估闭合单元"]
D --> E{"判定结果 rt"}
E -->|continue 继续探索| F["探针回退与无损续航<br/>弹出评审消息并恢复生成"]
F --> B
E -->|compress 触发压缩| G["内联总结工具执行<br/>追加指令提炼紧凑摘要"]
G --> H["前缀硬重置与上下文更新<br/>问题结合摘要开启后续探索"]
H --> B关键设计¶
1. 规则驱动的元认知评审机制：消除盲目截断与失控调用的元认知鸿沟
若仅单纯向开源模型暴露 <summarize> 总结工具，模型因缺乏对自身上下文健康度的内在感知，极易在无用阶段盲目滥用工具，或在上下文严重腐烂时依然拒不压缩。为此，SelfCompact 引入了轻量级、无需微调的评审探针（Rubric Probe）。该探针通过显式的结构化规则规范触发时机：明确规定当且仅当“当前子任务已明确解决”或“搜索轨迹已收敛并提炼出核心事实”时允许判定为 compress；而在“推导正处于核心半途中”或“遇到死胡同仍未得出有效进展”时强制判定为 continue。模型在输出 compress 判定时必须引用轨迹中的逐字文本作为证据。这种设计将模糊的元认知自省具象化为局部的文本状态验证，显著抑制了过早删除关键中间推导信息的风险。
2. 探针回退与无损续航：基于原语弹出实现零干扰轨迹保持 在智能体持续探索过程中，评审探针仅作为一种临时的决策测量工具，绝不能污染模型主线的长期记忆或改变正常的交互分布。当探测周期触发且模型返回 continue 判决时，SelfCompact 支架会立即执行上下文弹出操作：通过连续调用 \(\text{pop}(\mathcal{C}, r_t)\) 与 \(\text{pop}(\mathcal{C}, P_R)\)，将评审输入提示词及其对应的判定输出从上下文 \(\mathcal{C}\) 中彻底移除，使上下文完全恢复为未受探针扰动的纯净轨迹 \((x, y_{1:t})\)。这种探针隔离机制确保了模型在未达到良好压缩时机时能够完全保持原始思路与连续注意流，避免了因频繁插入系统质询带来的认知断裂。
3. 前缀硬重置与高效 KV Cache 复用：以不对称计算实现极致推理效率 在底层推理系统层面，常规上下文管理或外部模型介入常导致高昂的重新预填充（re-prefill）开销。SelfCompact 充分利用自回归注意力机制的 KV Cache 特征：评审探针 \(P_R\) 与总结指令 \(P_S\) 均以追加的用户消息角色接入上下文末尾，使得原轨迹 \(y_{1:t}\) 的前缀 KV 缓存得以 \(100\%\) 原样复用，避免了 \(\mathcal{O}(L^2)\) 的全序列重新编码，每次评审仅需极低开销输出约数十个 Token 的判定。只有在真正触发 compress 时，模型才生成长度为 \(\ell \ll L\) 的紧凑摘要 \(\tilde{y}\)，随后执行前缀重置 \(\mathcal{C} \leftarrow x \circ \tilde{y}\)。后续的所有交互生成均以此极短的前缀为基底计算注意力，在长程搜索轨迹中实现了 \(20\times \sim 80\times\) 的上下文缩减，极大摊薄了整体推理成本。
损失函数 / 训练策略¶
SelfCompact 是一种纯推理阶段（Inference-time）的系统级支架方案，无需对大语言模型进行任何监督微调（SFT）或强化学习（RL）训练。评测中部署的所有开源模型（包括用于数学推理的 Qwen 系列与用于长程搜索的 GLM、MiniMax、MiMo 系列）均保持原生检查点权重不变。探针决策与摘要生成均复用当前主模型本身完成，展现出极强的即插即用特性。
实验关键数据¶
主实验¶
论文在竞赛数学推演（IMO-Answerbench、HMMT Nov 2025、HMMT Feb 2026）及深度智能体长程搜索（BrowseComp、BrowseComp-Plus、DeepSearchQA）两大场景共 6 个基准、7 种主流开源模型上展开全面评估。
在竞赛数学基准上，各模型在等效 Token 预算下的表现如下表所示（括号内为每题平均消耗 Token 数）：
| 模型 | 方法 | IMOBench | HMMT Nov 25 | HMMT Feb 26 | 平均准确率 (%) |
|---|---|---|---|---|---|
| Qwen3-4B-Instruct | 无压缩 [16k] | 38.9 | 40.8 | 36.5 | 38.7 |
| Qwen3-4B-Instruct | 固定间隔压缩 [44k] | 41.4 | 44.0 | 39.2 | 41.5 |
| Qwen3-4B-Instruct | SelfCompact (本文) [48k] | 45.5 | 47.8 | 42.1 | 45.1 |
| Qwen3-30B-A3B-Instruct | 无压缩 [16k] | 45.2 | 54.7 | 51.9 | 50.6 |
| Qwen3-30B-A3B-Instruct | 固定间隔压缩 [26k] | 48.7 | 57.3 | 58.7 | 54.9 |
| Qwen3-30B-A3B-Instruct | SelfCompact (本文) [29k] | 52.1 | 59.4 | 57.6 | 56.4 |
| Qwen3.5-9B (思维链禁用) | 无压缩 [16k] | 25.0 | 38.2 | 34.2 | 32.5 |
| Qwen3.5-9B (思维链禁用) | 固定间隔压缩 [90k] | 33.4 | 42.1 | 44.9 | 40.1 |
| Qwen3.5-9B (思维链禁用) | SelfCompact (本文) [93k] | 41.4 | 48.2 | 52.3 | 47.3 |
| Qwen3.5-4B (思维链禁用) | 无压缩 [16k] | 16.9 | 26.4 | 22.5 | 21.9 |
| Qwen3.5-4B (思维链禁用) | 固定间隔压缩 [64k] | 27.4 | 35.5 | 29.1 | 30.7 |
| Qwen3.5-4B (思维链禁用) | SelfCompact (本文) [67k] | 34.1 | 37.4 | 30.0 | 33.8 |
在深度智能体搜索任务中，SelfCompact 在显著提高任务胜率的同时实现了 30%～70% 的每题成本骤降：
| 智能体模型 | 上下文管理方案 | BrowseComp 准确率 / 成本($) | BrowseComp-Plus 准确率 / 成本($) | DeepSearchQA 准确率 / 成本($) | 全局平均准确率 / 成本($) |
|---|---|---|---|---|---|
| GLM-4.7-Flash | 无压缩基线 | 30.1% / $0.14 | 45.6% / $0.12 | 34.2% / $0.13 | 36.6% / $0.13 |
| GLM-4.7-Flash | 固定间隔压缩 (30%阈值) | 35.4% / $0.06 | 50.0% / $0.04 | 39.1% / $0.05 | 41.5% / $0.05 |
| GLM-4.7-Flash | 保留最后N轮 (Keep-last-N) | 33.5% / $0.05 | 51.4% / $0.03 | 38.8% / $0.04 | 41.2% / $0.04 |
| GLM-4.7-Flash | SelfCompact (本文) | 41.2% / $0.10 | 54.1% / $0.04 (-67%) | 44.0% / $0.07 | 46.4% / $0.07 (-46%) |
| MiniMax-M2.5 | 无压缩基线 | 47.2% / $0.19 | 62.0% / $0.19 | 52.0% / $0.19 | 54.6% / $0.19 |
| MiniMax-M2.5 | 固定间隔压缩 (30%阈值) | 55.3% / $0.07 | 65.9% / $0.04 | 56.7% / $0.06 | 59.3% / $0.06 |
| MiniMax-M2.5 | SelfCompact (本文) | 59.3% / $0.09 | 71.2% / $0.07 (-63%) | 61.3% / $0.08 | 63.9% / $0.08 (-58%) |
| MiMo-V2-Flash | 无压缩基线 | 42.7% / $0.27 | 57.6% / $0.24 | 46.5% / $0.25 | 48.9% / $0.25 |
| MiMo-V2-Flash | 固定间隔压缩 (30%阈值) | 51.6% / $0.14 | 60.2% / $0.14 | 52.3% / $0.14 | 54.7% / $0.14 |
| MiMo-V2-Flash | SelfCompact (本文) | 57.9% / $0.11 | 62.9% / $0.16 (-33%) | 56.8% / $0.13 | 59.2% / $0.13 (-48%) |
消融实验¶
为验证规则引导在上下文压缩判定中的关键性，论文在智能体搜索（GLM-4.7-Flash）与竞赛数学（Qwen3-4B-Instruct）上进行了有无规则的对比消融：
| 模型与配置 | BrowseComp | BrowseComp-Plus | DeepSearchQA | 平均准确率 (%) | 说明 |
|---|---|---|---|---|---|
| GLM-4.7-Flash (无压缩) | 30.1 | 45.6 | 34.2 | 36.6 | 无长程管理，受上下文腐烂严重拖累 |
| GLM-4.7-Flash (固定间隔压缩) | 35.4 | 50.0 | 39.1 | 41.5 | 盲目定时压缩，常抹去半成品推导 |
| GLM-4.7-Flash (SelfCompact 去除规则) | 33.6 | 51.9 | 37.6 | 41.0 | 仅提供压缩工具，模型调用时机失常退化 |
| GLM-4.7-Flash (完整 SelfCompact) | 41.2 | 54.1 | 44.0 | 46.4 | 规则引导模型在闭合推理单元精准压缩 |
在 Qwen3-4B-Instruct 于 IMOBench 上的消融显示类似趋势：完整 SelfCompact 达到 45.5%，而去除规则仅保留自主工具调用时性能骤降至 40.9%，甚至低于硬性固定间隔的 41.4%。
关键发现¶
- 规则指引是自适应压缩的灵魂：单纯为模型配备总结工具并不能自发产生良好的压缩行为。去除规则后，性能平均暴跌 5.4 个百分点，跌落至与朴素固定间隔相当甚至更差，证实大模型自身无法天然辨别上下文腐烂的转折点，必须由显式规则赋能。
- 固定间隔压缩的负向毁损率高：通过对 12 次固定间隔压缩调用的状态转移审计，发现虽有 1486 次转移将错误答案修正为正确，但高达 1009 次（占总转移的 40.4%）将原本正确的中间结论洗掉而转为错误。理想 Oracle 抑制策略可达到 52.9% 的准确率，说明避免“坏时机压缩”拥有巨大收益空间。
- 难题上的增益尤为显著：将任务按消耗 Token 难度划分为五等分区间分析表明，在简单题目上不同压缩策略差异微弱；但在长程探索、容易积累庞大上下文的最难区间（Hardest Bins）中，SelfCompact 相比固定阈值策略稳定取得 5～20 个百分点的绝对增益。
亮点与洞察¶
- 训练无关的推理期元认知注能：无需付出昂贵的多阶段强化学习或数据蒸馏代价，仅凭一段结构化规则探针，即可在原生开源模型上激发精准的自适应上下文管理能力，展示了支架工程在释放前沿模型长程推理潜能上的极高上限。
- KV 缓存感知的高性价比探针架构：探针与总结均设计为基于上下文尾部的追加消息，不仅保证探针评估零污染，更最大化利用前缀 KV Cache 命中，打破了“增加推理自省步骤必然大幅拉高 Token 账单”的传统思维。
- 对闭合推理单元（Closed Reasoning Units）的明确刻画：突破了单纯依赖 Token 计数或轮数的统计学物理指标限制，将上下文压缩的时机同认知层面的“子任务收敛”与“事实确认”深度绑定，为长程智能体记忆系统的演进提供了范式指引。
局限与展望¶
- 前沿模型与开源模型的认知鸿沟检验受限：目前验证均基于开源模型，而具备更强自省能力的前沿闭源大模型（如 Claude 4.7、GPT-5.5 等）是否仍然依赖外部规则引导，尚待跨生态验证。
- 未结合强化学习策略内化：当前规则作为静态前缀介入，未来可通过 RL 将规则背后的决策准则直接内化提炼至模型权重内部，实现隐式无需提示词的零开销自压缩。
- 单轮摘要上限带来的跨度压缩损失：对于极其复杂、跨越数十万 Token 的超级任务，单次文本摘要可能逐渐演变为信息瓶颈，结合层级化记忆或结构化知识图谱是未来自然演进方向。
相关工作与启发¶
- vs ReasoningCache / InftyThink / ReSum: 现有学术推理缓存方案普遍在固定的 Token 阈值下强制触发轨迹提炼，容易在模型推理中途误杀中间变量。本文通过规则自适应判决，将压缩精确锚定在子任务收敛点，避免推导断层。
- vs 纯 RL 训练压缩（如 Memento / Motif）: 依赖复杂的在线强化学习训练策略让模型学习何时压缩，训练成本高昂且策略迁移困难。本文证明在推理阶段使用轻量规则支架完全能以零训练成本达成甚至超越其压缩效果。
- vs 纯底层 KV 缓存驱逐（如 SnapKV / StreamingLLM）: 底部注意力剪枝输出不可解释且无法被模型符号化覆写；本文采用自然语言可读、语义透明的摘要表征，兼顾计算削减与推导逻辑的可审计性。
评分¶
- 新颖性: ⭐⭐⭐⭐⭐ 首次提出以规则引导的免微调自适应长程轨迹压缩机制，设计优雅。
- 实验充分度: ⭐⭐⭐⭐⭐ 覆盖竞赛数学与智能体搜索两大主阵地，涵盖 7 种开源模型及详细的 Token 计费审计。
- 写作质量: ⭐⭐⭐⭐⭐ 动机阐述深刻，对上下文腐烂机制与固定压缩失败模式的剖析极具说服力。
- 价值: ⭐⭐⭐⭐⭐ 为长程智能体部署降本增效提供了即插即用的工业级落地指导方案。