Don't Lose the Thread: Empowering Long-Horizon LLM Agents with Cognitive Resource Self-Allocation

📄 arXiv: 2610.40350v1 📥 PDF

作者: Zheng Zhu, Xiaozhuan Liang, Xi Chen, Bei Yu, Jiaya Jia

分类: cs.CL

发布日期: 2026-10-29

备注: Accepted at COLM 2026. Code is available at https://github.com/JIA-Lab-research/CORAL

💡 一句话要点

提出CORAL以解决长时间任务中的认知过载问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时间任务 认知资源管理 大型语言模型 推理能力 多轮次强化学习 智能体优化 上下文管理

📋 核心要点

  1. 现有的LLM智能体在长时间任务中面临认知过载的问题，导致推理和规划能力下降。
  2. 本文提出的CORAL方法通过自我分配认知资源，优化智能体的上下文管理，提升推理效率。
  3. 实验结果表明，CORAL在GAIA基准上实现42.8%的准确率，并在长时间任务中显著降低推理成本。

📝 摘要（中文）

基于大型语言模型（LLMs）的智能体在解决复杂推理任务方面取得了显著进展。然而，LLM智能体在长时间任务中常常因认知过载而表现不佳，工作记忆被无关信息淹没，导致注意力分散，影响有效的规划和推理。为此，本文提出了认知资源自我分配（CORAL）这一新颖的推理范式，使智能体能够主动优化其上下文。CORAL作为一个可调用的工作记忆管理工具集，允许智能体检查任务进度和已验证的事实，并通过重置混乱的上下文来适应性地启动新的问题解决过程，同时保留仅检查过的信息，从而使其能够从干净的状态恢复推理。在GAIA基准上，CORAL在8B模型下实现了42.8%的平均准确率，尤其在最具挑战性的长时间任务（Level 2和Level 3）上表现出显著提升。值得注意的是，这些提升伴随着显著降低的推理成本：CORAL的输入令牌消耗比ReAct智能体少6-7倍。它还在多跳知识问答基准和更具挑战性的BrowseComp上表现出良好的泛化能力，提升了一个强大的专有智能体8.0分。

🔬 方法详解

问题定义：本文旨在解决LLM智能体在长时间任务中因认知过载导致的推理能力下降问题。现有方法在处理复杂任务时，工作记忆容易被无关信息淹没，影响智能体的表现。

核心思路：CORAL通过允许智能体主动管理其工作记忆，检查任务进度和已验证的事实，来优化上下文。智能体可以重置混乱的上下文，仅保留重要信息，从而在干净的状态下继续推理。

技术框架：CORAL的整体架构包括工作记忆管理工具集，智能体调用的检查点机制，以及多轮次的强化策略优化算法。智能体在每个任务阶段都能有效管理和调整其上下文。

关键创新：CORAL的主要创新在于其自我分配认知资源的能力，使智能体能够在复杂任务中保持高效的推理能力。这一设计与传统方法的根本区别在于主动管理上下文，而非被动处理信息。

关键设计：在实现过程中，CORAL使用了多轮次强化学习算法来增强智能体的检查点能力，确保在重置上下文时，重要信息得以保留，同时优化了输入令牌的使用效率。具体的参数设置和损失函数设计在实验中经过反复验证，以确保最佳性能。

🖼️ 关键图片

fig_0
img_1

📊 实验亮点

实验结果显示，CORAL在GAIA基准上达到了42.8%的平均准确率，尤其在长时间任务中表现出显著提升。同时，CORAL的输入令牌消耗比ReAct智能体少6-7倍，显示出其在推理效率上的优势。此外，在多跳知识问答和BrowseComp基准中，CORAL也实现了对现有强大智能体的显著提升，增加了8.0分。

🎯 应用场景

该研究的潜在应用领域包括智能助手、自动化客服、复杂决策支持系统等。通过提升智能体在长时间任务中的推理能力，CORAL能够在实际应用中显著提高效率和准确性，未来可能对人机交互和智能系统的设计产生深远影响。

📄 摘要（原文）

Agents powered by large language models (LLMs) have demonstrated remarkable progress in solving complex reasoning tasks. However, LLM agents often falter on long-horizon tasks due to cognitive overload, as their working memory becomes cluttered with expanding and irrelevant information, which dilutes their attention and hinders effective planning and reasoning. To mitigate this challenge, we introduce Cognitive Resource Self-Allocation (CORAL), a novel reasoning paradigm that empowers agents to proactively optimize their context. Implemented as an agent-callable working memory management toolset, CORAL allows an agent to checkpoint its task progress and verified facts, and adaptively initiate a new problem-solving episode by resetting cluttered context while preserving only the checkpointed information, enabling it to resume reasoning from a clean state. We further enhance the agent's checkpointing capabilities using a Multi-episode Agentic Reinforced Policy Optimization algorithm. On the GAIA benchmark, CORAL with an 8B model achieves 42.8% average accuracy, with particularly strong gains on the most challenging long-horizon tasks (Level 2 and Level 3). Crucially, these gains come at a substantially lower inference cost: CORAL consumes 6-7$\times$ fewer input tokens than a ReAct agent. It also generalizes to multi-hop Knowledge QA benchmarks and to the considerably harder BrowseComp, where it improves a strong proprietary agent by 8.0 points.