DeepResearch Agent System
作者: Yong Huang, Yulu Huang, for the team Collaboration
分类: cs.AI
发布日期: 2026-07-30
💡 一句话要点
提出DeepResearch Agent System以解决深度信息检索与自主研究问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 深度信息检索 多步推理 稀疏激活 强化学习 开源系统
📋 核心要点
- 现有的深度信息检索和自主研究方法在推理速度和准确性上存在不足,难以满足复杂任务的需求。
- DeepResearch Agent System通过稀疏激活架构和双模式推理引擎,提供高效的多步推理和信息检索能力。
- 在多个基准测试中,该系统的准确率和召回率显著提高,推理速度也大幅提升,展现出优越的性能。
📝 摘要(中文)
DeepResearch Agent System是一个大型语言模型系统,专为深度信息检索、多步推理和自主研究任务而设计。该系统基于稀疏激活架构,拥有300亿参数,其中每个token仅激活30亿参数,展现出在多个代理搜索基准上的最先进性能,并且推理速度比同规模的密集模型快3.2倍。系统支持128K-token的上下文窗口,采用分层注意力机制,准确率和召回率分别提高了18.7%和23.4%。双模式推理引擎提供基本的ReAct范式和高性能的IterResearch模式,准确率提升31.2%。多工具协调集成了检索、计算、网络搜索和文件解析模块,工具使用准确率达到92.1%。基于GRPO算法的强化学习优化框架提高了训练稳定性和收敛速度。该系统完全开源,支持学术研究、商业分析、研发支持和教育等应用。
🔬 方法详解
问题定义:本论文旨在解决现有深度信息检索和自主研究任务中推理速度慢、准确性不足的问题。现有方法在处理复杂任务时常常面临性能瓶颈。
核心思路:论文提出的DeepResearch Agent System采用稀疏激活架构,激活参数显著减少,从而提高推理速度和效率,同时引入双模式推理引擎以支持多步推理和高效研究。
技术框架:系统整体架构包括稀疏激活模块、分层注意力机制、双模式推理引擎和多工具协调模块。稀疏激活模块负责动态激活参数,分层注意力机制用于处理长上下文,推理引擎则支持不同的推理模式。
关键创新:最重要的技术创新在于稀疏激活架构与双模式推理引擎的结合,这使得系统在保持高性能的同时,显著提升了推理速度和准确性,区别于传统的密集模型。
关键设计:系统设计中,采用了300亿参数的稀疏激活架构,激活参数仅为30亿,支持128K-token的上下文窗口,使用分层注意力机制,此外,GRPO算法用于强化学习优化,提升训练稳定性和收敛速度。
🖼️ 关键图片
📊 实验亮点
在实验中,DeepResearch Agent System在多个基准测试中取得了优异的成绩,包括在Humanity's Last Exam上达到87.3%、BrowserComp Chinese上达到85.3%以及WebWalkerQA上达到91.2%。此外,系统的工具使用准确率高达92.1%,并且在准确率和召回率上分别提升了31.2%和23.4%。
🎯 应用场景
DeepResearch Agent System具有广泛的应用潜力,适用于学术研究、商业分析、研发支持和教育等领域。其高效的信息检索和推理能力能够帮助研究人员和企业快速获取所需信息,提升决策效率,推动创新和发展。
📄 摘要(原文)
The DeepResearch Agent System is a large language model system engineered for deep information retrieval, multi-step reasoning, and autonomous research tasks. Built upon a sparse activation architecture with 30 billion total parameters of which only 3 billion are activated per token, the system achieves state-of-the-art performance on multiple agent search benchmarks while delivering 3.2 times faster inference compared to dense counterparts of equivalent scale. The system supports a 128K-token context window with hierarchical attention mechanisms that yield 18.7% accuracy and 23.4% recall improvements over standard long-context approaches. A dual-mode reasoning engine provides both a ReAct paradigm for basic multi-step problem solving and an IterResearch mode for high-performance iterative research with up to 20 reasoning steps, collectively delivering a 31.2% accuracy improvement over single-pass baselines. Multi-tool coordination integrates retrieval, computation, web search, and file parsing modules to achieve 92.1% tool-use accuracy. A reinforcement learning optimization framework based on the GRPO algorithm provides token-level policy gradients that improve training stability by 35% and accelerate convergence by 42%. An automated data synthesis pipeline with seed-based expansion achieves a 92.5% usability rate. Benchmark results include 87.3% on Humanity's Last Exam, 85.3% on BrowserComp Chinese, and 91.2% on WebWalkerQA. The system is fully open-sourced, including data synthesis, training, and inference code, and supports applications in academic research, business analysis, R&D support, and education.