ContextPipe: Database-Inspired Context Assembly for Long-Horizon Agents
作者: Peng Xu, Zuyu Zhang, Yuze Sun, Feng Tian, Long Wang, Chen Zhang
分类: cs.AI, cs.DB
发布日期: 2026-09-01
💡 一句话要点
提出ContextPipe以优化长时段智能体的上下文组装问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 长时段智能体 上下文组装 关系数据库 性能优化 智能系统
📋 核心要点
- 长时段智能体在上下文组装方面面临挑战，现有方法逻辑分散且效率低下。
- ContextPipe提出了一种五阶段的上下文组装管道，借鉴关系数据库的查询执行机制。
- 实验结果显示，ContextPipe在多个性能指标上显著优于传统的上下文构建策略。
📝 摘要（中文）
长时段的大型语言模型（LLM）智能体需要进行上下文组装：在运行时必须决定每个提示中包含什么内容、顺序以及何时在严格的上下文窗口预算和字节敏感的提示缓存下压缩历史。在生产智能体系统中，这种逻辑分散在提示构建器、临时压缩例程、缓存破坏的变通方法和每个提供者的适配器中。我们认为上下文组装在结构上与关系数据库中的查询执行是同构的：两者都在严格预算下执行，利用分层缓存，并利用统计信息。我们在ContextPipe中采用这一原则：一个五阶段的管道（计划、绑定、优化、执行、反馈），支持结构化数据源目录、确定性缓存感知优化器和EXPLAIN ANALYZE跟踪。我们展示了ContextPipe中的上下文是可审计、可重放和故障隔离的。初步评估表明，与仅追加上下文构建策略相比，ContextPipe在总令牌量上减少了31%，LLM调用减少了23%，响应时间减少了9%，但KV缓存命中率较低。
🔬 方法详解
问题定义：论文要解决的问题是长时段智能体在上下文组装时的效率和一致性问题。现有方法在上下文管理上逻辑分散，导致资源浪费和性能瓶颈。
核心思路：论文的核心思路是将上下文组装视为类似于关系数据库的查询执行过程，通过结构化的管道来优化上下文的选择和使用。这样设计的目的是提高上下文处理的效率和可控性。
技术框架：ContextPipe的整体架构包括五个主要阶段：计划、绑定、优化、执行和反馈。每个阶段都有明确的功能，确保上下文的高效组装和使用。
关键创新：最重要的技术创新点在于将上下文组装与数据库查询执行相结合，形成了一种新的上下文管理机制。这种方法与现有的仅追加上下文构建策略有本质区别，能够在预算限制下优化上下文的使用。
关键设计：关键设计包括结构化的数据源目录、确定性的缓存感知优化器，以及EXPLAIN ANALYZE跟踪机制。这些设计确保了上下文的可审计性、可重放性和故障隔离性。具体的参数设置和优化策略在实验中进行了详细验证。
🖼️ 关键图片
📊 实验亮点
实验结果显示，ContextPipe在总令牌量上减少了31%，LLM调用减少了23%，响应时间减少了9%。这些结果表明，相较于传统的上下文构建策略，ContextPipe在性能上有显著提升，尽管KV缓存命中率有所降低。
🎯 应用场景
该研究的潜在应用领域包括智能助手、对话系统和自动化内容生成等。通过优化上下文组装，ContextPipe能够提高这些系统的响应速度和准确性，具有重要的实际价值和广泛的应用前景。未来，随着智能体技术的发展，ContextPipe的框架可能会被更广泛地应用于各种智能系统中。
📄 摘要（原文）
Long-horizon large language model (LLM) agents require context assembly: the runtime must decide what to include in each prompt, in what order, and when to compact history under a hard context-window budget and a byte-sensitive prompt cache. In production agentic systems, this logic is scattered across prompt builders, ad hoc compaction routines, cache-break workarounds, and per-provider shims. We argue that context assembly is structurally isomorphic to query execution in a relational database: both execute under a hard budget, exploit a tiered cache, and leverage statistics. We adopt this discipline in ContextPipe: a five-phase pipeline (Plan Bind Optimize Execute Feedback) backed by a structured data-source catalog, a deterministic cache-aware optimizer, and an EXPLAIN ANALYZE trace. We show that context in ContextPipe is auditable, replayable, and failure-isolated. A preliminary evaluation using the SWE-bench Pro Qutebrowser subset shows that, compared with the append-only context construction policy, ContextPipe reduces total token volume by 31%, LLM calls by 23%, and response time by 9%, at the cost of a lower KV cache-hit ratio.