MarkovSim: an LLM Agent Harness with Bounded Context for Long-Horizon Computational Simulation

📄 arXiv: 2610.35349v1 📥 PDF

作者: Yeui-Lung Lei, Wen-Bo Chen, Pan Zhang

分类: cs.CE, cs.AI

发布日期: 2026-10-26

备注: 26 pages,15 figures,not yet submitted to any journal

💡 一句话要点

提出MarkovSim以解决长时间计算仿真中的上下文管理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时间计算仿真 上下文管理 有限状态机 大型语言模型 自我纠错 工程模拟 信息管理

📋 核心要点

  1. 现有的计算仿真工作流在长时间运行时，常常面临上下文信息超出LLM推理能力的挑战。
  2. MarkovSim通过内置的上下文管理方案，利用有限状态机的状态转移构建紧凑的上下文表示，有效管理信息。
  3. 在有限元分析的实验中，MarkovSim成功通过16次运行，展示了其在自我纠错和上下文管理方面的优势。

📝 摘要（中文）

近年来，研究者们将大型语言模型（LLM）代理系统应用于计算仿真工作流中。然而，由于这些工作流通常是长时间的，生成的信息可能超出LLM一次性推理的上下文窗口。因此，上下文管理显得尤为重要。现有系统往往忽视这一点或将其视为辅助机制，而非研究主题。本文提出了MarkovSim，一个针对长时间计算仿真的LLM代理框架，其核心是内置于工作流中的上下文管理方案。该工作流记录被写入具有预定义模式的内存系统，并在工作流定义的边界处（即有限状态机的状态转移）构建出解决方案进展的紧凑表示，作为代理的上下文。通过在有限元分析中实例化并在六个基准问题上进行评估，MarkovSim在18次运行中通过了16次，并在求解器操作和模型物理方面纠正了自身的错误。工程师仅在需要工程判断时进行咨询。上下文在每次运行中始终保持有限，无论其长度如何。

🔬 方法详解

问题定义：本文旨在解决在长时间计算仿真中，LLM的上下文窗口限制导致的信息管理问题。现有方法往往忽视上下文管理，导致信息丢失或推理错误。

核心思路：MarkovSim的核心思路是将上下文管理嵌入到工作流中，通过有限状态机的状态转移来构建解决方案的紧凑表示，从而确保上下文信息在整个仿真过程中保持有限。

技术框架：MarkovSim的整体架构包括三个主要模块：工作流记录模块、内存系统和上下文构建模块。工作流记录模块负责收集仿真过程中的信息，内存系统则以预定义模式存储这些信息，而上下文构建模块在状态转移时生成紧凑的上下文表示。

关键创新：该研究的关键创新在于将上下文管理作为工作流的核心组成部分，而非简单的辅助机制。这种设计使得MarkovSim能够在长时间仿真中有效管理信息，避免上下文信息的丢失。

关键设计：在实现过程中，MarkovSim采用了特定的参数设置和内存结构，以确保信息的有效存储和快速访问。损失函数和网络结构的设计也经过精心调整，以适应有限状态机的状态转移需求。

📊 实验亮点

在六个基准问题的实验中，MarkovSim成功通过16次运行，展现出在求解器操作和模型物理方面的自我纠错能力。这一成果表明，MarkovSim在长时间仿真中的上下文管理能力显著优于传统方法。

🎯 应用场景

MarkovSim在长时间计算仿真领域具有广泛的应用潜力，尤其是在工程、物理模拟和复杂系统建模等领域。其有效的上下文管理方案能够提升仿真精度和效率，减少对人工干预的依赖，未来可能推动更多智能仿真系统的发展。

📄 摘要（原文）

Recent studies have applied large language model (LLM) agent systems to computational simulation workflows. Such workflows are long-horizon, so the information generated can exceed what an LLM can reason over at once, its context window. Context management is therefore essential, yet existing systems have either neglected it or treated it as a supporting mechanism rather than a subject of study. This paper presents MarkovSim, an LLM agent harness for long-horizon computational simulation, whose core is a context management scheme built into the workflow. The workflow record is written to a memory system with a predefined schema, and at workflow-defined boundaries, namely the state transitions of a finite-state machine a compact representation of the solution progress is constructed from it as the agent's context. Instantiated on finite element analysis and evaluated on six benchmark problems, MarkovSim passed 16 of 18 runs and corrected its own faults in both the solver operations and the model physics. The engineer was consulted only where engineering judgement was needed. The context remained bounded throughout every run, regardless of its length.