World-Model Collapse as a Phase Transition
作者: Xinyuan Song, Zekun Cai
分类: cs.AI
发布日期: 2026-06-30
备注: Under Review
💡 一句话要点
研究长时间语言代理的世界模型崩溃现象及其相变特性
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 长时间语言代理 世界模型 相变特性 模型崩溃 复杂任务 系统优化
📋 核心要点
- 现有长时间语言代理在处理复杂任务时，隐式世界模型可能会在临界点出现崩溃，导致行为失效。
- 本文通过系统的参数调节和网格搜索，揭示了长时间代理在状态负载变化时的相变特性，提出了相图的概念。
- 实验结果表明，世界状态的保真度在行动有效性之前崩溃，强模型无法消除这一现象，强调了模型设计中的关键瓶颈。
📝 摘要（中文）
水在加热时看似没有变化，但在临界点时会沸腾。本文探讨长时间语言代理的隐式世界模型是否存在类似的相变现象。在某些参数设置下，微小的状态负载变化或增加一步的时间范围，行为几乎不变；但在临界边界附近，相同的小变化会导致世界崩溃。通过对状态基数、依赖密度、时间范围、分支、观察模式和突变率的大规模网格搜索，揭示了一个相图：解决的高原、狭窄的过渡带和崩溃底线。逐步跟踪显示机制：世界状态的保真度在行动有效性之前失败，因此代理并非仅仅选择了一个糟糕的动作，而是从一个被破坏的世界中行动。更强的模型虽然能够转移临界边界，但并未消除定性的过渡。这些结果使得世界模型崩溃成为长时间代理的可测量瓶颈。
🔬 方法详解
问题定义：本文旨在研究长时间语言代理的隐式世界模型在参数变化时的崩溃现象，现有方法在处理复杂任务时未能有效应对这种崩溃。
核心思路：通过对状态负载、时间范围等参数的细致调节，探索长时间代理的行为变化，揭示相变特性，进而提出相图的概念。
技术框架：研究采用了确定性任务家族，设计了系统的网格搜索流程，涵盖状态基数、依赖密度、时间范围等多个维度，构建了相图以分析不同参数下的代理行为。
关键创新：提出了世界模型崩溃的相变概念，强调了世界状态保真度与行动有效性之间的关系，揭示了这一现象作为长时间代理的可测量瓶颈。
关键设计：在实验中，设置了多种参数组合，包括状态基数、观察模式和突变率，采用逐步跟踪的方法分析代理行为，确保了实验结果的可靠性和可重复性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在临界边界附近，微小的参数变化会导致世界模型的崩溃，代理行为的有效性显著下降。通过对比不同模型，发现更强的模型虽然能够转移临界边界，但未能消除定性过渡，强调了模型设计中的关键瓶颈。
🎯 应用场景
该研究为长时间语言代理的设计提供了重要的理论基础，能够帮助研究者理解和优化模型的稳定性和可靠性。潜在应用包括智能助手、自动驾驶系统和复杂决策支持系统等领域，未来可能推动更高效的智能系统开发。
📄 摘要（原文）
Water looks unchanged as it warms, then at a critical point it boils. We ask whether long-horizon language agents show an analogous transition in their implicit world models. In some parameter settings, changing state load by a small amount, or adding a single step of horizon, leaves behavior nearly unchanged; near a critical boundary, the same small change causes a sudden world collapse. We study this effect in a deterministic task family with exact per-step gold state. A large grid search over state cardinality, dependency density, horizon, branching, observation mode, and mutation rate reveals a phase diagram: a solved plateau, a narrow transition band, and a collapse floor. Per-step traces show the mechanism: world-state fidelity fails before action validity, so the agent is not merely choosing a bad action; it is acting from a corrupted world. Stronger models translate the critical boundary but do not remove the qualitative transition. These results make world-model collapse a measurable bottleneck for long-horizon agents.