Alaya-EVOKE: From Linear-Scaling Supervision to Endless World
作者: Yuanyang Yin, Gongxuan Wang, Yifan Zhan, Chuanhao Li, Kaipeng Zhang, Feng Zhao
分类: cs.CV
发布日期: 2026-08-13
💡 一句话要点
提出Evoke以解决长时间交互生成中的记忆与响应问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱四：生成式动作 (Generative Motion)
关键词: 长时间生成 交互式模型 稀疏注意力 持久记忆 虚拟现实 智能机器人
📋 核心要点
- 现有方法在长时间交互生成中面临记忆保持与响应速度之间的矛盾，导致生成效果不理想。
- Evoke通过外部化世界状态和重新设计教师模型，采用稀疏注意力机制，实现了长时间的交互生成。
- 在实验中，Evoke在WBench上达到了最先进的性能，且在生成速度上表现优异，每1.5秒的块生成时间为2.11秒。
📝 摘要（中文）
交互式世界模型必须支持持久记忆、响应式交互和长时间生成，但这些要求对模型提出了相互矛盾的需求。Evoke通过外部化持久世界状态和重新设计教师模型来解决这些限制。场景几何信息保存在外部的、相机索引的世界状态库中，仅检索与视图相关的信息，保持去噪器上下文的界限。Evoke在长时间监督中采用稀疏注意力机制，结合块状分组、选择性远帧检索和线性注意力全局状态，实现了内存和计算的线性增长，同时支持长时间的监督。最终，Evoke在WBench上实现了最先进的性能，并在VBench-Long和VBench-2.0上保持竞争力。
🔬 方法详解
问题定义：论文旨在解决交互式世界模型在长时间生成中面临的记忆保持与响应速度之间的矛盾。现有方法在保持历史信息时成本不断增加，导致生成效果受限。
核心思路：Evoke通过外部化持久世界状态，设计了一个新的教师模型，支持长时间的交互生成。稀疏注意力机制结合了块状分组和选择性远帧检索，从而实现了内存和计算的线性增长。
技术框架：Evoke的整体架构包括外部世界状态库、去噪器和教师模型。外部世界状态库存储场景几何信息，去噪器负责生成过程，而教师模型则提供长时间的监督。
关键创新：Evoke的主要创新在于将教师模型设计为可适应长时间监督的生成器，采用稀疏注意力机制，使得生成过程在长时间内保持一致性和响应性。
关键设计：Evoke在设计中采用了线性注意力机制，确保内存和计算的线性增长，同时在损失函数中引入了30秒的分布匹配目标，以提高生成的稳定性和响应性。
🖼️ 关键图片
📊 实验亮点
Evoke在WBench上实现了最先进的性能，并在VBench-Long和VBench-2.0上保持竞争力。每1.5秒的生成块在2.11秒内完成，展示了其在生成速度和响应性上的显著提升。
🎯 应用场景
Evoke的研究成果在多个领域具有潜在应用价值，包括虚拟现实、游戏开发和智能机器人等。通过支持长时间的交互生成，Evoke能够为用户提供更加沉浸和动态的体验，推动智能交互技术的发展。
📄 摘要（原文）
Interactive world models must support persistent memory, responsive interaction, and long-horizon generation, yet these requirements place conflicting demands on the model. Maintaining history in the denoiser context or key-value cache incurs growing cost, forcing a trade-off between session length and retained memory, while low-latency interaction relies on few-step generation whose capabilities are bounded by its teacher. Evoke addresses both limitations by externalizing persistent world state and redesigning the teacher for long-horizon interactive generation. Scene geometry is maintained in an external, camera-indexed world state bank, from which only view-relevant information is retrieved, keeping the denoiser context bounded as the session grows. Rather than treating the teacher as a fixed generator, we design it for long-horizon supervision: its sparse attention combines chunk-wise grouping, retrieval of selected distant frames, and a linear-attention global state, yielding linear growth in memory and compute while enabling supervision over long horizons. Such supervision exposes content drift that stays locally plausible within short windows, while per-chunk conditioning enables prompt changes and event control throughout the sequence. A 30-second distribution-matching objective, applied under self-forced rollouts, transfers both capabilities to a three-step student that uses no classifier-free guidance, improving resistance to long-term drift while preserving responsive conditioning. With bounded context and recurrent external memory, Evoke supports open-ended, continuously evolving generation; on a single H200 at $384\times 640$, each $1.5\,\mathrm{s}$ chunk is generated in $2.11\,\mathrm{s}$. As a three-step world model, Evoke achieves state-of-the-art performance on WBench while remaining competitive on VBench-Long and VBench-2.0.