WorldPager: Zero-Stall Tiered Memory for Long-Horizon World Models on a Single Consumer GPU

📄 arXiv: 2610.35529v1 📥 PDF

作者: Bingnan Liu, Ruini Xue

分类: cs.DC, cs.CV

发布日期: 2026-10-26

备注: 11 pages, 4 figures, 9 tables

💡 一句话要点

提出WorldPager以解决长视频生成中的内存瓶颈问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 长视频生成 交互式世界模型 内存管理 预取机制 GPU计算

📋 核心要点

  1. 现有的交互式世界模型在长时间会话中面临内存容量和模型位置信息的双重限制，导致性能下降。
  2. WorldPager通过在GPU/DRAM/NVMe层次中存储KV，结合预取和背景写回机制，解决了内存瓶颈问题。
  3. 实验表明，WorldPager能够连续生成37.5分钟的视频，且无停顿，保持恒定的主机内存使用率，性能显著提升。

📝 摘要（中文）

交互式世界模型通过将过去片段的键值对（KV）作为检索内存，确保重访地点的一致性。然而，在单个消费级机器上，长时间会话面临两个瓶颈：内存容量和模型的位置信息限制。本文提出WorldPager，通过在GPU/DRAM/NVMe层次中存储int4 KV，利用预取机制和背景写回，成功实现了37.5分钟的视频生成，且无停顿，保持恒定的主机内存使用率。实验结果表明，int4存储在密闭测试集上没有显著的质量损失，长时间重访时图像质量略有下降。

🔬 方法详解

问题定义：本文旨在解决交互式世界模型在长时间视频生成中遭遇的内存容量和模型位置信息限制问题。现有方法在处理长会话时容易出现内存耗尽和计算延迟。

核心思路：WorldPager的核心思路是将KV存储在GPU/DRAM/NVMe层次中，利用已知的相机位置信息进行内存预取，避免计算延迟。

技术框架：整体架构包括内存管理模块、预取模块和背景写回模块。内存管理模块负责KV的存储和访问，预取模块根据相机位置信息提前加载数据，背景写回模块则在不影响实时性能的情况下更新内存。

关键创新：WorldPager首次在交互式世界模型中实现了零停顿的预取机制，将KV存储在NVMe层次，显著提升了内存访问效率。

关键设计：在参数设置上，使用int4格式存储KV以节省内存，采用无训练的位置信息处理方法，确保在长时间生成中保持恒定的主机内存使用率。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，WorldPager能够在无停顿的情况下连续生成37.5分钟的视频，主机内存使用率保持恒定，且在密闭测试集上，int4存储未表现出显著的质量损失。长时间重访时，图像质量仅下降约一MUSIQ点，显示出其在实际应用中的有效性。

🎯 应用场景

该研究的潜在应用领域包括游戏开发、虚拟现实和增强现实等需要长时间交互的场景。通过提高长视频生成的效率，WorldPager能够为用户提供更流畅的体验，推动相关技术的发展和应用。

📄 摘要（原文）

Interactive world models keep the KV of past chunks as retrieval memory so that revisited places stay consistent. On a single consumer machine (one RTX 4090, 32 GiB of host memory, one NVMe SSD), long sessions with such memory hit two walls. The first is capacity: the KV of Matrix-Game 2.0 exhausts host memory after 45 seconds of video in bf16 and after 2.8 minutes in int4. The second is the model's positional horizon of 4.3 minutes. We show that this memory is capacity-bound rather than bandwidth-bound and that its access set is known before compute, because the camera pose is an input. An analytical model built on these observations predicts spill points to within one chunk and classifies zero versus non-zero stalls correctly on held-out configurations. Guided by it, WorldPager stores int4 KV in a GPU/DRAM/NVMe hierarchy instead of recomputing it, prefetches each chunk's memory from the extrapolated pose, never waits on a miss, and writes back in the background; to our knowledge, it is the first to place the KV memory of an interactive world model on an NVMe tier with zero-stall prefetching. With training-free position handling, it generates 37.5 minutes of video continuously with zero stalls and constant host memory, at about 9.5 frames per second. On a sealed test set, int4 storage shows no measurable quality loss; on long-gap revisits it lowers image quality by about one MUSIQ point.