ChronoVision: Temporal Reasoning via Latent State Reconstruction

📄 arXiv: 2608.05631v1 📥 PDF

作者: Yifan Shen, Jian Xu, Boyi Li, Yuner Zhang, Tianjiao Yu, Bingxuan Li, Houze Yang, Rushi Wang, Xu Cao

分类: cs.CV

发布日期: 2026-08-06

💡 一句话要点

提出ChronoVision以解决多步时间推理问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时间推理 多模态学习 视觉认知 强化学习 数据集构建

📋 核心要点

  1. 现有多模态语言模型在复杂视觉认知任务中表现不佳，尤其是在多步时间推理方面，主要由于语言推理的模糊性。
  2. ChronoVision框架通过重建潜在状态和关注关键视觉证据，旨在提高模型在时间推理任务中的表现。
  3. 实验结果显示，ChronoVision在Vbvr-VQA数据集上取得了74.8%的领域内准确率，显著优于现有方法。

📝 摘要（中文）

多模态大型语言模型在被动感知方面表现出色，但在需要复杂视觉认知的多步时间推理任务中却面临挑战。这种退化主要源于基于语言的推理固有的模糊性，常常无法准确描述连续的视觉变化。为了解决这个问题，本文提出了ChronoVision，一个旨在将视觉逻辑与潜在图像对齐的多模态框架。在监督微调过程中，重建视觉头预测最终变换状态的潜在表示，而ROI注意力定位模块通过语义跨度查询将模型聚焦于关键视觉证据。在后期训练中，我们应用了强化学习与隐式过程基础机制，利用复合奖励函数评估结果的正确性、潜在过程的对齐以及无监督视觉聚焦。此外，我们引入了Vbvr-VQA，一个新数据集，通过将视频推理重新构造成严格的图像排序任务来评估时间跟踪。实验表明，ChronoVision在Vbvr-VQA上达到了74.8%的领域内准确率和71.6%的领域外准确率，同时在IntPhys2这一高度挑战的跨领域基准上也取得了55.0%的准确率。

🔬 方法详解

问题定义：本文旨在解决多模态语言模型在复杂视觉认知任务中的时间推理不足，现有方法在处理连续视觉变化时存在模糊性和不准确性的问题。

核心思路：ChronoVision通过重建最终变换状态的潜在表示，并利用ROI注意力模块聚焦于关键视觉证据，从而提高模型的推理能力。

技术框架：该框架包括两个主要模块：重建视觉头用于预测潜在状态，ROI注意力模块用于定位关键视觉信息。此外，后期训练中引入了强化学习机制以优化模型性能。

关键创新：最重要的创新在于引入了隐式过程基础机制和复合奖励函数，使得模型能够在推理过程中更好地对齐潜在过程与视觉信息，显著提升了时间推理的准确性。

关键设计：在训练过程中，采用了特定的损失函数来优化潜在状态的重建，同时设计了语义跨度查询以增强模型对关键视觉证据的关注。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

ChronoVision在Vbvr-VQA数据集上达到了74.8%的领域内准确率和71.6%的领域外准确率，显示出显著的性能提升。此外，在IntPhys2基准测试中也取得了55.0%的准确率，证明了其在跨领域任务中的有效性。

🎯 应用场景

ChronoVision的研究成果在视频理解、智能监控和自动驾驶等领域具有广泛的应用潜力。通过提高模型在时间推理任务中的表现，可以更好地支持复杂场景下的决策和分析，推动相关技术的发展与应用。

📄 摘要（原文）

Multimodal large language models excel at passive perception but struggle with complex visual cognitive tasks requiring multi-step temporal reasoning. This degradation largely stems from the inherent ambiguity of language-based reasoning, which often fails to accurately articulate continuous visual transformations. To address this, we propose ChronoVision, a multimodal framework designed to align visual logic with latent imagery. During supervised fine-tuning, a Reconstructive Visual Head predicts the latent representation of the final transformed state, while an ROI Attention Locating module focuses the model on key visual evidence via semantic span queries. In post-training, we apply reinforcement learning with an implicit process grounding mechanism, guided by a composite reward function that evaluates outcome correctness, latent process alignment, and unsupervised visual focus. Furthermore, we introduce Vbvr-VQA, a novel dataset that evaluates temporal tracking by reformulating video reasoning into a strict image-ordering task. Experiments demonstrate that ChronoVision achieves state-of-the-art performance on Vbvr-VQA with 74.8% in-domain and 71.6% out-of-domain accuracy, alongside a strong 55.0% accuracy on IntPhys2, a highly challenging cross-domain benchmark.