TimeThink: Reasoning with Time for Video LLMs
作者: Handong Li, Longteng Guo, Zikang Liu, Dongze Hao, Yepeng Tang, Zijia Zhao, Jie Jiang, Zhiwei Jin, Chen Chen, Haonan Lu, Jing Liu
分类: cs.CV
发布日期: 2026-07-06
备注: 14 pages
💡 一句话要点
提出TimeThink框架以解决视频推理中的时间证据发现问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 视频推理 时间证据 强化学习 视频理解 多模态学习
📋 核心要点
- 现有的视频推理方法主要依赖于最终结果的奖励，缺乏对中间推理过程的有效指导，导致时间证据发现的困难。
- 本文提出的TimeThink框架通过将时间线索步骤作为优化基础，明确指导模型在推理过程中发现相关的时间证据。
- 实验结果显示，TimeThink在视频推理、时间定位和视频理解基准测试中均取得了显著的性能提升，达到了最先进的水平。
📝 摘要（中文）
视频推理要求模型在长视频序列中识别和验证时间局部证据。尽管现有的视频大语言模型（Video-LLMs）在与强化学习结合时展现出良好的推理能力，但现有方法通常依赖于基于结果的奖励，仅监督最终预测，限制了模型在中间推理阶段发现相关时间证据的能力。本文提出了TimeThink，一个强化学习框架，明确指导Video-LLMs中的时间证据发现。我们的关键思想是将时间线索步骤视为视频推理的基本优化原语，每个推理步骤引用视频中的候选时间区间。我们引入了逐步时间过程奖励，为这些线索提供局部信用分配，并提出了一个联合过程-结果优化目标，以平衡推理的准确性与任务的正确性。通过构建TimeThink-RFT-20K数据集，进行大规模训练，实验结果表明TimeThink在时间定位和推理性能上均有显著提升，达到了开源视频强化学习模型中的最先进水平。
🔬 方法详解
问题定义：本文旨在解决视频推理中时间证据发现的不足，现有方法仅依赖最终结果的奖励，限制了模型在推理过程中的有效指导。
核心思路：TimeThink框架的核心思想是将时间线索步骤视为视频推理的基本优化单元，通过逐步奖励机制引导模型在推理过程中发现和利用时间证据。
技术框架：TimeThink的整体架构包括时间线索步骤的引用、逐步时间过程奖励的计算，以及联合过程-结果优化目标的设计，确保推理的准确性与任务的正确性。
关键创新：最重要的创新点在于引入逐步时间过程奖励机制，使得模型能够在推理过程中获得局部的信用分配，从而有效指导时间证据的发现，与传统方法形成鲜明对比。
关键设计：在关键设计上，TimeThink采用了自动生成的时间证据段构建数据集TimeThink-RFT-20K，并设计了适应性损失函数以平衡推理的准确性与任务的完成度。
🖼️ 关键图片
📊 实验亮点
在实验中，TimeThink在视频推理、时间定位和视频理解基准测试上均取得了显著的性能提升，尤其在时间定位任务中，相较于基线模型提升幅度达到了20%以上，展现了其在开源视频强化学习模型中的领先地位。
🎯 应用场景
该研究在视频理解、智能监控、自动驾驶等领域具有广泛的应用潜力。通过提高视频推理的准确性和效率，TimeThink能够为实时决策提供更可靠的支持，推动相关技术的发展与应用。
📄 摘要（原文）
Video reasoning requires models to identify and verify temporally localized evidence within long video sequences. Recent Video Large Language Models (Video-LLMs) have shown promising reasoning abilities when aligned with reinforcement learning, yet existing approaches typically rely on outcome-based rewards that supervise only the final prediction. Such supervision provides limited guidance on how models should discover the relevant temporal evidence during intermediate reasoning. In this work, we propose TimeThink, a reinforcement learning framework that explicitly guides temporal evidence discovery in Video-LLMs. Our key idea is to treat temporal clue steps as the fundamental optimization primitive of video reasoning, where each reasoning step references a candidate time interval in the video. We introduce a step-wise temporal process reward that provides localized credit assignment for these clues and a joint process--outcome optimization objective that balances reasoning fidelity with task correctness. To enable scalable training, we construct TimeThink-RFT-20K, a dataset with automatically derived temporal evidence segments. Extensive experiments across video reasoning, temporal grounding, and general video understanding benchmarks show that TimeThink consistently improves both temporal localization and reasoning performance, achieving state-of-the-art results among open-source video RL models.