Video-FLAIR: Not Whether to Reason, But How
作者: Yogesh Kulkarni, Pooyan Fazli
分类: cs.CV
发布日期: 2026-08-27
💡 一句话要点
提出Video-FLAIR以优化多模态推理策略
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态推理 强化学习 自适应推理 视频理解 复合奖励机制
📋 核心要点
- 现有方法在处理多模态查询时，往往采用统一的推理策略，导致简单任务计算冗余和复杂任务推理不足。
- 本文提出Video-FLAIR，通过强化学习选择适当的推理模式，训练模型在同一提示下生成多种响应以进行比较。
- 实验结果显示，Video-FLAIR在多个基准数据集上显著提高了准确率，同时减少了平均token使用量，展现出优越的性能。
📝 摘要（中文）
多模态查询需要不同类型的推理，现有方法往往采用统一的推理策略，导致简单任务的计算冗余和复杂任务的推理不足。本文提出Video-FLAIR，一个训练框架，通过强化学习选择适当的推理模式。模型在训练过程中为同一提示生成三种模式的响应，并通过复合奖励机制比较这些响应的有效性，从而实现自适应推理的学习。Video-FLAIR在MathVista、Video-Holmes和Video-MMMU上分别提高了5.4、4.8和4.8的准确率，同时将平均token使用量从417减少到95。
🔬 方法详解
问题定义：本文旨在解决多模态查询中推理策略不匹配的问题。现有方法往往采用统一的推理策略，导致在简单任务上计算冗余，而在复杂任务上推理不足。
核心思路：论文的核心思路是通过强化学习动态选择适当的推理模式。模型在训练过程中为同一提示生成多种推理模式的响应，从而能够直接比较其有效性。
技术框架：Video-FLAIR的整体架构包括三个主要模块：生成响应的推理模式、复合奖励机制以及自适应推理学习。模型在训练阶段生成感知推理、组合推理和深思推理的响应，并通过复合奖励进行评估。
关键创新：最重要的技术创新在于引入了复合奖励机制，该机制不仅考虑响应的正确性，还考虑了基础和成本，鼓励有效的推理选择。这一设计使得模型能够在没有逐个查询注释的情况下学习自适应推理。
关键设计：在训练过程中，模型生成三种推理模式的响应，并通过复合奖励进行比较。损失函数设计为鼓励正确且高效的推理，避免不支持或不一致的推理选择。
🖼️ 关键图片
📊 实验亮点
实验结果显示，Video-FLAIR在MathVista、Video-Holmes和Video-MMMU数据集上分别提高了5.4、4.8和4.8的准确率，同时将平均token使用量从417减少到95，展现出显著的性能提升。
🎯 应用场景
Video-FLAIR的研究成果在多个领域具有潜在应用价值，包括智能问答系统、视频理解和多模态交互等。通过优化推理策略，该框架能够提高系统的响应准确性和效率，推动智能系统在复杂任务中的应用。未来，Video-FLAIR可能会影响更广泛的人工智能应用，提升其在多模态数据处理中的表现。
📄 摘要（原文）
Multimodal queries can require different types of reasoning. Some can be answered via perceptual reasoning, extracting information directly from the visual signal, while others require compositional reasoning that combines observations or deliberative reasoning that evaluates competing hypotheses. However, many existing methods apply a uniform reasoning strategy across queries, leading to unnecessary computation on simple tasks and insufficient reasoning on complex ones. We introduce Video-FLAIR, a training framework that learns to select the appropriate reasoning mode for each query using reinforcement learning. During training, the model generates responses under all three modes for the same prompt, enabling direct comparison. A composite reward compares these responses to favor the most effective one based on correctness, grounding, and cost, while discouraging unsupported or misaligned deliberation. This yields a supervision signal for learning adaptive reasoning without per-query annotations. Video-FLAIR improves accuracy over the Qwen2.5-VL base model by +5.4 on MathVista, +4.8 on Video-Holmes, and +4.8 on Video-MMMU, while reducing average token usage to 95 compared to 417 for always-thinking baselines.