HarmVideoBench: Benchmarking Harmful Video Understanding in Large Multimodal Models

📄 arXiv: 2606.27187v1 📥 PDF

作者: Jiajun Wu, Haoyu Kang, Yining Sun, Jiacheng Hou, Heng Zhang, Danyang Zhang, Zhenjun Zhao, Haochi Zhang, Leixin Sun, Eric Hanchen Jiang, Yushan Li, Ruiyu Li, Mengkai Huang, Yan Gao, Xu Zhang, Guancheng Wan

分类: cs.CV, cs.CL

发布日期: 2026-06-25

💡 一句话要点

提出HarmVideoBench以解决有害视频理解的评估问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 有害视频理解 多层次评估 视觉-语言模型 内容审核 动态上下文检索

📋 核心要点

  1. 现有方法主要将有害视频的评估简化为二分类任务，未能捕捉其多层次特征和深层次危害。
  2. HarmVideoBench通过多层次诊断基准和多项选择题，评估模型对有害视频的深层理解，解决了现有评估的不足。
  3. 实验表明，BCR方法显著提升了模型的有害视频理解能力，宏观平均准确率从61.7%提升至84.4%。

📝 摘要（中文）

大型视觉-语言模型（LVLMs）在自动内容审核中展现出巨大潜力，推动了有害视频基准的开发。然而，现有工作存在两大主要局限：一是忽视了有害视频的多层特征，现有基准主要将评估形式化为二分类任务，未能捕捉隐含或深层次的危害；二是缺乏解释性理由，当前框架仅测量模型是否正确标记视频，而未解释原因，导致评估过程变成黑箱。为了解决这些问题，我们提出了HarmVideoBench，一个包含1379个视频和4137个多项选择题的多层次诊断基准，旨在评估模型对有害视频的深层理解。我们评估了19个领先模型在HarmVideoBench上的表现，并引入了BCR方法，动态检索上下文以预测推理边界。实验结果显示，BCR显著提升了基础模型在有害视频理解上的表现，宏观平均从61.7%提升至84.4%。

🔬 方法详解

问题定义：本论文旨在解决现有有害视频理解评估方法的不足，尤其是对多层次特征的忽视和缺乏解释性理由的问题。

核心思路：提出HarmVideoBench基准，通过多层次的诊断评估模型的深层理解能力，确保评估不仅限于表面特征。

技术框架：HarmVideoBench包含1379个视频和4137个多项选择题，评估三个层次：可观察证据、剪辑内部意义和超剪辑推理。BCR方法则在需要时动态检索上下文，预测推理边界。

关键创新：HarmVideoBench的多层次评估框架和BCR方法是本研究的核心创新，前者解决了现有评估的表面化问题，后者提升了模型的推理能力。

关键设计：在BCR方法中，设计了动态上下文检索机制，确保模型在推理时能够获取必要的背景信息，从而提高理解的准确性。实验中使用了精心平衡和策划的样本，以确保评估的有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，BCR方法显著提升了基础模型在有害视频理解上的表现，宏观平均准确率从61.7%提升至84.4%，达到了当前的最佳水平。这一提升表明HarmVideoBench在评估模型理解能力方面的有效性。

🎯 应用场景

该研究的潜在应用领域包括社交媒体平台的内容审核、视频监控系统以及任何需要自动化有害内容识别的场景。通过提升模型对有害视频的理解能力，能够有效减少有害内容的传播，保护用户安全，具有重要的社会价值和实际影响。

📄 摘要（原文）

Large vision-language models (LVLMs) have recently shown immense potential in automated content moderation, sparking growing interest in developing harmful-video benchmarks. However, we identify two primary limitations in existing works: 1) The multi-layered characteristics of harmful videos are overlooked. Existing benchmarks predominantly formulate evaluation as a binary classification task, failing to capture implicit or deep contextual harms. 2) Explanatory rationales are completely absent. Current frameworks measure exclusively whether a model flags a video correctly rather than explaining why, turning evaluation into a black box where models can succeed through superficial shortcuts. To address these problems, we present HarmVideoBench, a multi-layered diagnostic benchmark comprising 1,379 videos paired with 4,137 multiple-choice questions. HarmVideoBench benchmarks three hierarchical dimensions: Observable Evidence, Clip-Internal Meaning, and Beyond-Clip Reasoning, aiming to evaluate models' deep understanding beyond surface cues with carefully balanced and curated samples. We evaluate 19 leading models on HarmVideoBench to assess their multidimensional understanding of harmful videos. Moreover, we introduce BCR, a benchmark-aligned method that predicts reasoning boundaries and dynamically retrieves context only when needed. Experimental results show that BCR substantially improves the base model's performance in harmful video understanding, raising the macro average from 61.7 percent to a state-of-the-art 84.4 percent.