回到最新动态
交叉发布 / THE SIGNAL

LF-VideoQA:用长程心智理论问题评测长视频理解

LF-VideoQA: Evaluating Long-Video Understanding with Long-Form Theory-of-Mind Questions

重要性 5.5 AI 辅助整理

新数据集用角色信念问题评测长视频理解,现有开源 VLM 召回率明显不足。

资讯摘要

论文提出 LF-VideoQA,一个面向长叙事视频的长篇开放式问答数据集,基于心智理论设计问题:角色的信念取决于其所见所闻,因此每道题都需整合视频中分散的证据。数据集含 94 部近期电影的 6300 多道题,平均需推理约 23 分钟的场景,并配有逐题评分标准;数据由剧本标注场景事件与角色信念后经 LLM 生成并验证,人工研究验证了质量。作者报告,四类开源 VLM 在三种设置下表现均不佳,召回率是主要瓶颈。

要点速读

  1. 数据集含 94 部近期电影的 6300 多道开放式问题,每题平均需跨约 23 分钟场景推理,并附问题专属评分标准。
  2. 数据构建流程为自动标注剧本中的场景事件与角色一阶信念、元信念,再由 LLM 生成并验证(问题、答案、评分标准)三元组,人工研究验证质量。
  3. 作者报告:可访问剧本的 oracle 也远未答全,最佳非 oracle 模型召回率不足 oracle 一半;字幕与说明文本表现不如视频本身,召回是主要瓶颈。

中文摘要由 AI 根据公开来源生成,可能存在理解偏差;具体能力、数字、开放时间等信息请以原文为准。
采集于 2026/11/4 08:00:28(北京时间)。 arXiv 日期为本次公告时间,论文初次投稿日期请查看原文版本记录。

阅读 arXiv · cs.CL 原文arxiv.org · 在新窗口打开