跳转至

OmniCompass:全模态视频定位与理解的整体评测

原题:OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding 作者:Xuyang Liu, Shihao Wang, Xinyu Wei, Minghan Li, Zeqing Wang, Zuhao Yang, Zichen Wen, Lei Zhang 机构:香港理工大学、OPPO 研究院、科罗拉多矿业学院、南洋理工大学、上海交通大学(PolyU-OPPO 联合创新研究中心支持) 年份:2026(arxiv ID 2610.18829,10 月 13 日提交) 分类:cs.CV / cs.CL / cs.MM 链接:https://arxiv.org/abs/2610.18829 精读日期:2026-10-16

阅读须知

这篇在领域里的位置

这篇论文属于「多模态大模型的视频理解评测」这一支,做的不是模型而是尺子。过去三年里,视频评测基准经历了几个阶段:最早是 Charades-STA、TVQA 这类单任务数据集,只考一件事,比如给一句话找出它对应的时间段,或者看完一段视频答一道选择题;随后出现了 MVBench、Video-MME、LongVideoBench、MLVU 这一批面向大模型的综合问答基准,它们把视频拉长、把题型铺开,但输出仍然只是选择题答案;再往后,V-STaR 和 OmniGround 开始要求模型不只答对,还要指出证据在时间轴上的哪一段、画面里的哪一块,也就是「定位」;与此同时,WorldSense、JointAVBench、Video-MME-v2 这一支把原生音频加了进来,考察模型能不能把听到的和看到的对上。

OmniCompass 想做的是把这几条线并到一张尺子上:同一段视频同时考时间定位、空间定位和问答三件事;同一个目标既用纯文字描述、又用「文字加一张参考图」来指定,看模型在两种指法下给出的答案是否一致;视觉轨道和音视频轨道并列;视频时长从半分钟到一个多小时。它的价值主要在诊断:当一个模型问答得分很高而定位得分很低时,这张尺子能告诉你它到底是「看懂了」还是「猜对了」。

读完能回答什么

  • 现有视频评测基准在哪四个维度上各有缺口,OmniCompass 分别怎么补?
  • 「跨指定一致性分数」(CS)是怎么定义的,为什么单看两种设定各自的准确率不够?
  • 这个基准是怎么造出来的,1,800 个人工小时花在了哪里,质量验证到底查什么?
  • 50 个模型评下来,闭源与开源的差距在哪一轨最大,问答、时间定位、空间定位三者哪个最难?
  • 给模型一张参考图到底有没有帮助,帧时间戳和音频又分别带来多少提升?
  • 这篇论文的结论里,哪些是扎实的,哪些受实验设计所限只能算倾向?

阅读前置

假定读者了解多模态大模型的基本工作方式(把视频抽成若干帧和文字一起送进模型),知道交并比(IoU)这种重叠度量,对选择题式的问答评测不陌生。不假定读者做过视频定位或音视频理解。

首次出现的缩写表

  • MLLM(Multimodal Large Language Model,多模态大语言模型):能同时接收图像、视频、音频与文本的大模型。
  • TG(Temporal Grounding,时间定位):给定对某个目标或事件的描述,输出它在视频里出现的起止时间。
  • SG(Spatial Grounding,空间定位):给定目标和一个时间区间,在区间两端的帧上各画出一个包围该目标的框。
  • QA(Question Answering,问答):五选一的选择题。
  • VL(Vision-Language,视觉语言)轨道:只给画面帧,不给音频。
  • AV(Audio-Visual,音视频)轨道:给画面帧加原生音频,题目需要听才能答。
  • CS(Cross-Specification Consistency Score,跨指定一致性分数):本文提出的指标,同时要求两种目标指定方式下的预测都正确且彼此一致。
  • tIoU / sIoU:时间区间的交并比、空间框的交并比;m 前缀表示平均值。
  • R@0.5 / AP@0.5:交并比不低于 0.5 算命中的召回率与平均精度。
  • MoE(Mixture of Experts,专家混合):稀疏架构,本文只在模型名里出现(如 Qwen3.5-397B-A17B)。

一、问题

先说这个问题为什么值得做。多模态大模型如今已经能看视频答题,很多评测榜单上的分数也相当好看,但做产品的人很快会发现一件事:模型答对了题,未必知道答案在哪里。你问它「那个 33 号球员什么时候扣篮」,它给一个时间,错了;你问「扣篮发生在画面哪里」,它画的框落在空地上;可是你换成选择题问「33 号球员扣了几次篮」,它又能选对。这三种能力在现有基准里是分开考的,于是一个模型可以在问答榜上名列前茅,而它的定位能力从未被量化过。对于需要把结果落到时间轴和画面上的应用,比如体育集锦、监控检索、新闻核查,这种「只会答题」的模型是不够用的。

现有基准的问题可以归成三条。第一,视频证据的覆盖不全:大多数基准只考画面,少数音视频基准只考需要听的题,没有谁同时覆盖两种情形,而现实里的新闻视频既有「画面里出现了什么」的问题,也有「主播说到谁的时候画面上是谁」的问题。第二,目标的指定方式单一:几乎所有基准都只用文字描述目标,IV-Bench 虽然加了参考图,却没有把同一个目标分别用两种方式指定一遍来做对照,而用户在实际使用中既可能口头描述、也可能直接给一张截图。第三,任务覆盖碎片化:问答基准不考定位,定位基准不考问答,音视频基准几乎都不考定位,于是模型在「时间检索」「空间定位」「语义理解」三个环节上分别失败时,没有办法把失败归到具体环节。

论文把目标定成一个清楚的陈述:建立一个基准,让同一段视频、同一个目标,在纯文字与文字加图两种指定下,同时接受时间定位、空间定位和问答三项考核,并且在只看画面与看画面听声音两条轨道上都能做。 这样一来,模型的失败就能被拆开归因,而两种指定方式下的答案是否一致,本身也成为一个可度量的能力。

flowchart LR
    subgraph 单任务时代
        A[Charades-STA 时间定位]
        B[TVQA / NExT-QA 问答]
        C[VidSTG / HC-STVG 时空定位]
    end
    subgraph 大模型综合问答
        D[MVBench / Video-MME<br/>LongVideoBench / MLVU<br/>只考问答, 时长拉长]
    end
    subgraph 定位与音频
        E[V-STaR / OmniGround<br/>定位 + 问答]
        F[WorldSense / JointAVBench<br/>Video-MME-v2<br/>原生音频问答]
        G[IV-Bench<br/>参考图指定目标]
    end
    H[OmniCompass<br/>两种指定 × 两条轨道 × 三项任务 × 三档时长]
    A --> D --> E --> H
    B --> D
    C --> E
    F --> H
    G --> H

二、方法

这是一篇基准论文,「方法」指的是基准的设计、指标的定义和数据的构造过程。

2.1 四个维度与两条轨道

OmniCompass 沿四个维度展开。目标指定分 Text 与 Text+Image 两种:前者用一句完整的文字描述目标,例如「美国队 33 号球员何时完成扣篮」;后者把文字里能认出目标的那部分抽掉,换成一张参考图,例如「参考图里的球员何时完成扣篮」。两种设定共享同一段视频、同一个目标、同一道题和同一份标准答案,所以两者的差异只来自指定方式本身。视频证据分 VL 与 AV 两条轨道:VL 轨道的输入是均匀抽样的 K 帧及其时间戳,AV 轨道在此之上加上同步的音频,并且 AV 的题目被设计成不听音频答不了。任务分 TG、SG、QA 三项:TG 输出起止秒数;SG 给定区间后在两个端点帧上各输出一个归一化到 0 到 1000 的框;QA 是五选一。时长分短(30 到 90 秒)、中(90 到 300 秒)、长(300 秒以上)三档。

flowchart TD
    V[一段视频] --> T1[Text 指定<br/>纯文字描述目标]
    V --> T2[Text+Image 指定<br/>文字 + 参考图]
    T1 --> VL[VL 轨道: 帧 + 时间戳]
    T2 --> VL
    T1 --> AV[AV 轨道: 帧 + 时间戳 + 音频]
    T2 --> AV
    VL --> TG[TG 起止时间]
    VL --> SG[SG 端点框]
    VL --> QA[QA 五选一]
    AV --> TG
    AV --> SG
    AV --> QA
    TG --> CS[CS: 两种指定都对且一致]
    SG --> CS
    QA --> CS

VL 轨道的问答有八类:事实识别、动作识别、属性感知、视觉计数、空间感知五类属于感知,时序推理、因果推理、比较判断三类属于推理。AV 轨道有五类:语音理解、事件理解、情绪识别属于感知,时序推理与因果推理属于推理。其中「事件理解」要求把听到的线索和画面里的人、动作或场景对上,后面会看到它正是开源模型落后最多的地方。

2.2 跨指定一致性分数

论文提出 CS 的动机是:如果只分别报告 Text 和 Text+Image 两种设定下的准确率,两个数接近并不说明模型在同一道题上两次都答对了,它可能在一半题上只有文字指定答对、另一半题上只有参考图指定答对,总分一样而行为完全不稳定。CS 把「正确」和「一致」绑在一起算。

对时间定位,设第 i 对题在两种设定下预测区间与标准区间的 tIoU 分别为 g_i^T 与 g_i^TI,两个预测区间彼此的 tIoU 为 a_i,则 CS_TG 等于所有题上 min{g_i^T, g_i^TI, a_i} 的平均。也就是说,三个重叠度里最差的那个决定得分,两次都对但彼此不重叠不行,彼此一致但都偏离标准也不行。空间定位同理,在起点帧和终点帧上各算一次再平均。问答最简单,CS_QA 是「两种设定下的答案都等于标准答案」的比例。三者的平均记为 CS^Avg,是论文排榜的主指标。

2.3 数据构造

flowchart LR
    S1[阶段一 采集与筛选<br/>9 个公开数据集 8,489 条候选<br/>Qwen3-VL-8B 结构化画像<br/>去掉短于 30 秒与缺线索的, 剩 6,946<br/>按四项打分排序, 人工留 580<br/>+ 240 条自采影视综艺新闻] --> S2[阶段二 标注<br/>4 名标注员 2 天培训<br/>先做 30+30 条试标, 校准指南<br/>每条视频各做一组 TG/SG/QA<br/>Text 与 Text+Image 成对]
    S2 --> S3[阶段三 验证<br/>标注员互查: 466 条通过, 354 条退修<br/>修改后复查, 专家终审<br/>AV 另查音频依赖与音画对齐]
    S3 --> R[820 条视频, 2,460 个 VL 实例<br/>240 条共享视频, 720 个 AV 实例<br/>约 1,784 人工小时]

第一阶段先从 MultiSports、LiveSports-3K、UCF-Crime、CG-Bench、MovieChat、ActivityNet-QA、QVHighlights、StreetScene、ComplexVAD 九个公开数据集里收集 8,489 条候选视频,用 Qwen3-VL-8B-Instruct 给每条视频生成结构化画像:实体、动作、属性、场景各有多少种,外加一段描述。去掉短于 30 秒的 1,454 条和缺少任一类线索的 89 条,剩下 6,946 条。然后用四个启发式分量打分排序:指称必要性 R(目标是否需要额外线索才能唯一确定,由歧义度和丰富度合成)、定位适宜性 G、时空效用 T(时长与变化度)、证据多样性 E(四类线索计数的归一化熵),总分 S = 0.35R + 0.25G + 0.25T + 0.15E。按领域、时长、来源、子类的覆盖约束入围后,人工审阅留下 580 条,再加上团队自己采集的 70 条电影、70 条剧集、50 条综艺、50 条新闻,共 820 条。那 240 条自采视频叙事与音频都丰富,同时构成 AV 轨道。

第二阶段的标注遵循四条原则:同目标成对,即 Text+Image 里的文字必须依赖参考图才能确定目标;参考类型与来源多样,参考图可以是视频里裁出来的,也可以是语义匹配的外部图片,但不能泄露答案所在的事件,视频内裁图优先取目标区间之外的另一视角;TG 区间要紧贴完整事件,SG 框在区间两端都要框住同一目标;QA 仿照 CG-Bench 的做法,先定一个线索区间,再配一个正确答案和四个似是而非的干扰项。四名标注员先在 30 条 VL 和 30 条 AV 视频上做试标,暴露出目标配对、时间边界、空间一致性和问答证据上的不一致,由负责专家统一裁决后再全量标注。

第三阶段是逐条验证。标注员互相复查对方的标注,检查事件是否完整、端点框是否对齐、答案是否唯一且有证据支撑,AV 轨道还要确认题目确实依赖音频、音画确实对应。VL 轨道 820 条视频里 466 条一次通过,354 条被退回修改;AV 轨道 240 条里 151 条通过,89 条共 105 处问题被修正,其中空间定位的问题最多,有 70 处。全部修改后由专家终审。按项目记录折算,整个过程约 1,784 人工小时,其中标注员 1,280 小时、专家 504 小时。

最终基准覆盖七个领域、52 个子类,每个子类至少 10 条视频;视频总长 80.6 小时,单条从 30 秒到 88.4 分钟,平均 354 秒;短、中、长三档分别 162、309、349 条。时间定位的目标区间平均只占 VL 视频时长的 4.6% 和 AV 视频时长的 1.7%,空间框平均占画面面积的 13.2% 和 30.7%。参考图里 79.7% 是实体线索,其余是动作、属性和场景,1,933 张来自视频内部裁剪,527 张来自互联网。

2.4 评测协议

闭源模型和参数超过 1,000 亿的开源模型均匀抽 64 帧,更小的模型抽 32 帧,GPT 系列因为 50 张图的输入上限抽 49 帧以便留一张给参考图,VITA-1.5-7B 按官方限制抽 16 帧。每一帧前面紧跟它的秒数时间戳,这是沿用 TimeLens 的做法。AV 轨道把音频放在帧之后,Text+Image 设定再把参考图放在任务提示之前。SG 任务直接给定相关区间,只要求在两个端点帧上各回一个框,所以它考的是「在指定时刻定位目标」而不是在整段视频里搜索。各模型帧数不同,论文明确说跨模型比较反映的是各自的输入预算,不是严格等算力的对比。

三、实验

3.1 VL 轨道

共评 36 个视觉语言模型。下表摘录各组里有代表性的几个,数字为 Text / Text+Image 两种设定下的指标以及对应的 CS。

模型 帧数 TG mtIoU CS_TG SG msIoU CS_SG QA 准确率 CS_QA CS^Avg
Gemini-3.8-Flash 64 32.6 / 33.5 27.1 37.7 / 41.8 32.3 73.3 / 76.6 69.1 42.8
Seed-2.1-Pro 64 29.3 / 29.9 23.7 40.6 / 39.6 34.9 73.4 / 74.3 67.4 42.0
Qwen3.8-Max 64 30.7 / 32.2 26.7 33.9 / 34.0 26.7 72.4 / 72.5 67.2 40.2
GPT-6-Astra 49 30.9 / 31.7 26.3 37.8 / 38.3 32.7 69.4 / 65.6 59.4 39.5
Gemini-3.1-Pro 64 25.6 / 26.6 19.3 36.5 / 37.3 31.8 71.4 / 73.6 65.7 38.9
Kimi-K3(开源最佳) 64 27.1 / 27.7 22.6 33.3 / 35.2 28.4 73.0 / 72.9 67.6 39.6
Qwen3.5-397B-A17B 64 28.6 / 28.7 23.1 33.4 / 33.7 28.0 67.7 / 69.6 60.6 37.2
GLM-5.3-Flash 64 25.5 / 24.4 18.3 22.9 / 23.5 14.6 68.3 / 68.7 59.4 30.8
DeepSeek-V4.1-Flash 64 19.1 / 19.4 12.4 18.1 / 17.9 10.5 66.2 / 64.6 56.6 26.5
Qwen3.5-9B 32 20.2 / 16.6 13.3 22.3 / 22.3 17.7 58.5 / 55.2 50.1 27.0
InternVL3.5-38B 32 16.3 / 13.6 10.1 2.5 / 2.5 1.4 61.3 / 58.4 52.4 21.3
LLaVA-Video-7B 32 4.3 / 3.1 1.5 0.5 / 0.5 0.1 55.0 / 50.7 45.6 15.7

Gemini-3.8-Flash 以 42.8% 的 CS^Avg 居首,开源最好的 Kimi-K3 是 39.6%,两者只差 3.2 个百分点,这一轨上开源与闭源的差距并不大。真正悬殊的是任务之间的差距:36 个模型里有 29 个的 CS_QA 超过 50%,最高 69.1%,而 CS_TG 和 CS_SG 的最高值只有 27.1% 和 34.9%。换句话说,所有模型都「会答题」,但没有一个「会指出证据在哪」。问答内部也不均匀,视觉计数在八个被画出来的模型里全部垫底,CS_QA 只有 26.4% 到 48.1%,空间感知平均 61.0%,低于因果推理的 69.8%。

参考图的作用出乎意料地有限。Text+Image 只让 36 个模型中的 11 个提高了平均分,其中 12 个闭源模型里有 8 个、24 个开源模型里只有 3 个;参数小于 1,000 亿的开源模型里只有 Qwen3.8-27B 受益,而且它在 TG 和 SG 上各涨 1.9 和 1.5 个百分点的同时,问答掉了 2.2 个百分点。论文的解释是,参考图帮助匹配目标,却去掉了文字描述里本来有用的细节。模型大小也不是单调的:Qwen3.5 的 397B 在 CS^Avg 上高于 122B(37.2% 对 33.5%),在 CS_TG 上却反过来(23.1% 对 24.3%),27B 的 CS_SG 也低于 9B。

一致性是另一条主线。36 个模型的 CS_TG、CS_SG、CS_QA 分别比两种设定里较低的那个单设定分数平均低 4.3、4.6 和 6.4 个百分点。附录 B.3 给了一个具体例子:Kimi-K3 在两种设定下的问答准确率几乎相同,73.0% 与 72.9%,但两次都答对的只有 67.6%;它的 808 对题里 546 对两次都对,44 对只在 Text 下对,43 对只在 Text+Image 下对,175 对都错。总分相同掩盖了题目层面完全不同的结果。

3.2 AV 轨道

共评 17 个支持原生音频的模型。

模型 帧数 TG mtIoU CS_TG SG msIoU CS_SG QA 准确率 CS_QA CS^Avg
Gemini-3.8-Flash 64 46.4 / 45.9 40.6 59.8 / 59.3 53.5 80.3 / 80.8 78.2 57.4
Qwen3.8-Omni-Flash 64 29.2 / 30.9 21.8 56.8 / 56.0 50.9 75.9 / 78.9 73.2 48.6
Qwen3.5-Omni-Plus 64 21.0 / 21.1 14.0 55.5 / 55.6 50.5 71.1 / 73.2 68.4 44.3
Gemini-3.1-Pro 64 16.6 / 17.7 9.0 52.0 / 52.1 45.8 72.4 / 71.1 64.9 39.9
Seed-2.0-Lite 64 16.9 / 13.2 10.6 53.3 / 51.8 45.5 71.3 / 69.2 63.8 39.9
MiMo-V2.5(开源最佳) 64 9.4 / 8.7 3.1 34.9 / 36.0 23.4 59.2 / 58.7 47.3 24.6
Qwen3-Omni-30B-A3B 32 5.5 / 5.0 3.5 27.4 / 29.8 17.3 53.3 / 55.0 47.9 22.9
MiniCPM-o-4.5-8B 32 1.9 / 1.4 0.4 10.4 / 9.0 5.0 52.1 / 52.9 47.1 17.5
video-SALMONN 2+ 72B 32 5.4 / 2.3 1.6 1.9 / 2.3 1.0 56.3 / 54.2 50.8 17.8
VITA-1.5-7B 16 0.5 / 1.2 0.2 1.1 / 1.3 0.5 34.2 / 34.6 27.5 9.4

这一轨上开源与闭源的差距是 32.8 个百分点:Gemini-3.8-Flash 57.4%,开源最好的 MiMo-V2.5 只有 24.6%。十个开源模型的 CS_TG 全部不超过 3.5%,也就是说开源模型基本不具备「听到某句话时定位它发生在哪一秒」的能力。问答内部,闭源与开源在语音理解上差 12.5 个百分点,在事件理解上差 38.9 个百分点,后者要求把音频线索绑定到画面里的实体或动作,是差距最大的一类。Qwen3.8-Omni-Flash 是一个典型:CS_QA 73.2%,CS_TG 只有 21.8%。时序推理在六个被画出的模型里有五个垫底,因果推理反而全在 74.3% 到 94.3% 之间。

值得注意的是 Gemini-3.1-Pro 在 AV 轨道的 CS_TG 只有 9.0%,远低于同门的 Flash,论文没有解释这一反差,但它说明「更大的型号」在音视频时间定位上并不自动更强。

3.3 分析实验

帧时间戳的作用。 去掉每帧前面的秒数后再测,五个模型与轨道的组合里 CS^Avg 全部下降,15 个任务级对比里 14 个变差。VL 轨道上 Gemini-3.8-Flash、Qwen3.5-397B-A17B、Qwen3.8-27B 因为时间戳分别多得 7.0、10.4、2.3 个百分点,增益集中在 TG:前两者的 CS_TG 各提高 18.3 和 18.2 个百分点。AV 轨道上时间戳对 TG 几乎没有影响(变化在 −0.2 到 +0.8 之间),对 SG 却让 Qwen3.8-Omni-Flash 提高了 16.0 个百分点。论文据此认为时间戳的作用是帮模型把抽样帧和时间位置对上。

输入模态的作用。 在 AV 轨道上对四个模型分别测纯文本、只看画面、画面加音频三种输入。纯文本的 CS_TG 只有 0.1% 到 0.8%,CS_QA 却有 18.8% 到 30.1%,说明问答题有一部分可以靠常识猜。加上画面后 12 个模型任务组合全部提高。再加上音频,CS_QA 提高 18.6 到 28.1 个百分点,平均 22.9;CS_TG 的变化则因模型而异,Gemini-3.8-Flash 提高 29.4 个百分点,Qwen3.8-Omni-Flash 提高 11.1,MiMo-V2.5 反而降 1.5;CS_SG 几乎不动。

帧数的作用。 从 8 帧加到 128 帧,VL 轨道三项任务都显著提高,Gemini-3.8-Flash 的 TG、SG、QA 各涨 22.2、22.8、20.0 个百分点;AV 轨道上 SG 和 QA 也涨,TG 却几乎不变。论文的推测是音频本身已经提供了时间线索,密集抽帧带不来更多时间证据。

时长与领域。 十个 VL 模型在长视频上的 TG 全部低于短视频,Seed-2.1-Pro 从 33.4% 掉到 15.1%,Gemini-3.8-Flash 从 33.8% 掉到 21.0%;但 SG 只有五个模型下降,QA 只有六个。按领域看,所有模型在交通视频上的 SG 和 QA 最低,均值分别只有 7.8% 和 37.3%;综艺视频的 TG 最低(8.1%)而 SG 最高(26.6%),说明同一领域里空间定位强与时间定位弱可以并存。目标粒度上,所有模型的 TG 都随目标区间占比增大而单调提高,Gemini-3.8-Flash 从最小一档的 7.9% 升到最大一档的 43.1%。

有一个反直觉的发现值得单独拎出来:参考图对不同任务的作用方向相反。附录 B.2 按参考类型拆开后,动作类参考图让十个模型里七个的 TG、九个的 SG 提高,却让八个模型的问答准确率下降;Gemini-3.8-Flash 在动作类 SG 上涨 10.4 个百分点,Qwen3.8-Max 却跌 7.6。论文提醒这不是「加了一张图」的纯净效应,因为 Text+Image 设定同时改写了文字描述,它测的是「用一张图替代部分文字描述」的综合效果。

四、局限

作者自己承认的

跨模型比较不是等算力的,帧数按模型大小和接口限制分档,GPT 系列只有 49 帧;时长与领域的对比没有控制内容和目标粒度,所以只能说明关联,不能归因于时长本身;参考图实验改变的不只是图的有无,还有文字描述;按参考类型拆分后有的子集很小,场景类 TG 只有 8 对题;CS 与单设定分数的差距里,真正由两次预测互不重叠造成的只占 0.3 到 1.8 个百分点,其余来自「两次都要与标准答案重叠」这个更严的要求,所以不能把整个差距解读为预测不稳定。视频版权方面,论文承认数据集仓库的可用并不等于视频可再分发,自采的影视综艺片段只用于学术评测。

读完能看出来的

第一,这是一张只有 820 条视频、每项任务每条视频一道题的尺子。VL 轨道每项任务 820 道、AV 轨道每项 240 道,按八类和五类问答再拆下去,每类只有 35 到 148 道题,分析实验里许多「某模型涨了 10 个百分点」的结论建立在几十道题的子集上,论文自己也说热力图不带显著性。

第二,排行榜的头名是 Gemini-3.8-Flash,而数据构造阶段用 Qwen3-VL-8B 做画像筛选、参考图里有不少来自互联网,这些选择会不会偏向某类模型,论文没有讨论。更重要的是,标注员的五个选项和干扰项是人写的,「两次都答对」在五选一上的基线是 4%,CS_QA 动辄 60% 以上,并不能排除题目本身存在可猜的规律。

第三,SG 任务给定了区间、只在两个端点帧上画框,这与真实场景里「先找到事件再定位目标」的流程不同,它把时间搜索的难度从空间定位里剥掉了,所以 CS_SG 和 CS_TG 之间不能直接比较难度。

第四,AV 轨道只有 17 个模型,开源部分多是 7B 到 30B 的小模型,而闭源部分是各家旗舰,「开源落后 32.8 个百分点」里混着规模差距,不全是开源与闭源的差距。

第五,音频实验显示纯文本就能在问答上拿到 18.8% 到 30.1%,远高于随机的 4%,说明 AV 轨道的问答有相当一部分可以不看不听只凭先验作答,这削弱了「题目需要音频」这一设计承诺的力度,尽管验证阶段检查过音频依赖。

第六,所有评测都是一次性推理、固定提示、固定抽帧,不涉及近来兴起的「边推理边回看片段、主动取证」的智能体式视频理解,而论文引言恰恰以这类模型的出现作为动机。这张尺子量的是静态输入下的能力,对工具式的视频智能体还需要另外的协议。

一句话

OmniCompass 用 820 条人工标注视频,让同一目标在纯文字与文字加图两种指定、看画面与听声音两条轨道上同时接受时间定位、空间定位和问答考核,并以「两次都对且一致」的 CS 指标揭示:50 个模型里问答普遍及格而定位普遍不及格,开源模型在音视频定位上几乎为零。