返回首页

StreamEval 发布:首个实时交互视频基准,37 个模型严格编辑最高 15 分

核心事实:清华、英伟达、CMU、UC Berkeley 等机构联合发布全球首个面向实时交互视频的基准 StreamEval,300 道题覆盖五类任务,37 个模型、47 组组合参测。

  • 基准设计:五类任务各 60 道——数字人对话、数字人表演、世界生成、文字指令编辑、参考图编辑;时长覆盖 15/30/60/120/300 秒,每题包含起始素材、输入时间线与判卷依据。
  • 评分方法:拆成任务执行、状态一致性、视觉保真度、声画协调四维十项指标;先由 VLM 提取结构化观察,再按固定规则打分;五类任务分别排名,不合并总榜。
  • 成绩分布:Vidu S2-Avatar 在数字人对话、表演两项综合分第一,表演稳定性 97.25,但动作跟随最高仅 36.90;S2-Editing 在两类视频编辑领先;MemFlow 世界生成第一;参考图编辑的“完整编辑”最高 15.00 分;Krea Realtime 世界生成综合落后,但指令跟随 25.93 为全场最高。
  • 暴露的短板:实时视频的动作跟随、严格编辑与长时状态保持仍弱;换装测试中背景和场景保住了,但新外观没有真正替换,或编辑时误删不该动的物体。
  • 开放与行业意义:代码、案例时间线、数据集与评分规则已公开,榜单每月更新并接受模型提交。它把实时视频的可控性从主观观感变成可复查的任务级指标,选型时可按数字人、编辑、世界生成分别看分项,而非只看一个总分。 🔗 原文 | GitHub | Leaderboard | 论文