EN

VBench:视频生成模型基准套件

VBench 仓库提供 VBench 系列工作的统一实现,这些工作用于评测视频生成模型。

核验日期

核心信息

以下信息由程序从官方接口读取,不经模型改写。

许可证
Apache-2.0
语言
Python
维护方
Vchitect
核验日期

它是什么

该仓库提供 VBench 系列工作的统一实现,项目称其支持在多种能力和设置下对视频生成模型进行全面评测。作者提出了 VBench,一个面向视频生成模型的综合基准套件。VBench++ 在 VBench 基础上扩展,加入用于图生视频的 VBench-I2V、用于长视频的 VBench-Long,以及涵盖公平性、偏见和安全的 VBench-Trustworthiness。VBench-2.0 扩展了 VBench,用于评测内在忠实度。

主要能力

  1. VBench 项目称,它设计了全面且分层的评测维度套件,把“视频生成质量”分解为多个定义明确的维度,以便进行其所称的细粒度、客观评测。

  2. VBench 项目称,针对每个评测维度,其评测方法套件采用精心设计的方法或指定流程进行自动客观评测。

  3. VBench++ 不仅评测技术质量,也评测生成模型的可信度。

  4. VBench-2.0 引入了结构化评测套件,包含五个大类和 18 个细粒度能力维度。

怎么上手

  1. 使用 VBench 可以评测视频以及视频生成模型。

  2. 用 VBench 评测你自己的视频时,只需提供视频文件的路径,或包含视频的文件夹的路径。

  3. 用 VBench 评测你自己的视频时,对视频的名称没有要求。

  4. Detectron2 仅适用于 CUDA 12.1 或 11.X。

  5. 评测时间闪烁维度之前,需要先过滤掉静态视频。

摘自 README
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 # or any other PyTorch version with CUDA<=12.1
pip install vbench
摘自 README
   pip install detectron2@git+https://github.com/facebookresearch/detectron2.git
摘自 README
python evaluate.py \
    --dimension $DIMENSION \
    --videos_path /path/to/folder_or_video/ \
    --mode=custom_input
摘自 README · bash
vbench evaluate --videos_path $VIDEO_PATH --dimension $DIMENSION
摘自 README · python
from vbench import VBench
my_VBench = VBench(device, <path/to/VBench_full_info.json>, <path/to/save/dir>)
my_VBench.evaluate(
    videos_path = <video_path>,
    name = <name>,
    dimension_list = [<dimension>, <dimension>, ...],
)

适合谁

VBench 旨在于标准基准上评测不同模型。作者提供了用于计算排行榜中 Total Score、Quality Score 和 Semantic Score 的脚本。Total Score 是 Quality Score 和 Semantic Score 的加权平均。

计算时,每个维度的结果都使用公式进行归一化。VBench 仓库已发布评测代码,涵盖 16 个文生视频评测维度。VBench-I2V 支持评测图生视频模型。

VBench-Trustworthiness 支持评测视频生成模型的可信度,例如文化、公平性、偏见和安全。VBench-2.0 在 VBench 主要评测早期技术质量的基础上,扩展了基准框架,用于评测更高级的能力。VBench-2.0 支持评测自定义视频。

作者发布了用于评测 AIGC 视频中人体解剖质量的流程。作者发布了 VBench 评测中采样并使用的全部视频。作者分别给出了开源模型和闭源模型评测结果的雷达图。

VBench-Long 排行榜现有 10 个长视频生成模型。VBench 排行榜现有 40 个文生视频模型,包括长视频和短视频。VBench++ 已被 TPAMI 接收。

来源

本页内容整理自以下官方来源,点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理,并经自动核对,未经本站实测。 发现错误?告诉我们。