VBench:视频生成模型基准套件
VBench 仓库提供 VBench 系列工作的统一实现,这些工作用于评测视频生成模型。
核验日期
核心信息
以下信息由程序从官方接口读取,不经模型改写。
- 许可证
- Apache-2.0
- 语言
- Python
- 维护方
- Vchitect
- 核验日期
它是什么
该仓库提供 VBench 系列工作的统一实现,项目称其支持在多种能力和设置下对视频生成模型进行全面评测。作者提出了 VBench,一个面向视频生成模型的综合基准套件。VBench++ 在 VBench 基础上扩展,加入用于图生视频的 VBench-I2V、用于长视频的 VBench-Long,以及涵盖公平性、偏见和安全的 VBench-Trustworthiness。VBench-2.0 扩展了 VBench,用于评测内在忠实度。
主要能力
VBench 项目称,它设计了全面且分层的评测维度套件,把“视频生成质量”分解为多个定义明确的维度,以便进行其所称的细粒度、客观评测。
VBench 项目称,针对每个评测维度,其评测方法套件采用精心设计的方法或指定流程进行自动客观评测。
VBench++ 不仅评测技术质量,也评测生成模型的可信度。
VBench-2.0 引入了结构化评测套件,包含五个大类和 18 个细粒度能力维度。
怎么上手
使用 VBench 可以评测视频以及视频生成模型。
用 VBench 评测你自己的视频时,只需提供视频文件的路径,或包含视频的文件夹的路径。
用 VBench 评测你自己的视频时,对视频的名称没有要求。
Detectron2 仅适用于 CUDA 12.1 或 11.X。
评测时间闪烁维度之前,需要先过滤掉静态视频。
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 # or any other PyTorch version with CUDA<=12.1
pip install vbench pip install detectron2@git+https://github.com/facebookresearch/detectron2.gitpython evaluate.py \
--dimension $DIMENSION \
--videos_path /path/to/folder_or_video/ \
--mode=custom_inputvbench evaluate --videos_path $VIDEO_PATH --dimension $DIMENSIONfrom vbench import VBench
my_VBench = VBench(device, <path/to/VBench_full_info.json>, <path/to/save/dir>)
my_VBench.evaluate(
videos_path = <video_path>,
name = <name>,
dimension_list = [<dimension>, <dimension>, ...],
)适合谁
VBench 旨在于标准基准上评测不同模型。作者提供了用于计算排行榜中 Total Score、Quality Score 和 Semantic Score 的脚本。Total Score 是 Quality Score 和 Semantic Score 的加权平均。
计算时,每个维度的结果都使用公式进行归一化。VBench 仓库已发布评测代码,涵盖 16 个文生视频评测维度。VBench-I2V 支持评测图生视频模型。
VBench-Trustworthiness 支持评测视频生成模型的可信度,例如文化、公平性、偏见和安全。VBench-2.0 在 VBench 主要评测早期技术质量的基础上,扩展了基准框架,用于评测更高级的能力。VBench-2.0 支持评测自定义视频。
作者发布了用于评测 AIGC 视频中人体解剖质量的流程。作者发布了 VBench 评测中采样并使用的全部视频。作者分别给出了开源模型和闭源模型评测结果的雷达图。
VBench-Long 排行榜现有 10 个长视频生成模型。VBench 排行榜现有 40 个文生视频模型,包括长视频和短视频。VBench++ 已被 TPAMI 接收。
来源
本页内容整理自以下官方来源,点击可核对原文。
- GitHub READMEhttps://github.com/Vchitect/VBench抓取于
核验日期 ·
本页由 AI 依据上述官方来源整理,并经自动核对,未经本站实测。 发现错误?告诉我们。