EN

PowerPaint:多功能图像修复模型

支持文本引导对象修复、对象移除、形状引导对象插入和外扩绘制的图像修复模型

核验日期

核心信息

以下信息由程序从官方接口读取,不经模型改写。

许可证
MIT
语言
Python
维护方
open-mmlab
核验日期

它是什么

项目方称,PowerPaint 是一个高质量的多功能图像修复模型,同时支持文本引导的对象修复、对象移除、形状引导的对象插入和外扩绘制。它通过针对不同修复任务学习量身定制的任务提示来实现这一点。团队开源了 PowerPaint v2 的模型权重和代码。团队重新训练了一个新的 PowerPaint,并借鉴了 Brushnet。

主要能力

  1. PowerPaint 与 ControlNet 兼容。

  2. 因此用户可以借助控制图像生成对象。

  3. PowerPaint 支持形状引导的对象修复,用户可以控制生成对象与遮罩形状的贴合程度。

  4. 团队为任务提示输入保留了被 BrushNet 删除的交叉注意力层。

怎么上手

  1. 用户可以通过运行命令,从头构建 conda 环境。

  2. 用户可以通过运行命令启动 PowerPaint 的 Gradio 界面。

  3. 对于基于 BrushNet 的 PowerPaint,用户可以运行对应的命令。

  4. 启动 Gradio 界面后,用户可以上传图像、绘制遮罩、选择文本引导对象修复标签并输入文本提示,从而向图像中插入对象。

  5. 随后模型会生成输出图像。

  6. 进行图像外扩时,选择图像外扩标签并调整水平扩展比例和垂直扩展比例的滑块,PowerPaint 就会扩展图像。

摘自 README · bash
# Clone the Repository
git clone git@github.com:open-mmlab/PowerPaint.git

# Create Virtual Environment with Conda
conda create --name ppt python=3.9
conda activate ppt

# Install Dependencies
pip install -r requirements/requirements.txt
摘自 README · bash
conda env create -f requirements/ppt.yaml
conda activate ppt
摘自 README · bash
# Set up Git LFS
conda install git-lfs
git lfs install

# Clone PowerPaint Model
git lfs clone https://huggingface.co/JunhaoZhuang/PowerPaint-v1/ ./checkpoints/ppt-v1

python app.py --share
摘自 README · bash
# Clone PowerPaint Model
git lfs clone https://huggingface.co/JunhaoZhuang/PowerPaint_v2/ ./checkpoints/ppt-v2

python app.py --share --version ppt-v2 --checkpoint_dir checkpoints/ppt-v2

适合谁

进行对象移除时,用户不需要输入任何提示。如果遮罩区域出现不需要的对象,可以通过提高引导系数来解决。进行图像外扩时,用户不需要输入任何文本提示。

用户可以调整贴合程度滑块来控制生成对象的形状。当希望生成不受遮罩形状约束的对象时,团队建议将贴合程度设为 0.5-0.6。若希望生成贴合遮罩形状的对象,可以将贴合程度设为 0.8-0.95。

对于方形的兔子,使用较高的贴合程度,结果可能会显得滑稽。团队重构了代码,以更好地同时支持基于 U-Net 和基于 Brush-Net 的网络架构。团队开源了 PowerPaint v2-1 的模型权重,修正了版本 2 训练过程中存在的一些问题。

加载 ControlNet 时的逻辑错误已被修正。团队宣布发布更稳定的模型权重。

来源

本页内容整理自以下官方来源,点击可核对原文。

核验日期 ·

本页由 AI 依据上述官方来源整理,并经自动核对,未经本站实测。 发现错误?告诉我们。