PowerPaint:多功能图像修复模型
支持文本引导对象修复、对象移除、形状引导对象插入和外扩绘制的图像修复模型
核验日期
核心信息
以下信息由程序从官方接口读取,不经模型改写。
- 许可证
- MIT
- 语言
- Python
- 维护方
- open-mmlab
- 核验日期
它是什么
项目方称,PowerPaint 是一个高质量的多功能图像修复模型,同时支持文本引导的对象修复、对象移除、形状引导的对象插入和外扩绘制。它通过针对不同修复任务学习量身定制的任务提示来实现这一点。团队开源了 PowerPaint v2 的模型权重和代码。团队重新训练了一个新的 PowerPaint,并借鉴了 Brushnet。
主要能力
PowerPaint 与 ControlNet 兼容。
因此用户可以借助控制图像生成对象。
PowerPaint 支持形状引导的对象修复,用户可以控制生成对象与遮罩形状的贴合程度。
团队为任务提示输入保留了被 BrushNet 删除的交叉注意力层。
怎么上手
用户可以通过运行命令,从头构建 conda 环境。
用户可以通过运行命令启动 PowerPaint 的 Gradio 界面。
对于基于 BrushNet 的 PowerPaint,用户可以运行对应的命令。
启动 Gradio 界面后,用户可以上传图像、绘制遮罩、选择文本引导对象修复标签并输入文本提示,从而向图像中插入对象。
随后模型会生成输出图像。
进行图像外扩时,选择图像外扩标签并调整水平扩展比例和垂直扩展比例的滑块,PowerPaint 就会扩展图像。
# Clone the Repository
git clone git@github.com:open-mmlab/PowerPaint.git
# Create Virtual Environment with Conda
conda create --name ppt python=3.9
conda activate ppt
# Install Dependencies
pip install -r requirements/requirements.txtconda env create -f requirements/ppt.yaml
conda activate ppt# Set up Git LFS
conda install git-lfs
git lfs install
# Clone PowerPaint Model
git lfs clone https://huggingface.co/JunhaoZhuang/PowerPaint-v1/ ./checkpoints/ppt-v1
python app.py --share# Clone PowerPaint Model
git lfs clone https://huggingface.co/JunhaoZhuang/PowerPaint_v2/ ./checkpoints/ppt-v2
python app.py --share --version ppt-v2 --checkpoint_dir checkpoints/ppt-v2适合谁
进行对象移除时,用户不需要输入任何提示。如果遮罩区域出现不需要的对象,可以通过提高引导系数来解决。进行图像外扩时,用户不需要输入任何文本提示。
用户可以调整贴合程度滑块来控制生成对象的形状。当希望生成不受遮罩形状约束的对象时,团队建议将贴合程度设为 0.5-0.6。若希望生成贴合遮罩形状的对象,可以将贴合程度设为 0.8-0.95。
对于方形的兔子,使用较高的贴合程度,结果可能会显得滑稽。团队重构了代码,以更好地同时支持基于 U-Net 和基于 Brush-Net 的网络架构。团队开源了 PowerPaint v2-1 的模型权重,修正了版本 2 训练过程中存在的一些问题。
加载 ControlNet 时的逻辑错误已被修正。团队宣布发布更稳定的模型权重。
来源
本页内容整理自以下官方来源,点击可核对原文。
- GitHub READMEhttps://github.com/open-mmlab/PowerPaint抓取于
核验日期 ·
本页由 AI 依据上述官方来源整理,并经自动核对,未经本站实测。 发现错误?告诉我们。