CLIP-GEN
[简体中文][English]
本项目在萤火二号集群上用 PyTorch 实现了论文 《CLIP-GEN: Language-Free Training of a Text-to-Image Generator with CLIP》。
CLIP-GEN 是一个 Language-Free 的文本生成图像的方法，它不依赖图文训练样本，通过预训练 CLIP 模型的强大表征能力，只需要图片数据就可以训练出一个文本生成图像的模型。该方法的基本原理是：CLIP-GEN 首先会训练一个 VQ-GAN，把图片映射到离散空间；然后再训练一个 GPT 模型，把 CLIP embedding 映射到 VQ-GAN 的离散空间；由于在 CLIP 中，文本和图像共享一个特征空间，在 inference 的时候我们就可以通过同样的方法把文本映射到 VQ-GAN 的离散空间，然后 decode 为 RGB 图像。
Requirements
- hfai (to be released soon)
- torch>=1.8
Training
支持的数据集：coco, imagenet, googlecc
-
下载 CLIP 预训练模型
下载 CLIP 后放至
pretrained/clip_vit_b32.pt，该预训练模型来自 OpenAI. -
在 COCO 上训练 VQGAN
提交任务至萤火集群：
hfai python train_vqgan.py --ds coco -- -n 1 -p 30
本地运行：
python train_vqgan.py --ds coco
-
在 COCO 上训练 Conditional GPT
提交任务至萤火集群：
hfai python train_gpt.py --ds coco --vqgan_ckpt /path/to/vqgan/ckpt -- -n 4 -p 30
本地运行：
python train_gpt.py --ds coco --vqgan_ckpt /path/to/vqgan/ckpt
Demo
下载在 COCO 上训练好的 VQGAN 和 GPT 模型，分别放到 pretrained/vqgan_coco.pt 和 pretrained/gpt_coco.pt；然后运行：
python demo.py --text "A city bus driving on the city street" --out "bus.jpg"
NOTE: demo 的运行不依赖 hfai，用户可以在装有 PyTorch 的环境下直接使用
Samples
下面是一些文本生成图像的样本：
References
Citation
@article{wang2022clip,
title={CLIP-GEN: Language-Free Training of a Text-to-Image Generator with CLIP},
author={Wang, Zihao and Liu, Wei and He, Qian and Wu, Xinglong and Yi, Zili},
journal={arXiv preprint arXiv:2203.00386},
year={2022}
}
TODO
- 预训练模型
- FFRecord 数据
73 Sep 11, 2022
175 Dec 29, 2022
643 Dec 30, 2022
604 Dec 14, 2022
396 Dec 30, 2022
![[IJCAI-2021] A benchmark of data-free knowledge distillation from paper](https://github.com/zju-vipa/DataFree/raw/main/assets/cmi.png)
47 Jan 9, 2023
1 Jan 6, 2022
256 Jan 5, 2023
38 Dec 12, 2022
1 Jan 20, 2022
6 Sep 11, 2022
158 Jan 08, 2023
13 Jul 26, 2022
27 Sep 24, 2022
18 Nov 23, 2022
6 Sep 05, 2022
24 Nov 30, 2022
32 Dec 25, 2022
6 Sep 17, 2022
789 Dec 29, 2022
251 Dec 30, 2022
70 Dec 04, 2022
8 Aug 10, 2022
27 Jan 05, 2023
51 Dec 30, 2022
48 Dec 12, 2022
16 Dec 08, 2022
494 Dec 29, 2022
61 Jan 01, 2023