CPM-Generate
为了促进中文自然语言处理研究的发展，本项目提供了 CPM-LM (2.6B) 模型的文本生成代码，可用于文本生成的本地测试，并以此为基础进一步研究零次学习/少次学习等场景。[项目首页] [模型下载] [技术报告]
若您想使用CPM-1进行推理，我们建议使用高效推理工具BMInf，支持1060以上显卡单卡推理。
安装
首先安装pytorch等基础依赖，再安装APEX以支持fp16：
pip install -r requirements.txt
git clone https://github.com/NVIDIA/apex
cd apex
pip install -v --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" ./
考虑apex的安装容易发生问题，我们构建了对应的Docker容器，可以进行快速环境搭建。安装方式如下：
docker pull dmye/cpm:v0
参考运行指令如下：
sudo docker run --gpus '"device=0,1"' -it -v
:/CPM --name=cpm cpm:v0
其中
为代码所在目录，-v进行文件目录挂载
注：感谢qhduan同学提供了基于TensorFlow的使用代码，用作Pytorch之外的备选。
模型
模型下载后文件夹的目录结构需设置如下：
.
├── 80000
│ ├── mp_rank_00_model_states.pt
│ └── mp_rank_01_model_states.pt
└── latest_checkpointed_iteration.txt
为保证下载文件的正确性，文件的checksum如下：
SHA1
71d6b6ad4f47b46724eb82c05da8fb9175e62a7d 80000/mp_rank_00_model_states.pt
42aa247a262e2011fa5e276f1a8389fad6d80edc 80000/mp_rank_01_model_states.pt
MD5
f3f6d2f7d84c6a45290a31dabf79ddac 80000/mp_rank_00_model_states.pt
b0e960be4b5226e759ae6fc5246f9160 80000/mp_rank_01_model_states.pt
使用
提供了命令行交互式生成：
bash scripts/generate_text.sh /path/to/CPM
如不使用交互式输入，可增加第二个参数，告知输入文本的位置
bash scripts/generate_text.sh /path/to/CPM example.txt
运行该脚本需要两块GPU，每张卡的GPU内存占用约为7GB。该项目主要基于 Megatron-LM 进行修改。模型的主体架构与GPT-2一致。
默认的模型并行参数为2，如果需要修改，可以使用change_mp.py，并调整generate_text.sh中的MPSIZE。change_mp.py的使用示例如下：
python change_mp.py /path/to/CPM MPSIZE
这里的/path/to/CPM为模型路径，MPSIZE为一个整数，可以为1或者2的倍数，结果会生成一个新的模型，存储路径为/path/to/CPM_MPSIZE。
Tokenization
Tokenization实现主要在data_util/tokenization_gpt2.py，先对于文本进行分词，再使用 SentencePiece 得到 BPE 的结果。由于 SentencePiece 不能有效编码空格和换行符，在 BPE 之前，我们将文本中的空格和换行符替换为\u2582和\u2583。生成文本的时候也会对应的把生成的\u2582和\u2583替换回空格和换行符。
对应问题已解决。
分类任务零次学习（Zero-shot Learning）
提供了三个任务的零次学习任务脚本以供参考，包括OCNLI、TNEWS和IFLYTEK，数据下载链接。脚本使用方法如下：
# OCNLI
bash scripts/zero-shot-ocnli.sh /path/to/CPM /path/to/dataset
# TNEWS
bash scripts/zero-shot-tnews.sh /path/to/CPM /path/to/dataset
# IFLYTEK
bash scripts/zero-shot-iflytek.sh /path/to/CPM /path/to/dataset
TODO
实验环境的docker镜像提供各个任务具体的使用模板公开技术报告模型并行数可动态调整Fine-tune代码- 开源实验中使用的小规模模型参数
引用
@article{cpm-v1,
title={CPM: A Large-scale Generative Chinese Pre-trained Language Model},
author={Zhang, Zhengyan and Han, Xu, and Zhou, Hao, and Ke, Pei, and Gu, Yuxian and Ye, Deming and Qin, Yujia and Su, Yusheng and Ji, Haozhe and Guan, Jian and Qi, Fanchao and Wang, Xiaozhi and Zheng, Yanan and Zeng, Guoyang and Cao, Huanqi and Chen, Shengqi and Li, Daixuan and Sun, Zhenbo and Liu, Zhiyuan and Huang, Minlie and Han, Wentao and Tang, Jie and Li, Juanzi and Sun, Maosong},
year={2020}
}
128 Aug 24, 2022
0 Jan 20, 2022
1.5k Dec 05, 2022
567 Jan 07, 2023
13 Oct 24, 2022
678 Jan 05, 2023
33 Oct 13, 2022
1.6k Dec 27, 2022
66 Dec 26, 2022
43 Nov 15, 2022
0 Dec 22, 2021
17 Dec 23, 2022
1 Jan 11, 2022
881 Jan 03, 2023
11 Oct 31, 2022
114 Dec 29, 2022
8 Apr 13, 2022
2.2k Jan 09, 2023
1 Feb 09, 2022
1 Jan 27, 2022