chatglm——从部署到训练全流程和amp;和amp;你遇到的错误都在这里。
自然语言训练似乎一夜之间就被chatgpt带火了。而因为我们需要做自然语言训练开发,所以就找了清华大学的chatglm来开发。在部署中我们遇到了很多的问题,当然也是各种百度去解决。最终功夫不负有心人,我们尝试了各种方法,完成了整体的训练。下面我就把完整的流程和你肯定会遇到的错误提示一个一个地写明修改方式。
一、环境
1、首先不推荐华为的免费试用空间,那个空间不支持cuda,所以说运行的时候会报找不到libcuda.so.1,这个错误解决不了。
2、我用的是阿里云的PAI环境,阿里云是有免费的探索者版,但是探索者版能做到的,最多就是告诉你这个代码能不能跑。可以训练,但是4g的内存太小了,训练数据直接就干炸了。
首先在阿里云要先创建一个DSW,选择ecs.gn7i-c8g1.2xlarge即可,最重要的是,在官方镜像中,一定要选择pytorch,py39版本的。否则是无法运行numba的。
3、创建好了之后,需要等待很长一段时间准备环境。
4、进入之后,新建一个Terminal,然后输入git clone https://github.com/THUDM/ChatGLM-6B
,然后会生成一个ChatGLM-6B文件夹。
5、打开文件夹,有一个requirements.txt文件,右键点击,选择copy path(这个操作会经常用到,我会简称cp一下)。在命令行输入:pip install -r ctv
(ctv为ctrl v,粘贴一下cp的内容),回车。会安装好。之后再pip install四个文件:
pip install jieba
pip install rouge_chinese
pip install nltk
pip install datasets
6、在根目录建一个文件夹,名称training。这个我们留着后面用到。
7、打开ChatGLM-6B中ptuning文件夹,里面有两个文件非常重要,一个是train.sh,一个是main.py入口文件。
8、打开train.py文件,我们要修改几个东西:
① 首先把python3改成python,这里如果不修改,你会遇到找不到numpy的报错;
② cp一下main.py,把python后面的main.py改成cp的内容,粘贴一下;
③ train_file和validation_file是你要训练的文件的路径,这就是第三大步在根目录建的training的原因。
这三步做完,保存退出。
9、这时候开始写你需要训练的文件。首先先说训练文件必须是json格式,“content”是输入的问题,“summary”是输出的内容。但是这里我们要注意第二个问题,就是我们在本地用dict[key]=value的形式写成字典的时候,返回的值是单引号的,这时候一定要改成双引号。比如{“content”:“1”,“summary”:“2”},而不是{‘content’:‘1’,‘summary’:‘2’}。最后将文件保存成.json格式。然后在数据中,如果有\n\r的也是无法被json的。
10、把文件传到training目录下,cp一下路径,将train.sh文件中train_file和validation_file后面改为cp的路径。
11、这时候返回Terminal,cp一下train.sh,输入
bash cp路径/train.sh
即可启动训练。
对于windows系统,最难的也是环境配置,这里再重申一遍硬件配置:
python:3.9
内存最低:16g
显存最低:16g
硬盘一定是固态硬盘。
这篇好文章是转载于:学新通技术网
- 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
- 本站站名: 学新通技术网
- 本文地址: /boutique/detail/tanhefacef
-
photoshop保存的图片太大微信发不了怎么办
PHP中文网 06-15 -
《学习通》视频自动暂停处理方法
HelloWorld317 07-05 -
Android 11 保存文件到外部存储,并分享文件
Luke 10-12 -
word里面弄一个表格后上面的标题会跑到下面怎么办
PHP中文网 06-20 -
photoshop扩展功能面板显示灰色怎么办
PHP中文网 06-14 -
微信公众号没有声音提示怎么办
PHP中文网 03-31 -
excel下划线不显示怎么办
PHP中文网 06-23 -
excel打印预览压线压字怎么办
PHP中文网 06-22 -
怎样阻止微信小程序自动打开
PHP中文网 06-13 -
TikTok加速器哪个好免费的TK加速器推荐
TK小达人 10-01