1.下载llama-factory

llama-factory

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"

查看版本

llamafactory-cli version

2.启动web ui

需要内网穿透工具：netapp

export USE_MODELSCOPE_HUB=1 && llamafactory-cli webui

进行端口映射：

映射完成后，打开 127.0.0.1：7860, 即可打开web端

3.测试

选择模型后，选择chat，加载模型

控制台下载模型

下载成功后，测试模型

4. 修改数据集

数据集存在 LLaMA-Factory\data 路径下

备份identity.json后，修改其中的变量，数据集变为如下

5.训练

选择配置参数后，在cmd中或者在web端都行

点开始后，cmd中输出正在训练

3 epochs 效果不好，改为30 epochs

6.测试

在chat中修改检查点，测试效果

7.导出模型

选择模型和检查点，填写路径，导出

导出结果