此项目是为JL-er的RWKV-PEFT项目提供的快捷微调包
注意：本项目默认你有一定的动手和学习能力
- 此项目依赖于
RWKV-PEFT仓库，必须下载后并覆盖到根目录，也就是RWKV-PEFT-Simple解压目录一起使用，建议跟随此步骤一步一步学习 - 首先进入依赖项目RWKV-PEFT下载RWKV-PEFT包，此时应该能得到名为
RWKV-PEFT-main.zip的压缩包 - 将压缩包中的
RWKV-PEFT-main文件夹解压到本地 - 下载本项目包，此时应该能得到名为
RWKV-PEFT-Simple-main.zip的压缩包 - 双击进入
RWKV-PEFT-Simple-main.zip压缩包，并进入压缩包内的RWKV-PEFT-Simple-main文件夹，使用鼠标拖动或者ctrl+a全选文件，拖动到RWKV-PEFT-main文件夹内 - 安装
wsl2以及Ubuntu 22.04.3 LTS，这里不说明安装方法，有需要可以搜索 - 为Ubuntu系统中的python3解释器安装pip，这里不说明安装方法，有需要可以搜索
- 完成后找到之前的
RWKV-PEFT-main文件夹，进入后右键鼠标选择在终端中打开然后在打开的终端中输入wsl进入Ubuntu 22.04.3 LTS系统 - 现在为Python安装必要的环境，默认Python在Ubuntu下应该为
python3，并且如果你正确执行以上步骤，你应该能在根目录下找到requirements.txt文件，现在在此文件夹根目录使用以上步骤提供的方法打开Ubuntu终端，执行pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple即可安装环境，安装环境耗时较长，请耐心等待命令行停止输出
- 你可以在
data/sample.jsonl找到我提供的示例数据，训练数据的格式大致如此，你必须严格遵循格式才能进行训练 - 你可以根据自己想法做一些遵循此格式的训练数据，或者去国外的huggingface找一些公开的开源数据，国内也有类似的网站，比如modelscope也可以找到一些开源数据
- 所有数据都应该放入
/data目录中
- 现在你得到了数据，进入之前在文件夹打开的ubuntu终端中，使用以下格式
./make_tokenize.sh {data目录中的文件名称，包括.jsonl} {训练的回合数}进行数据分词 - 你可能会注意到，数据分词后会出现如
### The first ten factors of the five numbers nearby (±5):这样的输出，下面跟着一批输出，这其实是根据此数据数量的10个值范围中推荐填入的MICRO_BSZ以及EPOCH_STEPS，使用此值可以让你在完整训练每一轮数据的同时加速训练时间（但同时也需要更多的显存），所以设置与否应该和你的显存挂钩 - 如果你的数据条数刚好支持你显存支持的更多
MICRO_BSZ，我推荐你尽可能多开，如果你提供的数据条数不支持你多开或者你的显存不足以开到此MICRO_BSZ，我推荐你找到输出的MINI_BSZ并且你的显存负担的起的数据条数，然后对数据条数进行适当的增加或者删除并再次使用命令行进行数据分词，然后根据输出的推荐值调整参数中的MICRO_BSZ和EPOCH_STEPS即可 - 如果你的显卡甚至不支持将
MICRO_BSZ设置为2，我推荐你依然使用输出的MICRO_BSZ值，找到一个较小的数值并修改MINI_BSZ参数，注意是设置MINI_BSZ参数而不是设置MICRO_BSZ参数，MICRO_BSZ设置为1即可，这样可以让训练数据的分布更均匀，所以不要设置EPOCH_STEPS，只是把一次性训练的数据分布到多次训练后更新梯度，所以这并不会降低训练训练时间 - 如果你希望使用
get模式读取数据，则应该使用./make_tokenize.sh {data目录中的文件名称，包括.jsonl} {建议永远为1，降低数据分词消耗的时间，仅限get读取模式下推荐}进行数据分词，并且不需要设置epoch（设置了也不会停止） - 在无法开启更大的
MICRO_BSZ时，推荐开启FLA参数，此时CTX_LEN参数应该跟随分词脚本输出的### max_length_power_of_two项设置而不是### max_length，FLA启用时会加速MICRO_BSZ<=8的微调，但是要求CTX_LEN和CHUNK_CTX参数必须为n的二次幂，即，"1024，2048，4096，8192"等，并且启用infctx进行超长上下文训练时也必须开启FLA参数 - 如果你无法训练数据（使用的数据token过长）你可以使用
./make_tokenize.sh {data目录中的文件名称，包括.jsonl} {训练回合数} {过滤的最大tokens}以过滤掉超过最后一个参数设置的tokens的数据，可以降低显卡的训练负担 - 因为是示例，现在你可以输入
./make_tokenize.sh sample.jsonl 4进行分词测试
- 你已经完成了数据分词，现在使用文本编辑器（vscode或者其他文本编辑器）打开当前目录下的
training.sh文件，里面的所有参数设置已经使用数据标注好，你应该调整其中的参数进行训练准备，参数调整说明会在其他地方（可能是github wiki或者知乎）详细说明，这里就不再多提 - 调整好了参数后，在Ubuntu终端中运行
./training.sh即可开始训练，只需要等待训练回合达到你期望的回合或者loss达到你的期望值即可
- 现在你得到了微调后的模型，lisa训练不需要这个步骤，因为它直接得到一个新的模型而不是权重合并文件，我这里只讲lora和pissa训练
- 找到
merge.sh文件并进入，调整对应训练的参数后，在Ubuntu命令行中运行./merge.sh {训练的回合数}如./merge.sh 0即可合并得到模型文件，文件存放在/merge文件夹内
- 此时你已经完成了微调的所有步骤，现在只需要找到
/merge文件夹内合并好的模型文件，放到RWKV-Runner或者Ai00等RWKV推理项目中运行测试即可（这里我推荐RWKV-Runner） - 测试时推荐多调整
Temperature，Top_P，Presence Penalty，Frequency Penalty参数进行测试