LLama3-Chinese-8B-Instruct模型问题
Opened this issue · 0 comments
lower01 commented
您好，请问你们这次微调的LLama3-Chinese-8B-Instruct的模型基础是Llama3-8B-base还是Llama3-8B-instruct？
是直接基于Llama3-8B-instruct模型使用中文指令数据集微调得到的，还是先对Llama3-8B-base进行大规模中文持续预训练后，再通过中文指令数据集微调得到的？
然后LLama3-Chinese-8B-Instruct的微调用了多大的中文数据集呢？