请问目前支持基座模型使用Mistral-7b吗
Opened this issue · 1 comments
YijuGuo commented
作者您好,我想请问一下目前的moss-rlhf代码支持基座模型使用mistral-7b训练出来的,不是llama系列的模型吗。非常感谢您的贡献和百忙中的回复。
Ablustrund commented
很抱歉我们目前没有在mistral相关的基座上尝试。但是您可以尝试修改llamamodel和tokenizer 类来实现基于mistral的训练。
Opened this issue · 1 comments
作者您好,我想请问一下目前的moss-rlhf代码支持基座模型使用mistral-7b训练出来的,不是llama系列的模型吗。非常感谢您的贡献和百忙中的回复。
很抱歉我们目前没有在mistral相关的基座上尝试。但是您可以尝试修改llamamodel和tokenizer 类来实现基于mistral的训练。