SmartFlowAI/EmoLLM

基于EmoLLM对长序列并行训练的支持

Closed this issue · 1 comments

EmoLLM是基于XTuner训练微调的,而XTuner支持长序列并行训练,但目前给出的config均为涉及此参数,请问是否按照XTuner的稳定调整即可支持长序列并行训练。

可以的
测试完成后可以提个pr