JayYip/m3tl

多gpu训练步数问题

zhongbin1 opened this issue · 1 comments

你好,使用repo中的optimizer发现总的训练步数并没有减少,多gpu理论上训练步数应该线性递减啊?请问你有没有遇到这个问题,谢谢。

你可以在param里面设定训练epoch数,当epoch数固定的情况下,多gpu的训练步数是线性递减的