RUCAIBox/TextBox

单卡显存不足问题

Closed this issue · 1 comments

JCU777 commented

用3090复现Context-Tuning时显存不足，如何调整训练时的batch size或改用双卡交火训练模型呢？

StevenTang1998 commented

你可以调小--train_batch_size或者限制最大输出长度--tgt_len