Shank2358/GGHL

8G显存如何调整参数训练

Hammer-888 opened this issue · 3 comments

Hammer-888 commented

如题，加载DOTA2数据后，训练时提示显存不够，如何解决，谢谢！
image

Shank2358 commented

如题，加载DOTA2数据后，训练时提示显存不够，如何解决，谢谢！ image

这是显存不够的问题，在config里面调小训练的batch size，或者缩小输入的训练图像尺寸

Hammer-888 commented

谢谢您的回答，调整后能够跑了，mAP为0请问是数据处理不正确的吗
image

Shank2358 commented

谢谢您的回答，调整后能够跑了，mAP为0请问是数据处理不正确的吗 image

您好，不是的，train里面有设置不是从第一个epoch就开始验证测mAP，所以显示是0，可以修改下面这里：
image