sfzhang15/SFD

fpn out of memory

Closed this issue · 2 comments

EchoIR commented

您好，我加入fpn之后测试到中间的某一张图，出现out of memory, 可能是需要新的max input size计算公式，我想问一般是如何计算这个max input size的，另外，“Hi, the blob max_size is 0x7fffffff. As for VGG16, the biggest blob appear on CONV1_2‘s bias term, which blob size is (num-channel * kennel-size * kennel-size) * img-height * img-width = (64x3x3) * img-height * img-width = 576 * img-height * img-width”，我不懂 (num-channel * kennel-size * kennel-size) * img-height * img-width是如何都得到的？

sfzhang15 commented

@EchoIR

  1. 你可以把一个图片risize到指定尺寸，看看不超显存的情况下，最大尺寸是多少，然后别的图的最大缩放系数就根据这个最大尺寸来算。
  2. 那个应该是根据前传中出现最大blob算的，最大blob应该是出现在im2col，比如3x3的卷积核对64x640x640featuremap进行卷积时，im2col会搞成一个(64x3x3)x640x640的blob，这个应该是最大的blob了。
EchoIR commented