只对卷积核为3x3和1x1的作了量化？
xiangyu19 opened this issue · 2 comments
xiangyu19 commented
您好，非常感谢您提供的代码。
不过我在转模型的时候，发现alexnet的第一个卷积层并没有在.table文件中输出 8=1 ，看了一下您的代码发现：
# find the convolution 3x3 and 1x1 layers to get out the weight_scale
if(layer.type == "Convolution" or layer.type == "ConvolutionDepthwise"):
kernel_size = layer.convolution_param.kernel_size[0]
if(kernel_size == 3 or kernel_size == 1):而alexnet的第一个卷积层是11x11的卷积核，请问一下为什么只对3x3和1x1的卷积核作量化呢？还是我理解得哪里不太对……
BUG1989 commented
因为作为部署框架ncnn int8，目前只实现了3x3/1x1的int8加速，所以这里就这样写了，如果你想将该table用于自己的项目，把这个约束去掉即可。