BUG1989/caffe-int8-convert-tools

校准权重矩阵

Closed this issue · 1 comments

shenghsiaowong commented

你所用到的验证集图片作用是不是校准量化后的权重矩阵？这个具体的原理是？，但是为什么要用图片均值文件号不是很理解？

BUG1989 commented

量化原理请参考 TensorRT-Int8