关于重新转模型结果异常问题
jstzwjr opened this issue · 7 comments
jstzwjr commented
jstzwjr commented
hanson-young commented
@jstzwjr CNN_convert_bin_and_print_featuremap.py和caffe_forward.py比较,是为了保证中间结果没问题,量化的中间结果需要和CNN_convert_bin_and_print_featuremap.py生成的进行比较。所以有这个步骤。
量化后的也有比较,低精度大概在98%-100%之间,高精度没啥问题。
jstzwjr commented
@hanson-young 我量化之后fc1层输出与caffe的输出cosine相似度只有0.9左右,是不是太低了?我量化使用了大概10张图。但是对比id10.bgr和id11.bgr两张图片的结果时,相似度大概是0.98。
另外,我在使用ruyi studio转换您提供的人脸检测模型mnet时,耗时很久,上午10点开始make wk,到下午4点还在optimizing。量化使用了10张250*250的图片,请问是什么原因呢?谢谢!
hanson-young commented
请确保你data层以及一些中间层没问题,mnet那个量化速度确实会比较慢,有GPU建议上GPU
pangxiaowen commented
您好,我也有遇到提取到的人脸向量特征值都很大,都是几千几万的,请问您是怎么解决的呢?
jstzwjr commented
您好,我也有遇到提取到的人脸向量特征值都很大,都是几千几万的,请问您是怎么解决的呢?
我的问题是源代码打印的特征向量是512维的,转后的模型输出向量是128维的,越界了
pangxiaowen commented
感谢提醒,多谢啦
…------------------ 原始邮件 ------------------
发件人: "hanson-young/nniefacelib" <notifications@github.com>;
发送时间: 2020年9月21日(星期一) 上午9:44
收件人: "hanson-young/nniefacelib"<nniefacelib@noreply.github.com>;
抄送: "675707567"<675707567@qq.com>;"Comment"<comment@noreply.github.com>;
主题: Re: [hanson-young/nniefacelib] 关于重新转模型结果异常问题 (#38)
您好,我也有遇到提取到的人脸向量特征值都很大,都是几千几万的,请问您是怎么解决的呢?
我的问题是源代码打印的特征向量是512维的,转后的模型输出向量是128维的,越界了
—
You are receiving this because you commented.
Reply to this email directly, view it on GitHub, or unsubscribe.