negative confidence scores generated by fp16 on jetson nano
ZefangYuan opened this issue · 5 comments
Hi, I downloaded Yolov7 tiny, yolov5s, and yolov5n on official websites. After I convert them from onnx to trt with fp16 precisoin, all the models generate negative confidence scores, but they work find with fp32. 精度调成fp16置信度就成负的了，试了好几个模型都是这样（在jetson nano上导出的trt）
Hi, I downloaded Yolov7 tiny, yolov5s, and yolov5n on official websites. After I convert them from onnx to trt with fp16 precisoin, all the models generate negative confidence scores, but they work find with fp32. 精度调成fp16置信度就成负的了，试了好几个模型都是这样（在jetson nano上导出的trt）
这个问题你解决了吗，我这边也遇到了这个问题，可以交流下吗
我在GPU上运行也出现了置信度为负值的情况，请问下最后怎么解决的？
我在GPU上运行也出现了置信度为负值的情况，请问下最后怎么解决的？
暂时也没有解决，问下，你出现的负值的结果是不是🟰真实值-1哈
我在GPU上运行也出现了置信度为负值的情况，请问下最后怎么解决的？
这个是EfficisionNMS的fp16的bug，在低版本的tensorrt中没有修复，你把对应的score+1就得到真实score了，在最新的8.6版本中好像修复了，祝好
我在GPU上运行也出现了置信度为负值的情况，请问下最后怎么解决的？
这个是EfficisionNMS的fp16的bug，在低版本的tensorrt中没有修复，你把对应的score+1就得到真实score了，在最新的8.6版本中好像修复了，祝好
好的多谢多谢~