使用trtexec转fp16模型后结果出错
moontsar opened this issue · 2 comments
moontsar commented
非常感谢你的工作！但是我在加入nms后导出onnx模型，使用trtexec导出fp16模型，使用infer.py预测结果时，预测分数是不对的，但是导出fp32模型，结果正常，请问如何解决？
fp16结果截图
fp32结果截图
Monday-Leo commented
使用tensorrt8.2会出现分数不对的问题，请升级到8.4.1.5GA版本。
moontsar commented
使用tensorrt8.2会出现分数不对的问题，请升级到8.4.1.5GA版本。
我试一下，感谢