thb1314/tensorrt-onnx-fasterrcnn-fpn-roialign

预测框不一致

Closed this issue · 6 comments

123-Zhao commented

你好，在onnx转trt之后进行检测，得到的结果与onnx的预测结果不一致(置信度较低，有一些框未预测出)，请问除了阈值、参数这些，还可能是那些地方需要修改呢

thb1314 commented

你好，在onnx转trt之后进行检测，得到的结果与onnx的预测结果不一致(置信度较低，有一些框未预测出)，请问除了阈值、参数这些，还可能是那些地方需要修改呢

只能从rpn开始debug，rpn那里我对其过没问题。本项目自带的nms与onnx的nms有一些差别

thb1314 commented

你好，在onnx转trt之后进行检测，得到的结果与onnx的预测结果不一致(置信度较低，有一些框未预测出)，请问除了阈值、参数这些，还可能是那些地方需要修改呢

推荐使用FastNMS插件

123-Zhao commented

请问预处理部分有做其他处理吗，原faster rcnn中是PIL方式读取的，我在rpn_nms_kernel输出的框与pred_onnx["rpn_boxes"]对比是不一致的

你好，在onnx转trt之后进行检测，得到的结果与onnx的预测结果不一致(置信度较低，有一些框未预测出)，请问除了阈值、参数这些，还可能是那些地方需要修改呢

只能从rpn开始debug，rpn那里我对其过没问题。本项目自带的nms与onnx的nms有一些差别

请问预处理部分有做其他处理吗，原faster rcnn中是PIL方式读取的，我在rpn_nms_kernel输出的框与pred_onnx["rpn_boxes"]对比是不一致的

thb1314 commented

rpn_nms_kernel

没有任何处理，不一致原因是nms算子没有对齐

thb1314 commented

@123-Zhao
我们推出了当前版本的升级，支持训练、动态batch、fp16且精度与onnx对齐，欢迎star
https://github.com/thb1314/maskrcnn-tensorrt