dlunion/tensorRTIntegrate

这个是基于tensorrt7吗

Opened this issue · 1 comments

我看里面从tensorrt拷贝过来的代码是tensorrt5或者6,根本不是tensorrt7

onnx-tensorrt是6.0的
之前做了个版本是基于onnx-tensorrt7和tensorrt7.0的,看这里
但是。。。
1、7.0对动态batch的支持没搞定,可能我太蠢了,问题太多,文档一个没找到,官方人员没问出来
。所谓动态batch,指编译时指定最大batch,运行使用不同batch大小(小于等于最大batch)
2、7.0在特定时候有bug,我用同样代码,仅仅换成6后,结果和torch完全一致,但是7就不一致,这个问题我同事也复现出来过,结论也是
所以就退回到了6版本,除非有新版本解决,否则我不在考虑用7

另外,这个项目本身可以修改库路径后直接使用tensorRT7.0,不会报错