询问代码耗时过大原因

[MarioUncle-Wang]

作者您好：
我在nvidia Xavier上跑，各模块耗时如下，
[06/12/2023-15:49:10] [I] Average PreProcess Time: 0.39536 ms
[06/12/2023-15:49:10] [I] Average DetectionInfer Time: 98.6102 ms
[06/12/2023-15:49:10] [I] Average FrustumAssoc Time: 41.1462 ms
[06/12/2023-15:49:10] [I] Average merge Time: 0.177472 ms
[06/12/2023-15:49:10] [I] Average FusInfer Time: 9.79856 ms
[06/12/2023-15:49:10] [I] Average PostProcess Time: 1.84218 ms
平均单帧用时大概在150-170ms，但是您的computation speed如下，
engine_fp16 | 0.09ms | 7.44ms | 7.64ms | 0.05ms | 1.00ms | 0.62ms | 16.84ms。
我想请问一下您是在什么设备上跑的，有什么好的思路或者方法来排查耗时吗？

[HaohaoNJU]

我是在RTX3080上跑的，如果要在xavier上跑起来，可能需要做量化

[MarioUncle-Wang]

好的 感謝