使用这个cpp的代码做识别的封装,请问在不同情况下为什么推理速度会有差异
xiefuwei390 opened this issue · 0 comments
xiefuwei390 commented
问题确认 Search before asking
- 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer.
请提出你的问题 Please ask your question
https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.7/deploy/cpp
我使用这个的代码封装了个dll库，使用里面的图像推理函数做推理，由于我的图片较大，我会分为12张子图做推算，但是同样是12张子图，为什么有的图的推理速度很慢，有的较快，如何保证一致性？如果我创建了多个句柄示例，在不同的线程做识别不同的图，那推理的速度会进一步降低，比单线程会低2倍，以下是我的日志，请解惑，谢谢，我是在一快4090的卡上做的
日志.txt