PaddlePaddle/PaddleHub

GPU利用率问题,有什么设置的地方吗,单个服务的GPU利用率有地方限制了

JeremyGe07 opened this issue · 1 comments

PaddleHub2.3.1,PaddlePaddle2.4.2.post112,python3.7 , A10

启动单个OCR识别服务,请求一组图片,观察推理的这段时间GPU利用率在20%左右,一直不会超过30%。
这样的话同时向该服务发送2个请求,每个请求的推理时间的都会变慢。
请问有什么地方可以修改这个GPU利用率限制吗,否则是不是只能启动多个服务了

刚想明白过来,这应该是PaddleOCR的问题- -