leafqycc/rknn-cpp-Multithreading

推理时NPU占用率极低

gjrtzy opened this issue · 5 comments

gjrtzy commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

leafqycc commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

有人遇到第一个NPU核心占用率较低的情况，他Linux内核是6.1版本，换回5.10版本后就正常运行了。还有一个是像你一样其中两个NPU核心占用率低，当时是换了另一个Linux发行版后运行正常的。我猜可能是在高版本Linux内核下NPU驱动会有兼容性问题。但是我现在没有RK3588开发板可以用来调试，所以如果您找不出问题的话，我建议可以换另外一个Linux发行版试试

leafqycc commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

还有您可以搜一下c++下opencv摄像头的设置，记得不调的话默认下摄像头的帧率是跑在5fps上的。可以参考#15

gjrtzy commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

有人遇到第一个NPU核心占用率较低的情况，他Linux内核是6.1版本，换回5.10版本后就正常运行了。还有一个是像你一样其中两个NPU核心占用率低，当时是换了另一个Linux发行版后运行正常的。我猜可能是在高版本Linux内核下NPU驱动会有兼容性问题。但是我现在没有RK3588开发板可以用来调试，所以如果您找不出问题的话，我建议可以换另外一个Linux发行版试试

我用的内核就是5.10的

leafqycc commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

有人遇到第一个NPU核心占用率较低的情况，他Linux内核是6.1版本，换回5.10版本后就正常运行了。还有一个是像你一样其中两个NPU核心占用率低，当时是换了另一个Linux发行版后运行正常的。我猜可能是在高版本Linux内核下NPU驱动会有兼容性问题。但是我现在没有RK3588开发板可以用来调试，所以如果您找不出问题的话，我建议可以换另外一个Linux发行版试试

我用的内核就是5.10的

或许是系统预置的RKNPU2 SDK运行在1.6.0版本上，和项目的1.5.2不兼容？（不过运行需要的动态链接库都在项目内，似乎不太可能去调用系统目录下的动态链接库）

qwe-ui commented

我用下载好的直接推理视频NPU占用率为3% 35 3% 修改线程池数量为6 为12后依旧不变，推理摄像头是占用率两个NPU1%一个0%

有人遇到第一个NPU核心占用率较低的情况，他Linux内核是6.1版本，换回5.10版本后就正常运行了。还有一个是像你一样其中两个NPU核心占用率低，当时是换了另一个Linux发行版后运行正常的。我猜可能是在高版本Linux内核下NPU驱动会有兼容性问题。但是我现在没有RK3588开发板可以用来调试，所以如果您找不出问题的话，我建议可以换另外一个Linux发行版试试

我用的内核就是5.10的

请问解决了么