darknet-serving
基于darknet的模型服务器
获得darknet-serving镜像
GPU
- 拉取Docker Hub上的darknet-serving镜像
$ sudo docker pull gouchicao/darknet-serving:latest-gpu
- 自己构建darknet-serving镜像
$ sudo docker build -f gpu/Dockerfile -t gouchicao/darknet-serving:latest .
CPU
- 拉取Docker Hub上的darknet-serving镜像
$ sudo docker pull gouchicao/darknet-serving:latest
- 自己构建darknet-serving镜像
$ sudo docker build -f cpu/Dockerfile -t gouchicao/darknet-serving:latest .
运行模型预测服务
运行CPU版本不需要加 --runtime=nvidia
,镜像使用 gouchicao/darknet-serving:latest
- 使用绑定挂载点
# 使用您本机的绝对路径设置model_dir
$ model_dir=/home/wjunjian/github/gouchicao/darknet/model-zoo/platen-switch/model
# 部署模型
$ sudo docker run --runtime=nvidia -it --name=darknet-serving -p 7713:7713 \
--volume=$model_dir:/model \
gouchicao/darknet-serving:latest-gpu
- 使用存储卷
# 创建存储卷
$ sudo docker run --name darknet-model-platen-switch --volume /model \
gouchicao/darknet-model-platen-switch:latest
# 部署模型
$ sudo docker run --runtime=nvidia -it --name=darknet-serving-platen-switch -p 7713:7713 \
--volumes-from darknet-model-platen-switch \
gouchicao/darknet-serving:latest-gpu
测试
安全帽
- GPU
sudo docker run --rm --runtime=nvidia -it --name=darknet-serving-helmet -p 7713:7713 \
--volumes-from darknet-model-helmet \
gouchicao/darknet-serving:latest-gpu
- CPU
sudo docker run --rm -it --name=darknet-serving-helmet -p 7713:7713 \
--volumes-from darknet-model-helmet \
gouchicao/darknet-serving:latest
压板开关
- GPU
sudo docker run --rm --runtime=nvidia -it --name=darknet-serving-platen-switch -p 7713:7713 \
--volumes-from darknet-model-platen-switch \
gouchicao/darknet-serving:latest-gpu
- CPU
sudo docker run --rm -it --name=darknet-serving-platen-switch -p 7713:7713 \
--volumes-from darknet-model-platen-switch \
gouchicao/darknet-serving:latest
鸟窝
- GPU
sudo docker run --rm --runtime=nvidia -it --name=darknet-serving-bird-nest -p 7713:7713 \
--volumes-from darknet-model-bird-nest \
gouchicao/darknet-serving:latest-gpu
- CPU
sudo docker run --rm -it --name=darknet-serving-bird-nest -p 7713:7713 \
--volumes-from darknet-model-bird-nest \
gouchicao/darknet-serving:latest