title | date | author | coverImage |
---|---|---|---|
Docker GPU no Windows com WSL2 |
2024-02-15 23:09:29 UTC |
Cristiano Lemes |
Este guia detalhado ajudará você a configurar um ambiente de desenvolvimento com GPU no Windows usando Docker, WSL2 e as ferramentas relacionadas da Nvidia.
Para começar, verifique se os drivers da sua GPU estão funcionando corretamente. No PowerShell, execute o comando nvidia-smi
.
nvidia-smi
Se o comando não funcionar, você pode instalar o driver mais recente para sua GPU no site da Nvidia.
- Se ainda não tiver o Docker Desktop instalado, baixe-o e instale-o.
- Abra o Docker Desktop e clique em "Settings" (Configurações ⚙️).
- Em "General", habilite a opção 'Use the WSL 2 base engine'.
- No PowerShell, execute o comando para instalar a versão mais recente do WSL:
wsl --install
- Instale a distribuição do Ubuntu no WSL:
wsl --install -d Ubuntu
- Verifique se a versão do WSL está correta:
wsl -l -v
Se a coluna "version" estiver como 1, atualize para a versão 2 usando o comando:
wsl.exe --set-version NAME 2
Configure a versão padrão do WSL para 2 com o comando:
wsl.exe --set-default-version 2
No Docker Desktop, vá para "Settings" (Configurações ⚙️) > "Resources" > "WSL Integration" e marque "Enable integration with my default WSL distro".
- Remova chaves GPG antigas
sudo apt-key del 7fa2af80
- Configure o repositório:
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
- Atualize o repositório e instale o Toolkit:
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
Execute o comando nvidia-smi
para verificar se a instalação foi bem-sucedida.
Você pode testar o contêiner disponibilizado pela Nvidia usando o comando a seguir:
docker run --gpus all nvcr.io/nvidia/k8s/cuda-sample:nbody nbody -gpu -benchmark
Inicie o contêiner Ollama:
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
Execute um modelo, como o TinyLlama, para verificar se está tudo funcionando corretamente:
docker exec -it ollama ollama run TinyLlama
Pronto! Se tudo estiver correto, você está pronto para começar a usar o ambiente.