View a markdown version of this page

Execute contêineres Docker com GPUs NVIDIA em trabalhadores do Deadline Cloud - Nuvem de prazos

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Execute contêineres Docker com GPUs NVIDIA em trabalhadores do Deadline Cloud

O script de configuração do host docker_nvidia_container_toolkit instala o Docker e o NVIDIA Container Toolkit em trabalhadores de frotas gerenciados por serviços Linux, o que permite que os trabalhos executem contêineres de GPU diretamente com eles. docker run Muitas cargas de trabalho de GPU, como servidores de inferência ComfyUI e Stable Diffusion, são fornecidas como imagens de contêiner e exigem Docker com passagem de GPU. Os contêineres também fornecem uma maneira limpa de empacotar pilhas de dependências complexas (CUDA, Python, bibliotecas específicas de aplicativos) sem poluir o host ou entrar em conflito com outras tarefas na frota.

O script faz o seguinte:

  1. Instala o Docker dnf e inicia o serviço.

  2. Adiciona job-user ao docker grupo para que os trabalhos possam executar contêineres sem sudo.

  3. Instala o NVIDIA Container Toolkit a partir do repositório oficial.

  4. Configura o daemon do Docker para usar o tempo de execução da NVIDIA.

  5. Gera a especificação CDI (Container Device Interface) para acesso à GPU.

  6. Reinicia o Docker e verifica a configuração.

A AMI da frota deve ter drivers de GPU NVIDIA já instalados, fornecidos pelas AMIs de GPU do Deadline Cloud, e a frota deve usar um tipo de instância de GPU, como, ou. g6.xlarge g6e.xlarge p4d.24xlarge

Depois que a configuração do host for executada, os trabalhos poderão iniciar contêineres de GPU. O exemplo a seguir executa um contêiner com acesso à GPU, rede de host e as variáveis de ambiente de licença padrão baseadas no uso do Deadline Cloud transmitidas:

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest