View a markdown version of this page

Ejecute contenedores Docker con GPU NVIDIA en los trabajadores de Deadline Cloud - Nube de plazos

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Ejecute contenedores Docker con GPU NVIDIA en los trabajadores de Deadline Cloud

El script de configuración de host docker_nvidia_container_toolkit instala Docker y NVIDIA Container Toolkit en trabajadores de flotas gestionadas por servicios de Linux, lo que permite ejecutar tareas directamente con los contenedores de la GPU. docker run Muchas cargas de trabajo de GPU, como los servidores de inferencia ComfyUI y Stable Diffusion, se envían como imágenes de contenedores y requieren Docker con acceso directo a la GPU. Los contenedores también proporcionan una forma limpia de empaquetar pilas de dependencias complejas (CUDA, Python, bibliotecas específicas de aplicaciones) sin contaminar el host ni entrar en conflicto con otros trabajos de la flota.

El script hace lo siguiente:

  1. Instala Docker e inicia el servicio. dnf

  2. Se agrega job-user al docker grupo para que Jobs pueda ejecutar contenedores sin tener que hacer ruido.

  3. Instala el kit de herramientas de contenedores de NVIDIA desde el repositorio oficial.

  4. Configura el daemon de Docker para que utilice el entorno de ejecución de NVIDIA.

  5. Genera la especificación CDI (interfaz de dispositivo contenedor) para el acceso a la GPU.

  6. Reinicia Docker y verifica la configuración.

La AMI de la flota debe tener los controladores de GPU NVIDIA ya instalados, que proporcionan las AMI de GPU de Deadline Cloud, y la flota debe usar un tipo de instancia de GPU como g6.xlargeg6e.xlarge, op4d.24xlarge.

Una vez ejecutada la configuración del host, los trabajos pueden lanzar contenedores de GPU. En el siguiente ejemplo, se ejecuta un contenedor con acceso a la GPU, redes de host y las variables de entorno de licencia estándar de Deadline Cloud basadas en el uso de Deadline Cloud:

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest