View a markdown version of this page

Exécutez des conteneurs Docker avec des GPU NVIDIA sur Deadline Cloud workers - Deadline Cloud

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Exécutez des conteneurs Docker avec des GPU NVIDIA sur Deadline Cloud workers

Le script de configuration hôte docker_nvidia_container_toolkit sur le GitHub site Web installe Docker et le NVIDIA Container Toolkit sur les travailleurs de flotte gérés par les services Linux, ce qui permet aux jobs d'exécuter des conteneurs GPU directement avec. docker run De nombreuses charges de travail GPU, telles que les serveurs d'inférence ComfyUI et Stable Diffusion, sont expédiées sous forme d'images de conteneur et nécessitent Docker avec passerelle GPU. Les conteneurs constituent également un moyen propre d'empaqueter des piles de dépendances complexes (CUDA, Python, bibliothèques spécifiques à une application) sans polluer l'hôte ni entrer en conflit avec d'autres tâches de la flotte.

Le script effectue les opérations suivantes :

  1. Installe Docker dnf et démarre le service.

  2. Ajoute job-user au docker groupe pour que les jobs puissent exécuter des conteneurs sans sudo.

  3. Installe le NVIDIA Container Toolkit à partir du référentiel officiel.

  4. Configure le démon Docker pour utiliser le runtime NVIDIA.

  5. Génère la spécification CDI (Container Device Interface) pour l'accès au GPU.

  6. Redémarre Docker et vérifie la configuration.

Les pilotes GPU NVIDIA de la flotte doivent déjà être installés, fournis par les AMI GPU Deadline Cloud, et la flotte doit utiliser un type d'instance GPU tel que g6.xlargeg6e.xlarge, oup4d.24xlarge.

Une fois la configuration de l'hôte exécutée, les jobs peuvent lancer des conteneurs GPU. L'exemple suivant exécute un conteneur avec un accès au GPU, un réseau hôte et les variables d'environnement de licence standard basées sur l'utilisation de Deadline Cloud transmises :

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest