Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Führen Sie Docker-Container mit NVIDIA-GPUs auf Deadline Cloud-Workern aus
Das Host-Konfigurationsskript docker run Viele GPU-Workloads, wie ComfyUI- und Stable Diffusion-Inferenzserver, werden als Container-Images ausgeliefert und erfordern Docker mit GPU-Passthrough. Container bieten auch eine saubere Möglichkeit, komplexe Abhängigkeitsstapel (CUDA, Python, anwendungsspezifische Bibliotheken) zu verpacken, ohne den Host zu belasten oder mit anderen Jobs in der Flotte in Konflikt zu geraten.
Das -Skript führt folgende Aktionen aus:
-
Installiert Docker und startet den Dienst.
dnf -
Fügt der
dockerGruppejob-userhinzu, sodass Jobs Container ohne Sudo ausführen können. -
Installiert das NVIDIA Container Toolkit aus dem offiziellen Repository.
-
Konfiguriert den Docker-Daemon für die Verwendung der NVIDIA-Laufzeit.
-
Generiert die CDI-Spezifikation (Container Device Interface) für den GPU-Zugriff.
-
Startet Docker neu und überprüft das Setup.
Auf dem Flotten-AMI müssen bereits NVIDIA-GPU-Treiber installiert sein, die Deadline Cloud-GPU-AMIs bereitstellen, und die Flotte muss einen GPU-Instance-Typ wieg6.xlarge, g6e.xlarge oder verwenden. p4d.24xlarge
Sobald die Host-Konfiguration ausgeführt wurde, können Jobs GPU-Container starten. Im folgenden Beispiel wird ein Container mit GPU-Zugriff, Host-Netzwerk und den standardmäßigen nutzungsabhängigen Lizenzumgebungsvariablen von Deadline Cloud ausgeführt:
docker run --rm \ --runtime=nvidia \ --gpus all \ --network host \ -e ADSKFLEX_LICENSE_FILE \ -e FLEXLM_TIMEOUT \ -e foundry_LICENSE \ -e PIXAR_LICENSE_FILE \ -e g_licenseServerRLM \ -e redshift_LICENSE \ -e SESI_LMHOST \ -e VRAY_AUTH_CLIENT_FILE_PATH \ -e VRAY_AUTH_CLIENT_SETTINGS \your-image:latest