Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Esegui contenitori Docker con GPU NVIDIA sui lavoratori di Deadline Cloud
Lo script di configurazione host docker run Molti carichi di lavoro GPU, come i server di inferenza ComfyUI e Stable Diffusion, vengono forniti come immagini di container e richiedono Docker con passthrough GPU. I container forniscono anche un modo semplice per impacchettare stack di dipendenze complessi (CUDA, Python, librerie specifiche per le applicazioni) senza inquinare l'host o entrare in conflitto con altri lavori della flotta.
Lo script svolge le seguenti funzioni:
-
dnfInstalla Docker tramite e avvia il servizio. -
Si aggiunge
job-useraldockergruppo in modo che i job possano eseguire contenitori senza sudo. -
Installa NVIDIA Container Toolkit dal repository ufficiale.
-
Configura il demone Docker per utilizzare il runtime NVIDIA.
-
Genera le specifiche CDI (Container Device Interface) per l'accesso alla GPU.
-
Riavvia Docker e verifica la configurazione.
L'AMI della flotta deve avere i driver GPU NVIDIA già installati, forniti dalle AMI GPU Deadline Cloud, e la flotta deve utilizzare un tipo di istanza GPU come,, o. g6.xlarge g6e.xlarge p4d.24xlarge
Una volta eseguita la configurazione dell'host, i job possono avviare contenitori GPU. L'esempio seguente esegue un contenitore con accesso GPU, rete host e le variabili di ambiente di licenza standard basate sull'utilizzo di Deadline Cloud:
docker run --rm \ --runtime=nvidia \ --gpus all \ --network host \ -e ADSKFLEX_LICENSE_FILE \ -e FLEXLM_TIMEOUT \ -e foundry_LICENSE \ -e PIXAR_LICENSE_FILE \ -e g_licenseServerRLM \ -e redshift_LICENSE \ -e SESI_LMHOST \ -e VRAY_AUTH_CLIENT_FILE_PATH \ -e VRAY_AUTH_CLIENT_SETTINGS \your-image:latest
