View a markdown version of this page

Jalankan kontainer Docker dengan GPU NVIDIA pada pekerja Deadline Cloud - Batas Waktu Cloud

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Jalankan kontainer Docker dengan GPU NVIDIA pada pekerja Deadline Cloud

Skrip konfigurasi host docker_nvidia_container_toolkit menginstal Docker dan NVIDIA Container Toolkit pada pekerja armada yang dikelola layanan Linux, yang memungkinkan pekerjaan menjalankan kontainer GPU secara langsung dengan. docker run Banyak beban kerja GPU, seperti ComfYUI dan server inferensi Difusi Stabil, dikirimkan sebagai gambar kontainer dan memerlukan Docker dengan passthrough GPU. Container juga menyediakan cara yang bersih untuk mengemas tumpukan ketergantungan yang kompleks (CUDA, Python, pustaka khusus aplikasi) tanpa mencemari host atau bertentangan dengan pekerjaan lain di armada.

Script melakukan hal berikut:

  1. Menginstal Docker melalui dnf dan memulai layanan.

  2. Menambahkan job-user ke docker grup sehingga pekerjaan dapat menjalankan kontainer tanpa sudo.

  3. Menginstal NVIDIA Container Toolkit dari repositori resmi.

  4. Mengkonfigurasi daemon Docker untuk menggunakan runtime NVIDIA.

  5. Menghasilkan spesifikasi CDI (Container Device Interface) untuk akses GPU.

  6. Memulai ulang Docker dan memverifikasi pengaturan.

Armada AMI harus memiliki driver GPU NVIDIA yang sudah diinstal, yang disediakan oleh AMI GPU Deadline Cloud, dan armada harus menggunakan jenis instans GPU sepertig6.xlarge,, atau. g6e.xlarge p4d.24xlarge

Setelah konfigurasi host berjalan, pekerjaan dapat meluncurkan kontainer GPU. Contoh berikut menjalankan container dengan akses GPU, jaringan host, dan variabel lingkungan lisensi berbasis penggunaan Deadline Cloud standar yang dilewatkan:

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest