View a markdown version of this page

Jalankan kontainer Docker dengan GPU NVIDIA pada pekerja Deadline Cloud - Awan Batas Waktu

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Jalankan kontainer Docker dengan GPU NVIDIA pada pekerja Deadline Cloud

Skrip konfigurasi host docker_nvidia_container_toolkit di GitHub situs web menginstal Docker dan NVIDIA Container Toolkit pada pekerja armada yang dikelola layanan Linux, yang memungkinkan pekerjaan menjalankan wadah GPU secara langsung dengan. docker run Banyak beban kerja GPU, seperti server inferensi ComfyUI dan Stable Diffusion, dikirimkan sebagai gambar kontainer dan memerlukan Docker dengan passthrough GPU. Kontainer juga menyediakan cara yang bersih untuk mengemas tumpukan ketergantungan yang kompleks (CUDA, Python, pustaka khusus aplikasi) tanpa mencemari host atau bertentangan dengan pekerjaan lain pada armada.

Script melakukan hal berikut:

  1. Menginstal Docker melalui dnf dan memulai layanan.

  2. Menambahkan job-user ke docker grup sehingga pekerjaan dapat menjalankan kontainer tanpa sudo.

  3. Menginstal NVIDIA Container Toolkit dari repositori resmi.

  4. Mengkonfigurasi daemon Docker untuk menggunakan runtime NVIDIA.

  5. Menghasilkan spesifikasi CDI (Container Device Interface) untuk akses GPU.

  6. Mulai ulang Docker dan memverifikasi pengaturan.

Armada AMI harus memiliki driver GPU NVIDIA yang sudah diinstal, yang disediakan oleh AMI GPU Deadline Cloud, dan armada harus menggunakan jenis instance GPU sepertig6.xlarge,g6e.xlarge, ataup4d.24xlarge.

Setelah konfigurasi host berjalan, pekerjaan dapat meluncurkan wadah GPU. Contoh berikut menjalankan wadah dengan akses GPU, jaringan host, dan variabel lingkungan lisensi berbasis penggunaan Deadline Cloud standar yang dilewati:

docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  your-image:latest