

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 在 Deadline Cloud 工作者上运行带有 NVIDIA GPU
<a name="examples-host-config-docker-nvidia"></a>

[docker\_nvidia\_container\_toolkit](https://github.com/aws-deadline/deadline-cloud-samples/tree/mainline/host_configuration_scripts/docker_nvidia_container_toolkit) 主机配置脚本在 Linux 服务托管的舰队工作人员上安装 Docker 和 NVIDIA 容器工具包，允许作业直接使用 GPU 容器运行。`docker run`许多 GPU 工作负载，例如 comfyUI 和 Stable Diffusion 推理服务器，都以容器镜像的形式提供，需要具有 GPU 直通功能的 Docker。容器还提供了一种干净的方法来打包复杂的依赖堆栈（CUDA、Python、特定于应用程序的库），而不会污染主机或与队列中的其他任务发生冲突。

 脚本执行以下操作：

1. 通过安装 Docker `dnf` 并启动该服务。

1. `job-user`添加到`docker`群组中，这样作业就可以在没有 sudo 的情况下运行容器。

1. 从官方存储库安装 NVIDIA 容器工具包。

1. 将 Docker 守护程序配置为使用 NVIDIA 运行时。

1. 生成用于 GPU 访问的 CDI（容器设备接口）规范。

1. 重新启动 Docker 并验证设置。

队列 AMI 必须已经安装了 NVIDIA GPU 驱动程序，Deadline Cloud GPU AMI 提供了这些驱动程序，并且队列必须使用 GPU 实例类型`g6.xlarge`，例如`g6e.xlarge`、或`p4d.24xlarge`。

主机配置运行后，作业可以启动 GPU 容器。以下示例运行一个容器，该容器具有 GPU 访问权限、主机网络以及基于Deadline Cloud使用量的标准许可证环境变量传递通过：

```
docker run --rm \
  --runtime=nvidia \
  --gpus all \
  --network host \
  -e ADSKFLEX_LICENSE_FILE \
  -e FLEXLM_TIMEOUT \
  -e foundry_LICENSE \
  -e PIXAR_LICENSE_FILE \
  -e g_licenseServerRLM \
  -e redshift_LICENSE \
  -e SESI_LMHOST \
  -e VRAY_AUTH_CLIENT_FILE_PATH \
  -e VRAY_AUTH_CLIENT_SETTINGS \
  {{your-image:latest}}
```