在 Amazon GPUs 任務定義中指定 ECS - Amazon Elastic Container Service

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在 Amazon GPUs 任務定義中指定 ECS

若要在容器執行個體上使用 GPUs 和 Docker GPU 執行期，請務必在任務定義中指定容器所需的 GPUs 數目。放置支援 GPUs 的容器時，Amazon ECS 容器代理程式會將所需的實體 GPUs 數目釘選到適當的容器。為任務中所有容器預留的 GPUs 數量不能超過啟動任務的容器執行個體上可用的 GPUs 數量。如需詳細資訊，請參閱使用主控台建立 Amazon ECS 任務定義。

重要

如果您的 GPU 需求未在任務定義中指定，任務會使用預設的 Docker 執行期。

下列顯示任務定義中 JSON 要求的 GPU 格式：

{
  "containerDefinitions": [
     {
        ...
        "resourceRequirements" : [
            {
               "type" : "GPU", 
               "value" : "2"
            }
        ],
     },
...
}

下列範例示範指定 GPU 需求的 Docker 容器的語法。此容器使用兩個 GPUs、執行nvidia-smi公用程式，然後結束。

{
  "containerDefinitions": [
    {
      "memory": 80,
      "essential": true,
      "name": "gpu",
      "image": "nvidia/cuda:11.0.3-base",
      "resourceRequirements": [
         {
           "type":"GPU",
           "value": "2"
         }
      ],
      "command": [
        "sh",
        "-c",
        "nvidia-smi"
      ],
      "cpu": 100
    }
  ],
  "family": "example-ecs-gpu"
}