

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

# AWS GPU AMI de aprendizado profundo PyTorch 2.4 (Ubuntu 22.04)
<a name="aws-deep-learning-ami-gpu-pytorch-2.4-ubuntu-22-04"></a>

Se precisar de ajuda para começar, consulte [Conceitos básicos da DLAMI](getting-started.md).

#### Formato do nome da AMI
<a name="name-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ Driver OSS Nvidia AMI PyTorch GPU 2.4 de aprendizado profundo. $ {PATCH\_VERSION} (Ubuntu 22.04) $ {} YYYY-MM-DD

#### Instâncias do EC2 com suporte
<a name="instances-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ Consulte [Alterações importantes no DLAMI](important-changes.md).
+ O aprendizado profundo com driver OSS Nvidia é compatível com G4dn, G5, G6, Gr6, P4, P4de, P5, P5e e P5en.

#### A AMI inclui o seguinte:
<a name="contents-gpu-pytorch-2.4-ubuntu-22-04"></a>
+ ** AWS Serviço suportado**: EC2
+ **Sistema operacional**: Ubuntu 22.04
+ **Arquitetura de computação**: x86
+ **Python**://opt/conda/envs/pytorchbin/python
+ **Driver NVIDIA**:
  + Driver OSS Nvidia: 550.144.03
+ **Pilha NVIDIA CUDA12.1 : **
  + Caminho de instalação CUDA, NCCL e cuDDN://cuda-12.4/ usr/local
  + **CUDA padrão:** 12.4
    + PATH/usr/local/cuda aponta para//cuda-12.4/ usr/local
    + Variáveis de ambiente atualizadas abaixo:
      +  LD\_LIBRARY\_PATH para ter//:/cuda/lib:/usr/local/cuda://usr/localcuda/lib64/x86\_64- usr/local usr/local cuda/targets linux/lib
      + CAMINHO para ter/usr/local/cuda/bin/:/usr/local/cuda/include/
  + Versão NCCL do sistema compilado presente em usr/local //cuda/: 2.21.5
  + PyTorch Versão NCCL compilada do ambiente PyTorch conda: 2.20.5
+  **Local dos testes NCCL:** 
  + all\_reduce, all\_gather e reduce\_scatter: /cuda-xx. usr/local x/efa/test-cuda-xx.x/
  + Para executar testes NCCL, o LD\_LIBRARY\_PATH já está atualizado com os caminhos necessários.
    + PATHs comuns já foram adicionados a LD\_LIBRARY\_PATH:
      +  `/opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/aws-ofi-nccl/lib:/usr/local/lib:/usr/lib`
  + LD\_LIBRARY\_PATH é atualizado com caminhos de versão CUDA
    +  //cuda/lib:usr/local//: usr/local cuda/lib64 usr/local /cuda:/ usr/local /x86\_64- cud/targets linux/lib
+ **Instalador do EFA**: 1.34.0
+ **Nvidia GDRCopy:** 2.4.1
+ **Nvidia Transformer Engine:** v1.11.0
+ **AWS Plugin OFI NCCL**: é instalado como parte do `EFA Installer-aws`
  + **Caminho de instalação: **`/opt/aws-ofi-nccl/`. O caminho `/opt/aws-ofi-nccl/lib` é adicionado a LD\_LIBRARY\_PATH.
  + **Testa o caminho ** para o anel, message\_transfer: `/opt/aws-ofi-nccl/tests`
  + Nota: o PyTorch pacote também vem com o plug-in AWS OFI NCCL vinculado dinamicamente como um pacote conda e PyTorch usará esse `aws-ofi-nccl-dlc` pacote em vez do sistema OFI NCCL. AWS 
+ **AWS CLI v2 ** como `aws2` e **AWS CLI ** v1 como `aws`
+ **Tipo de volume do EBS**: gp3
+ **Versão do Python:** 3.11
+  **Consulta AMI-ID com o parâmetro SSM (a região de exemplo é us-east-1): ** 
  +  **Driver OSS Nvidia**: 

    ```
    aws ssm get-parameter --region {{us-east-1}} \
            --name /aws/service/deeplearning/ami/x86_64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id \
            --query "Parameter.Value" \
            --output text
    ```
+  **Consulta AMI-ID com AWSCLI (a região de exemplo é us-east-1): ** 
  +  **Driver OSS Nvidia:** 

    ```
    aws ec2 describe-images --region {{us-east-1}} \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text
    ```

#### Notices
<a name="notices-gpu-pytorch-2.4-ubuntu-22-04"></a>

**P5/P5e instâncias**
+ DeviceIndex é exclusivo para cada um NetworkCard e deve ser um número inteiro não negativo menor que o limite de ENIs por. NetworkCard Em P5, o número de ENIs por NetworkCard é 2, o que significa que os únicos valores válidos para DeviceIndex são 0 ou 1. Abaixo está o exemplo do comando de inicialização da instância EC2 P5 usando awscli mostrando NetworkCardIndex do número 0 a 31 e DeviceIndex como 0 para a primeira interface e DeviceIndex como 1 para as demais 31 interfaces.

```
aws ec2 run-instances --region $REGION \
    --instance-type $INSTANCETYPE \
    --image-id $AMI --key-name $KEYNAME \
    --iam-instance-profile "Name=dlami-builder" \
    --tag-specifications "ResourceType=instance,Tags=[{Key=Name,Value=$TAG}]" \
    --network-interfaces "NetworkCardIndex=0,DeviceIndex=0,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
      "NetworkCardIndex=1,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
      "NetworkCardIndex=2,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
      "NetworkCardIndex=3,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
      "NetworkCardIndex=4,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa" \
      ...
      "NetworkCardIndex=31,DeviceIndex=1,Groups=$SG,SubnetId=$SUBNET,InterfaceType=efa"
```

#### Data de lançamento: 2025-02-17
<a name="2025-02-17-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI: ** Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20250216

##### Atualização
<a name="w2aac25c15c11c35c13b5"></a>
+ Atualização do NVIDIA Container Toolkit da versão 1.17.3 para 1.17.4.
  + Consulte a página de notas de lançamento aqui para obter mais informações: [ https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4 ](https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4)
  + No NVIDIA Container Toolkit versão 1.17.4, a montagem das bibliotecas compatíveis com CUDA agora está desabilitada. Para garantir a compatibilidade com várias versões do CUDA em fluxos de trabalho de contêiner, atualize o LD\_LIBRARY\_PATH para incluir as bibliotecas compatíveis com CUDA, conforme mostrado no tutorial [Se você usa uma camada de compatibilidade com CUDA](https://docs.aws.amazon.com/sagemaker/latest/dg/inference-gpu-drivers.html#collapsible-cuda-compat).

#### Data de lançamento: 2025-01-21
<a name="2025-01-21-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI: ** Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20250119

##### Atualização
<a name="w2aac25c15c11c35c15b5"></a>
+ Atualização do driver Nvidia da versão 550.127.05 para 550.144.03 para corrigir as CVEs presentes no [NVIDIA GPU Display Driver Security Bulletin de janeiro de 2025](https://nvidia.custhelp.com/app/answers/detail/a_id/5614).

#### Data de lançamento: 2024-11-18
<a name="2024-11-18-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI: ** Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20241116

##### Fixo
<a name="w2aac25c15c11c35c17b5"></a>
+ Devido a uma alteração no kernel do Ubuntu para resolver um defeito na funcionalidade Kernel Address Space Layout Randomization (KASLR), as G4Dn/G5 instâncias não conseguem inicializar adequadamente o CUDA no driver OSS Nvidia. Para mitigar esse problema, esse DLAMI inclui uma funcionalidade que carrega dinamicamente o driver proprietário para instâncias G4Dn e G5. Aguarde um breve período de inicialização desse carregamento para garantir que as instâncias funcionem corretamente.
  + Para conferir o status e a integridade desse serviço, use estes comandos:

```
sudo systemctl is-active dynamic_driver_load.service active
```

#### Data de lançamento: 2024-10-16
<a name="2024-10-16-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI**: Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20241016

##### Adição
<a name="w2aac25c15c11c35c19b5"></a>
+ Foi adicionada a Nvidia TransformerEngine v1.11.0 para acelerar os modelos de transformadores (para obter mais detalhes, consulte) [ https://docs.nvidia.com/deeplearning/transformer-engine/user-guide/index.html ](https://docs.nvidia.com/deeplearning/transformer-engine/user-guide/index.html)

#### Data de lançamento: 2024-09-30
<a name="2024-09-30-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI**: Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20240929

##### Atualização
<a name="w2aac25c15c11c35c21b5"></a>
+ Atualizou o Nvidia Container Toolkit da versão 1.16.1 para 1.16.2, abordando a vulnerabilidade de segurança. [ CVE-2024-0133 ](https://nvd.nist.gov/vuln/detail/CVE-2024-0133)

#### Data de lançamento: 2024-09-26
<a name="2024-09-26-gpu-pytorch-2.4-ubuntu-22-04"></a>

**Nome da AMI**: Deep Learning OSS Nvidia Driver AMI GPU PyTorch 2.4.1 (Ubuntu 22.04) 20240925

##### Adição
<a name="w2aac25c15c11c35c23b5"></a>
+ Versão inicial da série Deep Learning AMI GPU PyTorch 2.4.1 (Ubuntu 22.04). Incluindo um ambiente conda pytorch complementado com o driver NVIDIA R550, CUDA = 12.4.1, CUDNN = 8.9.7, NCCL = 2.20.5 e EFA = 1.34.0. PyTorch 