AWS AMI de GPU com base em aprendizado profundo (Ubuntu 20.04)

• O Ubuntu Linux 20.04 LTS está chegando ao fim da janela de LTS de cinco anos em 31 de maio de 2025 e não o fornecedor não fornece mais suporte. Consequentemente, o AWS Deep Learning Base GPU AMI (Ubuntu 20.04) não terá atualizações após 31 de maio de 2025. As versões anteriores continuarão disponíveis. Observe que qualquer AMI lançada publicamente será descontinuada pelo EC2 após dois anos de sua data de criação. Consulte mais informações em Descontinuar uma AMI do Amazon EC2.

• Por três meses, até 31 de agosto de 2025, o suporte será fornecido somente para problemas de funcionalidade (não para patches de segurança).

• Os usuários da DLAMI do Ubuntu 20.04 devem migrar para a AMI base para aprendizado profundo da AWS com GPU (Ubuntu 22.04) ou a AMI base para aprendizado profundo da AWS com GPU (Ubuntu 24.04). Como alternativa, é possível usar a AMI base de aprendizado profundo da AWS (Amazon Linux 2023).

• Base de aprendizado profundo OSS Nvidia Driver GPU AMI (Ubuntu 20.04) $ {} YYYY-MM-DD

• AMI de GPU proprietária da Nvidia Base de Aprendizagem Profunda (Ubuntu 20.04) $ {} YYYY-MM-DD

• Consulte Alterações importantes no DLAMI.

• O aprendizado profundo com driver OSS Nvidia é compatível com G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e e P5en

• O aprendizado profundo com o driver proprietário da Nvidia suporta G3 (G3.16x não suportado), P3, P3dn

• AWS Serviço suportado: Amazon EC2

• Sistema operacional: Ubuntu 20.04

• Arquitetura de computação: x86

• A versão mais recente disponível está instalada para os seguintes pacotes:

  • Linux Kernel 5.15

  • FSx Lustre

  • Docker

  • AWS CLI v2 emusr/local//bin/aws2 e AWS CLI v1 em///aws usr/bin

  • NVIDIA DCGM

  • Nvidia Container Toolkit:

    • Comando de versão: nvidia-container-cli -V

  • Nvidia-docker2:

    • Comando de versão: versão nvidia-docker

• Driver NVIDIA:

  • Driver OSS da NVIDIA: 550.163.01

  • Driver proprietário da Nvidia: 550.163.01

• Pilha NVIDIA CUDA 11.7, 12.1-12.4:

  • Diretórios de instalação CUDA, NCCL e CuDDN://cuda-xx.x/ usr/local

    • Exemplo:/usr/local/cuda-12.1/

  • Versão NCCL compilada: 2.22.3+ CUDA12.4

  • CUDA padrão: 12.1

    • PATH usr/local //cuda aponta para CUDA 12.1

    • Variáveis de ambiente atualizadas abaixo:

      • LD_LIBRARY_PATH para ter//cuda-12. usr/local 1/lib:/usr/local/cuda-12. 1/lib64: /cuda-12.1:/ usr/local usr/local /cuda-12. 1/targets/x86_64- linux/lib

      • PATH para ter/usr/local/cuda-12. 1/bin/: usr/local /cuda-12. 1/include/

      • Para qualquer versão diferente do CUDA, atualize LD_LIBRARY_PATH adequadamente.

  • Local dos testes NCCL:

    • all_reduce, all_gather e reduce_scatter: /cuda-xx. usr/local x/efa/test-cuda-xx.x/

    • Para executar testes NCCL, o LD_LIBRARY_PATH precisa ser aprovado com as atualizações abaixo.

      • PATHs comuns já foram adicionados a LD_LIBRARY_PATH:

        • /opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/aws-ofi-nccl/lib:/usr/local/lib:/usr/lib

      • Para qualquer versão diferente do CUDA, atualize LD_LIBRARY_PATH adequadamente.

• Instalador do EFA: 1.39.0

• Nvidia GDRCopy: 2.4

• AWS Plugin OFI NCCL: é instalado como parte do EFA Installer-aws

  • AWS O OFI NCCL agora suporta várias versões do NCCL com uma única compilação

  • Caminho de instalação: /opt/aws-ofi-nccl/. O caminho /opt/aws-ofi-nccl/lib é adicionado a LD_LIBRARY_PATH.

  • Testa o caminho para o anel, message_transfer: /opt/aws-ofi-nccl/tests

• Tipo de volume do EBS: gp3

• Python://usr/binpython3.9

• Local de armazenamento de instâncias NVMe (em instâncias EC2 suportadas):///nvme opt/dlami

• Consulta AMI-ID com o parâmetro SSM (a região de exemplo é us-east-1):

  • Driver OSS Nvidia:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-oss-nvidia-driver-gpu-ubuntu-20.04/latest/ami-id  \
        --query "Parameter.Value" \
        --output text

  • Driver proprietário da Nvidia:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-proprietary-nvidia-driver-gpu-ubuntu-20.04/latest/ami-id \
        --query "Parameter.Value" \
        --output text

• Consulta AMI-ID com AWSCLI (a região de exemplo é us-east-1):

  • Driver OSS Nvidia:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver GPU AMI (Ubuntu 20.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

  • Driver proprietário da Nvidia:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base Proprietary Nvidia Driver GPU AMI (Ubuntu 20.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

Instâncias do EC2 com várias placas de rede

• Muitos tipos de instâncias que oferecem suporte ao EFA também têm várias placas de rede.

• DeviceIndex é exclusivo para cada placa de rede e deve ser um número inteiro não negativo menor que o limite de ENIs por. NetworkCard Em P5, o número de ENIs por NetworkCard é 2, o que significa que os únicos valores válidos para DeviceIndex são 0 ou 1.

  • Para a interface de rede primária (índice da placa de rede 0, índice do dispositivo 0), crie uma interface EFA (EFA com ENA). Você não pode usar uma interface EFA-only de rede como interface de rede primária.

  • Para cada interface de rede adicional, use o próximo índice de placa de rede não utilizado, o índice de dispositivo 1 e uma interface de EFA-only rede EFA (EFA com ENA), dependendo do seu caso de uso, como requisitos de largura de banda ENA ou espaço de endereço IP. Consulte exemplos de casos de uso na configuração do EFA para instâncias P5.

  • Consulte mais informações no Guia do EFA aqui.

P5/P5e instâncias

• As instâncias P5 e P5e contêm 32 placas de interface de rede e podem ser iniciadas usando o seguinte comando: AWS CLI

Instâncias P5en

• O P5en contém 16 placas de interface de rede e pode ser iniciado usando o seguinte comando: AWS CLI

Kernel

• A versão do kernel é fixa usando o comando:

  echo linux-aws hold | sudo dpkg —set-selections
  echo linux-headers-aws hold | sudo dpkg —set-selections
  echo linux-image-aws hold | sudo dpkg —set-selections

• Recomendamos que os usuários evitem atualizar a versão do kernel (a menos que seja devido a um patch de segurança) para garantir a compatibilidade com os drivers instalados e as versões do pacote. Se os usuários ainda quiserem atualizar, eles poderão executar os seguintes comandos para desafixar suas versões do kernel:

  echo linux-aws install | sudo dpkg -set-selections
  echo linux-headers-aws install | sudo dpkg -set-selections
  echo linux-image-aws install | sudo dpkg -set-selections

• Para cada nova versão da DLAMI, o kernel compatível mais recente disponível é usado.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250424

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250424

• Atualização do driver Nvidia foi atualizado da versão 550.144.03 para 550.163.01 para corrigir as CVEs presentes no NVIDIA GPU Display Driver Security Bulletin de abril de 2025

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250214

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250214

• Atualização do NVIDIA Container Toolkit da versão 1.17.3 para 1.17.4.

  • Consulte a página de notas de lançamento aqui para obter mais informações: https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

  • No NVIDIA Container Toolkit versão 1.17.4, a montagem das bibliotecas compatíveis com CUDA agora está desabilitada. Para garantir a compatibilidade com várias versões do CUDA em fluxos de trabalho de contêiner, atualize o LD_LIBRARY_PATH para incluir as bibliotecas compatíveis com CUDA, conforme mostrado no tutorial Se você usa uma camada de compatibilidade com CUDA.

• Remoção das bibliotecas em espaço de usuário cuobj e nvdisasm, fornecidas pelo NVIDIA CUDA Toolkit, para corrigir as CVEs presentes no NVIDIA CUDA Toolkit Security Bulletin de 18 de fevereiro de 2025.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250204

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250204

• Atualização da versão do EFA de 1.37.0 para 1.38.0

  • O EFA agora inclui o plugin AWS OFI NCCL, que agora pode ser encontrado em /opt/amazon/ofi-nccl vez do original. /opt/aws-ofi-nccl/ Se estiver atualizando sua variável LD_LIBRARY_PATH, modifique a localização do OFI NCCL corretamente.

• O pacote do emacs foi removido dessas DLAMIs. Os clientes podem instalar o emacs a partir do GNU emacs. https://www.gnu.org/software/emacs/download.html

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250117

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20250117

• Atualização do driver Nvidia da versão 550.127.05 para 550.144.03 para corrigir as CVEs presentes no NVIDIA GPU Display Driver Security Bulletin de janeiro de 2025

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20241206

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20241206

• Atualização do Nvidia Container Toolkit da versão 1.17.0 para 1.17.3

• Adição de suporte para instâncias P5en do EC2.

• Atualização do instalador do EFA da versão 1.35.0 para 1.37.0

• Atualize o plug-in AWS OFI NCCL da versão 1.12.1-aws para 1.13.0-aws

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20241025

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20241025

• Atualização do driver Nvidia da versão 550.90.07 para 550.127.05 para corrigir as CVEs presentes no NVIDIA GPU Display Security Bulletin de outubro de 2024

• Atualização do Nvidia Container Toolkit da versão 1.16.1 para 1.16.2

• Atualização do driver Nvidia e Fabric Manager da versão 535.183.01 para 550.90.07

• Atualização da versão do EFA de 1.32.0 para 1.34.0

• Atualização do NCCL para a versão mais recente 2.22.3 para todas as versões do CUDA

  • CUDA 11.7 atualizado da versão 2.16.2+ CUDA11.7

  • CUDA 12.1, 12.2 atualizado de 2.18.5+ CUDA12.2

  • CUDA 12.3 atualizado da versão 2.21.5+ CUDA12.4

• Adicionado o kit de ferramentas CUDA versão 12.4 no diretório///cuda-12.4 usr/local

• Adição de suporte para Instâncias P5e do EC2.

• Pilha removida do CUDA Toolkit versão 11.8 presente no diretório///cuda-11.8 usr/local

• Adição de suporte para a instância G6e do EC2.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240606

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240606

• Atualização da versão do driver Nvidia para 535.183.01 de 535.161.08

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240515

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240515

• CUDA11.7 Pilha traseira adicionada no diretóriousr/local//cuda-11.7 com suporte para NCCL 2.16.2 CUDA11.7, cuDNN 8.7.0 como suporte para 1.13 PyTorch CUDA11.7

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240502

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240502

• Versão do EFA atualizada de 1.30 para 1.32

• Plugin AWS OFI NCCL atualizado da versão 1.7.4 para a versão 1.9.1

• Atualização do Nvidia Container Toolkit da versão 1.13.5 para 1.15.0

  • A versão 1.15.0 NÃO inclui os pacotes nvidia-container-runtime e nvidia-docker2. É recomendável usar os pacotes nvidia-container-toolkit diretamente seguindo a documentação do Nvidia Container Toolkit.

• CUDA12.3 Pilha adicionada com NCCL CUDA12.3 2.21.5, cuDNN 8.9.7

• Removidas CUDA11.7, CUDA12.0 pilhas presentes nos diretórios usr/local //cuda-11.7 e//cuda-12.0 usr/local

• Remoção do pacote nvidia-docker2 e seu comando nvidia-docker como parte da atualização do Nvidia Container Toolkit de 1.13.5 para 1.15.0, o que NÃO inclui os pacotes nvidia-container-runtime e nvidia-docker2.

• Para DLAMIs do driver OSS Nvidia, foi adicionado suporte às instâncias G6 e Gr6 do EC2. Consulte mais informações em Instâncias de GPU recomendadas.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240326

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240326

• Atualização do driver Nvidia de 535.104.12 para 535.161.08 nas DLAMIs do driver proprietário e OSS da Nvidia.

• Remoção do suporte para instâncias G4dn e G5 do EC2 da DLAMI do driver proprietário da NVIDIA.

• As novas instâncias compatíveis com cada DLAMI são as seguintes:

  • O aprendizado profundo com o driver proprietário da Nvidia suporta G3 (G3.16x não suportado), P3, P3dn

  • O aprendizado profundo com driver OSS Nvidia é compatível com G4dn, G5, P4d, P4de e P5.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240318

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240318

• Adicionado awscliv2 na AMI em/usr/local/bin/aws2, junto comawscliv1//usr/bin/aws na AMI proprietária e OSS Nvidia Driver AMI

• A DLAMI do driver OSS Nvidia foi atualizada com suporte para G4dn e G5. Com base nisso, o suporte atual fica assim:

  • A AMI base do driver proprietário da Nvidia para aprendizado profundo (Ubuntu 20.04) é compatível com P3, P3dn, G3, G5 e G4dn.

  • A AMI base do driver OSS Nvidia para aprendizado profundo (Ubuntu 20.04) é compatível com G5, G4dn, P4 e P5.

• Recomenda-se que DLAMIs do driver OSS NVIDIA sejam usadas para G5, G4dn, P4 e P5.

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240208

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240208

• AWS O plugin OFI NCCL foi atualizado de 1.7.3 para 1.7.4

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240201

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20240201

• Versão atualizada do pacote runc para consumir o patch. CVE-2024-21626

Nomes de AMI

• AMI base do driver OSS Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20231204

• AMI base do driver proprietário da Nvidia para aprendizado profundo com GPU (Ubuntu 20.04) 20231204

• AWS O Deep Learning AMI (DLAMI) é dividido em dois grupos separados:

  • DLAMIs que usam driver proprietário da NVIDIA (para oferecer suporte a P3, P3dn, G3, G5 e G4dn).

  • DLAMIs que usam o driver OSS Nvidia para habilitar o EFA (para oferecer suporte a P4 e P5).

• Consulte mais informações sobre a divisão de DLAMIs em Alterações importantes na DLAMI.

• AWS CLI as consultas acima estão sob o marcador Consulta AMI-ID com AWSCLI (a região de exemplo é us-east-1)

• Atualização do EFA de 1.26.1 para 1.29.0

• Atualização do GDRCopy de 2.3 para 2.4

• AWS Plugin OFI NCCL atualizado da versão 1.7.2 para a versão 1.7.3

• Atualização dos diretórios do CUDA 12.0-12.1 com NCCL versão 2.18.5 para corresponder ao CUDA 12.2

• CUDA12.1 atualizado como a versão padrão do CUDA

  • LD_LIBRARY_PATH atualizado para ter//cuda-12. usr/local 1/targetslinux/lib/x86_64-/://cuda-12. usr/local 1/lib:/usr/local/cuda-12. 1/lib64: usr/local /cuda-12.1 e PATH para ter//cuda-12. usr/local 1/bin/

  • Para clientes que desejam mudar para qualquer versão diferente do CUDA, defina as variáveis LD_LIBRARY_PATH e PATH adequadamente.

• Atualização do driver NVIDIA de 535.54.03 para 535.104.12

  • Esse driver mais recente corrige as alterações importantes da ABI do NVML encontradas na versão 535.54.03 do driver, bem como a regressão do driver encontrada na versão 535.86.10 que afetou CUDA Toolkits nas instâncias P5. Consulte as seguintes notas de versão da NVIDIA para obter detalhes sobre as correções:

  • Consulte as seguintes notas de versão da NVIDIA para obter detalhes sobre as correções:

    • 4235941: correção de alteração incompatível na ABI do NVML

    • 4228552 : correção de erro do CUDA Toolkit

• Atualização de diretórios do CUDA 12.2 com NCCL 2.18.5

• Atualização do EFA da versão 1.24.1 para a mais recente 1.26.1

• Adicionado CUDA12.2 em usr/local /cuda-12.2

• Remoção de suporte do CUDA 11.5 e CUDA 11.6

• Inclusão de alterações em net.naming-scheme para corrigir o problema de nomenclatura imprevisível da interface de rede (link) observado na P5. Essa alteração é feita definindo net.naming-scheme=v247 nos argumentos de inicialização do linux no arquivo//grub etc/default

• aws-ofi-ncclPlugin atualizado de v1.7.1 para v1.7.2

• Essa AMI agora fornece suporte para a funcionalidade Multi-node de treinamento no P5 e em todas as instâncias EC2 suportadas anteriormente.

• Para a instância P5 EC2, recomenda-se que o NCCL 2.18 seja usado e tenha sido adicionado a, e. CUDA12.0 CUDA12.1

• Suporte removido para CUDA11.3 CUDA11.4 e.

• Plugin AWS OFI NCCL atualizado para v1.7.1

• Feito CUDA11.8 como padrão, pois PyTorch 2.0 suporta 11.8 e, para a instância P5 EC2, é recomendável usar >= CUDA11.8

  • LD_LIBRARY_PATH atualizado para ter//cuda-11. usr/local 8/targetslinux/lib/x86_64-/: //cuda-11. usr/local 8/lib:/usr/local/cuda-11. 8/lib64: usr/local /cuda-11.8 e PATH para ter//cuda-11. usr/local 8/bin/

  • Para qualquer versão diferente do CUDA, defina LD_LIBRARY_PATH adequadamente.

• Atualização de diretórios do CUDA 12.0 e 12.1 com NCCL 2.18.3

• Correção do problema de carregamento do pacote Nvidia Fabric Manager (FM) mencionado na data de lançamento anterior de 2023-07-19.

• Atualização do EFA de 1.22.1 para 1.24.1

• Atualização do driver Nvidia de 525.85.12 para 535.54.03

• Foram adicionadas alterações no estado c para desativar o estado ocioso do processador, definindo o estado c máximo como C1. Essa alteração é feita definindo `intel_idle.max_cstate=1 processor.max_cstate=1` nos argumentos de inicialização do Linux no arquivo//grub etc/default

• AWS Suporte a instâncias P5 do EC2:

  • Foi adicionado suporte a instâncias P5 EC2 para fluxos de trabalho usando uma única instância. node/instance Multi-node suporte (por exemplo, para treinamento de vários nós) usando o EFA (Elastic Fabric Adapter) e o plugin AWS OFI NCCL será adicionado em uma próxima versão.

  • Use CUDA>=11.8 para um desempenho ideal.

  • Problema conhecido: o pacote Nvidia Fabric Manager (FM) leva tempo para carregar na P5. Os clientes precisam esperar de dois a três minutos até que o FM seja carregado após iniciar a instância P5. Para verificar se o FM foi iniciado, execute o comando sudo systemctl is-active nvidia-fabricmanager. Ele deverá retornar ativo antes de iniciar qualquer fluxo de trabalho. Isso será aprimorado em uma próxima versão.

• Atualização do EFA para a versão mais recente 1.22.1

• Atualização da versão do NCCL do CUDA 12.1 para 2.17.1

• Adicionado CUDA12.1 em usr/local /cuda-12.1

• Adição de suporte para o NVIDIA Data Center GPU Monitor (DCGM) por meio do pacote datacenter-gpu-manager

  • É possível verificar o status desse serviço por meio da seguinte consulta: sudo systemctl status nvidia-dcgm

• Os armazenamentos de instâncias NVMe efêmeros agora são montados automaticamente nas instâncias EC2 suportadas e o armazenamento pode ser acessado na pasta //nvme/. opt/dlami É possível verificar ou modificar este serviço das seguintes maneiras:

  • Verificar o status do serviço NVMe: sudo systemctl status dlami-nvme

  • Para acessar ou modificar o serviço: /opt/aws/dlami/bin/nvme_ephemeral_drives.sh

• Os volumes NVMe forneceram as soluções de armazenamento mais rápidas e eficientes para fluxos de trabalho de throughput que exigem desempenho de IOPS. Os armazenamentos de instâncias efêmeros NVMe já estão incluídos no custo das próprias instâncias, portanto, não há nenhum custo adicional por esse serviço.

• Os armazenamentos de instâncias NVMe só serão montados em instâncias do EC2 compatíveis. Consulte informações sobre instâncias do EC2 com armazenamentos de instâncias NVMe compatíveis em Volumes de armazenamento de instância disponíveis e confirme se o NVMe é compatível.

• Para melhorar o desempenho do disco e reduzir as penalidades de primeira gravação, inicialize os armazenamentos de instâncias (observe que esse processo pode levar horas, dependendo do tipo de instância do EC2): Inicializar os volumes de armazenamento de instância em instâncias do EC2

• OBSERVAÇÃO: os armazenamentos de instâncias NVMe são montados na instância e não estão conectados à rede, como o EBS. Os dados nesses volumes NVMe podem ser perdidos na reinicialização ou interrupção da instância.

• Nome DLAMI atualizado de AWS Deep Learning Base AMI GPU CUDA 11 (Ubuntu 20.04) $ {YYYY-MM-DD} para Deep Learning Base GPU AMI (Ubuntu 20.04) $ {} YYYY-MM-DD

  • Observe que ofereceremos suporte à DLAMI mais recente com o nome antigo da AMI por um mês a partir desta versão, caso seja necessário. Os clientes podem atualizar os pacotes do sistema operacional usando apt-get update && apt-get upgrade para receber os patches de segurança.

• Caminho do plugin AWS OFI NCCL atualizado de para /usr/local/cuda-xx.x/efa/ /opt/aws-ofi-nccl/

• Atualizou o NCCL para uma ramificação GIT personalizada da v2.16.2, em coautoria com a equipe da NCCL para todas as versões do CUDA. AWS Ele tem um melhor desempenho em AWS infraestrutura.

• Adicionado CUDA12.0 em usr/local /cuda-12.0

• Adição do AWS FSx

• Adicionado suporte para Python versão 3.9 em //python3.9 usr/bin

  • Observe que essa alteração não substitui o sistema padrão Python, o python3 ainda apontará o sistema. Python3.8

  • Python3.9 pode ser acessado utilizando os seguintes comandos:

    /usr/bin/python3.9
    python3.9

• Removidos CUDA11.0-11.1 de/usr/local/cuda-11.x/ porque não estão sendo usados por nenhuma versão de estrutura compatível com base na política de suporte de estrutura. Política de suporte da DLAMI

• Esta versão adiciona suporte à nova instância p4de.24xlarge do EC2.

  • Atualizado aws-efa-installer para a versão 1.15.2

  • Atualizado aws-ofi-nccl para a versão 1.3.0-aws que inclui a topologia para p4de.24xlarge.

• Atualização da versão do EFA de 1.15.0 para 1.15.1

• Primeira versão