AWS AMI de GPU con base de aprendizaje profundo (Ubuntu 20.04)

• Ubuntu Linux 20.04 LTS va a finalizar su período de cinco años de LTS el 31 de mayo de 2025 y su proveedor ya no lo admite. Por lo tanto, la AMI de GPU de AWS Deep Learning Base (Ubuntu 20.04) no se actualizará después del 31 de mayo de 2025. Las versiones anteriores seguirán estando disponibles. Tenga en cuenta que cualquier AMI que se publique quedará obsoleta en EC2 después de 2 años desde su fecha de creación. Consulte Retirada de una AMI de Amazon EC2 para obtener más información.

• Durante 3 meses, hasta el 31 de agosto de 2025, solo se proporcionará soporte para problemas de funcionalidad (no para parches de seguridad).

• Los usuarios de la DLAMI con Ubuntu 20.04 deben pasarse a la AMI de GPU de base para aprendizaje profundo de AWS (Ubuntu 22.04) o a la AMI de GPU de base para aprendizaje profundo de AWS (Ubuntu 24.04). Como alternativa, también se puede utilizar la AMI de base para aprendizaje profundo de AWS (Amazon Linux 2023).

• Base de aprendizaje profundo OSS Nvidia Driver GPU AMI (Ubuntu 20.04) $ {} YYYY-MM-DD

• AMI de GPU con controlador Nvidia propietaria de Deep Learning Base (Ubuntu 20.04) $ {} YYYY-MM-DD

• Consulte Cambios importantes en las DLAMI.

• El aprendizaje profundo con el controlador NVIDIA de código abierto admite G4dn, G5, G6, Gr6, G6e, P4d, P4de, P5, P5e y P5en.

• El aprendizaje profundo con el controlador propietario de Nvidia es compatible con G3 (G3.16x no compatible), P3 y P3dn

• Servicio compatible AWS : Amazon EC2

• Sistema operativo: Ubuntu 20.04

• Arquitectura de computación: x86

• La última versión disponible está instalada para los siguientes paquetes:

  • Kernel de Linux 5.15

  • FsX Lustre

  • Docker

  • AWS CLI v2 enusr/local//bin/aws2 y AWS CLI v1 en//aws usr/bin

  • DCGM de NVIDIA

  • Kit de herramientas de contenedor de NVIDIA:

    • Comando de versión: nvidia-container-cli -V

  • Nvidia-docker2:

    • Comando de versión: versión nvidia-docker

• Controlador de NVIDIA:

  • Controlador con software de código abierto de NVIDIA: 550.163.01

  • Controlador NVIDIA propietario: 550.163.01

• Pila NVIDIA CUDA 11.7, 12.1-12.4:

  • Directorios de instalación de CUDA, NCCL y cuDDN://cuda-xx.x/ usr/local

    • Ejemplo://cuda-12.1/ usr/local

  • Versión NCCL compilada: 2.22.3+ CUDA12.4

  • CUDA predeterminado: 12.1

    • PATH usr/local /cuda apunta a CUDA 12.1

    • Se han actualizado las siguientes variables de entorno:

      • LD_LIBRARY_PATH para tener//cuda-12. usr/local 1/lib:/usr/local/cuda-12. 1/lib64://cuda-12.1:/ /cuda-12. usr/local usr/local 1/targets/x86_64- linux/lib

      • RUTA para tener//cuda-12. usr/local 1/bin/://cuda-12. usr/local 1/include/

      • Para cualquier versión de CUDA diferente, actualice LD_LIBRARY_PATH como sea necesario.

  • Ubicación de las pruebas de NCCL:

    • all_reduce, all_gather y reduce_scatter://cuda-xx. usr/local x/efa/test-cuda-xx.x/

    • Para ejecutar las pruebas de NCCL, es necesario pasar LD_LIBRARY_PATH con las siguientes actualizaciones.

      • Los PATH comunes ya están agregados a LD_LIBRARY_PATH:

        • /opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/aws-ofi-nccl/lib:/usr/local/lib:/usr/lib

      • Para cualquier versión de CUDA diferente, actualice LD_LIBRARY_PATH como sea necesario.

• Instalador de EFA: 1.39.0

• NVIDIA GDRCopy: 2.4

• AWS Plugin OFI NCCL: se instala como parte del EFA Installer-aws

  • AWS OFI NCCL ahora admite varias versiones de NCCL con una sola compilación

  • Ruta de instalación:. /opt/aws-ofi-nccl/ /opt/aws-ofi-nccl/libLa ruta se agrega a LD_LIBRARY_PATH.

  • Comprueba la ruta del anillo, message_transfer: /opt/aws-ofi-nccl/tests

• Tipo de volumen EBS: gp3

• Python://python3.9 usr/bin

• Ubicación del almacén de instancias de NVMe (en las instancias EC2 compatibles)://nvme opt/dlami

• Consulta AMI-ID con el parámetro SSM (la región de ejemplo es us-east-1):

  • Controlador NVIDIA de código abierto:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-oss-nvidia-driver-gpu-ubuntu-20.04/latest/ami-id  \
        --query "Parameter.Value" \
        --output text

  • Controlador NVIDIA propietario:

    aws ssm get-parameter --region us-east-1 \
        --name /aws/service/deeplearning/ami/x86_64/base-proprietary-nvidia-driver-gpu-ubuntu-20.04/latest/ami-id \
        --query "Parameter.Value" \
        --output text

• Consulta AMI-ID con AWSCLI (por ejemplo, la región es us-east-1):

  • Controlador NVIDIA de código abierto:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver GPU AMI (Ubuntu 20.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

  • Controlador NVIDIA propietario:

    aws ec2 describe-images --region us-east-1 \
        --owners amazon \
        --filters 'Name=name,Values=Deep Learning Base Proprietary Nvidia Driver GPU AMI (Ubuntu 20.04) ????????' 'Name=state,Values=available' \
        --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
        --output text

Instancias EC2 con varias tarjetas de red

• Muchos tipos de instancias que admiten EFA también tienen varias tarjetas de red.

• DeviceIndex es única para cada tarjeta de red y debe ser un entero no negativo inferior al límite de ENI por tarjeta. NetworkCard En P5, el número de ENI por NetworkCard es 2, lo que significa que los únicos valores válidos son 0 o 1. DeviceIndex

  • Para la interfaz de red principal (índice de tarjetas de red 0, índice de dispositivos 0), cree una interfaz de EFA (EFA con ENA). No puede usar una interfaz de EFA-only red como interfaz de red principal.

  • Para cada interfaz de red adicional, utilice el siguiente índice de tarjetas de red sin usar, el índice de dispositivos 1 y una interfaz EFA (EFA con ENA) o de EFA-only red, según su caso de uso, por ejemplo, los requisitos de ancho de banda de ENA o el espacio de direcciones IP. Para ver ejemplos de casos de uso, consulte Configuración de EFA para instancias P5.

  • Para obtener más información, consulte la Guía de usuario de EFA aquí.

P5/P5e instancias

• Las instancias P5 y P5e contienen 32 tarjetas de interfaz de red y se pueden lanzar con el siguiente comando: AWS CLI

Instancias P5en

• Las P5en contienen 16 tarjetas de interfaz de red y se pueden iniciar con el siguiente comando: AWS CLI

Kernel

• La versión del kernel se ancla mediante el comando:

  echo linux-aws hold | sudo dpkg —set-selections
  echo linux-headers-aws hold | sudo dpkg —set-selections
  echo linux-image-aws hold | sudo dpkg —set-selections

• Recomendamos a los usuarios que eviten actualizar su versión de kernel (a menos que sea debido a un parche de seguridad) para garantizar la compatibilidad con los controladores y las versiones de los paquetes instalados. Si aún así desean hacerlo, pueden ejecutar los siguientes comandos para desanclar sus versiones de kernel:

  echo linux-aws install | sudo dpkg -set-selections
  echo linux-headers-aws install | sudo dpkg -set-selections
  echo linux-image-aws install | sudo dpkg -set-selections

• Para cada nueva versión de DLAMI, se utiliza el último kernel compatible disponible.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20250424

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20250424

• Se ha actualizado el controlador NVIDIA de la versión 550.144.03 a la 550.163.01 para corregir los CVE que figuran en el boletín de seguridad de los controladores de pantalla de GPU de NVIDIA de abril de 2025.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20250214

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20250214

• Se ha actualizado el kit de herramientas de contenedores de NVIDIA de la versión 1.17.3 a la versión 1.17.4.

  • Consulta la página de notas de la versión aquí para obtener más información: https://github.com/NVIDIA/nvidia-container-toolkit/releases/tag/v1.17.4

  • En la versión 1.17.4 del kit de herramientas de contenedores, el montaje de bibliotecas de compatibilidad con CUDA se ha desactivado. Para garantizar la compatibilidad con varias versiones de CUDA en los flujos de trabajo de contenedores, asegúrese de actualizar su LD_LIBRARY_PATH para incluir las bibliotecas de compatibilidad con CUDA, tal y como se muestra en el tutorial Si utiliza una capa de compatibilidad CUDA.

• Se han retirado las bibliotecas de espacio de usuario cuobj y nvdisasm proporcionadas por el kit de herramientas de CUDA de NVIDIA para corregir los CVE que figuran en el boletín de seguridad del kit de herramientas de CUDA de NVIDIA del 18 de febrero de 2025.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20250204

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20250204

• Se ha actualizado EFA de la versión 1.37.0 a la 1.38.0.

  • EFA ahora incluye el complemento AWS OFI NCCL, que ahora se encuentra en lugar del original. /opt/amazon/ofi-nccl /opt/aws-ofi-nccl/ Si va a actualizar la variable LD_LIBRARY_PATH, asegúrese de modificar correctamente la ubicación de OFI NCCL.

• Se ha eliminado el paquete de Emacs de estas DLAMI. Los clientes pueden instalar emacs desde GNU emacs. https://www.gnu.org/software/emacs/download.html

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20250117

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20250117

• Se ha actualizado el controlador NVIDIA de la versión 550.127.05 a la 550.144.03 para corregir los CVE que figuran en el boletín de seguridad de los controladores de pantalla de GPU de NVIDIA de enero de 2025.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20241206

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20241206

• Se ha actualizado el kit de herramientas de contenedores de NVIDIA de la versión 1.17.0 a la versión 1.17.3.

• Se ha añadido compatibilidad para las instancias P5en EC2.

• Se ha actualizado el instalador de EFA de la versión 1.35.0 a la 1.37.0.

• Actualice el complemento AWS OFI NCCL de la versión 1.12.1-aws a la 1.13.0-aws

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20241025

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20241025

• Se ha actualizado el controlador NVIDIA de la versión 550.90.07 a la 550.127.05 para corregir los CVE que figuran en el boletín de seguridad de pantalla de GPU de NVIDIA de octubre de 2024.

• Se ha actualizado el kit de herramientas de contenedores de NVIDIA de la versión 1.16.1 a la versión 1.16.2.

• Se han actualizado el controlador NVIDIA y Fabric Manager de la versión 535.183.01 a la 550.90.07.

• Se ha actualizado EFA de la versión 1.32.0 a la 1.34.0.

• Se ha actualizado NCCL a la última versión 2.22.3 para todas las versiones de CUDA.

  • CUDA 11.7 se actualizó desde la versión 2.16.2+ CUDA11.7

  • CUDA 12.1 y 12.2 se actualizaron desde la versión 2.18.5+ CUDA12.2

  • CUDA 12.3 se actualizó desde la versión 2.21.5+ CUDA12.4

• Se agregó la versión 12.4 del kit de herramientas CUDA en el directorio//cuda-12.4 usr/local

• Se ha añadido compatibilidad para instancias P5e EC2.

• Se eliminó la pila 11.8 del kit de herramientas CUDA presente en el directorio//cuda-11.8 usr/local

• Se ha agregado compatibilidad para la instancia G6e de EC2.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240606

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240606

• Se ha actualizado la versión del controlador NVIDIA de la 535.183.01 a la 535.161.08.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240515

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240515

• Se agregó la CUDA11.7 pila trasera en el directorio/usr/local/cuda-11.7 con NCCL 2.16.2 y cuDNN 8.7.0 CUDA11.7, ya que es compatible con la versión 1.13 PyTorch CUDA11.7

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240502

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240502

• Se ha actualizado la versión de EFA de la 1.30 a la 1.32.

• Se actualizó el complemento AWS OFI NCCL de la versión 1.7.4 a la versión 1.9.1

• Se ha actualizado el kit de herramientas de contenedores de NVIDIA de la versión 1.13.5 a la versión 1.15.0.

  • La versión 1.15.0 NO incluye los paquetes nvidia-container-runtime y nvidia-docker2. Se recomienda utilizar directamente los paquetes nvidia-container-toolkit siguiendo las indicaciones de la documentación del kit de herramientas de contenedores de NVIDIA.

• Se agregó una CUDA12.3 pila con NCCL 2.21.5 CUDA12.3, cuDNN 8.9.7

• Eliminadas CUDA11.7, las pilas estaban presentes en los directorios//cuda-11.7 y/ CUDA12.0 /cuda-12.0 usr/local usr/local

• Se han eliminado el paquete nvidia-docker2 y su comando nvidia-docker como parte de la actualización del kit de herramientas de contenedores de NVIDIA de la versión 1.13.5 a la 1.15.0, que NO incluye los paquetes nvidia-container-runtime y nvidia-docker2.

• Las DLAMI con controlador NVIDIA de código abierto se han hecho compatibles con las instancias G6 y Gr6 de EC2. Consulta Instancias de GPU recomendadas para obtener más información.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240326

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240326

• Se ha actualizado el controlador NVIDIA de la versión 535.104.12 a la 535.161.08 en las DLAMI con controlador NVIDIA de código abierto y propietario.

• Se ha retirado la compatibilidad con las instancias G4dn y G5 EC2 de la DLAMI del controlador NVIDIA propietario.

• Las nuevas instancias compatibles con cada DLAMI son las siguientes:

  • El aprendizaje profundo con el controlador propietario de Nvidia es compatible con G3 (no compatible), P3 y P3dn G3.16x

  • El aprendizaje profundo con el controlador NVIDIA de código abierto admite G4dn, G5, P4d, P4de y P5.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240318

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240318

• Se agregó awscliv2 en la AMI en//bin/aws2, junto con usr/localawscliv1/usr/bin/aws en la AMI propietaria y OSS Nvidia Driver AMI

• Se ha actualizado la DLAMI con controlador NVIDIA de código abierto con compatibilidad para G4dn y G5, por lo que su compatibilidad actual es la siguiente:

  • AMI base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) es compatible con P3, P3dn, G3, G5 y G4dn.

  • AMI base con controlador NVIDIA de código abierto para aprendizaje profundo (Ubuntu 20.04) es compatible con G5, G4dn, P4 y P5.

• Se recomienda utilizar DLAMI con controlador NVIDIA de código abierto para G5, G4dn, P4 y P5.

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240208

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240208

• AWS El complemento OFI NCCL se actualizó de la 1.7.3 a la 1.7.4

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20240201

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20240201

• Se actualizó la versión del paquete runc para consumir el parche. CVE-2024-21626

Nombres de AMI

• AMI de GPU base para aprendizaje profundo del controlador con software de código abierto de NVIDIA (Ubuntu 20.04) 20231204

• AMI de GPU de base con controlador NVIDIA propietario para aprendizaje profundo (Ubuntu 20.04) 20231204

• AWS La AMI de aprendizaje profundo (DLAMI) se divide en dos grupos distintos:

  • Las DLAMI que usan el controlador NVIDIA propietario (compatibles con P3, P3dn, G3, G5 y G4dn).

  • Las DLAMI que usan el controlador NVIDIA de código abierto para habilitar EFA (compatibles con P4 y P5).

• Consulte Cambios importantes en las DLAMI para obtener más información sobre la división de las DLAMI.

• AWS CLI las consultas anteriores aparecen en el apartado Consulta AMI-ID con AWSCLI (por ejemplo, la región es us-east-1)

• EFA se ha actualizado de la versión 1.26.1 a la 1.29.0.

• GDRCopy se ha actualizado de la versión 2.3 a la 2.4.

• AWS El complemento OFI NCCL se actualizó de la versión 1.7.2 a la versión 1.7.3

• Se han actualizado los directorios de CUDA 12.0-12.1 con la versión 2.18.5 de NCCL para que coincidan con CUDA 12.2.

• CUDA12.1 actualizado como la versión CUDA predeterminada

  • Se actualizó LD_LIBRARY_PATH para que tenga//cuda-12. usr/local 1/targetslinux/lib/x86_64-/:usr/local//cuda-12. 1/libusr/local://cuda-12. 1/lib64:/usr/local/cuda-12.1 y PATH para tener//cuda-12. usr/local 1/bin/

  • Si un cliente desea cambiar a una versión de CUDA distinta, debe definir las variables LD_LIBRARY_PATH y PATH en consecuencia.

• Se ha actualizado el controlador NVIDIA de la 535.54.03 a la 535.104.12.

  • Este último controlador corrige los cambios importantes en la ABI de la NVML encontrados en la versión 535.54.03 del controlador, así como la regresión del controlador encontrada en la versión 535.86.10 que afectaba a los kits de herramientas de CUDA en las instancias P5. Consulte las siguientes notas de la versión de NVIDIA para obtener más información sobre las correcciones:

  • Consulte las siguientes notas de la versión de NVIDIA para obtener más información sobre las correcciones:

    • 4235941 - Corrección de un cambio importante en la ABI de la NVML

    • 4228552 - Corrección de errores del kit de herramientas de CUDA

• Se han actualizado los directorios CUDA 12.2 con NCCL 2.18.5.

• EFA se ha actualizado de la versión 1.24.1 a la última 1.26.1.

• Añadido CUDA12.2 en///cuda-12.2 usr/local

• Se ha retirado el soporte para CUDA 11.5 y CUDA 11.6.

• Se han añadido cambios en net.naming-scheme para solucionar el problema impredecible de nomenclatura de la interfaz de red (enlace) que se producía en la versión P5. Este cambio se realiza configurando net.naming-scheme=v247 en los argumentos de arranque de Linux del archivo//grub etc/default

• aws-ofi-ncclSe ha actualizado el plugin de la versión 1.7.1 a la versión 1.7.2

• Esta AMI ahora admite la funcionalidad de Multi-node entrenamiento en la P5 y en todas las instancias EC2 compatibles anteriormente.

• Para la instancia EC2 P5, se recomienda usar NCCL 2.18 y se ha agregado a, y. CUDA12.0 CUDA12.1

• Se ha eliminado el soporte para y. CUDA11.3 CUDA11.4

• Se actualizó el complemento AWS OFI NCCL a la versión 1.7.1

• De forma predeterminada CUDA11.8 , ya que la PyTorch 2.0 admite la versión 11.8 y, para la instancia EC2 P5, se recomienda usar >= CUDA11.8

  • Se actualizó LD_LIBRARY_PATH para que tenga//cuda-11. usr/local 8/targetslinux/lib/x86_64-/:usr/local//cuda-11. 8/libusr/local://cuda-11. 8/lib64:/usr/local/cuda-11.8 y PATH para tener//cuda-11. usr/local 8/bin/

  • Para cualquier versión de cuda diferente, defina LD_LIBRARY_PATH como sea necesario.

• Se han actualizado los directorios CUDA 12.0 y 12.1 con NCCL 2.18.3.

• Se ha corregido el problema de carga de paquetes de NVIDIA Fabric Manager (FM) mencionado en la fecha de lanzamiento anterior, el 19 de julio de 2023.

• EFA se ha actualizado de la versión 1.22.1 a la 1.24.1.

• Se ha actualizado el controlador NVIDIA de la versión 525.85.12 a la 535.54.03.

• Se han añadido cambios en el estado C para deshabilitar el estado inactivo del procesador configurando el estado C máximo en C1. Este cambio se realiza configurando `intel_idle.max_cstate=1 processor.max_cstate=1` en los argumentos de arranque de Linux del archivo//grub etc/default

• AWS Compatibilidad con instancias EC2 P5:

  • Se agregó soporte para instancias EC2 P5 para flujos de trabajo que utilizan instancias únicas. node/instance Multi-node En una próxima versión se añadirá la compatibilidad (por ejemplo, para el entrenamiento con varios nodos) mediante el uso del complemento EFA (Elastic Fabric Adapter) y AWS OFI NCCL.

  • Utilice la versión de CUDA 11.8 o una superior para obtener un rendimiento óptimo.

  • Problema conocido: el paquete de NVIDIA Fabric Manager (FM) tarda en cargar en P5, los clientes tienen que esperar de 2 a 3 minutos hasta que se cargue FM tras iniciar la instancia de P5. Para comprobar si FM está iniciado, ejecute el comando sudo systemctl is-active nvidia-fabricmanager. Debe devolver active antes de iniciar cualquier flujo de trabajo. Esto se mejorará en una próxima versión.

• EFA se ha actualizado a la última versión 1.22.1.

• Se ha actualizado la versión NCCL para CUDA 12.1 a la 2.17.1.

• Añadido en///cuda-12.1 CUDA12.1 usr/local

• Se ha añadido compatibilidad con el Monitor de GPU para centros de datos de NVIDIA (DCGM) a través del paquete datacenter-gpu-manager.

  • Puede comprobar el estado de este servicio mediante la siguiente consulta: sudo systemctl status nvidia-dcgm.

• Los almacenes efímeros de instancias de NVMe ahora se montan automáticamente en las instancias EC2 compatibles y se puede acceder al almacenamiento en la carpeta//nvme/. opt/dlami Puede comprobar o modificar este servicio de las siguientes maneras:

  • Compruebe el estado del servicio NVMe: sudo systemctl status dlami-nvme.

  • Para acceder al servicio o modificarlo: /opt/aws/dlami/bin/nvme_ephemeral_drives.sh

• Los volúmenes NVMe proporcionaron soluciones de almacenamiento más rápidas y eficientes para flujos de trabajo de alto rendimiento que requieren un gran rendimiento de IOPS. Los almacenes de instancias NVMe efímeros se incluyen en el costo de las instancias, por lo que este servicio no implica ningún costo adicional.

• Los almacenes de instancias NVMe solo se montarán en las instancias EC2 que los admitan. Para obtener información sobre las instancias EC2 con almacenes de instancias compatibles con NVMe, consulte los volúmenes de almacenes de instancias disponibles y valide su compatibilidad con NVMe.

• Para mejorar el rendimiento del disco y reducir las penalizaciones en la primera escritura, puede inicializar los almacenes de instancias (tenga en cuenta que este proceso puede tardar horas en función del tipo de instancia EC2). Cómo inicializar los volúmenes de almacenes de instancias en las instancias EC2

• NOTA: Los almacenes de instancias NVMe se montan en la instancia y no están conectados a la red como EBS. Es posible que los datos de estos volúmenes NVMe se pierdan al reiniciar o detener la instancia.

• Se actualizó el nombre DLAMI de AWS Deep Learning Base AMI GPU CUDA 11 (Ubuntu 20.04) $ {YYYY-MM-DD} a Deep Learning Base GPU AMI (Ubuntu 20.04) $ {} YYYY-MM-DD

  • Tenga en cuenta que, durante un mes a partir de esta publicación, seguiremos ofreciendo la DLAMI más reciente con el de la AMI anterior para cualquier soporte necesario. Los clientes pueden actualizar sus paquetes de sistema operativo mediante apt-get update && apt-get upgrade para aplicar los parches de seguridad.

• Se actualizó la ruta del plugin AWS OFI NCCL desde hasta /usr/local/cuda-xx.x/efa/ /opt/aws-ofi-nccl/

• Se actualizó NCCL a una rama GIT personalizada de la versión 2.16.2, creada en colaboración con un equipo de NCCL para todas las versiones de CUDA. AWS Funciona AWS mejor en la infraestructura.

• Añadido CUDA12.0 en//usr/local/cuda-12.0

• Se ha añadido AWS FSx

• Se agregó soporte para la versión 3.9 de Python en//python3.9 usr/bin

  • Tenga en cuenta que este cambio no reemplaza el sistema predeterminado Python, python3 seguirá apuntando al sistema. Python3.8

  • Python3.9 se puede acceder a él mediante los siguientes comandos:

    /usr/bin/python3.9
    python3.9

• Se eliminaron CUDA11.0-11.1 de/usr/local/cuda-11.x/ porque no están siendo utilizados por ninguna versión del marco compatible según la política de soporte del marco. Política de compatibilidad de DLAMI

• En esta versión se añade compatibilidad con la nueva instancia de EC2 p4de.24xlarge.

  • aws-efa-installerActualizado a la versión 1.15.2

  • Se actualizó aws-ofi-nccl a la versión 1.3.0-aws que incluye la topología de p4de.24xlarge.

• Se ha actualizado la versión de EFA de 1.15.0 a 1.15.1.

• Primera versión