Introducción a las instancias aceleradas por GPU - Amazon Elastic Compute Cloud

Introducción a las instancias aceleradas por GPU

Los tipos de instancias aceleradas por GPU de quinta generación, como las que se muestran en la siguiente lista, ofrecen las capacidades de mayor rendimiento para aplicaciones de aprendizaje profundo y computación de alto rendimiento (HPC). Seleccione el enlace del tipo de instancia para obtener más información sobre las capacidades.

Para obtener una lista completa de las especificaciones de los tipos de instancias aceleradas, consulte Computación acelerada en la referencia de tipos de instancias de Amazon EC2.

Configuración de software

La forma más sencilla de empezar con los tipos de instancias aceleradas por GPU de quinta generación es iniciar una instancia mediante una AWS Deep Learning AMI que está preconfigurada con todo el software necesario. Para conocer las últimas AWS Deep Learning AMIs para su uso con tipos de instancias aceleradas por GPU, consulte AMI de GPU de base de aprendizaje profundo de AWS (Ubuntu 20.04).

Si necesita crear una AMI personalizada para iniciar instancias que alojen aplicaciones de aprendizaje profundo o HPC, le recomendamos que instale las siguientes versiones mínimas de software sobre la imagen base:

Software Tipo de instancia Versión mínima
Controlador de NVIDIA P5 530
P5e 550
CUDA P5, P5e 12.1
NVIDIA GDRCopy P5, P5e 2.3
Instalador EFA P5, P5e 1.24.1
NCCL P5, P5e 2.18.3
complemento aws-ofi-nccl P5, P5e 1.7.2-aws

También se recomienda configurar la instancia para que no utilice estados C más profundos. Para obtener más información, consulte High performance and low latency by limiting deeper C-states en la Guía del usuario de Amazon Linux 2. La última AMI de GPU de base de aprendizaje profundo de AWS está preconfigurada para no utilizar estados C más profundos.

Para obtener información sobre las redes y las configuraciones Elastic Fabric Adapter (EFA), consulte Maximizar el ancho de banda de la red en instancias de Amazon EC2 con varias tarjetas de red.

Recomendaciones específicas para Ubuntu 20.04

Las siguientes recomendaciones para Ubuntu 20.04 ayudan a evitar que los nombres de las interfaces sean impredecibles durante el arranque:

  • Asegúrese de que esté ejecutando systemd 245.4-4ubuntu3.19 o una versión posterior con el siguiente comando:

    systemd --version

  • Asegúrese de haber configurado GRUB:

    • Abra el archivo de configuración /etc/default/grub en un editor de texto.

    • Edite la entrada GRUB_CMDLINE_LINUX_DEFAULT para incluir net.naming-scheme=v247.

    • Reinicie la instancia mediante la ejecución de sudo update-grub.