Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Elegir un tipo de DLAMI instancia
De manera más general, tenga en cuenta lo siguiente al elegir un tipo de instancia para unDLAMI.
Si eres nuevo en el mundo del aprendizaje profundo, una instancia con una sola GPU podría adaptarse a tus necesidades.
Si te preocupas por tu presupuesto, puedes usar instancias CPU exclusivas.
Si busca optimizar el alto rendimiento y la rentabilidad para la inferencia de modelos de aprendizaje profundo, puede utilizar instancias con chips AWS Inferentia.
Si buscas una GPU instancia de alto rendimiento con una CPU arquitectura basada en ARM64, puedes usar el tipo de instancia G5g.
Si está interesado en ejecutar un modelo previamente entrenado para inferencias y predicciones, puede adjuntar una Amazon Elastic Inference a su instancia de Amazon. EC2 Amazon Elastic Inference le da acceso a un acelerador con una fracción de a. GPU
-
Para los servicios de inferencia de gran volumen, una única CPU instancia con mucha memoria o un clúster de dichas instancias podría ser una mejor solución.
Si está utilizando un modelo de gran tamaño con muchos datos o un tamaño de lote elevado, necesitará una instancia más grande con más memoria. También puede distribuir el modelo en un clúster de. GPUs El uso de una instancia con menos memoria puede ser una solución más adecuada para usted si disminuye el tamaño del lote. Sin embargo, puede afectar a la precisión y a la velocidad de entrenamiento.
Si está interesado en ejecutar aplicaciones de aprendizaje automático mediante la biblioteca de comunicaciones NVIDIA colectivas (NCCL) que requieren altos niveles de comunicación entre nodos a gran escala, puede utilizar Elastic Fabric Adapter (EFA).
Para obtener más información sobre las instancias, consulte Tipos de instancias
Los siguientes temas proporcionan información acerca de las consideraciones del tipo de instancia.
importante
El aprendizaje profundo AMIs incluye controladores, software o kits de herramientas desarrollados, propiedad o proporcionados por la NVIDIA empresa. Aceptas usar estos NVIDIA controladores, software o kits de herramientas únicamente en las EC2 instancias de Amazon que incluyan NVIDIA hardware.
Temas
Precios de la DLAMI
Los marcos de aprendizaje profundo que se incluyen DLAMI son gratuitos y cada uno tiene sus propias licencias de código abierto. Aunque el software incluido en el DLAMI es gratuito, tienes que pagar por el hardware de la EC2 instancia de Amazon subyacente.
Algunos tipos de EC2 instancias de Amazon están etiquetados como gratuitos. Es posible ejecutarlo DLAMI en una de estas instancias gratuitas. Esto significa que el uso de DLAMI es totalmente gratuito si solo se utiliza la capacidad de esa instancia. Si necesitas una instancia más potente con más CPU núcleos, más espacio en discoRAM, más o una o másGPUs, entonces necesitas una instancia que no pertenezca a la clase de instancias de nivel libre.
Para obtener más información sobre la elección de instancias y los precios, consulta EC2los precios de Amazon
Disponibilidad por región de DLAMI
Cada región admite tipos de instancias distintos y, a menudo, un tipo de instancia tiene un costo ligeramente distinto en diferentes regiones. DLAMIsno están disponibles en todas las regiones, pero es posible DLAMIs copiarlos a la región que elijas. Consulte Copiar un AMI ventilador para obtener más información. Fíjese en la lista de selección de regiones y asegúrese de que elige una región que esté cerca de usted o de sus clientes. Si planea usar más de uno DLAMI y, posiblemente, crear un clúster, asegúrese de usar la misma región para todos los nodos del clúster.
Para obtener más información sobre las regiones, visita los puntos de conexión de Amazon EC2 de EC2 .
Tema siguiente
