Uso del escalado administrado en Amazon EMR

A continuación Regiones de AWS, el escalado gestionado de Amazon EMR está disponible con Amazon EMR 6.14.0 y versiones posteriores:

A continuación Regiones de AWS, el escalado gestionado de Amazon EMR está disponible con Amazon EMR 5.30.0 y 6.1.0 y versiones posteriores:

Escalado administrado de Amazon EMR solo funciona con aplicaciones YARN, como Spark, Hadoop, Hive y Flink. No admite aplicaciones que no estén basadas en YARN, como Presto y. HBase

Mínimo (MinimumCapacityUnits): el límite inferior de la EC2 capacidad permitida en un clúster. Se mide mediante núcleos de unidades de procesamiento central virtual (vCPU) o instancias para grupos de instancias. Se mide mediante unidades para flotas de instancias.

Máximo (MaximumCapacityUnits): el límite superior de la EC2 capacidad permitida en un clúster. Se mide mediante núcleos de unidades de procesamiento central virtual (vCPU) o instancias para grupos de instancias. Se mide mediante unidades para flotas de instancias.

Límite bajo demanda (MaximumOnDemandCapacityUnits) (opcional): límite superior de la EC2 capacidad permitida para el tipo de mercado bajo demanda en un clúster. Si no se especifica este parámetro, se establece en el valor predeterminado de MaximumCapacityUnits.

Número máximo de nodos principales (MaximumCoreCapacityUnits) (opcional): límite superior de la EC2 capacidad permitida para el tipo de nodo principal de un clúster. Si no se especifica este parámetro, se establece en el valor predeterminado de MaximumCapacityUnits.

El escalado gestionado se admite en las versiones limitadas Regiones de AWS y de Amazon EMR. Para obtener más información, consulte Disponibilidad de Escalado administrado.

Debe configurar los parámetros obligatorios para Escalado administrado de Amazon EMR. Para obtener más información, consulte Parámetros de escalado administrado.

Para utilizar el escalado administrado, el proceso de recopilación de métricas debe poder conectarse al punto de conexión de la API pública para el escalado administrado en API Gateway. Si utiliza un nombre de DNS privado con Amazon Virtual Private Cloud, el escalado administrado no funcionará correctamente. Para garantizar que el escalado administrado funcione, se recomienda que realice una de las siguientes acciones:

Si sus trabajos de YARN se ralentizan de forma intermitente durante la reducción vertical, y los registros de YARN Resource Manager indican que la mayoría de sus nodos estaban en la lista de denegación durante ese tiempo, puede ajustar el límite de tiempo de espera para la retirada.

Reduzca el valor de spark.blacklist.decommissioning.timeout de una hora a un minuto para que el nodo esté disponible para que otros contenedores pendientes puedan continuar con el procesamiento de las tareas.

También debe establecer YARN.resourcemanager.nodemanager-graceful-decommission-timeout-secs en un valor mayor para garantizar que Amazon EMR no fuerce la terminación del nodo mientras la “Tarea de Spark” más larga siga ejecutándose en el nodo. El valor predeterminado actual son 60 minutos, lo que significa que YARN fuerza la terminación del contenedor transcurridos 60 minutos una vez que el nodo entra en el estado de retirada.

En el siguiente ejemplo de la línea de registro de YARN Resource Manager, se muestran los nodos agregado al estado de retirada:

2021-10-20 15:55:26,994 INFO org.apache.hadoop.YARN.server.resourcemanager.DefaultAMSProcessor (IPC Server handler 37 on default port 8030): blacklist are updated in Scheduler.blacklistAdditions: [ip-10-10-27-207.us-west-2.compute.internal, ip-10-10-29-216.us-west-2.compute.internal, ip-10-10-31-13.us-west-2.compute.internal, ... , ip-10-10-30-77.us-west-2.compute.internal], blacklistRemovals: []

Consulte más información sobre cómo Amazon EMR se integra con la lista de denegación de YARN durante la retirada de nodos, los casos en los que los nodos de Amazon EMR se pueden agregar a la lista de denegación y cómo configurar el comportamiento de retirada de nodos de Spark.

La sobreutilización de los volúmenes de EBS puede provocar problemas de Escalado administrado. Le recomendamos que mantenga el volumen de EBS por debajo del 90 % de utilización. Para obtener más información, consulte Comportamiento y opciones de almacenamiento de instancias en Amazon EMR.

CloudWatch Las métricas de Amazon son fundamentales para que funcione el escalado gestionado de Amazon EMR. Te recomendamos que supervises de cerca CloudWatch las estadísticas de Amazon para asegurarte de que no falten datos. Para obtener más información sobre cómo configurar CloudWatch las alarmas para detectar las métricas faltantes, consulta Uso de CloudWatch las alarmas de Amazon.

Las operaciones de escalado administrado en los clústeres 5.30.0 y 5.30.1 sin Presto instalado pueden provocar errores en las aplicaciones o provocar que un grupo de instancias o una flota de instancias uniformes permanezcan en estado ARRESTED, especialmente cuando una operación de reducción vertical va seguida inmediatamente de una operación de escalado vertical.

Como solución alternativa, elija Presto como aplicación para instalar cuando cree un clúster con las versiones 5.30.0 y 5.30.1 de Amazon EMR, incluso si su trabajo no requiere Presto.

Al establecer el nodo principal máximo y el límite bajo demanda de Escalado administrado de Amazon EMR, tenga en cuenta las diferencias entre los grupos de instancias y las flotas de instancias. Cada grupo de instancias se compone del mismo tipo de instancia y las mismas opciones de compra para las instancias: bajo demanda o de spot. Para cada flota de instancias, puede especificar hasta cinco tipos de instancia que se pueden aprovisionar como instancias bajo demanda e instancias de spot. Para obtener más información, consulte Crear un clúster con las flotas de instancias o grupos de instancias uniformes, Opciones de las flotas de instancias y Escenarios de asignación de nodos.

Con Amazon EMR 5.30.0 y versiones posteriores, si quita la regla de salida predeterminada Permitir todo a 0.0.0.0/ para el grupo de seguridad principal, debe agregar una regla que permita la conectividad TCP de salida a su grupo de seguridad para el acceso al servicio en el puerto 9443. El grupo de seguridad para el acceso al servicio también debe permitir el tráfico TCP entrante en el puerto 9443 desde el grupo de seguridad principal. Para más información sobre la configuración de grupos de seguridad, consulte Grupo de seguridad administrado por Amazon EMR para la instancia principal (subredes privadas).

Puede utilizarlo AWS CloudFormation para configurar el escalado gestionado de Amazon EMR. Para obtener más información, consulte AWS::EMR::Cluster en la Guía del usuario de AWS CloudFormation .

Si utiliza nodos Spot, considere la posibilidad de utilizar etiquetas de nodo para evitar que Amazon EMR elimine los procesos de aplicación cuando Amazon EMR elimine los nodos Spot. Para obtener más información sobre las etiquetas de nodos, consulte Nodos de tareas.

No se admite el etiquetado de nodos de forma predeterminada en Amazon EMR, versión 6.15 o versiones anteriores. Para más información, consulte Descripción de los nodos principales, básicos y de tareas.

Si utiliza Amazon EMR, versión 6.15 o versiones anteriores, solo puede asignar etiquetas de nodo por tipo de nodo, como nodos básicos y nodos de tareas. Sin embargo, si utiliza Amazon EMR versión 7.0 o posteriores, puede configurar etiquetas de nodos por tipo de nodo y tipo de mercado, como “bajo demanda” y “Spot”.

Si la demanda de procesos de aplicación aumenta y la demanda de ejecutores disminuye al restringir el proceso de aplicación a los nodos básicos, puede volver a añadir los nodos básicos y eliminar los nodos de tareas en la misma operación de cambio de tamaño. Para obtener más información, consulte Descripción de la estrategia y los escenarios de asignación de nodos.

Amazon EMR no etiqueta los nodos de tareas, por lo que no puede configurar las propiedades de YARN para restringir los procesos de la aplicación únicamente a los nodos de tareas. Sin embargo, si desea utilizar los tipos de mercado como etiquetas de nodos, puede utilizar las etiquetas SPOT o ON_DEMAND para ubicar los procesos de la aplicación. No recomendamos utilizar nodos de Spot para los procesos principales de la aplicación.

Al utilizar etiquetas de nodo, el total de unidades en ejecución del clúster puede superar temporalmente el máximo del conjunto del cómputo establecido en su política de escalado administrado, mientras que Amazon EMR retira algunas de sus instancias. El total de unidades solicitadas siempre se mantendrá igual o inferior al cómputo máximo de su política.

El escalado administrado solo admite las etiquetas de nodo ON_DEMAND y SPOT o CORE y TASK. No se admiten las etiquetas de nodo personalizadas.

Amazon EMR crea etiquetas de nodo al crear el clúster y aprovisionar los recursos. Amazon EMR no admite la adición de etiquetas de nodo al volver a configurar el clúster. Tampoco puede modificar las etiquetas de los nodos al configurar el escalado administrado después de lanzar el clúster.

El escalado administrado escala los nodos básicos y de tareas de forma independiente en función del proceso de aplicación y de la demanda del ejecutor. Para evitar problemas de pérdida de datos en el HDFS durante la reducción vertical básica, siga la práctica estándar para los nodos básicos. Para obtener más información sobre las prácticas recomendadas sobre los nodos básicos y la replicación de HDFS, consulte Consideraciones y prácticas recomendadas.

No puede colocar tanto el proceso de la aplicación como los ejecutores únicamente en el nodo core o ON_DEMAND. Si quiere añadir tanto el proceso de la aplicación como los ejecutores en uno de los nodos, no utilice la configuración yarn.node-labels.am.default-node-label-expression.

Por ejemplo, para colocar el proceso de la aplicación y los ejecutores en nodos ON_DEMAND, defina el cómputo máximo en el mismo valor que el máximo del nodo ON_DEMAND. Elimine también la configuración yarn.node-labels.am.default-node-label-expression.

Para añadir tanto el proceso de la aplicación como los ejecutores en los nodos core, elimine la configuración yarn.node-labels.am.default-node-label-expression.

Cuando utilice el escalado administrado con etiquetas de nodo, establezca la propiedad yarn.scheduler.capacity.maximum-am-resource-percent: 1 si planea ejecutar varias aplicaciones en paralelo. De este modo, se asegura de que los procesos de su aplicación utilicen al máximo los nodos ON_DEMAND o CORE disponibles.

Si utiliza el escalado administrado con etiquetas de nodos, establezca la propiedad yarn.resourcemanager.decommissioning.timeout en un valor que sea más largo que el de la aplicación que se ejecute durante más tiempo en el clúster. De este modo, se reduce la posibilidad de que el escalado administrado por Amazon EMR necesite reprogramar las aplicaciones para que vuelvan a ponerse en marcha los nodos CORE o ON_DEMAND.