O que acontece quando você envia um trabalho para uma Amazon EMR em um cluster EKS virtual - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

O que acontece quando você envia um trabalho para uma Amazon EMR em um cluster EKS virtual

Registrar a Amazon EMR com um namespace Kubernetes na Amazon cria um cluster virtual. EKS A Amazon EMR pode então executar cargas de trabalho de análise nesse namespace. Quando você usa o Amazon EMR on EKS para enviar trabalhos do Spark para o cluster virtual, a Amazon EMR on EKS solicita que o programador Kubernetes na Amazon agende pods. EKS

As etapas e o diagrama a seguir ilustram o EKS fluxo de trabalho da Amazon EMR on:

  • Use um EKS cluster Amazon existente ou crie um usando o utilitário de linha de comando eksctl ou o console da AmazonEKS.

  • Crie um cluster virtual registrando a Amazon EMR com um namespace em um cluster. EKS

  • Envie seu trabalho para o cluster virtual usando o AWS CLI ouSDK.

Amazon EMR em EKS empregos

Para cada trabalho que você executa, o Amazon EMR on EKS cria um contêiner com uma imagem base do Amazon Linux 2, Apache Spark e dependências associadas. Cada execução de trabalho ocorre em um pod que faz download do contêiner e começa a executá-lo. O pod é encerrado após o término do trabalho. Se a imagem de contêiner tiver sido implantada anteriormente no nó, uma imagem em cache será usada e o download será ignorado. Os contêineres sidecar, como encaminhadores de log ou de métricas, podem ser implantados no pod. Depois que o trabalho for encerrado, você ainda poderá depurá-lo usando a interface do aplicativo Spark no console da Amazon. EMR