Pré-requisitos para a criação de um endpoint interativo no Amazon EMR no EKS - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Pré-requisitos para a criação de um endpoint interativo no Amazon EMR no EKS

Esta seção descreve os pré-requisitos para configurar um endpoint interativo que o EMR Studio poderá usar para se conectar a um cluster do Amazon EMR no EKS e executar workloads interativas.

AWS CLI

Siga as etapas em Instalar ou atualizar para a versão mais recente do AWS CLI para instalar a versão mais recente do AWS Command Line Interface (AWS CLI).

Instalação do eksctl

Siga as etapas descritas em Instalar o kubectl para instalar a versão mais recente do eksctl. Se você estiver usando a versão 1.22 ou versões posteriores do Kubernetes para o cluster do Amazon EKS, use uma versão do eksctl superior a 0.117.0.

Cluster do Amazon EKS

Crie um cluster do Amazon EKS. Registre o cluster como um cluster virtual com o Amazon EMR no EKS. Confira abaixo os requisitos e as considerações para este cluster:

  • O cluster deve estar na mesma Amazon Virtual Private Cloud (VPC) que seu EMR Studio.

  • O cluster deve ter, no mínimo, uma sub-rede privada para ativar os endpoints interativos, vincular repositórios baseados em Git e iniciar o Application Load Balancer no modo privado.

  • Deve existir, no mínimo, uma sub-rede privada em comum entre o EMR Studio e o cluster do Amazon EKS usado para registrar o cluster virtual. Isso garante que seu endpoint interativo apareça como uma opção nos WorkSpaces do Studio e ativa a conectividade do Studio com o Application Load Balancer.

    Existem dois métodos que você pode escolher para conectar o Studio e o cluster do Amazon EKS:

    • Criar um cluster do Amazon EKS e associá-lo às sub-redes que pertencem ao seu EMR Studio.

    • Como alternativa, crie um EMR Studio e especifique as sub-redes privadas para o cluster do Amazon EKS.

  • ARM otimizado para Amazon EKS O Amazon Linux não é AMIs compatível com o Amazon EMR em endpoints interativos EKS.

  • Os endpoints interativos funcionam com clusters do Amazon EKS que usam versões do Kubernetes até 1.30.

  • Somente grupos de nós gerenciados do Amazon EKS são compatíveis.

Concessão de acesso ao cluster para o Amazon EMR no EKS

Use as etapas em Concessão de acesso ao cluster para o Amazon EMR no EKS para conceder acesso a um namespace específico em seu cluster para o Amazon EMR no EKS.

Ativação de IRSA no cluster do Amazon EKS

Para ativar os perfis do IAM para contas de serviço (IRSA) no cluster do Amazon EKS, siga as etapas em Habilitação de perfis do IAM para contas de serviço (IRSA).

Criação de um perfil de execução de trabalho do IAM

Você deve criar um perfil do IAM para executar workloads em endpoints interativos do Amazon EMR no EKS. Referimo-nos a esse perfil do IAM como perfil de execução de trabalho nesta documentação. Esse perfil do IAM é atribuído ao contêiner de endpoint interativo e aos contêineres de execução reais criados quando você envia trabalhos com o EMR Studio. Você precisará do nome do recurso da Amazon (ARN) do seu perfil de execução de trabalho para o Amazon EMR no EKS. Para isso, são necessárias duas etapas:

Concessão de acesso ao Amazon EMR no EKS para os usuários

A entidade do IAM (usuário ou função) que faz a solicitação para criar um endpoint interativo também deve ter as seguintes emr-containers permissões EC2 e Amazon. Siga as etapas descritas em Concessão de acesso ao Amazon EMR no EKS para os usuários para conceder as permissões que permitem que o Amazon EMR no EKS crie, gerencie e exclua os grupos de segurança que limitam o tráfego de entrada para o balanceador de carga do seu endpoint interativo.

As seguintes permissões de emr-containers permitem que o usuário execute operações básicas do endpoint interativo:

"ec2:CreateSecurityGroup", "ec2:DeleteSecurityGroup", "ec2:AuthorizeSecurityGroupEgress", "ec2:AuthorizeSecurityGroupIngress", "ec2:RevokeSecurityGroupEgress", "ec2:RevokeSecurityGroupIngress" "emr-containers:CreateManagedEndpoint", "emr-containers:ListManagedEndpoints", "emr-containers:DescribeManagedEndpoint", "emr-containers:DeleteManagedEndpoint"

Registro do cluster do Amazon EKS com o Amazon EMR

Configure um cluster virtual e mapeie-o para o namespace no cluster do Amazon EKS no qual você deseja executar os trabalhos. Para clusters AWS Fargate somente, use o mesmo namespace para o Amazon EMR no cluster virtual EKS e para o perfil Fargate.

Para obter informações sobre como configurar um cluster virtual do Amazon EMR no EKS, consulte Registro do cluster do Amazon EKS com o Amazon EMR.

Implemente AWS o Load Balancer Controller no cluster Amazon EKS

É necessário um AWS Application Load Balancer para seu cluster Amazon EKS. Você precisa configurar somente um controlador do Application Load Balancer por cluster do Amazon EKS. Para obter informações sobre como configurar o controlador do AWS Application Load Balancer, consulte Instalando o complemento Load AWS Balancer Controller no Guia do usuário do Amazon EKS.