Conditions préalables à la création d'un point de terminaison interactif sur Amazon EMR le EKS - Amazon EMR

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Conditions préalables à la création d'un point de terminaison interactif sur Amazon EMR le EKS

Cette section décrit les conditions requises pour configurer un point de terminaison interactif que EMR Studio peut utiliser pour se connecter à un EKS cluster Amazon EMR on et exécuter des charges de travail interactives.

AWS CLI

Suivez les étapes décrites dans Installer ou mettre à jour vers la dernière version du AWS CLI pour installer la dernière version du AWS Command Line Interface (AWS CLI).

Installation d'eksctl

Suivez les étapes décrites dans Installer kubectl pour installer la dernière version d'eksctl. Si vous utilisez Kubernetes version 1.22 ou ultérieure pour votre EKS cluster Amazon, utilisez une version eksctl supérieure à 0.117.0.

EKSCluster Amazon

Créez un EKS cluster Amazon. Enregistrez le cluster en tant que cluster virtuel avec Amazon EMR activéEKS. Les exigences et considérations pour ce cluster sont les suivantes :

  • Le cluster doit se trouver dans le même Amazon Virtual Private Cloud (VPC) que votre EMR studio.

  • Le cluster doit disposer d'au moins un sous-réseau privé pour activer les points de terminaison interactifs, pour lier les référentiels Git et pour lancer l'équilibreur de charge Application Load Balancer en mode privé.

  • Il doit exister au moins un sous-réseau privé commun entre votre EMR studio et le EKS cluster Amazon que vous utilisez pour enregistrer votre cluster virtuel. Ainsi, votre point de terminaison interactif apparaît comme une option dans vos espaces de travail Studio et active la connectivité de Studio à l'équilibreur de charge Application Load Balancer.

    Vous avez le choix entre deux méthodes pour connecter votre studio à votre EKS cluster Amazon :

    • Créez un EKS cluster Amazon et associez-le aux sous-réseaux appartenant à votre EMR studio.

    • Vous pouvez également créer un EMR studio et spécifier les sous-réseaux privés de votre EKS cluster Amazon.

  • Amazon Linux EKS optimisé pour ARM Amazon AMIs n'est pas pris en charge pour Amazon EMR sur les points de terminaison EKS interactifs.

  • Les points de terminaison interactifs fonctionnent avec les EKS clusters Amazon qui utilisent des versions de Kubernetes antérieures à 1.30.

  • Seuls les groupes de nœuds EKS gérés par Amazon sont pris en charge.

Accorder l'accès au cluster pour Amazon EMR sur EKS

Suivez les étapes décrites dans la section Accorder l'accès EKS au cluster pour Amazon EMR pour autoriser Amazon EMR à EKS accéder à un espace de noms spécifique de votre cluster.

Activer IRSA sur le EKS cluster Amazon

Pour activer IAM les rôles pour les comptes de service (IRSA) sur le EKS cluster Amazon, suivez les étapes de la section Activer IAM les rôles pour les comptes de service (IRSA).

Créer un IAM rôle d'exécution des tâches

Vous devez créer un IAM rôle pour exécuter des charges de travail sur Amazon EMR sur des points de terminaison EKS interactifs. Dans cette documentation, nous appelons ce IAM rôle le rôle d'exécution des tâches. Ce IAM rôle est attribué à la fois au conteneur de point de terminaison interactif et aux conteneurs d'exécution réels créés lorsque vous soumettez des tâches avec EMR Studio. Vous aurez besoin du nom de ressource Amazon (ARN) de votre rôle d'exécution de tâches pour Amazon EMR onEKS. Deux étapes sont nécessaires pour cela :

Accorder aux utilisateurs l'accès à Amazon EMR sur EKS

L'IAMentité (utilisateur ou rôle) qui fait la demande de création d'un point de terminaison interactif doit également disposer des autorisations Amazon EC2 et emr-containers des autorisations suivantes. Suivez les étapes décrites dans la section Accorder aux utilisateurs l'accès à Amazon EMR sur EKS pour accorder ces autorisations qui permettent EKS à Amazon EMR de créer, de gérer et de supprimer les groupes de sécurité qui limitent le trafic entrant à l'équilibreur de charge de votre point de terminaison interactif.

Les autorisations emr-containers suivantes permettent à l'utilisateur d'effectuer des opérations de base sur le point de terminaison interactif :

"ec2:CreateSecurityGroup", "ec2:DeleteSecurityGroup", "ec2:AuthorizeSecurityGroupEgress", "ec2:AuthorizeSecurityGroupIngress", "ec2:RevokeSecurityGroupEgress", "ec2:RevokeSecurityGroupIngress" "emr-containers:CreateManagedEndpoint", "emr-containers:ListManagedEndpoints", "emr-containers:DescribeManagedEndpoint", "emr-containers:DeleteManagedEndpoint"

Enregistrez le EKS cluster Amazon auprès d'Amazon EMR

Configurez un cluster virtuel et mappez-le à l'espace de noms du EKS cluster Amazon dans lequel vous souhaitez exécuter vos tâches. Pour les AWS Fargate clusters réservés uniquement, utilisez le même espace de noms pour le cluster Amazon EMR on EKS Virtual et le profil Fargate.

Pour plus d'informations sur la configuration d'un cluster EKS virtuel AmazonEMR, consultezEnregistrez le EKS cluster Amazon auprès d'Amazon EMR.

Déployer le AWS Load Balancer Controller sur le cluster Amazon EKS

Un AWS Application Load Balancer est requis pour votre cluster AmazonEKS. Il vous suffit de configurer un contrôleur Application Load Balancer par cluster AmazonEKS. Pour plus d'informations sur la configuration du contrôleur AWS Application Load Balancer, consultez la section Installation du module complémentaire AWS Load Balancer Controller dans le guide de l'utilisateur Amazon EKS.