View a markdown version of this page

Installation de packages sur le cluster Amazon EKS à l’aide de Helm - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Installation de packages sur le cluster Amazon EKS à l’aide de Helm

Avant de créer un SageMaker HyperPod cluster et de l'associer à un cluster Amazon EKS, vous devez installer les packages à l'aide de Helm, un gestionnaire de packages pour Kubernetes. Helm est un outil open source permettant de configurer un processus d’installation pour les clusters Kubernetes. Il permet l'automatisation et la rationalisation des installations de dépendances et simplifie les différentes configurations nécessaires à la préparation du cluster Amazon EKS en tant qu'orchestrateur (plan de contrôle) d'un cluster. SageMaker HyperPod

L'équipe SageMaker HyperPod de service fournit un package Helm Chart, qui regroupe les dépendances clés telles que les plug-ins, les device/EFA plug-ins, Kubeflow Training Operator et les configurations d'autorisation associées.

Important

Cette étape d’installation de Helm est requise. Si vous configurez votre cluster Amazon EKS à l’aide de la Console de gestion AWS ou d’CloudFormation, vous pouvez ignorer cette étape, car l’installation est gérée automatiquement pendant le processus de configuration. Si vous configurez le cluster directement à l’aide des API, utilisez les Charts de Helm fournis pour configurer votre cluster Amazon EKS. Si vous ne configurez pas votre cluster Amazon EKS à l'aide du graphique Helm fourni, il est possible que le SageMaker HyperPod cluster ne fonctionne pas correctement ou que le processus de création échoue complètement. Le nom de l’espace de noms aws-hyperpod ne peut pas être modifié.

  1. Installez Helm sur votre ordinateur local.

  2. Téléchargez les graphiques Helm fournis par SageMaker HyperPod situé helm_chart/HyperPodHelmChart dans le référentiel SageMaker HyperPod CLI.

    git clone https://github.com/aws/sagemaker-hyperpod-cli.git
cd sagemaker-hyperpod-cli/helm_chart

  3. Mettez à jour les dépendances des Charts de Helm, prévisualisez les modifications qui seront apportées à votre cluster Kubernetes et installez les Charts de Helm.

    helm dependencies update HyperPodHelmChart
    helm install hyperpod-dependencies HyperPodHelmChart --namespace kube-system --dry-run
    helm install hyperpod-dependencies HyperPodHelmChart --namespace kube-system

En résumé, l’installation de Helm configure différents composants pour votre cluster Amazon EKS, notamment la planification des tâches et la mise en file d’attente (Kueue), la gestion du stockage, l’intégration MLflow et Kubeflow. En outre, les graphiques installent les composants suivants pour l'intégration aux fonctionnalités de résilience du SageMaker HyperPod cluster, qui sont des composants obligatoires.

  • Agent de surveillance de l'état  : cette opération installe l'agent de surveillance de l'état fourni par. SageMaker HyperPod Cela est nécessaire si vous souhaitez que votre HyperPod cluster soit surveillé. Health-monitoring les agents sont fournis sous forme d'images Docker comme suit. Dans les Charts de Helm fournis, dans values.yaml, l’image est prédéfinie. L'agent prend en charge GPU-based les Trainium-accelerator-based instances et les instances (trn1trn1n,,inf2). Il est installé dans l’espace de noms aws-hyperpod. Pour trouver votre URI compatible, consultez la section Régions prises en charge et leurs URI ECR dans le référentiel sagemaker-hyperpod-cli sur. GitHub

  • Contrôle de santé approfondi  : cela configure aClusterRole, a ServiceAccount (deep-health-check-service-account) dans l'aws-hyperpodespace de noms et a ClusterRoleBinding pour activer la fonctionnalité de vérification SageMaker HyperPod approfondie de l'état. Pour plus d'informations sur le fichier Kubernetes RBAC pour un contrôle de santé approfondi, consultez le fichier de configuration deep-health-check-rbac.yaml dans le référentiel CLI. SageMaker HyperPod GitHub

  • job-auto-restart- Cela configure aClusterRole, a ServiceAccount (job-auto-restart) dans l'aws-hyperpodespace de noms, et aClusterRoleBinding, pour activer la fonction de redémarrage automatique pour les tâches de PyTorch formation dans. SageMaker HyperPod Pour plus d'informations sur le fichier Kubernetes RBAC pourjob-auto-restart, consultez le fichier de configuration job-auto-restart-rbac.yaml dans le référentiel CLI. SageMaker HyperPod GitHub

  • Opérateur MPI Kubeflow — L'opérateur MPI est un opérateur Kubernetes qui simplifie l'exécution de charges de travail distribuées d'apprentissage automatique (ML) et de High-Performance calcul (HPC) à l'aide de l'interface de transmission de messages (MPI) sur les clusters Kubernetes. Il installe MPI Operator v0.5. Il est installé dans l’espace de noms mpi-operator.

  • nvidia-device-plugin : il s’agit d’un plug-in d’appareil Kubernetes qui vous permet d’exposer automatiquement les GPU NVIDIA pour qu’ils soient consommés par les conteneurs dans votre cluster Amazon EKS. Il permet à Kubernetes d’allouer et de fournir l’accès aux GPU demandés pour ce conteneur. Obligatoire lors de l’utilisation d’un type d’instance avec GPU.

  • neuron-device-plugin : il s’agit d’un plug-in d’appareil Kubernetes qui vous permet d’exposer automatiquement les puces AWS Inferentia pour qu’elles soient consommées par les conteneurs dans votre cluster Amazon EKS. Il permet à Kubernetes d'accéder aux puces AWS Inferentia sur les nœuds du cluster et de les utiliser. Obligatoire lors de l’utilisation d’un type d’instance Neuron.

  • aws-efa-k8s-device-plugin— Il s'agit d'un plug-in pour appareil Kubernetes qui permet d'utiliser AWS Elastic Fabric Adapter (EFA) sur les clusters Amazon EKS. EFA est un périphérique réseau qui fournit une communication à faible latence et à haut débit entre les instances d’un cluster. Obligatoire lors de l’utilisation d’un type d’instance compatible EFA.

Pour plus d'informations sur la procédure d'installation à l'aide des graphiques Helm fournis, consultez le fichier README dans le référentiel SageMaker HyperPod CLI.