Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Gouvernance des tâches pour Interactive Spaces sur HyperPod

Cette section explique comment optimiser vos clusters Amazon SageMaker HyperPod EKS partagés pour les charges de travail Interactive Spaces. Vous apprendrez à configurer les fonctionnalités de gouvernance des tâches de Kueue, notamment la gestion des quotas, la planification des priorités et les politiques de partage des ressources, afin de garantir que vos charges de travail de développement s'exécutent sans interruption tout en maintenant une répartition équitable entre les activités de formation, d'évaluation et de traitement par lots de vos équipes.

Comment fonctionne la gestion de l'espace interactif

Pour gérer efficacement les espaces interactifs dans les clusters HyperPod EKS partagés, implémentez les stratégies de gouvernance des tâches suivantes en utilisant les fonctionnalités existantes de Kueue.

Configuration des classes prioritaires

Définissez des classes de priorité dédiées pour les espaces interactifs avec des poids élevés (par exemple 100) afin de garantir que les modules de développement sont admis et planifiés avant les autres types de tâches. Cette configuration permet à Interactive Spaces de préempter les tâches les moins prioritaires lors du chargement du cluster, ce qui est essentiel pour maintenir des flux de développement ininterrompus.

Dimensionnement et allocation des quotas

Réservez suffisamment de ressources de calcul à votre équipe ClusterQueue pour gérer les charges de travail de développement attendues. Pendant les périodes où les ressources de développement sont inactives, les ressources de quota non utilisées peuvent être temporairement allouées aux tâches des autres équipes. Lorsque la demande de développement augmente, ces ressources empruntées peuvent être récupérées pour hiérarchiser les modules Interactive Space en attente.

Stratégies de partage des ressources

Choisissez entre deux approches de partage de quotas en fonction de vos besoins :

Contrôle strict des ressources  : désactivez les prêts et les emprunts par quotas pour garantir que la capacité de calcul réservée est toujours disponible pour vos espaces interactifs. Cette approche nécessite de dimensionner des quotas suffisamment importants pour gérer indépendamment les pics de demande de développement et peut entraîner des nœuds inactifs pendant les périodes de faible utilisation.

Partage flexible des ressources  : activez le prêt de quotas pour permettre aux autres équipes d'utiliser les ressources de développement inutilisées en cas de besoin. Cependant, désactivez l'emprunt pour vous assurer que Interactive Spaces ne fonctionne jamais avec des ressources empruntées et récupérables, ce qui pourrait entraîner des expulsions inattendues.

Intra-Team Préemption

Activez la préemption intra-équipe lorsque vous exécutez des charges de travail mixtes (formation, évaluation et espaces interactifs) avec le même quota. Cela permet à Kueue de devancer les tâches les moins prioritaires au sein de votre équipe afin d'accueillir les modules Interactive Space prioritaires, garantissant ainsi que les travaux de développement peuvent se poursuivre sans dépendre d'emprunts de quotas externes.

Exemple de configuration de l'espace interactif

L'exemple suivant montre comment Kueue gère les ressources de calcul pour Interactive Spaces dans un SageMaker HyperPod cluster Amazon partagé.

Configuration du cluster et configuration des politiques

Votre cluster possède la configuration suivante :

Le pool de processeurs partagé utilise cette politique de priorité :

Kueue applique des quotas et des classes de priorité aux équipes, en activant la préemption et en désactivant l'emprunt pour l'équipe de développement.

État initial : utilisation normale du cluster

Dans le cadre d’opérations normales :

Pic de développement : Team Alpha a besoin de ressources supplémentaires

Lorsque les développeurs de Team Alpha ont besoin d'intensifier leurs travaux de développement, les modules Interactive Space supplémentaires nécessitent 4 processeurs supplémentaires. Kueue détecte que les nouveaux pods sont :

Le processus de réponse de Kueue

Kueue suit un processus en trois étapes pour allouer les ressources :

Cette approche donne la priorité aux espaces interactifs tout en maintenant les limites des quotas des équipes et en empêchant le travail de développement de s'exécuter sur des ressources empruntées instables.