Personnalisez les SageMaker HyperPod clusters à l'aide de scripts de cycle

Planifiez la manière dont vous souhaitez créer des nœuds Slurm sur un HyperPod cluster. Par exemple, si vous souhaitez configurer deux nœuds Slurm, vous devez configurer deux groupes d'instances dans un HyperPod cluster.

Préparez un provisioning_parameters.json fichier, qui est unFormulaire de configuration pour le provisionnement des nœuds Slurm sur HyperPod. provisioning_parameters.jsondoit contenir les informations de configuration du nœud Slurm à provisionner sur le cluster. HyperPod Cela doit refléter la conception des nœuds Slurm de l'étape 1.

Préparez un ensemble de scripts de cycle de vie pour configurer Slurm HyperPod afin d'installer des packages logiciels et de configurer un environnement dans le cluster adapté à votre cas d'utilisation. Vous devez structurer les scripts de cycle de vie de manière à ce qu'ils s'exécutent collectivement dans un script Python central (lifecycle_script.py), et écrire un script shell point d'entrée (on_create.sh) pour exécuter le script Python. Le script shell entrypoint est ce que vous devez fournir à une demande de création de HyperPod cluster ultérieurement à l'étape 5.

Notez également que vous devez écrire les scripts dans lesquels vous vous attendez à ce resource_config.json qu'ils soient générés HyperPod lors de la création du cluster. resource_config.jsoncontient des informations sur les ressources du HyperPod cluster telles que les adresses IP, les types d'instances et ARNs, et c'est ce que vous devez utiliser pour configurer Slurm.

Rassemblez tous les fichiers des étapes précédentes dans un dossier.

└── lifecycle_files // your local folder

    ├── provisioning_parameters.json
    ├── on_create.sh
    ├── lifecycle_script.py
    └── ... // more setup scrips to be fed into lifecycle_script.py

Téléchargez tous les fichiers dans un compartiment S3. Copiez et conservez le chemin du compartiment S3. Notez que vous devez créer un chemin de compartiment S3 commençant par, sagemaker- car vous devez choisir un chemin Rôle IAM pour SageMaker HyperPod attaché avec AmazonSageMakerClusterInstanceRolePolicy, qui n'autorise que les chemins de compartiment S3 commençant par le préfixesagemaker-. La commande suivante est un exemple de commande permettant de télécharger tous les fichiers dans un compartiment S3.

aws s3 cp --recursive ./lifecycle_files s3://sagemaker-hyperpod-lifecycle/src

Préparez une demande HyperPod de création de cluster.

À ce stade, assurez-vous de créer des groupes d'instances dans la même structure que celle que vous avez planifiée aux étapes 1 et 2. Assurez-vous également de spécifier le compartiment S3 à l'étape 5 dans les formulaires de demande.

Soumettez la demande de création de cluster. HyperPod approvisionne un cluster en fonction de la demande, puis crée un resource_config.json fichier dans les instances du HyperPod cluster et configure Slurm sur le cluster exécutant les scripts de cycle de vie.