Création d'utilisateurs sur un cluster Slurm sur SageMaker HyperPod

Connectez-vous au nœud du contrôleur et téléchargez le script. Assurez-vous de l'exécuter avec les autorisations sudo.

$ curl -O https://raw.githubusercontent.com/awslabs/awsome-distributed-training/main/1.architectures/5.sagemaker-hyperpod/LifecycleScripts/base-config/utils/create_users.sh
chmod +x create_users.sh

Exécutez le script en utilisant l'un de ses trois modes, qu'il sélectionne par priorité parmi les arguments que vous transmettez et les fichiers du répertoire en cours : d'abord les arguments de la ligne de commande, puis un fichier utilisateur, puis des invites interactives. Chaque mode exécute la même séquence : créer les utilisateurs sur le nœud actuel, configurer des paires de clés SSH sur le système de fichiers partagé, créer les utilisateurs sur tous les nœuds restants (nœuds de calcul en parallèle), les enregistrer dans la comptabilité Slurm sur le contrôleur, les ajouter à shared_users.txt et proposer de télécharger ce fichier sur Amazon S3.

Les trois modes sont décrits dans les exemples suivants, chacun ajoutant deux utilisateurs (user1etuser2).

Mode ligne de commande

Transmettez les noms d'utilisateur en tant qu'arguments. Le script attribue automatiquement des UID et demande si les nouveaux utilisateurs doivent être des sudoers. Il s'agit de la méthode la plus rapide pour ajouter des utilisateurs.

$ sudo ./create_users.sh user1 user2

Le script valide les noms d'utilisateur, puis demande l'accès au sudoer :

========================================
 Step 1: User Configuration
========================================
  Users from CLI args: user1 user2
    ✓ user1 — will be created (auto-assign UID)
    ✓ user2 — will be created (auto-assign UID)
  Make these user(s) sudoer(s)? (y/N): n

Il crée ensuite les utilisateurs sur le nœud actuel, configure les paires de clés SSH, les crée sur les nœuds de calcul, les enregistre dans la comptabilité Slurm sur le contrôleur et écritshared_users.txt, vous invitant à la fin à télécharger ce fichier sur Amazon S3.

Mode fichier

Créez un fichier utilisateur dans le même répertoire que le script, puis exécutez le script sans argument. Le script lit les définitions des utilisateurs, les valide (en créant uniquement les utilisateurs qui n'existent pas encore et en évitant les conflits d'UID) et crée les utilisateurs sur tous les nœuds. Le script accepte deux formats de fichiers.

Pourshared_users.txt, utilisez un fichier CSV avec un utilisateur par ligne au format suivant username,uid,home_directory :

user1,2001,/fsx/user1
user2,2002,/fsx/user2

Vous pouvez également utiliser un fichier YAML contenant soit une simple liste d'utilisateurs, soit des utilisateurs organisés en groupes. shared_users.yaml L'analyse de ce format nécessite PyYAML sur le nœud. Le format de liste simple est le suivant :

users:
  - username: user1
    uid: 2001
  - username: user2
    uid: 2002

Si les deux fichiers sont présents, shared_users.txt c'est prioritaire. Exécutez le script sans argument :

$ sudo ./create_users.sh

Le script valide les entrées du fichier, confirme la création, invite le sudoer à accéder et propose d'ajouter des utilisateurs qui ne figurent pas dans le fichier. Il crée ensuite user1 et user2 sur tous les nœuds dotés des UID du fichier (2001 et 2002), configure les paires de clés SSH, les enregistre dans la comptabilité Slurm et les met à jour. shared_users.txt

Mode interactif

Exécutez le script sans argument et sans fichier utilisateur. Le script vous demande les noms d'utilisateur et, éventuellement, les UID à attribuer :

$ sudo ./create_users.sh

========================================
 Step 1: User Configuration
========================================
  No shared_users.txt or shared_users.yaml found.
  Entering interactive mode...

  Enter username(s), comma-separated (e.g. 'sean' or 'sean,alice,bob'): user1,user2
  Specify UIDs? (Enter for auto-assign, or comma-separated UIDs): 2001,2002
  Make these user(s) sudoer(s)? (y/N): n

Une fois que vous avez répondu aux instructions, le script crée user1 et, user2 sur tous les nœuds dotés des UID que vous avez saisis, configure les paires de clés SSH, les enregistre dans la comptabilité Slurm et les met à jour. shared_users.txt

Testez un utilisateur en basculant dessus et en exécutant une commande sur l'ensemble du cluster.

$ sudo su - user1 && ssh $(srun hostname)

Copiez le fichier d'exemple approprié dans le add-users répertoire et modifiez-le avec vos utilisateurs :

$ cp shared_users_sample.yaml shared_users.yaml

Téléchargez le add-users répertoire dans le compartiment Amazon S3 de vos scripts de cycle de vie (le chemin du compartiment doit commencer pars3://sagemaker-) :

$ aws s3 cp add-users/ s3://DOC-EXAMPLE-BUCKET/add-users/ --recursive

Spécifiez l'extension dans le LifeCycleConfig bloc de votre CreateCluster demande, en utilisant add_users.sh comme OnInitComplete script :

"LifeCycleConfig": {
    "OnInitComplete": "add_users.sh",
    "SourceS3Uri": "s3://DOC-EXAMPLE-BUCKET/add-users/"
}

Mettez à jour votre fichier utilisateur avec les nouveaux utilisateurs (conservez les utilisateurs existants dans le fichier) et téléchargez-le sur Amazon S3 :

$ aws s3 cp add-users/shared_users.yaml s3://DOC-EXAMPLE-BUCKET/add-users/shared_users.yaml

Connectez-vous au nœud du contrôleur et extrayez les scripts vers le système de fichiers partagé :

$ sudo mkdir -p /fsx/cluster-scripts/add-users
sudo aws s3 cp s3://DOC-EXAMPLE-BUCKET/add-users/ /fsx/cluster-scripts/add-users/ --recursive
sudo chmod +x /fsx/cluster-scripts/add-users/*.sh

Exécutez l'extension sur le contrôleur :

$ sudo bash /fsx/cluster-scripts/add-users/add_users.sh

Exécutez l'extension sur les nœuds de calcul avec srun :

$ sudo srun --partition=partition-name bash /fsx/cluster-scripts/add-users/add_users.sh

Téléchargez le script de cycle de vie de la configuration de base sur le GitHub site Web. Avec cette option, vous chargez l'intégralité du dossier base-config en tant que jeu de scripts de cycle de vie, et pas seulement. add_users.sh

Dans le dossier base-config, créez ou modifiez un fichier texte nommé shared_users.txt au format suivant. La première colonne est le nom d'utilisateur, la deuxième est l'ID utilisateur unique et la troisième est l'annuaire des utilisateurs dans l'espace partagé Amazon FSx.

username1,uid1,/fsx/username1
username2,uid2,/fsx/username2
...

add_users.shlit shared_users.txt depuis le même dossier, le fichier doit donc se trouver dans base-config à côté du script.

Téléchargez l'intégralité du dossier base-config dans le compartiment Amazon S3 pour vos scripts de HyperPod cycle de vie. Pendant la création, la mise à jour du cluster ou la mise à jour logicielle du cluster, le moteur de script Lifecycle s'exécuteadd_users.sh, qui lit shared_users.txt et configure les utilisateurs et leurs répertoires personnels.