Creazione di utenti su un cluster Slurm su SageMaker HyperPod

Connettiti al nodo controller e scarica lo script. Assicurati di eseguirlo con i permessi sudo.

$ curl -O https://raw.githubusercontent.com/awslabs/awsome-distributed-training/main/1.architectures/5.sagemaker-hyperpod/LifecycleScripts/base-config/utils/create_users.sh
chmod +x create_users.sh

Esegui lo script usando una delle sue tre modalità, che seleziona in base alla priorità tra gli argomenti passati e i file nella directory corrente: prima gli argomenti della riga di comando, poi un file utente, poi i prompt interattivi. Ogni modalità esegue la stessa sequenza: crea gli utenti sul nodo corrente, configura coppie di chiavi SSH sul file system condiviso, crea gli utenti su tutti i nodi rimanenti (nodi di calcolo in parallelo), registrali con l'account Slurm sul controller, aggiungili e offri di caricare quel file su Amazon S3. shared_users.txt

Le tre modalità sono descritte negli esempi seguenti, ognuna delle quali aggiunge due utenti (e). user1 user2

Modalità a riga di comando

Passa i nomi utente come argomenti. Lo script assegna automaticamente gli UID e chiede se i nuovi utenti devono essere sudoer. Questo è il modo più rapido per aggiungere utenti.

$ sudo ./create_users.sh user1 user2

Lo script convalida i nomi utente, quindi richiede l'accesso sudoer:

========================================
 Step 1: User Configuration
========================================
  Users from CLI args: user1 user2
    ✓ user1 — will be created (auto-assign UID)
    ✓ user2 — will be created (auto-assign UID)
  Make these user(s) sudoer(s)? (y/N): n

Quindi crea gli utenti sul nodo corrente, imposta le coppie di chiavi SSH, li crea sui nodi di calcolo, li registra con l'account Slurm sul controller e scriveshared_users.txt, chiedendoti alla fine di caricare quel file su Amazon S3.

Modalità file

Crea un file utente nella stessa directory dello script, quindi esegui lo script senza argomenti. Lo script legge le definizioni utente, le convalida (creando solo utenti che non esistono già e saltando i conflitti UID) e crea gli utenti in tutti i nodi. Lo script accetta due formati di file.

Pershared_users.txt, usa un file CSV con un utente per riga nel formato: username,uid,home_directory

user1,2001,/fsx/user1
user2,2002,/fsx/user2

In alternativa, pershared_users.yaml, usa un file YAML con un semplice elenco di utenti o utenti organizzati in gruppi. L'analisi di questo formato richiede PyYAML sul nodo. Di seguito è riportato il semplice formato dell'elenco:

users:
  - username: user1
    uid: 2001
  - username: user2
    uid: 2002

Se sono presenti entrambi i file, ha la shared_users.txt precedenza. Esegui lo script senza argomenti:

$ sudo ./create_users.sh

Lo script convalida le voci del file, conferma la creazione, richiede l'accesso tramite sudoer e offre la possibilità di aggiungere utenti che non sono presenti nel file. Quindi crea user1 e user2 su tutti i nodi con gli UID del file (2001 e 2002), imposta le coppie di chiavi SSH, le registra con l'account Slurm e le aggiorna. shared_users.txt

Modalità interattiva

Esegue lo script senza argomenti e senza file utente presenti. Lo script richiede i nomi utente e, facoltativamente, gli UID da assegnare:

$ sudo ./create_users.sh

========================================
 Step 1: User Configuration
========================================
  No shared_users.txt or shared_users.yaml found.
  Entering interactive mode...

  Enter username(s), comma-separated (e.g. 'sean' or 'sean,alice,bob'): user1,user2
  Specify UIDs? (Enter for auto-assign, or comma-separated UIDs): 2001,2002
  Make these user(s) sudoer(s)? (y/N): n

Dopo aver risposto alle istruzioni, lo script crea user1 e, user2 su tutti i nodi con gli UID inseriti, imposta le coppie di chiavi SSH, le registra con l'account Slurm e le aggiorna. shared_users.txt

Metti alla prova un utente passando ad esso ed eseguendo un comando nel cluster.

$ sudo su - user1 && ssh $(srun hostname)

Copia il file di esempio appropriato nella add-users directory e modificalo con i tuoi utenti:

$ cp shared_users_sample.yaml shared_users.yaml

Carica la add-users directory nel bucket Amazon S3 dei tuoi script del ciclo di vita (il percorso del bucket deve iniziare con): s3://sagemaker-

$ aws s3 cp add-users/ s3://DOC-EXAMPLE-BUCKET/add-users/ --recursive

Specifica l'estensione nel LifeCycleConfig blocco della CreateCluster richiesta, utilizzando come script: add_users.sh OnInitComplete

"LifeCycleConfig": {
    "OnInitComplete": "add_users.sh",
    "SourceS3Uri": "s3://DOC-EXAMPLE-BUCKET/add-users/"
}

Aggiorna il file utente con i nuovi utenti (mantieni gli utenti esistenti nel file) e caricalo su Amazon S3:

$ aws s3 cp add-users/shared_users.yaml s3://DOC-EXAMPLE-BUCKET/add-users/shared_users.yaml

Connettiti al nodo controller e invia gli script al file system condiviso:

$ sudo mkdir -p /fsx/cluster-scripts/add-users
sudo aws s3 cp s3://DOC-EXAMPLE-BUCKET/add-users/ /fsx/cluster-scripts/add-users/ --recursive
sudo chmod +x /fsx/cluster-scripts/add-users/*.sh

Esegui l'estensione sul controller:

$ sudo bash /fsx/cluster-scripts/add-users/add_users.sh

Esegui l'estensione sui nodi di calcolo consrun:

$ sudo srun --partition=partition-name bash /fsx/cluster-scripts/add-users/add_users.sh

Scarica il set di script per il ciclo di vita della configurazione di base dal sito Web. GitHub Con questa opzione, carichi l'intera cartella base-config come set di script del ciclo di vita, non solo. add_users.sh

Nella cartella base-config, create o modificate un file di testo denominato nel seguente formato. shared_users.txt La prima colonna è il nome utente, la seconda colonna è l'ID utente univoco e la terza colonna è la directory utente nello spazio condiviso di Amazon FSx.

username1,uid1,/fsx/username1
username2,uid2,/fsx/username2
...

add_users.shviene letto shared_users.txt dalla stessa cartella, quindi il file deve trovarsi all'interno di base-config insieme allo script.

Carica l'intera cartella base-config nel bucket Amazon S3 per gli script del ciclo di vita. HyperPod Mentre è in corso la creazione del cluster, l'aggiornamento del cluster o l'aggiornamento del software del cluster, viene eseguito il lifecycle script runneradd_users.sh, che legge e configura gli utenti e le loro home directory. shared_users.txt