Beginnen Sie mit den grundlegenden Lebenszyklusskripten von HyperPod

provisioning_parameters.json— Das ist einKonfigurationsformular für die Bereitstellung von Slurm-Knoten auf HyperPod. Das on_create.sh Skript findet diese JSON Datei und definiert eine Umgebungsvariable zur Identifizierung des Pfads zu ihr. Über diese JSON Datei können Sie Slurm-Knoten und Speicheroptionen wie Amazon FSx for Lustre for Slurm für die Kommunikation konfigurieren. Stellen Sie sicherprovisioning_parameters.json, dass Sie die HyperPod Cluster-Instanzgruppen mit den Namen, die Sie angegeben haben, den Slurm-Knoten entsprechend zuweisen, je nachdem, wie Sie sie einrichten möchten. create_cluster.json

Das folgende Diagramm zeigt ein Beispiel dafür, wie die beiden JSON Konfigurationsdateien create_cluster.json geschrieben werden provisioning_parameters.json sollten, um den Slurm-Knoten HyperPod Instanzgruppen zuzuweisen. In diesem Beispiel gehen wir von der Einrichtung von drei Slurm-Knoten aus: Controller-Knoten (Verwaltungsknoten), Login-Knoten (optional) und Compute-Knoten (Worker-Knoten).

Abbildung: Direkter Vergleich zwischen create_cluster.json der HyperPod Clustererstellung und provisiong_params.json der Slurm-Konfiguration. Die Anzahl der Instanzgruppen in create_cluster.json sollte der Anzahl der Knoten entsprechen, die Sie als Slurm-Knoten konfigurieren möchten. Im Fall des Beispiels in der Abbildung werden drei Slurm-Knoten auf einem HyperPod Cluster aus drei Instanzgruppen konfiguriert. Sie sollten die HyperPod Cluster-Instanzgruppen den Slurm-Knoten zuweisen, indem Sie die Namen der Instanzgruppen entsprechend angeben.

resource_config.json— Während der Clustererstellung wird das lifecycle_script.py Skript so geschrieben, dass es eine resource_config.json Datei von HyperPod erwartet. Diese Datei enthält Informationen über den Cluster, z. B. Instance-Typen und IP-Adressen.

Wenn Sie den ausführen CreateClusterAPI, HyperPod erstellt eine Ressourcenkonfigurationsdatei unter, die auf der create_cluster.json Datei /opt/ml/config/resource_config.json basiert. Der Dateipfad wird in der Umgebungsvariablen namens gespeichertSAGEMAKER_RESOURCE_CONFIG_PATH.

{

    "ClusterConfig": {
        "ClusterArn": "arn:aws:sagemaker:us-west-2:111122223333:cluster/abcde01234yz",
        "ClusterName": "your-hyperpod-cluster"
    },
    "InstanceGroups": [
        {
            "Name": "controller-machine",
            "InstanceType": "ml.c5.xlarge",
            "Instances": [
                {
                    "InstanceName": "controller-machine-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        },
        {
            "Name": "login-group",
            "InstanceType": "ml.m5.xlarge",
            "Instances": [
                {
                    "InstanceName": "login-group-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        },
        {
            "Name": "compute-nodes",
            "InstanceType": "ml.trn1.32xlarge",
            "Instances": [
                {
                    "InstanceName": "compute-nodes-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-2",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-3",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-4",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        }
    ]
}

lifecycle_script.py— Dies ist das wichtigste Python-Skript, das gemeinsam Lifecycle-Skripte ausführt, die Slurm auf dem HyperPod Cluster einrichten, während es bereitgestellt wird. Dieses Skript liest die Pfade ein provisioning_parameters.json und resource_config.json aus den Pfaden, die angegeben oder identifiziert sindon_create.sh, leitet die relevanten Informationen an jedes Lifecycle-Skript weiter und führt dann die Lifecycle-Skripte der Reihe nach aus.

Lifecycle-Skripts sind eine Reihe von Skripten, die Sie völlig flexibel anpassen können, um Softwarepakete zu installieren und notwendige oder benutzerdefinierte Konfigurationen während der Clustererstellung einzurichten, z. B. Slurm einzurichten, Benutzer zu erstellen, Conda oder Docker zu installieren. Das lifecycle_script.pyBeispielskript ist darauf vorbereitet, andere grundlegende Lebenszyklusskripte im Repository auszuführen, z. B. Slurm deamons (start_slurm.sh) zu starten, Amazon FSx for Lustre (mount_fsx.sh) zu mounten und MariaDB-Buchhaltung () und Buchhaltung (setup_mariadb_accounting.sh) einzurichten. RDS setup_rds_accounting.sh Sie können auch weitere Skripte hinzufügen, sie in dasselbe Verzeichnis packen und Codezeilen hinzufügen, um die Skripte ausführen zu lifecycle_script.py lassen. HyperPod Weitere Informationen zu den grundlegenden Lebenszyklus-Skripten finden Sie auch unter 3.1 Lifecycle-Skripten im Awsome Distributed Training GitHub Repository.

Zusätzlich zu den Standard-Setups sind im Ordner weitere Skripts für die Installation der folgenden Software verfügbar. utils Die lifecycle_script.py Datei ist bereits so vorbereitet, dass sie Codezeilen für die Ausführung der Installationsskripten enthält. Lesen Sie daher die folgenden Hinweise, um diese Zeilen zu durchsuchen und sie zu deaktivieren, um sie zu aktivieren.