從 HyperPod 提供的基本生命週期指令碼開始

provisioning_parameters.json – 這是 在 HyperPod 上佈建 Slurm 節點的組態表單。on_create.sh 指令碼會尋找此 JSON 檔案，並定義環境變數來識別路徑。透過此 JSON 檔案，您可以設定 Slurm 節點和儲存選項，例如 Amazon FSx for Lustre for Slurm，以便與之通訊。在 中provisioning_parameters.json，請確定您使用在 中指定的名稱，根據您計劃設定它們的方式create_cluster.json，將 HyperPod 叢集執行個體群組適當地指派給 Slurm 節點。

下圖顯示如何provisioning_parameters.json寫入兩個 JSON 組態檔案 create_cluster.json和 以將 HyperPod 執行個體群組指派給 Slurm 節點的範例。在此範例中，我們假設設定三個 Slurm 節點：控制器 （管理） 節點、登入節點 （此為選用） 和運算 （工作者） 節點。

圖：create_cluster.jsonHyperPod 叢集建立和 Slurm 組態provisiong_params.json的 之間的直接比較。中的執行個體群組數量create_cluster.json應與您要設定為 Slurm 節點的節點數量相符。若為圖中的範例，則會在三個執行個體群組的 HyperPod 叢集上設定三個 Slurm 節點。您應該透過相應地指定執行個體群組名稱，將 HyperPod 叢集執行個體群組指派給 Slurm 節點。

resource_config.json – 在叢集建立期間，lifecycle_script.py指令碼會寫入，以預期來自 HyperPod resource_config.json的檔案。此檔案包含叢集的相關資訊，例如執行個體類型和 IP 地址。

當您執行 CreateCluster API 時，HyperPod /opt/ml/config/resource_config.json會根據檔案在 建立資源組態create_cluster.json檔案。檔案路徑會儲存至名為 的環境變數SAGEMAKER_RESOURCE_CONFIG_PATH。

{

    "ClusterConfig": {
        "ClusterArn": "arn:aws:sagemaker:us-west-2:111122223333:cluster/abcde01234yz",
        "ClusterName": "your-hyperpod-cluster"
    },
    "InstanceGroups": [
        {
            "Name": "controller-machine",
            "InstanceType": "ml.c5.xlarge",
            "Instances": [
                {
                    "InstanceName": "controller-machine-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        },
        {
            "Name": "login-group",
            "InstanceType": "ml.m5.xlarge",
            "Instances": [
                {
                    "InstanceName": "login-group-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        },
        {
            "Name": "compute-nodes",
            "InstanceType": "ml.trn1.32xlarge",
            "Instances": [
                {
                    "InstanceName": "compute-nodes-1",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-2",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-3",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                },
                {
                    "InstanceName": "compute-nodes-4",
                    "AgentIpAddress": "111.222.333.444",
                    "CustomerIpAddress": "111.222.333.444",
                    "InstanceId": "i-12345abcedfg67890"
                }
            ]
        }
    ]
}

lifecycle_script.py – 這是主要 Python 指令碼，會在佈建時，共同在 HyperPod 叢集上執行生命週期指令碼設定 Slurm。此指令碼會讀取 provisioning_parameters.json resource_config.json 中指定或識別的路徑on_create.sh，將相關資訊傳遞給每個生命週期指令碼，然後依序執行生命週期指令碼。

生命週期指令碼是一組指令碼，您可以完全靈活地自訂來安裝軟體套件，並在叢集建立期間設定必要的或自訂組態，例如設定 Slurm、建立使用者、安裝 Conda 或 Docker。範例lifecycle_script.py指令碼已準備好在 儲存庫中執行其他基本生命週期指令碼，例如啟動 Slurm Deamons ()start_slurm.sh、掛載 Amazon FSx for Lustre (mount_fsx.sh)，以及設定 MariaDB 會計 (setup_mariadb_accounting.sh) 和 RDS 會計 ()setup_rds_accounting.sh。您也可以新增更多指令碼、封裝在相同目錄下，並將程式碼列新增至 lifecycle_script.py ，讓 HyperPod 執行指令碼。如需基本生命週期指令碼的詳細資訊，請參閱 Awsome 分散式訓練 GitHub 儲存庫中的 3.1 生命週期指令碼。

除了預設設定之外， utils 資料夾下還提供更多用於安裝下列軟體的指令碼。lifecycle_script.py 檔案已準備包含程式碼行來執行安裝指令碼，因此請參閱下列項目以搜尋這些行並取消註解以啟用它們。