Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ciclo di vita ed etichette dei nodi

Amazon SageMaker HyperPod esegue controlli approfonditi sullo stato delle istanze del cluster durante la creazione e l'aggiornamento dei HyperPod cluster prima dell'inizio del partizionamento della GPU. HyperPod L'agente di monitoraggio dello stato di salute monitora continuamente lo stato di salute delle istanze partizionate tramite GPU.

Stati di configurazione MIG

I nodi con configurazione della partizione GPU attraversano diversi stati:

Monitoraggio degli stati dei nodi

# Check node health status
kubectl get nodes -l sagemaker.amazonaws.com/node-health-status=Schedulable

# Monitor MIG configuration progress
kubectl get node NODE_NAME -o jsonpath='{.metadata.labels.nvidia\.com/mig\.config\.state}'

# Check for configuration errors
kubectl describe node NODE_NAME | grep -A 5 "Conditions:"

Etichette e macchie personalizzate

Puoi gestire la configurazione MIG con etichette e tinte personalizzate per etichettare le partizioni GPU e applicarle a più istanze:

{
  "KubernetesConfig": {
    "Labels": {
      "nvidia.com/mig.config": "all-2g.10gb",
      "task-type": "inference",
      "environment": "production"
    },
    "Taints": [
      {
        "Key": "gpu-task",
        "Value": "mig-enabled",
        "Effect": "NoSchedule"
      }
    ]
  }
}