Crea nodi con Amazon Linux ottimizzato AMIs

Per abilitare carichi di lavoro GPU basati

La procedura seguente descrive come eseguire un carico di lavoro su un'istanza GPU basata con Amazon EKS optimized AMI accelerated.

1. Dopo che i GPU nodi si sono uniti al cluster, devi applicare il plug-in del NVIDIA dispositivo per Kubernetescome DaemonSet sul tuo cluster. Sostituiscilo vX.X.X con la s-device-plugin versione NVIDIA/k8 desiderata prima di eseguire il seguente comando.

   kubectl apply -f https://raw.githubusercontent.com/NVIDIA/k8s-device-plugin/vX.X.X/deployments/static/nvidia-device-plugin.yml
   

2. Puoi verificare che i tuoi nodi siano allocabili GPUs con il seguente comando.

   kubectl get nodes "-o=custom-columns=NAME:.metadata.name,GPU:.status.allocatable.nvidia\.com/gpu"
   

Per distribuire un Pod per verificare che i GPU nodi siano configurati correttamente

1. Crea un file denominato nvidia-smi.yaml con i seguenti contenuti. Sostituisci tag con il tag desiderato per nvidia/cuda. Questo manifesto avvia un NVIDIA CUDAcontenitore che funziona nvidia-smi su un nodo.

   apiVersion: v1
   kind: Pod
   metadata:
     name: nvidia-smi
   spec:
     restartPolicy: OnFailure
     containers:
     - name: nvidia-smi
       image: nvidia/cuda:tag
       args:
       - "nvidia-smi"
       resources:
         limits:
           nvidia.com/gpu: 1

2. Applicare il file manifesto con il comando seguente.

   kubectl apply -f nvidia-smi.yaml
   

3. Dopo il Pod ha terminato l'esecuzione, visualizzane i log con il seguente comando.

   kubectl logs nvidia-smi
   

   Di seguito viene riportato un output di esempio:

   Mon Aug  6 20:23:31 20XX
   +-----------------------------------------------------------------------------+
   | NVIDIA-SMI XXX.XX                 Driver Version: XXX.XX                    |
   |-------------------------------+----------------------+----------------------+
   | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   |===============================+======================+======================|
   |   0  Tesla V100-SXM2...  On   | 00000000:00:1C.0 Off |                    0 |
   | N/A   46C    P0    47W / 300W |      0MiB / 16160MiB |      0%      Default |
   +-------------------------------+----------------------+----------------------+
   
   +-----------------------------------------------------------------------------+
   | Processes:                                                       GPU Memory |
   |  GPU       PID   Type   Process name                             Usage      |
   |=============================================================================|
   |  No running processes found                                                 |
   +-----------------------------------------------------------------------------+