View a markdown version of this page

Nozioni di base su EFA e NCCL per i carichi di lavoro ML su Amazon EC2 - Amazon Elastic Compute Cloud
Fase 1: Preparare un gruppo di sicurezza EFA-enabledFase 2: avviare un'istanza temporaneaPassaggio 3: installa i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNNFase 4: installazione del GDRCopyFase 5: installazione del software EFAFase 6: installare NCCLFase 7: installare i test NCCLFase 8: testare la configurazione EFA e NCCLFase 9: installare applicazioni di machine learningPassaggio 10: creare un EFA e un'AMI NCCL-enabledFase 11: terminare l'istanza temporaneaFase 12: Avvia l'EFA e NCCL-enabled le istanze in un gruppo di collocamento del clusterFase 13: abilitare SSH senza password

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Nozioni di base su EFA e NCCL per i carichi di lavoro ML su Amazon EC2

NVIDIA Collective Communications Library (NCCL) è una libreria di routine di comunicazione collettive standard per più GPU su un singolo nodo o su più nodi. Puoi utilizzare NCCL insieme a EFA, Libfabric e MPI per supportare vari carichi di lavoro di machine learning. Per ulteriori informazioni, consulta il sito Web NCCL.

Requisiti

  • I tipi di istanza supportati includono i tipi di istanze della serie EFA-supported P e della serie G. Per ulteriori informazioni, consulta Istanze a calcolo accelerato Amazon EC2.

  • AMI di base supportate: Amazon Linux 2023, Ubuntu 26.04, Ubuntu 24.04, Ubuntu 22.04, Debian 12 e RHEL 10.

  • L'EFA supporta solo NCCL 2.4.2 e versioni successive.

Per ulteriori informazioni sull'esecuzione di carichi di lavoro di machine learning con EFA e NCCL utilizzando un AWS Deep Learning AMIs, consulta Using EFA on the DLAMI nella Developer Guide. AWS Deep Learning AMIs

Fase 1: Preparare un gruppo di sicurezza EFA-enabled

Un EFA richiede un gruppo di sicurezza in cui sia consentito tutto il traffico in entrata e in uscita dal gruppo stesso. La procedura seguente crea un gruppo di sicurezza che consente tutto il traffico in entrata e in uscita da e verso se stesso e che consente il traffico SSH in entrata da qualsiasi indirizzo IPv4 per la connettività SSH.

Importante

  • Questo gruppo di sicurezza è destinato esclusivamente a scopi di test. Per i tuoi ambienti di produzione, consigliamo di creare una regola SSH in entrata che consenta il traffico solo dall'indirizzo IP da cui ti connetti, ad esempio l'indirizzo IP del tuo computer o un intervallo di indirizzi IP nella tua rete locale.

  • Le regole autoreferenziali in entrata e in uscita (che consentono tutto il traffico da e verso il gruppo di sicurezza stesso) sono obbligatorie per il funzionamento dell'EFA. Senza queste regole, il traffico EFA tra le istanze verrà bloccato e la comunicazione NCCL fallirà.

Per altri scenari, consulta Regole del gruppo di sicurezza per diversi casi d'uso.

Per creare un gruppo di sicurezza EFA-enabled

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Nel riquadro di navigazione, scegliere Security Groups (Gruppi di sicurezza) e quindi Create Security Group (Crea gruppo di sicurezza).

  3. Nella finestra Create Security Group (Crea gruppo di sicurezza) effettuare le operazioni seguenti:

    1. In Nome gruppo di sicurezza, immettere un nome descrittivo per il gruppo di sicurezza, ad esempio EFA-enabled security group.

    2. (Facoltativo) In Description (Descrizione), inserire una breve descrizione del gruppo di sicurezza.

    3. Per VPC, seleziona il VPC in cui intendi avviare le tue EFA-enabled istanze.

    4. Scegliere Create Security Group (Crea gruppo di sicurezza).

  4. Seleziona il gruppo di sicurezza creato e nella scheda Details (Dettagli) copia il valore Security group ID (ID gruppo di sicurezza).

  5. Dopo aver selezionato il gruppo di sicurezza, scegli Actions (Operazioni), Edit inbound rules (Modifica le regole in entrata) ed esegui le operazioni di seguito:

    1. Scegliere Add rule (Aggiungi regola).

    2. In Type (Tipo), selezionare All traffic (Tutto il traffico).

    3. Per Source type (Tipo di origine), scegli Custom (Personalizzata) e incolla nel campo l'ID del gruppo di sicurezza copiato in precedenza.

    4. Scegli Aggiungi regola.

    5. Per Type (Tipo) scegli SSH.

    6. Per Source (origine), scegli Anywhere-IPv4.

    7. Scegliere Salva regole.

  6. Dopo aver selezionato il gruppo di sicurezza, scegli Actions (Operazioni), Edit outbound rules (Modifica le regole in uscita) ed esegui le operazioni di seguito:

    1. Scegliere Add rule (Aggiungi regola).

    2. In Type (Tipo), selezionare All traffic (Tutto il traffico).

    3. Per Destination type (Tipo di destinazione), scegli Custom (Personalizzata) e incolla nel campo l'ID del gruppo di sicurezza copiato in precedenza.

    4. Scegliere Salva regole.

Fase 2: avviare un'istanza temporanea

Avvia un'istanza temporanea da utilizzare per installare e configurare i componenti software EFA. Utilizzi questa istanza per creare un' EFA-enabled AMI da cui avviare le tue istanze. EFA-enabled

Per avviare un'istanza temporanea

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Nel pannello di navigazione, scegli Instances (Istanze) e quindi scegli Launch instances (Avvia istanze) per aprire la nuova procedura guidata di avvio dell'istanza.

  3. (Opzionale) Nella sezione Name and tags (Nome e tag), fornisci un nome per l'istanza, ad esempio EFA-instance. Il nome viene assegnato all'istanza come tag di risorsa (Name=EFA-instance).

  4. Nella sezione Immagini di applicazioni e sistema operativo, seleziona un’AMI per uno dei sistemi operativi supportati.

  5. Nella sezione Tipo di istanza, seleziona un tipo di istanza supportato.

  6. Nella sezione Key pair (Coppia di chiavi), seleziona la coppia di chiavi da utilizzare per l'istanza.

  7. Nella sezione Network settings (Impostazioni di rete), scegli Edit (Modifica) e quindi esegui le operazioni qui descritte:

    1. Per Subnet (Sottorete) seleziona la subnet in cui avviare l'istanza.

      Importante

      È necessario selezionare una sottorete. Se non selezioni una sottorete, non puoi abilitare l'istanza per l'EFA.

    2. Per Firewall (security groups) (Firewall [gruppi di sicurezza]), scegli Select existing security group (Seleziona gruppo di sicurezza esistente) e quindi seleziona il gruppo di sicurezza creato nella fase precedente.

    3. Espandi la sezione Configurazione avanzata.

      Come Interfaccia di rete 1, seleziona Indice della scheda di rete = 0, Indice dispositivo = 0 e Tipo di interfaccia = EFA con ENA.

      (Facoltativo) Se utilizzi un tipo di istanza con più schede, per ogni interfaccia di rete aggiuntiva richiesta, scegli Aggiungi interfaccia di rete, per Indice scheda di rete seleziona il successivo indice non utilizzato, quindi seleziona Indice dispositivo = 1 e Tipo di interfaccia = EFA con ENA o. EFA-only

  8. Nella sezione Storage (Archiviazione), configura i volumi secondo necessità.

    Nota

    È necessario fornire ulteriori 10-20 GiB di spazio di archiviazione per NVIDIA CUDA Toolkit. Se non fornisci spazio di archiviazione sufficiente, riceverai un insufficient disk space messaggio di errore quando tenti di installare i driver NVIDIA e il toolkit CUDA.

  9. Nel pannello Summary (Riepilogo) a destra, scegli Launch instance (Avvia istanza).

Passaggio 3: installa i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN

Amazon Linux 2023
Per installare i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN

  1. Per verificare che tutti i pacchetti software siano aggiornati, eseguire un aggiornamento rapido del software sull'istanza.

    $ sudo dnf upgrade -y && sudo reboot

    Dopo il riavvio, riconnettersi all'istanza.

  2. Installa le utilità necessarie per installare i driver GPU NVIDIA e il NVIDIA CUDA Toolkit.

    $ sudo dnf groupinstall 'Development Tools' -y && sudo dnf install -y dkms kernel-devel-$(uname -r) kernel-headers-$(uname -r)

  3. Disabilitare i driver open source nouveau.

    1. Installare le utility richieste e il pacchetto delle intestazioni kernel per la versione del kernel attualmente in esecuzione.

      $ sudo yum install -y wget kernel-devel-$(uname -r) kernel-headers-$(uname -r)

    2. Aggiungi al file deny listnouveau. /etc/modprobe.d/blacklist.conf

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    3. Aggiungi GRUB_CMDLINE_LINUX="rdblacklist=nouveau" al grub file e ricostruisci la configurazione di GRUB.

      $ echo 'GRUB_CMDLINE_LINUX="rdblacklist=nouveau"' | sudo tee -a /etc/default/grub \
&& sudo grub2-mkconfig -o /boot/grub2/grub.cfg

  4. Riavviare l'istanza e riconnettersi a essa.

  5. Aggiungere il repository di rete CUDA.

    $ sudo yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo

  6. Scarica e installa il driver GPU NVIDIA.

    $ wget https://us.download.nvidia.com/tesla/580.167.08/NVIDIA-Linux-x86_64-580.167.08.run \
&& sudo sh NVIDIA-Linux-x86_64-580.167.08.run -m kernel-open --no-drm --disable-nouveau --dkms --silent

  7. Installa NVIDIA CUDA Toolkit e cuDNN.

    $ sudo dnf install -y cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-devel-cuda-13

  8. Riavviare l'istanza e riconnettersi a essa.

  9. (Istanze con NvSwitch, ad esempio istanze P-series multi-GPU) Installa e avvia NVIDIA Fabric Manager. G-series le istanze non utilizzano NVSwitch e non richiedono Fabric Manager.

    $ sudo dnf install -y https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/nvidia-fabricmanager-580.167.08-1.el8.x86_64.rpm \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  10. Assicurarsi che i percorsi CUDA siano impostati ogni volta che viene avviata l'istanza.

    • Per le shell bash, aggiungere le seguenti istruzioni a /home/username/.bashrc e /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Per le shell tcsh, aggiungere le seguenti istruzioni a /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  11. Per confermare che i driver della GPU NVIDIA siano funzionanti, esegui il seguente comando.

    $ nvidia-smi -q | head

    Il comando dovrebbe restituire informazioni sulle GPU NVIDIA, sui driver delle GPU NVIDIA e sul NVIDIA CUDA Toolkit.

Ubuntu 26.04, Ubuntu 24.04, and Ubuntu 22.04
Per installare i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN

  1. Per verificare che tutti i pacchetti software siano aggiornati, eseguire un aggiornamento rapido del software sull'istanza.

    $ sudo apt-get update && sudo apt-get upgrade -y

  2. Installa le utilità necessarie per installare i driver GPU NVIDIA e il NVIDIA CUDA Toolkit.

    $ sudo apt-get update && sudo apt-get install build-essential -y

  3. Per utilizzare il driver GPU NVIDIA, devi prima disabilitare i driver open source. nouveau

    1. Installare le utility richieste e il pacchetto delle intestazioni kernel per la versione del kernel attualmente in esecuzione.

      $ sudo apt-get install -y gcc make linux-headers-$(uname -r)

    2. Aggiungi nouveau al file della lista /etc/modprobe.d/blacklist.conf negata.

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    3. Aprire il file /etc/default/grub utilizzando qualsiasi editor di testo e aggiungere il seguente script. 

      GRUB_CMDLINE_LINUX="rdblacklist=nouveau"

    4. Ricostruisci la configurazione di GRUB.

      $ sudo update-grub

  4. Riavviare l'istanza e riconnettersi a essa.

  5. Aggiungi il repository CUDA e installa i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN.

    • Ubuntu 26.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo add-apt-repository -y 'deb [trusted=yes] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64 /' \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open cuda-toolkit-13-3 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

    • Ubuntu 24.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo add-apt-repository -y 'deb [trusted=yes] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64 /' \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open-580 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

    • Ubuntu 22.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo DEBIAN_FRONTEND=noninteractive add-apt-repository -y "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /" \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open-580 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

  6. Riavviare l'istanza e riconnettersi a essa.

  7. (Istanze con NvSwitch, ad esempio istanze P-series multi-GPU) Installa e avvia NVIDIA Fabric Manager. G-series le istanze non utilizzano NVSwitch e non richiedono Fabric Manager.

    • Ubuntu 26.04

      $ sudo apt-get install -y nvidia-fabricmanager \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

    • Ubuntu 24.04 e Ubuntu 22.04

      $ sudo apt-get install -y nvidia-fabricmanager-580 \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Assicurarsi che i percorsi CUDA siano impostati ogni volta che viene avviata l'istanza.

    • Per le shell bash, aggiungere le seguenti istruzioni a /home/username/.bashrc e /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Per le shell tcsh, aggiungere le seguenti istruzioni a /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Per confermare che i driver della GPU NVIDIA funzionino, esegui il seguente comando.

    $ nvidia-smi -q | head

    Il comando dovrebbe restituire informazioni sulle GPU NVIDIA, sui driver delle GPU NVIDIA e sul NVIDIA CUDA Toolkit.

Debian 12
Per installare i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN

  1. Installa le utilità necessarie per installare i driver GPU NVIDIA e il NVIDIA CUDA Toolkit.

    $ sudo apt-get install -y build-essential gcc make linux-headers-$(uname -r) dkms

  2. Disabilitare i driver open source nouveau.

    $ sudo sed -i 's/GRUB_CMDLINE_LINUX=""/GRUB_CMDLINE_LINUX="rdblacklist=nouveau"/' /etc/default/grub && sudo update-grub

  3. Riavviare l'istanza e riconnettersi a essa.

  4. Aggiungi il repository CUDA e installa i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN.

    $ wget https://developer.download.nvidia.com/compute/cuda/repos/debian12/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo DEBIAN_FRONTEND=noninteractive add-apt-repository -y "deb https://developer.download.nvidia.com/compute/cuda/repos/debian12/x86_64/ /" \
&& sudo apt-get update
    $ sudo apt-get install -y nvidia-open cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

  5. Configura il modulo del kernel NVIDIA UVM.

    $ uvm_ko=$(find /lib/modules/$(uname -r) -name 'nvidia*uvm*.ko*' 2>/dev/null | head -1) && if [ -n "$uvm_ko" ]; then real=$(basename "$uvm_ko"); real=${real%.ko*}; echo "$real" | sudo tee /etc/modules-load.d/nvidia-uvm.conf; if [ "$real" != "nvidia-uvm" ]; then echo "alias nvidia-uvm $real" | sudo tee /etc/modprobe.d/nvidia-uvm.conf; fi; sudo modprobe "$real" || true; fi && sudo modprobe nvidia

  6. Riavviare l'istanza e riconnettersi a essa.

  7. (Istanze con NvSwitch, ad esempio istanze P-series multi-GPU) Installa e avvia NVIDIA Fabric Manager. G-series le istanze non utilizzano NVSwitch e non richiedono Fabric Manager.

    1. Determina la versione del modulo del kernel NVIDIA.

      $ cat /proc/driver/nvidia/version | grep "Kernel Module"

      Di seguito è riportato un output di esempio.

      NVRM version: NVIDIA UNIX x86_64 Kernel Module  610.43.02  ...

      Nell'esempio precedente, è stata installata la versione principale 610 del modulo kernel.

    2. Installa NVIDIA Fabric Manager utilizzando la versione principale identificata nel passaggio precedente.

      $ sudo apt-get install -y nvidia-fabricmanager-major_version_number \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Assicurarsi che i percorsi CUDA siano impostati ogni volta che viene avviata l'istanza.

    • Per le shell bash, aggiungere le seguenti istruzioni a /home/username/.bashrc e /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Per le shell tcsh, aggiungere le seguenti istruzioni a /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Per confermare che i driver della GPU NVIDIA siano funzionanti, esegui il seguente comando.

    $ nvidia-smi -q | head

    Il comando dovrebbe restituire informazioni sulle GPU NVIDIA, sui driver delle GPU NVIDIA e sul NVIDIA CUDA Toolkit.

RHEL 10
Per installare i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN

  1. Per verificare che tutti i pacchetti software siano aggiornati, eseguire un aggiornamento rapido del software sull'istanza.

    $ sudo dnf upgrade -y && sudo reboot

    Dopo il riavvio, riconnettersi all'istanza.

  2. Installa le utilità necessarie per installare i driver GPU NVIDIA e il NVIDIA CUDA Toolkit.

    $ sudo dnf groupinstall 'Development Tools' -y \
&& sudo dnf install -y dkms kernel-devel-$(uname -r) \
&& sudo dnf install -y https://dl.fedoraproject.org/pub/epel/epel-release-latest-10.noarch.rpm

  3. Disabilitare i driver open source nouveau.

    1. Aggiungi al file deny listnouveau. /etc/modprobe.d/blacklist.conf

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    2. Aggiungi GRUB_CMDLINE_LINUX="rdblacklist=nouveau" al grub file e ricostruisci la configurazione di GRUB.

      $ echo 'GRUB_CMDLINE_LINUX="rdblacklist=nouveau"' | sudo tee -a /etc/default/grub \
&& sudo grub2-mkconfig -o /boot/grub2/grub.cfg

  4. Riavviare l'istanza e riconnettersi a essa.

  5. Aggiungi il repository CUDA e installa i driver GPU NVIDIA, NVIDIA CUDA Toolkit e cuDNN.

    $ sudo yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/cuda-rhel10.repo \
&& sudo dnf install -y nvidia-open-580.167.08 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-devel-cuda-13

  6. Riavviare l'istanza e riconnettersi a essa.

  7. (Istanze con NvSwitch, ad esempio istanze multi-GPU) Installa e avvia NVIDIA Fabric Manager. P-series G-series le istanze non utilizzano NVSwitch e non richiedono Fabric Manager.

    $ sudo dnf install -y https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/nvidia-fabricmanager-580.167.08-1.x86_64.rpm \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Assicurarsi che i percorsi CUDA siano impostati ogni volta che viene avviata l'istanza.

    • Per le shell bash, aggiungere le seguenti istruzioni a /home/username/.bashrc e /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Per le shell tcsh, aggiungere le seguenti istruzioni a /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Per confermare che i driver della GPU NVIDIA siano funzionanti, esegui il seguente comando.

    $ nvidia-smi -q | head

    Il comando dovrebbe restituire informazioni sulle GPU NVIDIA, sui driver delle GPU NVIDIA e sul NVIDIA CUDA Toolkit.

Fase 4: installazione del GDRCopy

Installa GDRCopy per migliorare le prestazioni di Libfabric. Per ulteriori informazioni su GDRCopy, consulta il repository GDRCopy.

Amazon Linux 2023
Installazione del GDRCopy

  1. Installare le dipendenze richieste.

    $ sudo yum -y install dkms rpm-build make check check-devel

  2. Scarica ed estrai il pacchetto GDRCopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Compila i pacchetti RPM di GDRCopy.

    $ CUDA=/usr/local/cuda ./build-rpm-packages.sh

  4. Installa i pacchetti RPM di GDRCopy.

    $ sudo rpm -Uvh gdrcopy-kmod-2.5.2*dkms*.rpm \
&& sudo rpm -Uvh gdrcopy-2.5.2*.rpm \
&& sudo rpm -Uvh gdrcopy-devel-2.5.2*.rpm
Ubuntu 26.04, Ubuntu 24.04, and Ubuntu 22.04
Installazione del GDRCopy

  1. Installare le dipendenze richieste.

    $ sudo apt-get install -y build-essential devscripts debhelper fakeroot pkg-config dkms
    Nota

    Su Ubuntu 22.04, installa anche le seguenti dipendenze aggiuntive:

    $ sudo apt-get install -y check libsubunit-dev

  2. Scarica ed estrai il pacchetto GDRCopy e crea i pacchetti.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz \
&& cd gdrcopy-2.5.2/packages \
&& CUDA=/usr/local/cuda ./build-deb-packages.sh

  3. Installa i pacchetti DEB di GDRCopy.

    $ sudo dpkg -i gdrdrv-dkms_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i libgdrapi_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i gdrcopy-tests_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i gdrcopy_2.5.2-1_amd64.*.deb
Debian 12
Installazione del GDRCopy

  1. Installare le dipendenze richieste.

    $ sudo apt-get install -y build-essential devscripts debhelper fakeroot pkg-config dkms

  2. Scarica ed estrai il pacchetto GDRCopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Applica le patch della versione Debian e compila i pacchetti.

    $ sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-lib/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-tests/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' dkms/debian/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-meta/changelog \
&& sed -i 's/FULL_VERSION="${VERSION}"/FULL_VERSION="${VERSION}-${DEBIAN_VERSION}"/g' build-deb-packages.sh
    $ CUDA=/usr/local/cuda ./build-deb-packages.sh

  4. Installa i pacchetti DEB di GDRCopy.

    $ sudo dpkg -i gdrdrv-dkms_2.5.2*.deb \
&& sudo dpkg -i libgdrapi_2.5.2*.deb \
&& sudo dpkg -i gdrcopy-tests_2.5.2*.deb \
&& sudo dpkg -i gdrcopy_2.5.2*.deb
RHEL 10
Installazione del GDRCopy

  1. Installare le dipendenze richieste.

    $ sudo yum -y install dkms rpm-build make check check-devel

  2. Scarica ed estrai il pacchetto GDRCopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Compila i pacchetti RPM di GDRCopy.

    $ CUDA=/usr/local/cuda ./build-rpm-packages.sh

  4. Installa i pacchetti RPM di GDRCopy.

    $ sudo rpm -Uvh gdrcopy-kmod-2.5.2*dkms*.rpm \
&& sudo rpm -Uvh gdrcopy-2.5.2*.rpm \
&& sudo rpm -Uvh gdrcopy-devel-2.5.2*.rpm

Fase 5: installazione del software EFA

Installa il EFA-enabled kernel, i driver EFA, Libfabric, il plugin aws-ofi-nccl e lo stack Open MPI necessari per supportare l'EFA sulla tua istanza.

Per installare il software EFA

  1. Connettersi all'istanza avviata. Per ulteriori informazioni, consulta Connessione a un’istanza Linux tramite SSH.

  2. Scarica i file di installazione del software. I file di installazione del software sono costituiti da un file tarball () compresso. .tar.gz Per scaricare l'ultima versione stabile, utilizzare il comando seguente.

    $ curl -O https://efa-installer.amazonaws.com/aws-efa-installer-1.50.0.tar.gz

    È inoltre possibile ottenere l'ultima versione sostituendo il numero della versione con latest nel comando qui sopra.

  3. (Opzionale) Verifica l'autenticità e l'integrità del file tarball EFA (.tar.gz).

    È consigliabile eseguire questa operazione per verificare l'identità dell'autore del software e che il file non sia stato alterato o danneggiato dopo la pubblicazione. Se non desideri verificare il file tarball, ignora questo passaggio.

    Nota

    In alternativa, se preferisci verificare il file tarball utilizzando un checksum MD5 o SHA256, consulta Verifica del programma di installazione EFA utilizzando un checksum.

    1. Scarica la chiave pubblica GPG e importala nel tuo keyring.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer.key && gpg --import aws-efa-installer.key

      Il comando dovrebbe restituire un valore di chiave. Prendere nota del valore della chiave poiché sarà necessario nella fase successiva.

    2. Verifica l'impronta digitale della chiave GPG. Esegui questo comando e specifica la chiave valore creata nella fase precedente.

      $ gpg --fingerprint key_value

      Il comando dovrebbe restituire un'impronta digitale identica a 4E90 91BC BB97 A96B 26B1 5E59 A054 80B1 DD2D 3CCC. Se l'impronta digitale non corrisponde, non eseguire lo script di installazione EFA e contatta Supporto.

    3. Scarica il file di firma e verifica la firma del file tarball EFA.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer-1.50.0.tar.gz.sig && gpg --verify ./aws-efa-installer-1.50.0.tar.gz.sig

      Di seguito viene mostrato l'output di esempio.

      gpg: Signature made Wed 29 Jul 2020 12:50:13 AM UTC using RSA key ID DD2D3CCC
gpg: Good signature from "Amazon EC2 EFA <ec2-efa-maintainers@amazon.com>"
gpg: WARNING: This key is not certified with a trusted signature!
gpg:          There is no indication that the signature belongs to the owner.
Primary key fingerprint: 4E90 91BC BB97 A96B 26B1  5E59 A054 80B1 DD2D 3CCC

      Se il risultato include Good signature e se l'impronta digitale corrisponde a quella restituita nel passaggio precedente, procedi alla fase successiva. In caso contrario, non eseguire lo script di installazione EFA e contatta Supporto.

    Mostra piùMostra meno

  4. Estrarre i file dal file .tar.gz compresso e andare alla directory estratta.

    $ tar -xf aws-efa-installer-1.50.0.tar.gz && cd aws-efa-installer

  5. (Facoltativo) Verificate le firme dei singoli pacchetti durante l'installazione.

    A partire da EFA installer 1.48.0, l'installatore include GPG-signed singoli pacchetti RPM e DEB. Per verificare l'autenticità e l'integrità di ogni singolo pacchetto durante l'installazione, usa il flag. --check-signatures Quando abiliti questo flag, il programma di installazione verifica prima tutte le firme dei pacchetti e procede con l'installazione solo se ogni pacchetto supera la verifica. Se un pacchetto non supera la verifica, il programma di installazione esce immediatamente senza installare nulla.

    1. Scarica la chiave pubblica GPG.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer.key

    2. Esporta il percorso chiave. Quindi, nel passaggio successivo, aggiungete --check-signatures al comando di installazione e usate sudo -E invece che sudo per preservare la variabile di ambiente.

      $ export EFA_INSTALLER_KEY=$(pwd)/aws-efa-installer.key

    RPM-based Sui sistemi (Amazon Linux 2023, RHEL, Rocky Linux e SUSE), il programma di installazione verifica ogni RPM utilizzando. rpm --checksig DEB-based Sui sistemi (Ubuntu, Debian), l'installatore verifica ogni DEB utilizzando la verifica della firma GPG. Se la verifica di un pacchetto fallisce, l'installazione si interrompe immediatamente.

    Nota

    Il --check-signatures contrassegno è opzionale. Senza di esso, l'installatore non esegue la verifica della firma individuale.

    Mostra piùMostra meno

  6. Eseguire lo script di installazione del software EFA.

    Nota

    Se avete completato il passaggio opzionale precedente per impostare la verifica della firma del pacchetto, aggiungetelo --check-signatures al comando di installazione e usate sudo -E al posto di. sudo Ad esempio: sudo -E ./efa_installer.sh -y --mpi=openmpi5 --check-signatures.

    Nota

    A partire da EFA 1.30.0, sia Open MPI 4.1 che Open MPI 5 sono installati per impostazione predefinita. A meno che tu non abbia bisogno di Open MPI 4.1, installa solo Open MPI 5. Il comando seguente installa solo Open MPI 5. Se desideri installare Open MPI 4.1 e Open MPI 5, rimuovi. --mpi=openmpi5

    $ sudo ./efa_installer.sh -y --mpi=openmpi5

    Libfabric è installato nella directory /opt/amazon/efa. Il plug-in aws-ofi-nccl è installato nella directory /opt/amazon/ofi-nccl. Open MPI è installato nella directory /opt/amazon/openmpi.

  7. Se il programma di installazione di EFA richiede il riavvio dell'istanza, eseguire questa operazione e riconnettersi all'istanza. In caso contrario, disconnettersi dall'istanza e quindi accedere di nuovo per completare l'installazione.

  8. Verificare che il software EFA sia stato installato correttamente.

    $ fi_info -p efa -t FI_EP_RDM

    Il comando deve restituire informazioni sulle interfacce EFA Libfabric.

Fase 6: installare NCCL

Installare NCCL. Per ulteriori informazioni su NCCL, consulta il repository NCCL.

Per installare NCCL

  1. Passa alla directory /opt.

    $ cd /opt

  2. Clonare il repository NCCL ufficiale sull'istanza e navigare nel repository clonato locale.

    $ sudo git clone https://github.com/NVIDIA/nccl.git -b v2.30.4-1 && cd nccl

  3. Creare e installare NCCL e specificare la directory di installazione CUDA.

    $ sudo make -j src.build CUDA_HOME=/usr/local/cuda-13

Fase 7: installare i test NCCL

Installare i test NCCL. I test NCCL consentono di confermare che NCCL sia installato correttamente e che funzioni come previsto. Per ulteriori informazioni sui test NCCL, consulta il repository nccl-tests.

Per installare i test NCCL

  1. Passare alla home directory.

    $ cd $HOME

  2. Clonare il repository nccl-tests ufficiale sull'istanza e navigare nel repository clonato locale.

    $ git clone https://github.com/NVIDIA/nccl-tests.git && cd nccl-tests

  3. Aggiungere la directory Libfabric alla variabile LD_LIBRARY_PATH.

    • Amazon Linux 2023

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib64:$LD_LIBRARY_PATH

    • Ubuntu e Debian

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib:$LD_LIBRARY_PATH

    • REGOLA 10

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib64:$LD_LIBRARY_PATH

  4. Installare i test NCCL e specificare le directory di installazione MPI, NCCL e CUDA.

    $ make MPI=1 MPI_HOME=/opt/amazon/openmpi NCCL_HOME=/opt/nccl/build CUDA_HOME=/usr/local/cuda-13

Fase 8: testare la configurazione EFA e NCCL

Eseguire un test per accertare che l'istanza temporanea sia configurata adeguatamente per EFA e NCCL.

Per testare la configurazione EFA ed NCCL

  1. Creare un file host che specifichi gli host su cui eseguire i test. Il comando seguente crea un file di host denominato my-hosts che include un riferimento all'istanza stessa.

    IMDSv2
    [ec2-user ~]$ TOKEN=`curl -X PUT "http://169.254.169.254/latest/api/token" -H "X-aws-ec2-metadata-token-ttl-seconds: 21600"` \
&& curl -H "X-aws-ec2-metadata-token: $TOKEN" -v http://169.254.169.254/latest/meta-data/local-ipv4 >> my-hosts
    IMDSv1
    [ec2-user ~]$ curl http://169.254.169.254/latest/meta-data/local-ipv4 >> my-hosts

  2. Esegui il test NCCL. Il comando seguente presuppone che siano presenti 8 GPU per istanza. Regola i -N valori -n e in base al tipo di istanza.

    $ /opt/amazon/openmpi/bin/mpirun \
-x FI_EFA_USE_DEVICE_RDMA=1 \
-x LD_LIBRARY_PATH=/opt/nccl/build/lib:/usr/local/cuda/lib64:/opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/amazon/ofi-nccl/lib:$LD_LIBRARY_PATH \
-x NCCL_DEBUG=INFO \
--hostfile my-hosts -n 8 -N 8 \
--mca pml ^cm --mca btl tcp,self --mca btl_tcp_if_exclude lo,docker0 --bind-to none \
$HOME/nccl-tests/build/all_reduce_perf -b 8 -e 1G -f 2 -g 1 -c 1 -n 100

  3. È possibile confermare che EFA sia attivo come provider sottostante per NCCL quando viene stampato il log NCCL_DEBUG.

    ip-192-168-2-54:14:14 [0] NCCL INFO NET/OFI Selected Provider is efa*

    Le seguenti informazioni aggiuntive vengono visualizzate quando si utilizza un'istanza p4d.24xlarge.

    ip-192-168-2-54:14:14 [0] NCCL INFO NET/OFI Running on P4d platform, Setting NCCL_TOPO_FILE environment variable to /home/ec2-user/install/plugin/share/aws-ofi-nccl/xml/p4d-24xl-topo.xml

Fase 9: installare applicazioni di machine learning

Installa le applicazioni di machine learning sull'istanza temporanea. La procedura di installazione varia in base alla specifica applicazione di machine learning. Per ulteriori informazioni sull'installazione del software sulla tua istanza Linux, consulta Gestire gli aggiornamenti del sistema operativo nella Guida per l'utente di Amazon Linux 2023.

Nota

Per le istruzioni di installazione, consulta la documentazione dell'applicazione di machine learning.

Passaggio 10: creare un EFA e un'AMI NCCL-enabled

Dopo aver installato i componenti software richiesti, crei un'AMI che puoi riutilizzare per avviare le tue EFA-enabled istanze.

Per creare un'AMI dall'istanza temporanea

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Nel riquadro di navigazione, scegliere Instances (Istanze).

  3. Seleziona l'istanza temporanea creata e seleziona Actions (Operazioni), Image (Immagine), Create Image (Crea immagine).

  4. Per Create image (Crea immagine), effettua le seguenti operazioni:

    1. In Image name (Nome immagine), immettere un nome descrittivo per l'AMI.

    2. (Facoltativo) In Image description (Descrizione immagine), inserire una breve descrizione dell'AMI.

    3. Scegliere Create Image (Crea immagine).

  5. Nel riquadro di navigazione scegliere AMIs (AMI).

  6. Individua l'AMI che hai creato nell'elenco. Prima di procedere con la fase seguente, attendere che lo stato passi da pending a available.

Fase 11: terminare l'istanza temporanea

A questo punto l'istanza temporanea avviata non è più necessaria. È possibile terminare l'istanza per evitare di incorrere in costi aggiuntivi.

Per terminare l'istanza temporanea

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Nel riquadro di navigazione, scegliere Instances (Istanze).

  3. Selezionare l'istanza temporanea creata, quindi scegliere Actions (Operazioni), Instance state (Stato istanza), Terminate instance (Termina istanza).

  4. Quando viene richiesta la conferma, seleziona Termina.

Fase 12: Avvia l'EFA e NCCL-enabled le istanze in un gruppo di collocamento del cluster

Avvia l'EFA e NCCL-enabled le istanze in un gruppo di posizionamento del cluster utilizzando l' EFA-enabledAMI e il gruppo di EFA-enabled sicurezza che hai creato in precedenza.

Nota

  • Non è un requisito assoluto avviare le EFA-enabled istanze in un gruppo di collocamento del cluster. Tuttavia, consigliamo di eseguire le EFA-enabled istanze in un gruppo di posizionamento del cluster in quanto avvia le istanze in un gruppo a bassa latenza in una singola zona di disponibilità.

  • Per garantire che la capacità sia disponibile durante il dimensionamento delle istanze del cluster, è possibile creare una prenotazione della capacità per il gruppo di collocazione cluster. Per ulteriori informazioni, consulta Utilizza Capacity Reservations con gruppi di collocamento.

New console
Per avviare un'istanza temporanea

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Nel pannello di navigazione, scegli Instances (Istanze) e quindi scegli Launch instances (Avvia istanze) per aprire la nuova procedura guidata di avvio dell'istanza.

  3. (Opzionale) Nella sezione Name and tags (Nome e tag), fornisci un nome per l'istanza, ad esempio EFA-instance. Il nome viene assegnato all'istanza come tag di risorsa (Name=EFA-instance).

  4. Nella sezione Application and OS Images (Immagini di applicazioni e sistema operativo), scegli My AMIs (Le mie AMI), quindi seleziona l'AMI creata nella fase precedente.

  5. Nella sezione Instance type (Tipo di istanza), seleziona p3dn.24xlarge o p4d.24xlarge.

  6. Nella sezione Key pair (Coppia di chiavi), seleziona la coppia di chiavi da utilizzare per l'istanza.

  7. Nella sezione Network settings (Impostazioni di rete), scegli Edit (Modifica) e quindi esegui le operazioni qui descritte:

    1. Per Subnet (Sottorete) seleziona la subnet in cui avviare l'istanza. Se non selezioni una sottorete, non puoi abilitare l'istanza per l'EFA.

    2. Per Firewall (security groups) (Firewall [gruppi di sicurezza]), scegli Select existing security group (Seleziona gruppo di sicurezza esistente) e quindi seleziona il gruppo di sicurezza creato nella fase precedente.

    3. Espandi la sezione Configurazione avanzata.

      Come Interfaccia di rete 1, seleziona Indice della scheda di rete = 0, Indice dispositivo = 0 e Tipo di interfaccia = EFA con ENA.

      (Facoltativo) Se utilizzi un tipo di istanza con più schede, ad esempio p4d.24xlarge orp5.48xlarge, per ogni interfaccia di rete aggiuntiva richiesta, scegli Aggiungi interfaccia di rete, per Indice delle schede di rete seleziona il successivo indice non utilizzato, quindi seleziona Indice dispositivo = 1 e Tipo di interfaccia = EFA con ENA o. EFA-only

  8. (Opzionale) Nella sezione Storage (Archiviazione), configura i volumi secondo necessità.

  9. Nella sezione Advanced details (Dettagli avanzati), per Placement group name (Nome del gruppo di collocazione), seleziona il gruppo di collocazione cluster in cui avviare l'istanza. Se occorre creare un nuovo gruppo di collocazione cluster, scegli Create new placement group (Crea nuovo gruppo di collocazione).

  10. Nel pannello Riepilogo a destra, per Numero di istanze, inserisci il numero di EFA-enabled istanze che desideri avviare, quindi scegli Avvia istanza.

Old console
Per avviare l'EFA e le NCCL-enabled istanze in un gruppo di collocamento del cluster

  1. Apri la console Amazon EC2 all'indirizzo https://console.aws.amazon.com/ec2/.

  2. Scegliere Launch Instance (Avvia istanza).

  3. Nella pagina Choose an AMI (Scegli un'AMI), seleziona My AMIs (Le mie AMI), trova l'AMI creata in precedenza e quindi scegli Select (Seleziona).

  4. Nella pagina Choose an Instance Type (Scegli il tipo di istanza), seleziona p3dn.24xlarge e scegli Next: Configure Instance Details (Fase successiva: configurazione dei dettagli dell'istanza).

  5. Nella pagina Configure Instance Details (Configura i dettagli dell'istanza), procedere come segue:

    1. Per Numero di istanze, inserisci il numero di EFA e NCCL-enabled le istanze che desideri avviare.

    2. In Network (Rete) e Subnet (Sottorete), selezionare il VPC e la sottorete in cui avviare le istanze.

    3. In Placement group (Gruppo di posizionamento), selezionare la casella Add instance to placement group (Aggiungi istanza a gruppo di posizionamento).

    4. In Placement group name (Nome del gruppo di posizionamento), selezionare Add to a new placement group (Aggiungi a un nuovo gruppo di posizionamento) e immettere un nome descrittivo per il gruppo di posizionamento. Quindi, in Placement group strategy (Strategia gruppo di posizionamento), selezionare Cluster.

    5. In EFA, scegliere Enable (Abilita).

    6. Nella sezione Network Interfaces (Interfacce di rete), per il dispositivo eth0 scegliere New network interface (Nuova interfaccia di rete). Facoltativamente, è possibile specificare un indirizzo IPv4 primario e uno o più indirizzi IPv4 secondari. Se l'istanza viene avviata in una sottorete alla quale è associato un blocco CIDR IPv6, è possibile specificare un indirizzo IPv6 primario e uno o più indirizzi IPv6 secondari.

    7. Scegliere Next: Add Storage (Successivo: aggiungi storage).

  6. Nella pagina Add archiviazione (Aggiungi archiviazione), specificare i volumi da collegare all'istanza, oltre a quelli specificati dall'AMI (ad esempio il volume del dispositivo di root). Quindi selezionare Next: Add Tags (Fase successiva: aggiungere tag).

  7. Nella pagina Add Tags (Aggiungi tag) specificare i tag per l'istanza, ad esempio un nome intuitivo, quindi selezionare Next: Configure Security Group (Successivo: configurazione del gruppo di sicurezza).

  8. Nella pagina Configure Security Group (Configura gruppo di sicurezza), scegliere Assign a security group (Assegna un gruppo di sicurezza), selezionare Select an existing security group (Seleziona un gruppo di sicurezza esistente) e quindi selezionare il gruppo di sicurezza creato in precedenza.

  9. Scegliere Review and Launch (Analizza e avvia).

  10. Nella pagina Review Instance Launch (Verifica avvio istanza) controllare le impostazioni e selezionare Launch (Avvia) per scegliere una coppia di chiavi e avviare l'istanza.

Fase 13: abilitare SSH senza password

Nota

L'utente SSH predefinito varia in base al sistema operativo: ubuntu per Ubuntu, per Debian, admin ec2-user per Amazon Linux e RHEL.

Per consentire l'esecuzione delle applicazioni in tutte le istanze del cluster, è necessario abilitare l'accesso SSH senza password dal nodo leader ai nodi membro. Il nodo principale è l'istanza da cui vengono eseguite le applicazioni. Le restanti istanze del cluster sono i nodi membro.

Per abilitare SSH senza password tra le istanze del cluster

  1. Selezionare un'istanza nel cluster come nodo principale e connettersi a essa.

  2. Disabilita strictHostKeyChecking e abilita ForwardAgent sul nodo principale. Aprire il file ~/.ssh/config utilizzando qualsiasi editor di testo e aggiungere il seguente script.

    Host *
    ForwardAgent yes
Host *
    StrictHostKeyChecking no

  3. Generare una coppia di chiavi RSA.

    $ ssh-keygen -t rsa -N "" -f ~/.ssh/id_rsa

    La coppia di chiavi viene creata nella directory $HOME/.ssh/.

  4. Modifica le autorizzazioni della chiave privata sul nodo principale.

    $ chmod 600 ~/.ssh/id_rsa
chmod 600 ~/.ssh/config

  5. Aprire ~/.ssh/id_rsa.pub utilizzando l'editor di testo preferito e copiare la chiave.

  6. Per ogni nodo membro nel cluster, procedere nel modo seguente:

    1. Collegarsi all'istanza.

    2. Aprire ~/.ssh/authorized_keys utilizzando qualsiasi editor di testo e aggiungere la chiave pubblica copiata in precedenza.

  7. Per verificare che SSH senza password funzioni come previsto, connettersi al nodo leader ed eseguire il seguente comando.

    $ ssh member_node_private_ip

    La connessione al nodo membro non dovrebbe richiedere una chiave o una password.