View a markdown version of this page

Memulai dengan EFA dan NCCL untuk beban kerja ML di Amazon EC2 - Amazon Elastic Compute Cloud
Langkah 1: Siapkan grup EFA-enabled keamananLangkah 2: Luncurkan instans sementaraLangkah 3: Instal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNNLangkah 4: Instal GDRCopyLangkah 5: Instal perangkat lunak EFALangkah 6: Instal NCCLLangkah 7: Instal uji NCCLLangkah 8: Uji konfigurasi EFA dan NCCL AndaLangkah 9: Instal aplikasi machine learning AndaLangkah 10: Buat EFA dan AMI NCCL-enabledLangkah 11: Mengakhiri instans sementaraLangkah 12: Luncurkan EFA dan NCCL-enabled instance ke grup penempatan clusterLangkah 13: Mengaktifkan SSH tanpa kata sandi

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memulai dengan EFA dan NCCL untuk beban kerja ML di Amazon EC2

NVIDIA Collective Communications Library (NCCL) adalah perpustakaan rutinitas komunikasi kolektif standar untuk banyak GPU pada simpul tunggal atau beberapa simpul. Anda dapat menggunakan NCCL bersama dengan EFA, Libfabric, dan MPI untuk mendukung berbagai beban kerja pembelajaran mesin. Untuk informasi lebih lanjut, lihat situs web NCCL.

Persyaratan

  • Jenis instans yang didukung termasuk tipe instance seri EFA-supported P dan seri G. Untuk informasi selengkapnya, lihat Inst ans komputasi akselerasi Amazon EC2.

  • AMI dasar yang didukung: Amazon Linux 2023, Ubuntu 26.04, Ubuntu 24.04, Ubuntu 22.04, Debian 12 dan RHEL 10.

  • EFA hanya mendukung NCCL 2.4.2 dan yang lebih baru.

Untuk informasi selengkapnya tentang menjalankan beban kerja pembelajaran mesin dengan EFA dan NCCL menggunakan AWS Deep Learning AMIs, lihat Menggunakan EFA di D LAMI di Panduan Pengembang. AWS Deep Learning AMIs

Langkah 1: Siapkan grup EFA-enabled keamanan

EFA memerlukan grup keamanan yang memungkinkan semua lalu lintas masuk dan keluar ke dan dari grup keamanan itu sendiri. Prosedur berikut menciptakan grup keamanan yang memungkinkan semua lalu lintas masuk dan ke luar ke dan dari dirinya sendiri, dan yang memungkinkan lalu lintas SSH masuk dari alamat IPv4 apa pun untuk konektivitas SSH.

penting

  • Grup keamanan ini ditujukan untuk tujuan pengujian saja. Untuk lingkungan produksi Anda, kami sarankan Anda membuat aturan SSH masuk yang memungkinkan lalu lintas hanya dari alamat IP dari mana Anda terhubung, seperti alamat IP komputer Anda, atau berbagai alamat IP di jaringan lokal Anda.

  • Aturan masuk dan keluar yang merujuk sendiri (memungkinkan semua lalu lintas ke dan dari grup keamanan itu sendiri) wajib bagi EFA untuk berfungsi. Tanpa aturan ini, lalu lintas EFA antar instance akan diblokir dan komunikasi NCCL akan gagal.

Untuk skenario lainnya, lihat Aturan-aturan grup keamanan untuk kasus penggunaan yang berbeda.

Untuk membuat grup EFA-enabled keamanan

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Dalam panel navigasi, pilih Grup Keamanan, lalu pilih Buat grup keamanan.

  3. Di jendela Buat Grup Keamanan, lakukan hal berikut:

    1. Untuk Nama grup keamanan, masukkan nama deskriptif untuk grup keamanan, seperti EFA-enabled security group.

    2. (Opsional) Untuk Deskripsi, masukkan deskripsi singkat grup keamanan.

    3. Untuk VPC, pilih VPC tempat Anda ingin meluncurkan instans Anda EFA-enabled .

    4. Pilih Buat grup keamanan.

  4. Pilih grup keamanan yang Anda buat, dan pada tab Detail, salin ID grup keamanan.

  5. Dengan grup keamanan yang masih dipilih, pilih Tindakan, Edit aturan masuk, lalu lakukan hal berikut:

    1. Pilih Tambahkan aturan.

    2. Untuk Tipe, pilih Semua lalu lintas.

    3. Untuk Tipe sumber, pilih Kustom dan tempelkan ID grup keamanan yang Anda salin ke dalam bidang.

    4. Pilih Tambahkan aturan.

    5. Untuk Tipe, pilih SSH.

    6. Untuk Jenis Sumber, pilih Anywhere-IPv4.

    7. Pilih Simpan aturan.

  6. Dengan grup keamanan yang masih dipilih, pilih Tindakan, Edit aturan keluar, lalu lakukan hal berikut:

    1. Pilih Tambahkan aturan.

    2. Untuk Tipe, pilih Semua lalu lintas.

    3. Untuk Tipe tujuan, pilih Kustom dan tempelkan ID grup keamanan yang Anda salin ke dalam bidang.

    4. Pilih Simpan aturan.

Langkah 2: Luncurkan instans sementara

Luncurkan instans sementara yang dapat Anda gunakan untuk menginstal dan mengonfigurasi komponen perangkat lunak EFA. Anda menggunakan instance ini untuk membuat EFA-enabled AMI dari mana Anda dapat meluncurkan EFA-enabled instans Anda.

Untuk meluncurkan instans sementara

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Di panel navigasi, pilih Instans, lalu pilih Luncurkan Instans untuk membuka wizard peluncuran instans baru.

  3. (Opsional) Di bagian Nama dan tanda, berikan nama untuk instans, seperti EFA-instance. Nama ditetapkan ke instans sebagai tanda sumber daya (Name=EFA-instance).

  4. Di bagian Aplikasi dan Gambar OS, pilih AMI untuk salah satu sistem operasi yang didukung.

  5. Di bagian Jenis Instance, pilih jenis instance yang didukung.

  6. Pada bagian Pasangan kunci, pilih pasangan kunci yang akan digunakan untuk instans.

  7. Di bagian Pengaturan jaringan, pilih Edit, lalu lakukan hal berikut:

    1. Untuk Subnet, pilih subnet untuk meluncurkan instans.

      penting

      Anda harus memilih subnet. Jika Anda tidak memilih subnet, Anda tidak dapat mengaktifkan instans untuk EFA.

    2. Untuk Firewall (grup keamanan), pilih Pilih grup keamanan yang ada, lalu pilih grup keamanan yang Anda buat di langkah sebelumnya.

    3. Perluas bagian Konfigurasi jaringan lanjutan.

      Untuk Antarmuka jaringan 1, pilih Indeks kartu jaringan = 0, indeks perangkat = 0, dan tipe antarmuka = EFA dengan ENA.

      (Opsional) Jika Anda menggunakan jenis instance multi-kartu, untuk setiap antarmuka jaringan tambahan yang diperlukan, pilih Tambahkan antarmuka jaringan, untuk Indeks kartu jaringan pilih indeks yang tidak digunakan berikutnya, lalu pilih Indeks perangkat = 1 dan Jenis antarmuka = EFA dengan ENA atau. EFA-only

  8. Di bagian Penyimpanan, konfigurasikan volume sesuai kebutuhan.

    catatan

    Anda harus menyediakan penyimpanan tambahan 10 hingga 20 GiB untuk NVIDIA CUDA Toolkit. Jika Anda tidak menyediakan penyimpanan yang cukup, Anda akan menerima insufficient disk space kesalahan saat mencoba menginstal driver NVIDIA dan toolkit CUDA.

  9. Di panel Ringkasan di sebelah kanan, pilih Luncurkan instans.

Langkah 3: Instal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN

Amazon Linux 2023
Untuk menginstal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN

  1. Untuk memastikan bahwa semua paket perangkat lunak Anda telah diperbarui, lakukan pembaruan perangkat lunak cepat di instans Anda.

    $ sudo dnf upgrade -y && sudo reboot

    Hubungkan kembali ke instans Anda setelah boot ulang.

  2. Instal utilitas yang diperlukan untuk menginstal driver GPU NVIDIA dan NVIDIA CUDA Toolkit.

    $ sudo dnf groupinstall 'Development Tools' -y && sudo dnf install -y dkms kernel-devel-$(uname -r) kernel-headers-$(uname -r)

  3. Nonaktifkan driver nouveau open source.

    1. Instal utilitas yang diperlukan dan paket header kernel untuk versi kernel yang sedang Anda jalankan.

      $ sudo yum install -y wget kernel-devel-$(uname -r) kernel-headers-$(uname -r)

    2. Tambahkan nouveau ke file /etc/modprobe.d/blacklist.conf daftar tolak.

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    3. Tambahkan GRUB_CMDLINE_LINUX="rdblacklist=nouveau" ke grub file dan bangun kembali konfigurasi GRUB.

      $ echo 'GRUB_CMDLINE_LINUX="rdblacklist=nouveau"' | sudo tee -a /etc/default/grub \
&& sudo grub2-mkconfig -o /boot/grub2/grub.cfg

  4. Boot ulang dan terhubung kembali ke instans Anda.

  5. Tambahkan repositori jaringan CUDA.

    $ sudo yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/cuda-rhel8.repo

  6. Unduh dan instal driver GPU NVIDIA.

    $ wget https://us.download.nvidia.com/tesla/580.167.08/NVIDIA-Linux-x86_64-580.167.08.run \
&& sudo sh NVIDIA-Linux-x86_64-580.167.08.run -m kernel-open --no-drm --disable-nouveau --dkms --silent

  7. Instal NVIDIA CUDA Toolkit dan cuDNN.

    $ sudo dnf install -y cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-devel-cuda-13

  8. Boot ulang dan terhubung kembali ke instans Anda.

  9. (Instans dengan NVSwitch, seperti inst P-series ans multi-GPU) Instal dan mulai NVIDIA Fabric Manager. G-series instance tidak menggunakan NVSwitch dan tidak memerlukan Fabric Manager.

    $ sudo dnf install -y https://developer.download.nvidia.com/compute/cuda/repos/rhel8/x86_64/nvidia-fabricmanager-580.167.08-1.el8.x86_64.rpm \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  10. Pastikan bahwa jalur CUDA diatur setiap kali instans dimulai.

    • Untuk shell bash, tambahkan pernyataan berikut ke /home/username/.bashrc dan /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Untuk shell tcsh, tambahkan pernyataan berikut ke /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  11. Untuk mengonfirmasi bahwa driver GPU NVIDIA berfungsi, jalankan perintah berikut.

    $ nvidia-smi -q | head

    Perintah harus mengembalikan informasi tentang GPU NVIDIA, driver GPU NVIDIA, dan NVIDIA CUDA Toolkit.

Ubuntu 26.04, Ubuntu 24.04, and Ubuntu 22.04
Untuk menginstal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN

  1. Untuk memastikan bahwa semua paket perangkat lunak Anda telah diperbarui, lakukan pembaruan perangkat lunak cepat di instans Anda.

    $ sudo apt-get update && sudo apt-get upgrade -y

  2. Instal utilitas yang diperlukan untuk menginstal driver GPU NVIDIA dan NVIDIA CUDA Toolkit.

    $ sudo apt-get update && sudo apt-get install build-essential -y

  3. Untuk menggunakan driver GPU NVIDIA, Anda harus terlebih dahulu menonaktifkan driver nouveau open source.

    1. Instal utilitas yang diperlukan dan paket header kernel untuk versi kernel yang sedang Anda jalankan.

      $ sudo apt-get install -y gcc make linux-headers-$(uname -r)

    2. Tambahkan nouveau ke file /etc/modprobe.d/blacklist.conf daftar tolak.

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    3. Buka /etc/default/grub menggunakan editor teks pilihan Anda dan tambahkan berikut ini. 

      GRUB_CMDLINE_LINUX="rdblacklist=nouveau"

    4. Bangun kembali konfigurasi GRUB.

      $ sudo update-grub

  4. Boot ulang dan terhubung kembali ke instans Anda.

  5. Tambahkan repositori CUDA dan instal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN.

    • Ubuntu 26.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo add-apt-repository -y 'deb [trusted=yes] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64 /' \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open cuda-toolkit-13-3 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

    • Ubuntu 24.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo add-apt-repository -y 'deb [trusted=yes] https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64 /' \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open-580 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

    • Ubuntu 22.04

      $ wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo DEBIAN_FRONTEND=noninteractive add-apt-repository -y "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /" \
&& sudo apt-get update
      $ sudo apt-get install -y nvidia-open-580 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

  6. Boot ulang dan terhubung kembali ke instans Anda.

  7. (Instans dengan NVSwitch, seperti inst P-series ans multi-GPU) Instal dan mulai NVIDIA Fabric Manager. G-series instance tidak menggunakan NVSwitch dan tidak memerlukan Fabric Manager.

    • Ubuntu 26.04

      $ sudo apt-get install -y nvidia-fabricmanager \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

    • Ubuntu 24.04 dan Ubuntu 22.04

      $ sudo apt-get install -y nvidia-fabricmanager-580 \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Pastikan bahwa jalur CUDA diatur setiap kali instans dimulai.

    • Untuk shell bash, tambahkan pernyataan berikut ke /home/username/.bashrc dan /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Untuk shell tcsh, tambahkan pernyataan berikut ke /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Untuk mengonfirmasi bahwa driver GPU NVIDIA berfungsi, jalankan perintah berikut.

    $ nvidia-smi -q | head

    Perintah harus mengembalikan informasi tentang GPU NVIDIA, driver GPU NVIDIA, dan NVIDIA CUDA Toolkit.

Debian 12
Untuk menginstal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN

  1. Instal utilitas yang diperlukan untuk menginstal driver GPU NVIDIA dan NVIDIA CUDA Toolkit.

    $ sudo apt-get install -y build-essential gcc make linux-headers-$(uname -r) dkms

  2. Nonaktifkan driver nouveau open source.

    $ sudo sed -i 's/GRUB_CMDLINE_LINUX=""/GRUB_CMDLINE_LINUX="rdblacklist=nouveau"/' /etc/default/grub && sudo update-grub

  3. Boot ulang dan terhubung kembali ke instans Anda.

  4. Tambahkan repositori CUDA dan instal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN.

    $ wget https://developer.download.nvidia.com/compute/cuda/repos/debian12/x86_64/cuda-keyring_1.1-1_all.deb \
&& sudo dpkg -i cuda-keyring_1.1-1_all.deb \
&& sudo DEBIAN_FRONTEND=noninteractive add-apt-repository -y "deb https://developer.download.nvidia.com/compute/cuda/repos/debian12/x86_64/ /" \
&& sudo apt-get update
    $ sudo apt-get install -y nvidia-open cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-dev-cuda-13

  5. Konfigurasikan modul kernel NVIDIA UVM.

    $ uvm_ko=$(find /lib/modules/$(uname -r) -name 'nvidia*uvm*.ko*' 2>/dev/null | head -1) && if [ -n "$uvm_ko" ]; then real=$(basename "$uvm_ko"); real=${real%.ko*}; echo "$real" | sudo tee /etc/modules-load.d/nvidia-uvm.conf; if [ "$real" != "nvidia-uvm" ]; then echo "alias nvidia-uvm $real" | sudo tee /etc/modprobe.d/nvidia-uvm.conf; fi; sudo modprobe "$real" || true; fi && sudo modprobe nvidia

  6. Boot ulang dan terhubung kembali ke instans Anda.

  7. (Instans dengan NVSwitch, seperti inst P-series ans multi-GPU) Instal dan mulai NVIDIA Fabric Manager. G-series instance tidak menggunakan NVSwitch dan tidak memerlukan Fabric Manager.

    1. Tentukan versi modul kernel NVIDIA.

      $ cat /proc/driver/nvidia/version | grep "Kernel Module"

      Berikut ini adalah output contoh.

      NVRM version: NVIDIA UNIX x86_64 Kernel Module  610.43.02  ...

      Dalam contoh sebelumnya, versi utama 610 dari modul kernel diinstal.

    2. Instal NVIDIA Fabric Manager menggunakan versi utama yang diidentifikasi pada langkah sebelumnya.

      $ sudo apt-get install -y nvidia-fabricmanager-major_version_number \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Pastikan bahwa jalur CUDA diatur setiap kali instans dimulai.

    • Untuk shell bash, tambahkan pernyataan berikut ke /home/username/.bashrc dan /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Untuk shell tcsh, tambahkan pernyataan berikut ke /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Untuk mengonfirmasi bahwa driver GPU NVIDIA berfungsi, jalankan perintah berikut.

    $ nvidia-smi -q | head

    Perintah harus mengembalikan informasi tentang GPU NVIDIA, driver GPU NVIDIA, dan NVIDIA CUDA Toolkit.

RHEL 10
Untuk menginstal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN

  1. Untuk memastikan bahwa semua paket perangkat lunak Anda telah diperbarui, lakukan pembaruan perangkat lunak cepat di instans Anda.

    $ sudo dnf upgrade -y && sudo reboot

    Hubungkan kembali ke instans Anda setelah boot ulang.

  2. Instal utilitas yang diperlukan untuk menginstal driver GPU NVIDIA dan NVIDIA CUDA Toolkit.

    $ sudo dnf groupinstall 'Development Tools' -y \
&& sudo dnf install -y dkms kernel-devel-$(uname -r) \
&& sudo dnf install -y https://dl.fedoraproject.org/pub/epel/epel-release-latest-10.noarch.rpm

  3. Nonaktifkan driver nouveau open source.

    1. Tambahkan nouveau ke file /etc/modprobe.d/blacklist.conf daftar tolak.

      $ cat << EOF | sudo tee --append /etc/modprobe.d/blacklist.conf
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
EOF

    2. Tambahkan GRUB_CMDLINE_LINUX="rdblacklist=nouveau" ke grub file dan bangun kembali konfigurasi GRUB.

      $ echo 'GRUB_CMDLINE_LINUX="rdblacklist=nouveau"' | sudo tee -a /etc/default/grub \
&& sudo grub2-mkconfig -o /boot/grub2/grub.cfg

  4. Boot ulang dan terhubung kembali ke instans Anda.

  5. Tambahkan repositori CUDA dan instal driver GPU NVIDIA, NVIDIA CUDA Toolkit, dan cuDNN.

    $ sudo yum-config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/cuda-rhel10.repo \
&& sudo dnf install -y nvidia-open-580.167.08 cuda-toolkit-13-0 libcudnn9-cuda-13 libcudnn9-devel-cuda-13

  6. Boot ulang dan terhubung kembali ke instans Anda.

  7. (Instans dengan NVSwitch, seperti inst P-series ans multi-GPU) Instal dan mulai NVIDIA Fabric Manager. G-series instance tidak menggunakan NVSwitch dan tidak memerlukan Fabric Manager.

    $ sudo dnf install -y https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/nvidia-fabricmanager-580.167.08-1.x86_64.rpm \
&& sudo systemctl enable nvidia-fabricmanager && sudo systemctl start nvidia-fabricmanager

  8. Pastikan bahwa jalur CUDA diatur setiap kali instans dimulai.

    • Untuk shell bash, tambahkan pernyataan berikut ke /home/username/.bashrc dan /home/username/.bash_profile. 

      export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

    • Untuk shell tcsh, tambahkan pernyataan berikut ke /home/username/.cshrc.

      setenv PATH=/usr/local/cuda/bin:$PATH
setenv LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

  9. Untuk mengonfirmasi bahwa driver GPU NVIDIA berfungsi, jalankan perintah berikut.

    $ nvidia-smi -q | head

    Perintah harus mengembalikan informasi tentang GPU NVIDIA, driver GPU NVIDIA, dan NVIDIA CUDA Toolkit.

Langkah 4: Instal GDRCopy

Instal GDRCopy untuk meningkatkan performa Libfabric. Untuk informasi selengkapnya tentang GDRCopy, lihat repositori GDRCopy.

Amazon Linux 2023
Untuk menginstal GDRCopy

  1. Instal dependensi yang diperlukan.

    $ sudo yum -y install dkms rpm-build make check check-devel

  2. Mengunduh dan mengekstraksi paket GDRcopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Membangun paket RPM GDRCopy.

    $ CUDA=/usr/local/cuda ./build-rpm-packages.sh

  4. Instal paket RPM GDRCopy.

    $ sudo rpm -Uvh gdrcopy-kmod-2.5.2*dkms*.rpm \
&& sudo rpm -Uvh gdrcopy-2.5.2*.rpm \
&& sudo rpm -Uvh gdrcopy-devel-2.5.2*.rpm
Ubuntu 26.04, Ubuntu 24.04, and Ubuntu 22.04
Untuk menginstal GDRCopy

  1. Instal dependensi yang diperlukan.

    $ sudo apt-get install -y build-essential devscripts debhelper fakeroot pkg-config dkms
    catatan

    Di Ubuntu 22.04, instal juga dependensi tambahan berikut:

    $ sudo apt-get install -y check libsubunit-dev

  2. Unduh dan ekstrak paket GDRCopy, dan buat paketnya.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz \
&& cd gdrcopy-2.5.2/packages \
&& CUDA=/usr/local/cuda ./build-deb-packages.sh

  3. Instal paket GDRCopy DEB.

    $ sudo dpkg -i gdrdrv-dkms_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i libgdrapi_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i gdrcopy-tests_2.5.2-1_amd64.*.deb \
&& sudo dpkg -i gdrcopy_2.5.2-1_amd64.*.deb
Debian 12
Untuk menginstal GDRCopy

  1. Instal dependensi yang diperlukan.

    $ sudo apt-get install -y build-essential devscripts debhelper fakeroot pkg-config dkms

  2. Mengunduh dan mengekstraksi paket GDRcopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Terapkan patch versi Debian dan buat paket.

    $ sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-lib/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-tests/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' dkms/debian/changelog \
&& sed -i 's/(2.5.2)/(2.5.2-1)/g' debian-meta/changelog \
&& sed -i 's/FULL_VERSION="${VERSION}"/FULL_VERSION="${VERSION}-${DEBIAN_VERSION}"/g' build-deb-packages.sh
    $ CUDA=/usr/local/cuda ./build-deb-packages.sh

  4. Instal paket GDRCopy DEB.

    $ sudo dpkg -i gdrdrv-dkms_2.5.2*.deb \
&& sudo dpkg -i libgdrapi_2.5.2*.deb \
&& sudo dpkg -i gdrcopy-tests_2.5.2*.deb \
&& sudo dpkg -i gdrcopy_2.5.2*.deb
RHEL 10
Untuk menginstal GDRCopy

  1. Instal dependensi yang diperlukan.

    $ sudo yum -y install dkms rpm-build make check check-devel

  2. Mengunduh dan mengekstraksi paket GDRcopy.

    $ wget https://github.com/NVIDIA/gdrcopy/archive/refs/tags/v2.5.2.tar.gz \
&& tar xf v2.5.2.tar.gz && cd gdrcopy-2.5.2/packages

  3. Membangun paket RPM GDRCopy.

    $ CUDA=/usr/local/cuda ./build-rpm-packages.sh

  4. Instal paket RPM GDRCopy.

    $ sudo rpm -Uvh gdrcopy-kmod-2.5.2*dkms*.rpm \
&& sudo rpm -Uvh gdrcopy-2.5.2*.rpm \
&& sudo rpm -Uvh gdrcopy-devel-2.5.2*.rpm

Langkah 5: Instal perangkat lunak EFA

Instal EFA-enabled kernel, driver EFA, Libfabric, plugin aws-ofi-nccl, dan tumpukan Open MPI yang diperlukan untuk mendukung EFA pada instance Anda.

Untuk menginstal perangkat lunak EFA

  1. Hubungkan ke instans yang Anda luncurkan. Untuk informasi selengkapnya, lihat Hubungkan ke instans Linux Anda, menggunakan SSH..

  2. Unduh file penginstalan perangkat lunak EFA. File instalasi perangkat lunak datang sebagai file tarball (.tar.gz) terkompresi. Untuk mengunduh versi stabil terbaru, gunakan perintah berikut.

    $ curl -O https://efa-installer.amazonaws.com/aws-efa-installer-1.50.0.tar.gz

    Anda juga bisa mendapatkan versi terbaru dengan mengganti nomor versi dengan latest dalam perintah sebelumnya.

  3. (Opsional) Verifikasi keaslian dan integritas file tarball EFA (.tar.gz).

    Kami menyarankan Anda melakukan hal ini untuk memverifikasi identitas penerbit perangkat lunak dan memeriksa apakah file tersebut tidak diubah atau rusak sejak file tersebut diterbitkan. Jika Anda tidak ingin memverifikasi file tarball, lewati langkah ini.

    catatan

    Atau, jika Anda memilih untuk memverifikasi file tarball menggunakan checksum MD5 atau SHA256, lihat Memverifikasi penginstal EFA menggunakan checksum.

    1. Unduh kunci GPG publik dan impor ke dalam keyring Anda.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer.key && gpg --import aws-efa-installer.key

      Perintah tersebut harus mengembalikan nilai kunci. Catat nilai kunci, karena Anda membutuhkannya di langkah selanjutnya.

    2. Verifikasi sidik jari kunci GPG. Jalankan perintah berikut dan tentukan nilai kunci dari langkah sebelumnya.

      $ gpg --fingerprint key_value

      Perintah tersebut harus mengembalikan sidik jari yang identik dengan 4E90 91BC BB97 A96B 26B1 5E59 A054 80B1 DD2D 3CCC. Jika sidik jari tidak cocok, jangan jalankan skrip instalasi EFA, dan hubungi Dukungan.

    3. Unduh file tanda tangan dan verifikasi tanda tangan pada file tarball EFA.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer-1.50.0.tar.gz.sig && gpg --verify ./aws-efa-installer-1.50.0.tar.gz.sig

      Berikut ini adalah contoh output.

      gpg: Signature made Wed 29 Jul 2020 12:50:13 AM UTC using RSA key ID DD2D3CCC
gpg: Good signature from "Amazon EC2 EFA <ec2-efa-maintainers@amazon.com>"
gpg: WARNING: This key is not certified with a trusted signature!
gpg:          There is no indication that the signature belongs to the owner.
Primary key fingerprint: 4E90 91BC BB97 A96B 26B1  5E59 A054 80B1 DD2D 3CCC

      Jika hasilnya mencakup Good signature, dan sidik jari cocok dengan sidik jari yang dikembalikan di langkah sebelumnya, lanjutkan ke langkah berikutnya. Jika tidak, jangan jalankan skrip instalasi EFA, dan hubungi Dukungan.

    Tampilkan lebih banyakTampilkan lebih sedikit

  4. Ekstraksi file dari file .tar.gz yang dikompresi dan navigasi ke dalam direktori yang diekstraksi.

    $ tar -xf aws-efa-installer-1.50.0.tar.gz && cd aws-efa-installer

  5. (Opsional) Verifikasi tanda tangan paket individual selama instalasi.

    Dimulai dengan EFA installer 1.48.0, installer menyertakan paket RPM dan DEB GPG-signed individual. Untuk memverifikasi keaslian dan integritas masing-masing paket selama instalasi, gunakan ben --check-signatures dera. Saat Anda mengaktifkan tanda ini, penginstal memverifikasi semua tanda tangan paket terlebih dahulu, dan hanya melanjutkan penginstalan jika setiap paket lulus verifikasi. Jika ada paket yang gagal verifikasi, penginstal segera keluar tanpa menginstal apa pun.

    1. Unduh kunci publik GPG.

      $ wget https://efa-installer.amazonaws.com/aws-efa-installer.key

    2. Ekspor jalur kunci. Kemudian, pada langkah berikutnya, tambahkan --check-signatures ke perintah instalasi dan gunakan alih- sudo -E alih sudo untuk melestarikan variabel lingkungan.

      $ export EFA_INSTALLER_KEY=$(pwd)/aws-efa-installer.key

    Pada RPM-based sistem (Amazon Linux 2023, RHEL, Rocky Linux, dan SUSE), penginstal memverifikasi setiap RPM menggunakan. rpm --checksig Pada DEB-based sistem (Ubuntu, Debian), installer memverifikasi setiap DEB menggunakan verifikasi tanda tangan GPG. Jika verifikasi paket gagal, instalasi segera dibatalkan.

    catatan

    --check-signaturesBendera adalah opsional. Tanpa itu, penginstal tidak melakukan verifikasi tanda tangan individu.

    Tampilkan lebih banyakTampilkan lebih sedikit

  6. Unduh skrip penginstalan perangkat lunak EFA.

    catatan

    Jika Anda menyelesaikan langkah opsional sebelumnya untuk mengatur verifikasi tanda tangan paket, tambahkan --check-signatures ke perintah instalasi dan gunakan al sudo -E ih-alihsudo. Sebagai contoh: sudo -E ./efa_installer.sh -y --mpi=openmpi5 --check-signatures.

    catatan

    Dari EFA 1.30.0, Open MPI 4.1 dan Open MPI 5 diinstal secara default. Kecuali Anda memerlukan Open MPI 4.1, instal hanya Open MPI 5. Perintah berikut menginstal Open MPI 5 saja. Jika Anda ingin menginstal Open MPI 4.1 dan Open MPI 5, hapus--mpi=openmpi5.

    $ sudo ./efa_installer.sh -y --mpi=openmpi5

    Libfabric diinstal di /opt/amazon/efa direktori. Plu gin aws-ofi-nccl diinstal di direktori. /opt/amazon/ofi-nccl Open MPI diinstal di /opt/amazon/openmpi direktori.

  7. Jika penginstal EFA meminta Anda untuk me-reboot instans, lakukanlah dan kemudian sambungkan kembali ke instans. Jika tidak, log out dari instans lalu log kembali untuk menyelesaikan penginstalan.

  8. Konfirmasikan bahwa perangkat lunak EFA berhasil diinstal.

    $ fi_info -p efa -t FI_EP_RDM

    Perintah tersebut harus mengembalikan informasi tentang antarmuka Libfabric EFA.

Langkah 6: Instal NCCL

Instal NCCL. Untuk informasi lebih lanjut tentang NCCL, lihat repositori NCCL.

Untuk menginstal NCCL

  1. Buka direktori /opt tersebut.

    $ cd /opt

  2. Gandakan repositori NCCL resmi ke instans dan navigasi ke repositori klon lokal.

    $ sudo git clone https://github.com/NVIDIA/nccl.git -b v2.30.4-1 && cd nccl

  3. Bangun dan instal NCCL dan tentukan direktori instalasi CUDA.

    $ sudo make -j src.build CUDA_HOME=/usr/local/cuda-13

Langkah 7: Instal uji NCCL

Instal uji NCCL. Uji NCCL memungkinkan Anda untuk mengonfirmasi bahwa NCCL diinstal dengan benar dan beroperasi sesuai harapan. Untuk informasi lebih lanjut tentang pengujian NCCL, lihat repositori nccl-tests.

Untuk menginstal pengujian EFA

  1. Navigasi ke direktori beranda Anda.

    $ cd $HOME

  2. Gandakan repositori nccl-tests resmi ke instans dan navigasi ke repositori klon lokal.

    $ git clone https://github.com/NVIDIA/nccl-tests.git && cd nccl-tests

  3. Tambahkan direktori Libfabric ke variabel LD_LIBRARY_PATH.

    • Amazon Linux 2023

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib64:$LD_LIBRARY_PATH

    • Ubuntu dan Debian

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib:$LD_LIBRARY_PATH

    • HEEL 10

      $ export LD_LIBRARY_PATH=/opt/amazon/efa/lib64:$LD_LIBRARY_PATH

  4. Instal pengujian NCCL dan tentukan direktori penginstalan MPI, NCCL, dan CUDA.

    $ make MPI=1 MPI_HOME=/opt/amazon/openmpi NCCL_HOME=/opt/nccl/build CUDA_HOME=/usr/local/cuda-13

Langkah 8: Uji konfigurasi EFA dan NCCL Anda

Jalankan pengujian untuk memastikan bahwa instans sementara Anda sudah dikonfigurasi dengan benar untuk EFA dan NCCL.

Untuk menguji konfigurasi EFA dan NCCL Anda

  1. Buat file host yang menentukan host untuk menjalankan pengujian. Perintah berikut membuat file host dengan nama my-hosts yang mencakup referensi ke instans itu sendiri.

    IMDSv2
    [ec2-user ~]$ TOKEN=`curl -X PUT "http://169.254.169.254/latest/api/token" -H "X-aws-ec2-metadata-token-ttl-seconds: 21600"` \
&& curl -H "X-aws-ec2-metadata-token: $TOKEN" -v http://169.254.169.254/latest/meta-data/local-ipv4 >> my-hosts
    IMDSv1
    [ec2-user ~]$ curl http://169.254.169.254/latest/meta-data/local-ipv4 >> my-hosts

  2. Jalankan tes NCCL. Perintah berikut mengasumsikan bahwa Anda memiliki 8 GPU per instance. Sesuaikan -N nilai -n dan berdasarkan jenis instans Anda.

    $ /opt/amazon/openmpi/bin/mpirun \
-x FI_EFA_USE_DEVICE_RDMA=1 \
-x LD_LIBRARY_PATH=/opt/nccl/build/lib:/usr/local/cuda/lib64:/opt/amazon/efa/lib:/opt/amazon/openmpi/lib:/opt/amazon/ofi-nccl/lib:$LD_LIBRARY_PATH \
-x NCCL_DEBUG=INFO \
--hostfile my-hosts -n 8 -N 8 \
--mca pml ^cm --mca btl tcp,self --mca btl_tcp_if_exclude lo,docker0 --bind-to none \
$HOME/nccl-tests/build/all_reduce_perf -b 8 -e 1G -f 2 -g 1 -c 1 -n 100

  3. Anda dapat mengonfirmasi bahwa EFA aktif sebagai penyedia pokok NCCL ketika log NCCL_DEBUG dicetak.

    ip-192-168-2-54:14:14 [0] NCCL INFO NET/OFI Selected Provider is efa*

    Informasi tambahan berikut ditampilkan saat menggunakan instans p4d.24xlarge.

    ip-192-168-2-54:14:14 [0] NCCL INFO NET/OFI Running on P4d platform, Setting NCCL_TOPO_FILE environment variable to /home/ec2-user/install/plugin/share/aws-ofi-nccl/xml/p4d-24xl-topo.xml

Langkah 9: Instal aplikasi machine learning Anda

Instal aplikasi machine learning di instans sementara. Prosedur penginstalan bervariasi tergantung pada aplikasi machine learning tertentu. Untuk informasi selengkapnya tentang menginstal perangkat lunak pada instans Linux Anda, lihat Mengel ola pembaruan OS di Panduan Pengguna Amazon Linux 2023.

catatan

Lihat dokumentasi aplikasi machine learning Anda untuk petunjuk penginstalan.

Langkah 10: Buat EFA dan AMI NCCL-enabled

Setelah menginstal komponen perangkat lunak yang diperlukan, Anda membuat AMI yang dapat Anda gunakan kembali untuk meluncurkan EFA-enabled instans Anda.

Untuk membuat AMI dari instans sementara Anda

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Di panel navigasi, pilih Instans.

  3. Pilih instans sementara yang Anda buat dan pilih Tindakan, Gambar, Buat gambar.

  4. Untuk Buat gambar, lakukan hal berikut:

    1. Untuk Nama gambar, masukkan nama deskriptif untuk AMI.

    2. (Opsional) Untuk Deskripsi gambar, masukkan deskripsi singkat tentang tujuan AMI.

    3. Pilih Buat gambar.

  5. Di panel navigasi, pilih AMI.

  6. Temukan AMI yang Anda buat dalam daftar. Tunggu hingga status berubah dari pending menjadi available sebelum melanjutkan ke langkah berikutnya.

Langkah 11: Mengakhiri instans sementara

Pada titik ini, Anda tidak memerlukan lagi instans sementara yang Anda luncurkan. Anda dapat mengakhiri instans agar biaya tidak dibebankan lagi padanya.

Untuk mengakhiri instans sementara

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Di panel navigasi, pilih Instans.

  3. Pilih instans sementara yang Anda buat dan pilih Tindakan, Status instans, Akhiri instans.

  4. Saat diminta konfirmasi, pilih Akhiri.

Langkah 12: Luncurkan EFA dan NCCL-enabled instance ke grup penempatan cluster

Luncurkan EFA dan NCCL-enabled instans Anda ke grup penempatan cluster menggunakan EFA-enabled AMI dan grup EFA-enabled keamanan yang Anda buat sebelumnya.

catatan

  • Ini bukan persyaratan mutlak untuk meluncurkan EFA-enabled instans Anda ke grup penempatan cluster. Namun, sebaiknya jalankan EFA-enabled instans Anda di grup penempatan cluster karena meluncurkan instans ke grup latensi rendah di Zona Ketersediaan tunggal.

  • Untuk memastikan kapasitas tersedia saat Anda menskalakan instans klaster, Anda dapat membuat Reservasi Kapasitas untuk grup penempatan klaster Anda. Untuk informasi selengkapnya, lihat Gunakan Reservasi Kapasitas dengan grup penempatan.

New console
Untuk meluncurkan instans sementara

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Di panel navigasi, pilih Instans, lalu pilih Luncurkan Instans untuk membuka wizard peluncuran instans baru.

  3. (Opsional) Di bagian Nama dan tanda, berikan nama untuk instans, seperti EFA-instance. Nama ditetapkan ke instans sebagai tanda sumber daya (Name=EFA-instance).

  4. Di bagian Application and OS Images, pilih AMI Saya, lalu pilih AMI yang Anda buat pada langkah sebelumnya.

  5. Di bagian Tipe instans, pilih p3dn.24xlarge atau p4d.24xlarge.

  6. Pada bagian Pasangan kunci, pilih pasangan kunci yang akan digunakan untuk instans.

  7. Di bagian Pengaturan jaringan, pilih Edit, lalu lakukan hal berikut:

    1. Untuk Subnet, pilih subnet untuk meluncurkan instans. Jika Anda tidak memilih subnet, Anda tidak dapat mengaktifkan instans untuk EFA.

    2. Untuk Firewall (grup keamanan), pilih Pilih grup keamanan yang ada, lalu pilih grup keamanan yang Anda buat di langkah sebelumnya.

    3. Perluas bagian Konfigurasi jaringan lanjutan.

      Untuk Antarmuka jaringan 1, pilih Indeks kartu jaringan = 0, indeks perangkat = 0, dan tipe antarmuka = EFA dengan ENA.

      (Opsional) Jika Anda menggunakan jenis instance multi-kartu, seperti p4d.24xlarge ataup5.48xlarge, untuk setiap antarmuka jaringan tambahan yang diperlukan, pilih Tam bah antarmuka jaringan, untuk Indeks kartu jaringan pilih indeks yang tidak digunakan berikutnya, lalu pilih Indeks perangkat = 1 dan Jenis antarmuka = EFA dengan ENA atau. EFA-only

  8. (Opsional) Di bagian Penyimpanan, konfigurasikan volume sesuai kebutuhan.

  9. Di bagian Detail lanjutan, untuk nama grup Penempatan, pilih grup penempatan klaster untuk meluncurkan instans. Jika Anda perlu membuat grup penempatan klaster baru, pilih Buat grup penempatan baru.

  10. Di panel Ringkasan di sebelah kanan, untuk Jumlah instance, masukkan jumlah EFA-enabled instance yang ingin Anda luncurkan, lalu pilih Luncurkan instance.

Old console
Untuk meluncurkan EFA dan NCCL-enabled instans Anda ke grup penempatan cluster

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Pilih Luncurkan Instans.

  3. Di halaman Pilih AMI, pilih AMI saya, temukan AMI yang Anda buat sebelumnya, lalu pilih Pilih.

  4. Di halaman Pilih Tipe Instans, pilih p3dn.24xlarge lalu pilih Berikutnya: Konfigurasikan Detail Instans.

  5. Pada halaman Konfigurasi Detail Instans, lakukan langkah berikut:

    1. Untuk Jumlah instance, masukkan jumlah EFA dan NCCL-enabled instans yang ingin Anda luncurkan.

    2. Untuk Jaringan dan Subnet, pilih VPC dan subnet sebagai tujuan peluncuran instans.

    3. Untuk Grup penempatan, pilih Tambahkan instans ke grup penempatan.

    4. Untuk Nama grup penempatan, pilih Tambahkan ke grup penempatan baru, lalu masukkan nama deskriptif untuk grup penempatan. Lalu untuk Strategi grup penempatan, pilih klaster.

    5. Untuk EFA, pilih Aktifkan.

    6. Di bagian Antarmuka Jaringan, untuk perangkat eth0, pilih Antarmuka jaringan baru. Secara opsional, Anda dapat menentukan alamat IPv4 primer dan satu atau lebih alamat IPv4 sekunder. Jika Anda meluncurkan instans ke subnet yang memiliki blok CIDR IPv6 terkait, Anda dapat secara opsional menentukan alamat IPv6 primer dan satu atau lebih alamat IPv6 sekunder.

    7. Pilih Berikutnya: Tambahkan Penyimpanan.

  6. Di halaman Tambahkan Penyimpanan, tentukan volume yang akan dipasang ke instans selain volume yang ditentukan oleh AMI (seperti volume perangkat root). Lalu, pilih Berikutnya: Tambahkan Tanda.

  7. Di halaman Tambahkan Tanda, tentukan tanda untuk instans, seperti nama yang mudah digunakan, lalu pilih Selanjutnya: Konfigurasikan Grup Keamanan.

  8. Di halaman Mengonfigurasi Grup Keamanan, untuk Tetapkan grup keamanan, pilih Pilih grup keamanan yang sudah ada, lalu pilih grup keamanan yang Anda buat sebelumnya.

  9. Pilih Tinjau dan Luncurkan.

  10. Di halaman Meninjau Peluncuran Instans, tinjau pengaturannya, lalu pilih Luncurkan untuk memilih key pair dan meluncurkan instans Anda.

Langkah 13: Mengaktifkan SSH tanpa kata sandi

catatan

Pengguna SSH default bervariasi menurut sistem operasi: ubuntu untuk Ubuntu, admin untuk Debian, ec2-user untuk Amazon Linux dan RHEL.

Agar aplikasi Anda dapat berjalan di semua instans dalam klaster, Anda harus mengaktifkan akses SSH tanpa kata sandi dari simpul pemimpin ke simpul anggota. Simpul pemimpin adalah instans dari mana Anda menjalankan aplikasi Anda. Instans yang tersisa di klaster adalah simpul anggota.

Untuk mengaktifkan SSH tanpa kata sandi antar instans dalam klaster

  1. Pilih satu instans dalam klaster sebagai simpul pemimpin, dan hubungkan ke instans tersebut.

  2. Nonaktifkan strictHostKeyChecking dan aktifkan ForwardAgent pada simpul pemimpin. Buka ~/.ssh/config menggunakan editor teks pilihan Anda dan tambahkan berikut ini.

    Host *
    ForwardAgent yes
Host *
    StrictHostKeyChecking no

  3. Membuat pasangan kunci RSA.

    $ ssh-keygen -t rsa -N "" -f ~/.ssh/id_rsa

    Pasangan kunci dibuat dalam direktori $HOME/.ssh/.

  4. Ubah izin kunci privat pada simpul pemimpin.

    $ chmod 600 ~/.ssh/id_rsa
chmod 600 ~/.ssh/config

  5. Buka ~/.ssh/id_rsa.pub menggunakan editor teks pilihan Anda dan salin kunci.

  6. Untuk setiap simpul anggota di klaster, lakukan hal berikut:

    1. Hubungkan dengan instans.

    2. Buka ~/.ssh/authorized_keys menggunakan editor teks pilihan Anda tambahkan kunci publik yang Anda salin sebelumnya.

  7. Untuk menguji apakah SSH tanpa kata sandi berfungsi seperti yang diharapkan, hubungkan ke simpul pemimpin Anda dan jalankan perintah berikut.

    $ ssh member_node_private_ip

    Anda harus terhubung ke simpul anggota tanpa diminta untuk memasukkan kunci atau kata sandi.