View a markdown version of this page

Meluncurkan a AWS Deep Learning AMIs Contoh Dengan EFA - AWS Deep Learning AMIs
Siapkan Grup KeamananLuncurkan Instans AndaVerifikasi Lampiran EFA

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Meluncurkan a AWS Deep Learning AMIs Contoh Dengan EFA

Base DLAMI terbaru siap digunakan dengan EFA dan dilengkapi dengan driver yang diperlukan, modul kernel, libfabric, openmpi dan plugin NCCL OFI untuk instans GPU.

Anda dapat menemukan versi CUDA yang didukung dari Base DLAMI di catatan rilis.

Catatan:

  • Saat menjalankan Aplikasi NCCL menggunakan mpirun EFA, Anda harus menentukan jalur lengkap ke instalasi yang didukung EFA sebagai: 

    /opt/amazon/openmpi/bin/mpirun <command>

  • Untuk mengaktifkan aplikasi Anda menggunakan EFA, tambahkan FI_PROVIDER="efa" ke mpirun perintah seperti yang ditunjukkan padaMenggunakan EFA pada DLAMI.

Siapkan Grup Keamanan yang Diaktifkan EFA

EFA membutuhkan grup keamanan yang memungkinkan semua lalu lintas masuk dan keluar ke dan dari grup keamanan itu sendiri. Untuk informasi selengkapnya, lihat Dokument asi EFA.

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Di panel navigasi, pilih Grup Keamanan lalu pilih Buat Grup Keamanan.

  3. Di jendela Buat Grup Keamanan, lakukan hal berikut:

    • Untuk Nama grup keamanan, masukkan nama deskriptif untuk grup keamanan, seperti EFA-enabled security group.

    • (Opsional) Untuk Deskripsi, masukkan deskripsi singkat grup keamanan.

    • Untuk VPC, pilih VPC tempat Anda ingin meluncurkan instans Anda EFA-enabled .

    • Pilih Buat.

  4. Pilih grup keamanan yang Anda buat, dan pada tab Deskripsi, salin ID Grup.

  5. Pada tab Inbound dan Outbound, lakukan hal berikut:

    • Pilih Edit.

    • Untuk Jenis, pilih Semua lalu lintas.

    • Untuk Sumber, pilih K ustom.

    • Tempelkan ID grup keamanan yang Anda salin ke bidang.

    • Pilih Simpan.

  6. Aktifkan lalu lintas masuk mengacu pada Otor isasi Lalu Lintas Masuk untuk Instans Linux Anda. Jika Anda melewati langkah ini, Anda tidak akan dapat berkomunikasi dengan instans DLAMI Anda.

Luncurkan Instans Anda

EFA pada saat AWS Deep Learning AMIs ini didukung dengan jenis instance dan sistem operasi berikut:

  • P3dn: Amazon Linux 2, Ubuntu 20.04

  • P4d, P4de: Amazon Linux 2, Amazon Linux 2023, Ubuntu 20.04, Ubuntu 22.04

  • P5, P5e, P5en: Amazon Linux 2, Amazon Linux 2023, Ubuntu 20.04, Ubuntu 22.04

Bagian berikut menunjukkan cara meluncurkan instance DLAMI yang diaktifkan EFA. Untuk informasi selengkapnya tentang meluncurkan instans yang diaktifkan EFA, lihat Mel uncurkan EFA-Enabled Instans ke Grup Penempatan Cluster.

  1. Buka konsol Amazon EC2 di https://console.aws.amazon.com/ec2/.

  2. Pilih Luncurkan Instans.

  3. Pada halaman Pilih AMI, pilih DLAMI yang didukung yang ditemukan di Halaman Catatan Rilis DLAMI

  4. Pada halaman Pilih Jenis Instans, pilih salah satu jenis instans yang didukung berikut, lalu pilih Ber ikutnya: Konfigurasikan Rincian Instans. Lihat tautan ini untuk daftar instance yang didukung: Mem ulai dengan EFA dan MPI

  5. Pada halaman Konfigurasi Detail Instans, lakukan langkah berikut:

    • Untuk Jumlah instance, masukkan jumlah EFA-enabled instance yang ingin Anda luncurkan.

    • Untuk Jaringan dan Subnet, pilih VPC dan subnet sebagai tujuan peluncuran instans.

    • [Opsional] Untuk Grup Pen empatan, pilih Tambahkan instance ke grup penempatan. Untuk kinerja terbaik, luncurkan instans dalam grup penempatan.

    • [Opsional] Untuk Nama grup Pen empatan, pilih Tambahkan ke grup penempatan baru, masukkan nama deskriptif untuk grup penempatan, lalu untuk Strategi grup penempatan, pilih cluster.

    • Pastikan untuk mengaktifkan “Adaptor Kain Elastis” di halaman ini. Jika opsi ini dinonaktifkan, ubah subnet menjadi subnet yang mendukung jenis instans yang Anda pilih.

    • Di bagian Antarmuka Jaringan, untuk perangkat eth0, pilih Antarmuka jaringan baru. Secara opsional, Anda dapat menentukan alamat IPv4 primer dan satu atau lebih alamat IPv4 sekunder. Jika Anda meluncurkan instans ke subnet yang memiliki blok CIDR IPv6 terkait, Anda dapat secara opsional menentukan alamat IPv6 primer dan satu atau lebih alamat IPv6 sekunder.

    • Pilih Berikutnya: Tambahkan Penyimpanan.

  6. Di halaman Tambahkan Penyimpanan, tentukan volume yang akan dilampirkan ke instans selain volume yang ditentukan oleh AMI (seperti volume perangkat root), lalu pilih Selanjutnya: Tambahkan Tanda.

  7. Di halaman Tambahkan Tanda, tentukan tanda untuk instans, seperti nama yang mudah digunakan, lalu pilih Selanjutnya: Konfigurasikan Grup Keamanan.

  8. Pada halaman Konfigurasi Grup Keamanan, untuk Tet apkan grup keamanan, pilih Pilih grup keamanan yang ada, lalu pilih grup keamanan yang Anda buat sebelumnya.

  9. Pilih Tinjau dan Luncurkan.

  10. Di halaman Tinjau Peluncuran Instans, tinjau pengaturannya, lalu pilih Luncurkan untuk memilih pasangan kunci dan meluncurkan instans Anda.

Verifikasi Lampiran EFA

Dari Konsol

Setelah meluncurkan instance, periksa detail instance di Kon AWS sol. Untuk melakukan ini, pilih instance di konsol EC2 dan lihat Tab Deskripsi di panel bawah pada halaman. Temukan parameter 'Antarmuka Jaringan: eth0' dan pilih eth0 yang membuka pop-up. Pastikan 'Adaptor Kain Elastic' diaktifkan.

Jika EFA tidak diaktifkan, Anda dapat memperbaikinya dengan:

  • Menghentikan instance EC2 dan meluncurkan yang baru dengan langkah yang sama. Pastikan EFA terpasang.

  • Lampirkan EFA ke instance yang ada.

    1. Di Konsol EC2, buka Antarmuka Jaringan.

    2. Pilih Buat Antarmuka Jaringan.

    3. Pilih subnet yang sama di mana instance Anda berada.

    4. Pastikan untuk mengaktifkan 'Adaptor Kain Elastic' dan pilih Buat.

    5. Kembali ke Tab Instans EC2 dan pilih instans Anda.

    6. Buka Tindakan: Status Instance dan hentikan instance sebelum Anda melampirkan EFA.

    7. Dari Tindakan, pilih Jaringan: Lampirkan Antarmuka Jaringan.

    8. Pilih antarmuka yang baru saja Anda buat dan pilih lampirkan.

    9. Mulai ulang instans Anda.

Dari Instance

Skrip pengujian berikut sudah ada di DLAMI. Jalankan untuk memastikan bahwa modul kernel dimuat dengan benar.

$ fi_info -p efa

Output-nya semestinya mirip dengan yang berikut.

provider: efa
    fabric: EFA-fe80::e5:56ff:fe34:56a8
    domain: efa_0-rdm
    version: 2.0
    type: FI_EP_RDM
    protocol: FI_PROTO_EFA
provider: efa
    fabric: EFA-fe80::e5:56ff:fe34:56a8
    domain: efa_0-dgrm
    version: 2.0
    type: FI_EP_DGRAM
    protocol: FI_PROTO_EFA
provider: efa;ofi_rxd
    fabric: EFA-fe80::e5:56ff:fe34:56a8
    domain: efa_0-dgrm
    version: 1.0
    type: FI_EP_RDM
    protocol: FI_PROTO_RXD

Verifikasi Konfigurasi Grup Keamanan

Skrip pengujian berikut sudah ada di DLAMI. Jalankan untuk memastikan bahwa grup keamanan yang Anda buat dikonfigurasi dengan benar.

$ cd /opt/amazon/efa/test/ 
$ ./efa_test.sh

Output-nya semestinya mirip dengan yang berikut.

Starting server...
Starting client...
bytes   #sent   #ack     total       time     MB/sec    usec/xfer   Mxfers/sec
64      10      =10      1.2k        0.02s      0.06    1123.55       0.00
256     10      =10      5k          0.00s     17.66      14.50       0.07
1k      10      =10      20k         0.00s     67.81      15.10       0.07
4k      10      =10      80k         0.00s    237.45      17.25       0.06
64k     10      =10      1.2m        0.00s    921.10      71.15       0.01
1m      10      =10      20m         0.01s   2122.41     494.05       0.00

Jika berhenti merespons atau tidak selesai, pastikan grup keamanan Anda memiliki inbound/outbound aturan yang benar.