Memulai EFA dan MPI untuk HPC beban kerja di Amazon EC2

Buka EC2 konsol Amazon di https://console.aws.amazon.com/ec2/.

Dalam panel navigasi, pilih Grup Keamanan, lalu pilih Buat grup keamanan.

Di jendela Buat Grup Keamanan, lakukan hal berikut:

1. Untuk Nama grup keamanan, masukkan nama deskriptif untuk grup keamanan, seperti EFA-enabled security group.

2. (Opsional) Untuk Deskripsi, masukkan deskripsi singkat grup keamanan.

3. Untuk VPC, pilih tempat Anda ingin meluncurkan instance EFA -enabled Anda. VPC

4. Pilih Buat grup keamanan.

Pilih grup keamanan yang Anda buat, dan pada tab Detail, salin ID grup keamanan.

Dengan grup keamanan yang masih dipilih, pilih Tindakan, Edit aturan masuk, lalu lakukan hal berikut:

1. Pilih Tambahkan aturan.

2. Untuk Tipe, pilih Semua lalu lintas.

3. Untuk Tipe sumber, pilih Kustom dan tempelkan ID grup keamanan yang Anda salin ke dalam bidang.

4. Pilih Tambahkan aturan.

5. Untuk Jenis, pilih SSH.

6. Untuk jenis Sumber, pilih Anywhere- IPv4.

7. Pilih Simpan aturan.

Dengan grup keamanan yang masih dipilih, pilih Tindakan, Edit aturan keluar, lalu lakukan hal berikut:

1. Pilih Tambahkan aturan.

2. Untuk Tipe, pilih Semua lalu lintas.

3. Untuk Tipe tujuan, pilih Kustom dan tempelkan ID grup keamanan yang Anda salin ke dalam bidang.

4. Pilih Simpan aturan.

Buka EC2 konsol Amazon di https://console.aws.amazon.com/ec2/.

Di panel navigasi, pilih Instans, lalu pilih Luncurkan Instans untuk membuka wizard peluncuran instans baru.

(Opsional) Di bagian Nama dan tanda, berikan nama untuk instans, seperti EFA-instance. Nama ditetapkan ke instans sebagai tanda sumber daya (Name=EFA-instance).

Di bagian Aplikasi dan Gambar OS, pilih AMI untuk salah satu sistem operasi yang didukung.

Di bagian Tipe instans, pilih tipe instans yang didukung.

Pada bagian Pasangan kunci, pilih pasangan kunci yang akan digunakan untuk instans.

Di bagian Pengaturan jaringan, pilih Edit, lalu lakukan hal berikut:

1. Untuk Subnet, pilih subnet untuk meluncurkan instans. Jika Anda tidak memilih subnet, Anda tidak dapat mengaktifkan instance untukEFA.

2. Untuk Firewall (grup keamanan), pilih Pilih grup keamanan yang ada, lalu pilih grup keamanan yang Anda buat di langkah sebelumnya.

3. Perluas bagian Konfigurasi jaringan lanjutan, dan untuk Elastic Fabric Adapter, pilih Aktifkan.

Di bagian Penyimpanan, konfigurasikan volume sesuai kebutuhan.

Di panel Ringkasan di sebelah kanan, pilih Luncurkan instans.

Hubungkan ke instans yang Anda luncurkan. Untuk informasi selengkapnya, lihat Connect ke instans Linux Anda menggunakan SSH.

Untuk memastikan bahwa semua paket perangkat lunak Anda telah diperbarui, lakukan pembaruan perangkat lunak cepat di instans Anda. Proses ini mungkin memerlukan waktu beberapa menit.

Boot ulang dan terhubung kembali ke instans Anda.

Unduh file instalasi EFA perangkat lunak. File penginstalan perangkat lunak dikemas menjadi file tarball (.tar.gz) yang dikompresi. Untuk mengunduh versi stabil terbaru, gunakan perintah berikut.

$ curl -O https://efa-installer.amazonaws.com/aws-efa-installer-1.35.0.tar.gz

Anda juga bisa mendapatkan versi terbaru dengan mengganti nomor versi dengan latest dalam perintah sebelumnya.

Ekstraksi file dari file .tar.gz yang dikompresi dan navigasi ke dalam direktori yang diekstraksi.

$ tar -xf aws-efa-installer-1.35.0.tar.gz && cd aws-efa-installer

Instal perangkat EFA lunak. Lakukan salah satu langkah berikut sesuai dengan kasus penggunaan Anda.

Jika EFA penginstal meminta Anda untuk me-reboot instance, lakukan dan kemudian sambungkan kembali ke instance. Jika tidak, log out dari instans lalu log kembali untuk menyelesaikan penginstalan.

Tambahkan Open MPI 5 ke variabel PATH lingkungan.

$ module load openmpi5

Verifikasi bahwa Open MPI 5 diaktifkan untuk digunakan.

$ which mpicc

Perintah harus mengembalikan direktori instalasi Open MPI 5 -/opt/amazon/openmpi5.

(Opsional) Untuk memastikan bahwa Open MPI 5 ditambahkan ke variabel PATH lingkungan setiap kali instance dimulai, lakukan hal berikut:

Untuk mengunduh skrip MPI instalasi Intel, lakukan hal berikut

1. Kunjungi situs web Intel.

2. Di bagian MPIPerpustakaan Intel di halaman web, pilih tautan untuk penginstal Intel MPI Library for Linux Offline.

Jalankan skrip penginstalan yang Anda unduh di langkah sebelumnya.

$ sudo bash installation_script_name.sh

Di installer, pilih Accept & install.

Baca Program Peningkatan Intel, pilih opsi yang sesuai, lalu pilih Mulai Instalasi.

Saat instalasi selesai, pilih Tutup.

Secara default, Intel MPI menggunakan Libfabric tertanam (internal). Anda dapat mengonfigurasi Intel MPI untuk menggunakan Libfabric yang dikirimkan bersama EFA penginstal sebagai gantinya. Biasanya, EFA installer dikirimkan dengan versi Libfabric yang lebih baru dari Intel. MPI Dalam beberapa kasus, Libfabric yang dikirimkan dengan EFA installer lebih berkinerja daripada Intel. MPI Untuk mengonfigurasi Intel MPI agar menggunakan Libfabric yang dikirimkan bersama EFA penginstal, lakukan salah satu hal berikut tergantung pada shell Anda.

Tambahkan perintah source berikut ke skrip shell Anda untuk sumber skrip vars.sh dari direktori instalasi untuk mengatur lingkungan kompiler setiap kali instans dimulai. Lakukan salah satu langkah berikut sesuai dengan shell Anda.

Secara default, jika tidak EFA tersedia karena kesalahan konfigurasi, Intel MPI default ke tumpukan jaringan TCP /IP, yang mungkin mengakibatkan kinerja aplikasi lebih lambat. Anda dapat mencegahnya dengan mengatur I_MPI_OFI_PROVIDER ke efa. Hal ini MPI menyebabkan Intel gagal dengan kesalahan berikut jika tidak EFA tersedia:

Abort (XXXXXX) on node 0 (rank 0 in comm 0): Fatal error in PMPI_Init: OtherMPI error,
MPIR_Init_thread (XXX)........:	
MPID_Init (XXXX)..............:
MPIDI_OFI_mpi_init_hook (XXXX):
open_fabric (XXXX)............:
find_provider (XXXX)..........:
OFI fi_getinfo() failed (ofi_init.c:2684:find_provider:

Lakukan salah satu langkah berikut sesuai dengan shell Anda.

Secara default, Intel MPI tidak mencetak informasi debugging. Anda dapat menentukan tingkat verbositas yang berbeda untuk mengontrol informasi debugging. Nilai yang mungkin (dalam urutan jumlah detail yang mereka berikan) adalah: 0 (default), 1, 2, 3, 4, 5. Level 1 dan lebih tinggi mencetak libfabric version dan libfabric provider. Gunakan libfabric version untuk memeriksa MPI apakah Intel menggunakan Libfabric internal atau Libfabric yang dikirimkan bersama EFA penginstal. Jika menggunakan Libfabric internal, versinya berakhiran dengan impi. Gunakan libfabric provider untuk memeriksa dengan Intel MPI menggunakan EFA atau jaringan TCP /IP. Jika menggunakanEFA, nilainya adalahefa. Jika menggunakan TCP /IP, nilainya adalahtcp;ofi_rxm.

Untuk mengaktifkan informasi debugging, lakukan salah satu hal berikut sesuai dengan shell Anda.

Secara default, Intel MPI menggunakan memori bersama (shm) sistem operasi untuk komunikasi intra-node, dan menggunakan Libfabric (ofi) hanya untuk komunikasi antar simpul. Umumnya, konfigurasi ini memberikan performa terbaik. Namun, dalam beberapa kasus, kain Intel MPI shm dapat menyebabkan aplikasi tertentu menggantung tanpa batas waktu.

Untuk mengatasi masalah ini, Anda dapat memaksa Intel MPI untuk menggunakan Libfabric untuk komunikasi intra-node dan antar-node. Untuk melakukannya, lakukan salah satu langkah berikut sesuai dengan shell Anda.

Keluar dari instans lalu masuk kembali.

Untuk mengonfirmasi MPI bahwa berhasil diinstal, jalankan perintah berikut:

$ which mpicc

Untuk mengonfirmasi bahwa komponen EFA perangkat lunak dan Libfabric berhasil diinstal, jalankan perintah berikut.

$ fi_info -p efa -t FI_EP_RDM

Perintah harus mengembalikan informasi tentang EFA antarmuka Libfabric. Contoh berikut menunjukkan output perintah.

provider: efa
    fabric: EFA-fe80::94:3dff:fe89:1b70
    domain: efa_0-rdm
    version: 2.0
    type: FI_EP_RDM
    protocol: FI_PROTO_EFA

Buka EC2 konsol Amazon di https://console.aws.amazon.com/ec2/.

Di panel navigasi, pilih Instans.

Pilih instans sementara yang Anda buat dan pilih Tindakan, Gambar, Buat gambar.

Untuk Buat gambar, lakukan hal berikut:

1. Untuk nama Gambar, masukkan nama deskriptif untuk. AMI

2. (Opsional) Untuk deskripsi Gambar, masukkan deskripsi singkat tentang tujuanAMI.

3. Pilih Buat citra.

Di panel navigasi, pilih AMIs.

Temukan AMI tht yang Anda buat dalam daftar. Tunggu hingga status berubah dari pending menjadi available sebelum melanjutkan ke langkah berikutnya.

Buka EC2 konsol Amazon di https://console.aws.amazon.com/ec2/.

Di panel navigasi, pilih Instans, lalu pilih Luncurkan Instans untuk membuka wizard peluncuran instans baru.

(Opsional) Di bagian Nama dan tanda, berikan nama untuk instans, seperti EFA-instance. Nama ditetapkan ke instans sebagai tanda sumber daya (Name=EFA-instance).

Di bagian Aplikasi dan Gambar OS, pilih My AMIs, lalu pilih AMI yang Anda buat di langkah sebelumnya.

Di bagian Tipe instans, pilih tipe instans yang didukung.

Pada bagian Pasangan kunci, pilih pasangan kunci yang akan digunakan untuk instans.

Di bagian Pengaturan jaringan, pilih Edit, lalu lakukan hal berikut:

1. Untuk Subnet, pilih subnet untuk meluncurkan instans. Jika Anda tidak memilih subnet, Anda tidak dapat mengaktifkan instance untukEFA.

2. Untuk Firewall (grup keamanan), pilih Pilih grup keamanan yang ada, lalu pilih grup keamanan yang Anda buat di langkah sebelumnya.

3. Perluas bagian Konfigurasi jaringan lanjutan, dan untuk Elastic Fabric Adapter, pilih Aktifkan.

(Opsional) Di bagian Penyimpanan, konfigurasikan volume sesuai kebutuhan.

Di bagian Detail lanjutan, untuk nama grup Penempatan, pilih grup penempatan klaster untuk meluncurkan instans. Jika Anda perlu membuat grup penempatan klaster baru, pilih Buat grup penempatan baru.

Di panel Summary di sebelah kanan, untuk Jumlah instance, masukkan jumlah instans EFA -enabled yang ingin Anda luncurkan, lalu pilih Launch instance.

Buka EC2 konsol Amazon di https://console.aws.amazon.com/ec2/.

Di panel navigasi, pilih Instans.

Pilih instance sementara yang Anda buat lalu pilih Actions, Instance state, Terminate (delete) instance.

Saat diminta konfirmasi, pilih Hentikan (hapus).

Pilih satu instans dalam klaster sebagai simpul pemimpin, dan hubungkan ke instans tersebut.

Nonaktifkan strictHostKeyChecking dan aktifkan ForwardAgent pada simpul pemimpin. Buka ~/.ssh/config menggunakan editor teks pilihan Anda dan tambahkan berikut ini.

Host *
    ForwardAgent yes
Host *
    StrictHostKeyChecking no

Menghasilkan sebuah RSA key pair.

$ ssh-keygen -t rsa -N "" -f ~/.ssh/id_rsa

Pasangan kunci dibuat dalam direktori $HOME/.ssh/.

Ubah izin kunci privat pada simpul pemimpin.

$ chmod 600 ~/.ssh/id_rsa
chmod 600 ~/.ssh/config

Buka ~/.ssh/id_rsa.pub menggunakan editor teks pilihan Anda dan salin kunci.

Untuk setiap simpul anggota di klaster, lakukan hal berikut:

1. Hubungkan dengan instans.

2. Buka ~/.ssh/authorized_keys menggunakan editor teks pilihan Anda tambahkan kunci publik yang Anda salin sebelumnya.

Untuk menguji bahwa passwordless SSH berfungsi seperti yang diharapkan, sambungkan ke node pemimpin Anda dan jalankan perintah berikut.

$ ssh member_node_private_ip

Anda harus terhubung ke simpul anggota tanpa diminta untuk memasukkan kunci atau kata sandi.