Amazon EC2에서 HPC 워크로드를 위한 EFA 및 MPI 시작하기

https://console.aws.amazon.com/ec2/에서 Amazon EC2 콘솔을 엽니다.

탐색 창에서 보안 그룹(Security Groups)을 선택한 다음, 보안 그룹 생성(Create security group)을 선택합니다.

보안 그룹 생성(Create security group) 창에서 다음을 수행합니다.

1. 보안 그룹 이름의 경우 EFA-enabled security group과 같은 보안 그룹의 고유한 이름을 입력합니다.

2. (선택 사항) 설명에 보안 그룹에 대한 간략한 설명을 입력합니다.

3. VPC에서는 EFA 사용 인스턴스를 시작하려는 VPC를 선택합니다.

4. 보안 그룹 생성을 선택합니다.

생성한 보안 그룹을 선택하고 세부 정보(Details) 탭에서 보안 그룹 ID(Security group ID)를 복사합니다.

보안 그룹을 선택한 상태에서 작업(Actions), 인바운드 규칙 편집(Edit inbound rules)을 선택한 후 다음을 수행합니다.

1. [Add another rule]을 선택합니다.

2. 유형(Type)에서 모든 트래픽(All traffic)을 선택합니다.

3. 소스 유형(Source type)에서 사용자 지정(Custom)을 선택하고 복사한 보안 그룹 ID를 필드에 붙여넣습니다.

4. 규칙 추가를 선택합니다.

5. Type(유형)에서 SSH를 선택합니다.

6. 소스 유형(Source type)에서 어디서나 - IPv4(Anywhere - IPv4)를 선택합니다.

7. 규칙 저장을 선택합니다.

보안 그룹을 선택한 상태에서 작업(Actions), 아웃바운드 규칙 편집(Edit outbound rules)을 선택한 후 다음을 수행합니다.

1. [Add another rule]을 선택합니다.

2. 유형(Type)에서 모든 트래픽(All traffic)을 선택합니다.

3. 대상 유형(Destination type)에서 사용자 지정(Custom)을 선택하고 복사한 보안 그룹 ID를 필드에 붙여넣습니다.

4. 규칙 저장을 선택합니다.

https://console.aws.amazon.com/ec2/에서 Amazon EC2 콘솔을 엽니다.

탐색 창에서 Instances(인스턴스)를 선택한 다음에 Launch Instances(인스턴스 시작)를 선택하여 새 인스턴스 시작 마법사를 엽니다.

(선택 사항)이름 및 태그(Name and tags) 섹션에서 인스턴스의 이름(예: EFA-instance)을 제공합니다. 이름은 인스턴스에 리소스 태그(Name=EFA-instance)로 할당됩니다.

Application and OS Images(애플리케이션 및 OS 이미지) 섹션에서 지원되는 운영 체제 중 하나에 해당하는 AMI를 선택합니다.

인스턴스 유형(Instance type) 섹션에서 지원되는 인스턴스 유형(supported instance type)을 선택합니다.

키 페어(Key pair) 섹션에서 인스턴스에 사용할 키 페어를 선택합니다.

네트워크 설정(Network settings) 섹션에서 편집(Edit)을 선택하고 다음과 같이 수행합니다.

1. 서브넷(Subnet)에서 인스턴스를 시작할 서브넷을 선택합니다. 서브넷을 선택하지 않으면 EFA에 대해 인스턴스를 활성화할 수 없습니다.

2. 방화벽(보안 그룹)의 경우 기존 보안 그룹 선택(Select existing security group)을 선택한 다음에 이전 단계에서 생성한 보안 그룹을 선택합니다.

3. 고급 네트워크 구성 섹션을 확장합니다.

   네트워크 인터페이스 1에서 네트워크 카드 인덱스 = 0, 디바이스 인덱스 = 0 및 인터페이스 유형 = ENA 포함 EFA를 선택합니다.

   (선택 사항) p4d.24xlarge 또는 p5.48xlarge와 같은 다중 카드 인스턴스 유형을 사용하는 경우, 필요한 추가 네트워크 인터페이스마다 네트워크 인터페이스 추가를 선택하고 네트워크 카드 인덱스에서 다음 미사용 인덱스를 선택한 다음, 디바이스 인덱스 = 1 및 인터페이스 유형 = ENA 포함 EFA 또는 EFA 전용을 선택합니다.

스토리지(Storage) 섹션에서 필요에 따라 볼륨을 구성합니다.

오른쪽의 요약(Summary) 패널에서 인스턴스 시작(Launch instance)을 선택합니다.

시작한 인스턴스에 연결합니다. 자세한 내용은 SSH를 사용하여 Linux 인스턴스에 연결 단원을 참조하십시오.

모든 소프트웨어 패키지가 최신 상태로 업데이트되어 있는지 확인하기 위해, 인스턴스에서 퀵 소프트웨어 업데이트를 실행합니다. 이 프로세스는 몇 분 정도 걸릴 수 있습니다.

인스턴스를 재부팅하고 다시 연결합니다.

EFA 소프트웨어 설치 파일을 다운로드합니다. 소프트웨어 설치 파일은 압축 tarball(.tar.gz) 파일로 패키징되어 있습니다. 최신 안정 버전을 다운로드하려면 다음 명령을 사용하십시오.

$ curl -O https://efa-installer.amazonaws.com/aws-efa-installer-1.35.0.tar.gz

또한 위의 명령에서 버전 번호를 latest로 바꾸면 최신 버전을 얻을 수 있습니다.

압축 .tar.gz 파일에서 파일을 추출하고 추출된 디렉터리로 이동하십시오.

$ tar -xf aws-efa-installer-1.35.0.tar.gz && cd aws-efa-installer

EFA 소프트웨어를 설치합니다. 사용 사례에 따라 다음 중 하나를 수행합니다.

EFA 설치 프로그램에서 인스턴스를 재부팅하라는 메시지를 표시하면 인스턴스를 재부팅한 다음 인스턴스에 다시 연결합니다. 그렇지 않으면 인스턴스에서 로그아웃한 다음 다시 로그인하여 설치를 완료합니다.

Open MPI 5를 PATH 환경 변수에 추가합니다.

$ module load openmpi5

Open MPI 5를 사용할 수 있도록 활성화했는지 확인합니다.

$ which mpicc

이 명령은 Open MPI 5 설치 디렉터리(/opt/amazon/openmpi5)를 반환해야 합니다.

(선택 사항) 인스턴스가 시작될 때마다 Open MPI 5가 PATH 환경 변수에 추가되도록 하려면 다음을 수행합니다.

인텔 MPI 설치 스크립트를 다운로드하려면 다음을 수행하세요.

1. 인텔 웹 사이트를 방문합니다.

2. 웹 페이지의 인텔 MPI 라이브러리(Intel MPI Library) 섹션에서 Intel MPI Library for Linux 오프라인(Offline) 설치 관리자에 대한 링크를 선택합니다.

이전 단계에서 다운로드한 설치 스크립트를 실행합니다.

$ sudo bash installation_script_name.sh

설치 관리자에서 수락 및 설치(Accept & install)를 선택합니다.

인텔 개선 프로그램을 읽고 적절한 옵션을 선택한 다음 설치 시작(Begin Installation)을 선택합니다.

설치가 완료되면 [닫기(Close)]를 선택합니다.

기본적으로 인텔 MPI는 임베디드(내부) Libfabric을 사용합니다. 대신 EFA 설치 프로그램과 함께 제공되는 Libfabric을 사용하도록 인텔 MPI를 구성할 수 있습니다. 일반적으로 EFA 설치 프로그램은 인텔 MPI보다 최신 버전의 Libfabric과 함께 제공됩니다. EFA 설치 프로그램과 함께 제공되는 Libfabric이 인텔 MPI보다 성능이 더 좋은 경우도 있습니다. EFA 설치 프로그램과 함께 제공되는 Libfabric을 사용하도록 인텔 MPI를 구성하려면 셸에 따라 다음 중 하나를 수행합니다.

셸 스크립트에 다음 source 명령을 추가하여 설치 디렉터리에서 vars.sh 스크립트를 가져와 인스턴스가 시작될 때마다 컴파일러 환경을 설정합니다. 셸에 따라 다음 중 하나를 수행합니다.

기본적으로 잘못된 구성으로 인해 EFA를 사용할 수 없는 경우 인텔 MPI는 기본적으로 TCP/IP 네트워크 스택을 사용하므로 애플리케이션 성능이 느려질 수 있습니다. I_MPI_OFI_PROVIDER를 efa로 설정하여 이를 방지할 수 있습니다. 그러면 EFA를 사용할 수 없는 경우 인텔 MPI가 다음 오류와 함께 실패합니다.

Abort (XXXXXX) on node 0 (rank 0 in comm 0): Fatal error in PMPI_Init: OtherMPI error,
MPIR_Init_thread (XXX)........:	
MPID_Init (XXXX)..............:
MPIDI_OFI_mpi_init_hook (XXXX):
open_fabric (XXXX)............:
find_provider (XXXX)..........:
OFI fi_getinfo() failed (ofi_init.c:2684:find_provider:

셸에 따라 다음 중 하나를 수행합니다.

기본적으로 인텔 MPI는 디버깅 정보를 인쇄하지 않습니다. 디버깅 정보를 제어하기 위해 다양한 세부 사항 수준을 지정할 수 있습니다. 가능한 값(제공하는 세부 정보의 양순으로)은 0(기본값), 1, 2, 3, 4, 5입니다. 레벨 1 이상은 libfabric version과 libfabric provider를 인쇄합니다. libfabric version을 사용하여 인텔 MPI가 내부 Libfabric을 사용하고 있는지 아니면 EFA 설치 프로그램과 함께 제공되는 Libfabric을 사용하고 있는지 확인합니다. 내부 Libfabric을 사용하는 경우 버전에 impi가 접미사로 붙습니다. libfabric provider를 사용하여 인텔 MPI가 EFA를 사용하고 있는지 아니면 TCP/IP 네트워크를 사용하고 있는지 확인합니다. EFA를 사용하고 있는 경우 값은 efa입니다. TCP/IP를 사용하고 있는 경우 값은 tcp;ofi_rxm입니다.

디버깅 정보를 활성화하려면 셸에 따라 다음 중 하나를 수행합니다.

기본적으로 인텔 MPI는 노드 내 통신을 위해 운영 체제의 공유 메모리(shm)를 사용하고 노드 간 통신에만 Libfabric(ofi)을 사용합니다. 일반적으로 이 구성은 최상의 성능을 제공합니다. 그러나 경우에 따라 인텔 MPI shm 패브릭으로 인해 특정 애플리케이션이 무기한 중단될 수 있습니다.

이 문제를 해결하려면 인텔 MPI가 노드 내 통신과 노드 간 통신 모두에 Libfabric을 사용하도록 합니다. 이렇게 하려면 셸에 따라 다음 중 하나를 수행합니다.

인스턴스에서 로그아웃한 후 다시 로그인합니다.

다음 명령을 실행하여 MPI가 성공적으로 설치되었는지 확인:

$ which mpicc

EFA 소프트웨어 구성 요소와 Libfabric 가 성공적으로 설치되었는지 확인하려면 다음 명령을 실행합니다.

$ fi_info -p efa -t FI_EP_RDM

이 명령은 Libfabric EFA 인스턴스에 대한 정보를 반환합니다. 다음은 해당 명령 출력을 보여주는 예제입니다.

provider: efa
    fabric: EFA-fe80::94:3dff:fe89:1b70
    domain: efa_0-rdm
    version: 2.0
    type: FI_EP_RDM
    protocol: FI_PROTO_EFA

https://console.aws.amazon.com/ec2/에서 Amazon EC2 콘솔을 엽니다.

탐색 창에서 Instances(인스턴스)를 선택합니다.

생성한 임시 인스턴스를 선택하고 [작업(Actions)], [이미지(Image)], [이미지 생성(Create image)]을 선택합니다.

[이미지 생성(Create image)]에서 다음을 수행합니다.

1. [이미지 이름(Image name)]에 AMI를 설명하는 이름을 입력합니다.

2. (선택 사항) [이미지 설명(Image description)]에 AMI의 용도에 대한 간략한 설명을 입력합니다.

3. 이미지 생성(Create image)을 선택합니다.

탐색 창에서 AMI를 선택합니다.

목록에서 생성한 AMI를 찾습니다. 상태가 pending에서 available로 바뀔 때까지 기다린 후 다음 단계를 계속합니다.

https://console.aws.amazon.com/ec2/에서 Amazon EC2 콘솔을 엽니다.

탐색 창에서 Instances(인스턴스)를 선택한 다음에 Launch Instances(인스턴스 시작)를 선택하여 새 인스턴스 시작 마법사를 엽니다.

(선택 사항)이름 및 태그(Name and tags) 섹션에서 인스턴스의 이름(예: EFA-instance)을 제공합니다. 이름은 인스턴스에 리소스 태그(Name=EFA-instance)로 할당됩니다.

애플리케이션 및 OS 이미지(Application and OS Images) 섹션에서 내 AMI(My AMIs)를 선택한 다음에 이전 단계에서 생성한 AMI를 선택합니다.

인스턴스 유형(Instance type) 섹션에서 지원되는 인스턴스 유형(supported instance type)을 선택합니다.

키 페어(Key pair) 섹션에서 인스턴스에 사용할 키 페어를 선택합니다.

네트워크 설정(Network settings) 섹션에서 편집(Edit)을 선택하고 다음과 같이 수행합니다.

1. 서브넷(Subnet)에서 인스턴스를 시작할 서브넷을 선택합니다. 서브넷을 선택하지 않으면 EFA에 대해 인스턴스를 활성화할 수 없습니다.

2. 방화벽(보안 그룹)의 경우 기존 보안 그룹 선택(Select existing security group)을 선택한 다음에 이전 단계에서 생성한 보안 그룹을 선택합니다.

3. 고급 네트워크 구성 섹션을 확장합니다.

   네트워크 인터페이스 1에서 네트워크 카드 인덱스 = 0, 디바이스 인덱스 = 0 및 인터페이스 유형 = ENA 포함 EFA를 선택합니다.

   (선택 사항) p4d.24xlarge 또는 p5.48xlarge와 같은 다중 카드 인스턴스 유형을 사용하는 경우, 필요한 추가 네트워크 인터페이스마다 네트워크 인터페이스 추가를 선택하고 네트워크 카드 인덱스에서 다음 미사용 인덱스를 선택한 다음, 디바이스 인덱스 = 1 및 인터페이스 유형 = ENA 포함 EFA 또는 EFA 전용을 선택합니다.

(선택 사항) 스토리지(Storage) 섹션에서 필요에 따라 볼륨을 구성합니다.

고급 세부 정보(Advanced details) 섹션에서 배치 그룹 이름(Placement group name)의 경우 인스턴스를 시작할 클러스터 배치 그룹을 선택합니다. 새 클러스터 배치 그룹을 생성해야 하는 경우 새 배치 그룹 생성(Create new placement group)을 선택합니다.

오른쪽의 요약(Summary) 패널에서 인스턴스 개수(Number of instances)의 경우 시작하려는 EFA 사용 인스턴스 개수를 입력한 다음에 인스턴스 시작(Launch instance)을 선택합니다.

https://console.aws.amazon.com/ec2/에서 Amazon EC2 콘솔을 엽니다.

탐색 창에서 Instances(인스턴스)를 선택합니다.

생성한 임시 인스턴스를 선택한 다음 작업, 인스턴스 상태, 인스턴스 종료(삭제)를 선택합니다.

확인 메시지가 표시되면 종료(삭제)를 선택합니다.

클러스터의 인스턴스 1개를 리더 노드로 선택하고 연결합니다.

strictHostKeyChecking을 비활성화하고 리더 노드에서 ForwardAgent를 활성화합니다. 원하는 텍스트 편집기를 사용하여 ~/.ssh/config를 열고 다음을 추가합니다.

Host *
    ForwardAgent yes
Host *
    StrictHostKeyChecking no

RSA 키 페어 생성:

$ ssh-keygen -t rsa -N "" -f ~/.ssh/id_rsa

키 페어는 $HOME/.ssh/ 디렉터리에 생성됩니다.

리더 노드에서 프라이빗 키의 사용 권한을 변경합니다.

$ chmod 600 ~/.ssh/id_rsa
chmod 600 ~/.ssh/config

원하는 텍스트 편집기를 사용하여 ~/.ssh/id_rsa.pub를 열고 키를 추가합니다.

클러스터의 각 멤버 노드에 대해 다음을 수행합니다.

1. 인스턴스에 연결합니다.

2. 원하는 텍스트 편집기를 사용하여 ~/.ssh/authorized_keys를 열고 앞에서 복사한 퍼블릭 키를 추가합니다.

암호 없는 SSH가 예상대로 작동하는지 테스트하려면 리더 노드에 연결하고 다음 명령을 실행합니다.

$ ssh member_node_private_ip

키 또는 암호를 입력하라는 메시지가 표시되지 않은 상태에서 멤버 노드에 연결해야 합니다.