ML용 용량 블록

ML용 용량 블록을 사용하면 미래 날짜에 수요가 많은 GPU 인스턴스를 예약하여 단기간의 기계 학습(ML) 워크로드를 지원할 수 있습니다. 용량 블록 내부에서 실행되는 인스턴스는 지연 시간이 짧은 페타비트 규모의 비차단 네트워킹을 위해 Amazon EC2 UltraCluster 내부에 자동으로 서로 가깝게 배치됩니다.

용량 블록을 사용하면 미래 날짜에 GPU 인스턴스 용량을 사용할 수 있는 시점을 확인하고, 가장 적합한 시간에 시작하도록 용량 블록을 예약할 수 있습니다. 용량 블록을 예약하면 필요한 시간에 해당하는 비용만 결제하면서 GPU 인스턴스의 용량 보증을 예측할 수 있습니다. 한 번에 며칠 또는 몇 주 동안 ML 워크로드를 지원하는 GPU가 필요하고 GPU 인스턴스를 사용하지 않는 동안에는 예약을 결제하지 않으려는 경우에 용량 블록을 사용하는 것이 좋습니다.

다음은 용량 블록의 몇 가지 일반적인 사용 사례입니다.

용량 블록은 현재 p5.48xlarge 및 p4d.24xlarge 인스턴스에 사용할 수 있습니다. p5.48xlarge 인스턴스는 미국 동부(오하이오) 및 미국 동부(버지니아 북부) 리전에서 사용할 수 있습니다. p4d.24xlarge 인스턴스는 미국 동부(오하이오) 및 미국 서부(오레곤) 리전에서 사용할 수 있습니다. 예약 시작 시간을 향후 최대 8주로 설정하여 용량 블록을 예약할 수 있습니다.

용량 블록을 사용하여 다음과 같은 예약 기간 및 인스턴스 수량 옵션으로 p5 및 p4d 인스턴스를 예약할 수 있습니다.

용량 블록을 예약하려면 필요한 인스턴스 유형, 인스턴스 수, 시간, 가장 이른 시작 날짜, 가장 늦은 종료 날짜를 포함하여 필요한 용량부터 지정합니다. 그러면 사양에 알맞게 제공되는 사용 가능한 용량 블록을 확인할 수 있습니다. 용량 블록 상품에는 시작 시간, 가용 영역, 예약 가격과 같은 세부 정보가 포함됩니다. 용량 블록 상품의 가격은 상품이 제공되는 당시에 사용 가능한 공급과 수요에 따라 다릅니다. 용량 블록 예약 후에는 가격이 변경되지 않습니다. 자세한 내용은 용량 블록 요금 및 결제 단원을 참조하십시오.

용량 블록 상품을 구매하면 선택한 날짜 및 인스턴스 수에 대한 예약이 생성됩니다. 용량 블록 예약이 시작되면 시작 요청에 예약 ID를 지정하여 인스턴스 시작을 대상으로 지정할 수 있습니다.

예약한 모든 인스턴스는 용량 블록 종료 시간 30분 전까지 사용할 수 있습니다. 용량 블록 예약이 30분 남았을 때, 용량 블록에서 실행 중인 모든 인스턴스가 종료되기 시작합니다. 30분은 다음 고객에게 용량 블록을 제공하기 전에 인스턴스를 정리하는 데 사용됩니다. 용량 블록 가격에서 예약의 마지막 30분은 청구되지 않습니다. 종료 프로세스가 시작되기 10분 전에 EventBridge를 통해 이벤트가 발생합니다. 자세한 내용은 EventBridge로 용량 블록 모니터링 단원을 참조하십시오.

지원하는 플랫폼

ML용 용량 블록에서는 현재 기본 테넌시가 있는 p5.48xlarge 및 p4d.24xlarge 인스턴스를 지원합니다. AWS Management Console을 사용하여 용량 블록을 구매하는 경우 기본 플랫폼 옵션은 Linux/UNIX입니다. AWS Command Line Interface(AWS CLI) 또는 AWS SDK를 사용하여 용량 블록을 구매하는 경우 다음과 같은 플랫폼 옵션을 사용할 수 있습니다.

고려 사항

용량 블록을 사용하기 전에 다음 세부 정보와 제한 사항을 고려하세요.

관련 리소스

용량 블록 생성 후 용량 블록을 사용하여 다음 작업을 수행할 수 있습니다.

AWS ParallelCluster에 대한 자세한 정보는 AWS ParallelCluster란 무엇입니까?​를 참조하세요.