비동기 추론 엔드포인트를 생성하는 방법 - Amazon SageMaker

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

비동기 추론 엔드포인트를 생성하는 방법

SageMaker 호스팅 서비스를 사용하여 엔드포인트를 생성하는 것과 동일한 방식으로 비동기 엔드포인트를 생성합니다.

  • 를 SageMaker 사용하여 에서 모델을 생성합니다CreateModel.

  • CreateEndpointConfig로 엔드포인트 구성을 생성합니다.

  • 를 사용하여 HTTPS 엔드포인트를 생성합니다CreateEndpoint.

엔드포인트를 생성하려면 먼저 CreateModel를 이용해 모델 아티팩트와 도커 레지스트리 경로(이미지)를 가리키는 모델을 생성합니다. 그런 다음 를 사용하여 생성한 하나 이상의 모델CreateModelAPI과 프로비저닝 SageMaker 하려는 리소스를 CreateEndpointConfig 지정하는 를 사용하여 구성을 생성합니다. 요청에 지정된 엔드포인트 구성을 사용하여 CreateEndpoint로 엔드포인트를 생성합니다. 를 사용하여 비동기 엔드포인트를 업데이트할 수 있습니다UpdateEndpointAPI. InvokeEndpointAsync를 사용하여 엔드포인트에서 호스팅되는 모델에서 추론 요청을 보내고 받습니다. 를 사용하여 엔드포인트를 삭제할 수 있습니다DeleteEndpointAPI.

사용 가능한 SageMaker 이미지의 전체 목록은 사용 가능한 딥 러닝 컨테이너 이미지 섹션을 참조하세요. 도커 이미지 생성 방법에 대한 정보는 사용자 지정 추론 코드가 있는 컨테이너에서 확인하세요.