기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
비동기 추론 엔드포인트 생성 방법
SageMaker AI 호스팅 서비스를 사용하여 엔드포인트를 생성하는 것과 동일한 방식으로 비동기 엔드포인트를 생성합니다.
를 사용하여 SageMaker AI에서 모델을 생성합니다
CreateModel.CreateEndpointConfig로 엔드포인트 구성을 생성합니다.를 사용하여 HTTPS 엔드포인트를 생성합니다
CreateEndpoint.
엔드포인트를 생성하려면 먼저 CreateModel를 이용해 모델 아티팩트와 도커 레지스트리 경로(이미지)를 가리키는 모델을 생성합니다. 그런 다음를 사용하여 생성한 하나 이상의 모델CreateModelAPI과 SageMaker AI가 프로비저닝할 리소스를 CreateEndpointConfig 지정하는 구성을 생성합니다. 요청에 지정된 엔드포인트 구성을 사용하여 CreateEndpoint로 엔드포인트를 생성합니다. 를 사용하여 비동기 엔드포인트를 업데이트할 수 있습니다UpdateEndpointAPI. InvokeEndpointAsync를 사용하여 엔드포인트에서 호스팅되는 모델에서 추론 요청을 보내고 받습니다. 를 사용하여 엔드포인트를 삭제할 수 있습니다DeleteEndpointAPI.
사용 가능한 SageMaker AI 이미지의 전체 목록은 사용 가능한 딥 러닝 컨테이너 이미지를 참조하세요
