

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

# 다중 컨테이너 엔드포인트 생성(Boto 3)
<a name="multi-container-create"></a>

다른 엔드포인트를 생성하는 것처럼 [CreateModel](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html), [CreateEndpointConfig](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpointConfig.html), [CreateEndpoint](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpoint.html) API를 호출하여 멀티 컨테이너 엔드포인트를 생성합니다. 이러한 컨테이너를 추론 파이프라인으로 순차적으로 실행하거나 직접 호출을 사용하여 각 개별 컨테이너를 실행할 수 있습니다. 다중 컨테이너 엔드포인트는 `create_model` 호출 시 다음과 같은 요구 사항이 적용됩니다.
+ `PrimaryContainer` 대신 `Containers` 파라미터를 사용하고 `Containers` 파라미터에 컨테이너를 두 개 이상 포함시키세요.
+ 이 `ContainerHostname` 파라미터는 직접 호출이 가능한 다중 컨테이너 엔드포인트의 각 컨테이너에 필요합니다.
+ 각 컨테이너를 직접 호출하려면 `InferenceExecutionConfig` 필드의 `Mode` 파라미터를 `Direct`로 설정하고, 컨테이너를 추론 파이프라인으로 사용하려면 `Serial`로 설정하세요. 기본 모드는 `Serial`입니다.

**참고**  
현재 다중 컨테이너 엔드포인트에서 지원되는 컨테이너는 최대 15개까지로 제한됩니다.

다음 예제에서는 직접 호출을 위한 다중 컨테이너 모델을 생성합니다.

1. 직접 호출을 사용하여 컨테이너 요소와 `InferenceExecutionConfig`를 생성합니다.

   ```
   container1 = {
                    'Image': '123456789012.dkr.ecr.us-east-1.amazonaws.com/myimage1:mytag',
                    'ContainerHostname': 'firstContainer'
                }
   
   container2 = {
                    'Image': '123456789012.dkr.ecr.us-east-1.amazonaws.com/myimage2:mytag',
                    'ContainerHostname': 'secondContainer'
                }
   inferenceExecutionConfig = {'Mode': 'Direct'}
   ```

1. 컨테이너 요소가 포함된 모델을 만들고 `InferenceExecutionConfig` 필드를 설정합니다.

   ```
   import boto3
   sm_client = boto3.Session().client('sagemaker')
   
   response = sm_client.create_model(
                  ModelName = 'my-direct-mode-model-name',
                  InferenceExecutionConfig = inferenceExecutionConfig,
                  ExecutionRoleArn = role,
                  Containers = [container1, container2]
              )
   ```

엔드포인트를 생성하려면 다른 엔드포인트를 생성할 때와 마찬가지로 [create\$1endpoint\$1config](https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/sagemaker.html#SageMaker.Client.create_endpoint_config) 및 [create\$1endpoint](https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/sagemaker.html#SageMaker.Client.create_endpoint)를 호출합니다.