실시간 추론 컨테이너에 대한 프라이빗 Docker 레지스트리 사용

프라이빗 Docker 레지스트리에 저장된 이미지를 추론 컨테이너에 사용하려면

1. 이미지 구성 객체를 생성하고 RepositoryAccessMode 필드의 값을 Vpc(으)로 지정하세요.

   image_config = {
                       'RepositoryAccessMode': 'Vpc'
                  }

2. 프라이빗 Docker 레지스트리에 인증이 필요한 경우 이미지 구성 객체에 RepositoryAuthConfig 객체를 추가하세요. RepositoryAuthConfig객체 RepositoryCredentialsProviderArn 필드에 프라이빗 Docker 레지스트리에 인증할 SageMaker 수 있는 자격 증명을 제공하는 AWS Lambda 함수의 Amazon 리소스 이름 (ARN) 을 지정합니다. 인증을 제공하는 Lambda 함수를 생성하는 방법에 대한 자세한 내용은 프라이빗 SageMaker Docker 레지스트리 인증 허용을(를) 참조하세요.

   image_config = {
                       'RepositoryAccessMode': 'Vpc',
                       'RepositoryAuthConfig': {
                          'RepositoryCredentialsProviderArn': 'arn:aws:lambda:Region:Acct:function:FunctionName'
                        }
                  }

3. 이전 단계에서 생성한 이미지 구성 객체를 사용하여 create_model에 전달할 기본 컨테이너 객체를 생성하세요.

   이미지를 다이제스트 양식으로 제공하세요. :latest태그를 사용하여 이미지를 제공할 경우 의도한 것보다 최신 버전의 SageMaker 이미지를 가져올 위험이 있습니다. 다이제스트 양식을 사용하면 의도한 이미지 버전을 SageMaker 가져올 수 있습니다.

   primary_container = {
       'ContainerHostname': 'ModelContainer',
       'Image': 'myteam.myorg.com/docker-local/my-inference-image:<IMAGE-TAG>',
       'ImageConfig': image_config
   }

4. create_model에 전달할 모델 이름과 실행 역할을 지정하세요.

   model_name = 'vpc-model'
   execution_role_arn = 'arn:aws:iam::123456789012:role/SageMakerExecutionRole'

5. 모델의 VPC 구성에 사용할 보안 그룹과 서브넷을 하나 이상 지정하세요. 프라이빗 Docker 레지스트리는 지정된 보안 그룹의 인바운드 트래픽을 허용해야 합니다. 지정된 서브넷은 프라이빗 Docker 레지스트리와 동일한 VPC에 있어야 합니다.

   vpc_config = {
       'SecurityGroupIds': ['sg-0123456789abcdef0'],
       'Subnets': ['subnet-0123456789abcdef0','subnet-0123456789abcdef1']
   }

6. SageMaker Boto3 클라이언트를 구입하세요.

   import boto3
   sm = boto3.client('sagemaker')

7. PrimaryContainer 및 VpcConfig 파라미터에 대해 이전 단계에서 지정한 값을 이용해 create_model을(를) 호출하여 모델을 생성하세요.

   try:
       resp = sm.create_model(
           ModelName=model_name,
           PrimaryContainer=primary_container,
           ExecutionRoleArn=execution_role_arn,
           VpcConfig=vpc_config,
       )
   except Exception as e:
       print(f'error calling CreateModel operation: {e}')
   else:
       print(resp)

8. 마지막으로, 이전 단계에서 생성한 모델을 이용하여 create_endpoint_config 및 create_endpoint를 호출하여 호스팅 엔드포인트를 생성하세요.

   endpoint_config_name = 'my-endpoint-config'
   sm.create_endpoint_config(
       EndpointConfigName=endpoint_config_name,
       ProductionVariants=[
           {
               'VariantName': 'MyVariant',
               'ModelName': model_name,
               'InitialInstanceCount': 1,
               'InstanceType': 'ml.t2.medium'
           },
       ],
   )
   
   endpoint_name = 'my-endpoint'
   sm.create_endpoint(
       EndpointName=endpoint_name,
       EndpointConfigName=endpoint_config_name,
   )
   
   sm.describe_endpoint(EndpointName=endpoint_name)