기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
사전 조건 완료
다음 주제에서는 비동기 엔드포인트를 생성하기 전에 완료해야 하는 사전 조건을 설명합니다. 이러한 사전 조건에는 모델 아티팩트의 적절한 저장, 올바른 권한으로 AWS IAM 구성, 컨테이너 이미지 선택이 포함됩니다.
사전 조건을 완료하려면
-
Amazon SageMaker AI에 대한 IAM 역할을 생성합니다.
비동기 추론에는 Amazon S3 버킷 URI에 대한 액세스 권한이 필요합니다. 이를 용이하게 하려면 SageMaker AI를 실행할 수 있고 Amazon S3 및 Amazon SNS에 액세스할 수 있는 권한이 있는 IAM 역할을 생성합니다. 이 역할을 사용하면 SageMaker AI가 계정에서 실행되고 Amazon S3 버킷 및 Amazon SNS 주제에 액세스할 수 있습니다.
IAM 콘솔 AWS SDK for Python (Boto3)또는를 사용하여 IAM 역할을 생성할 수 있습니다 AWS CLI. 다음은 IAM 역할을 생성하고 IAM 콘솔에 필요한 정책을 연결하는 방법의 예제입니다.
에 로그인 AWS Management Console 하고 https://console.aws.amazon.com/iam/
IAM 콘솔을 엽니다. -
IAM 콘솔의 탐색 창에서 역할을 선택하고 역할 생성을 선택합니다.
-
신뢰할 수 있는 엔터티 유형 선택에서 AWS service(서비스)를 선택합니다.
-
이 역할을 맡을 수 있게 하려는 서비스를 선택합니다. 이 경우 SageMaker AI를 선택합니다. 그런 다음 다음: 권한을 선택합니다.
-
그러면 Amazon S3, Amazon ECR 및 CloudWatch Logs와 같은 관련 서비스에 대한 액세스 권한을 부여하는 IAM 정책이 자동으로 생성됩니다.
-
-
다음: 태그를 선택합니다.
-
(선택 사항) 태그를 키 값 페어로 연결하여 메타데이터를 역할에 추가합니다. IAM에서 태그를 사용하는 방법에 대한 자세한 내용은 IAM 리소스 태깅을 참조하세요.
-
다음: 검토를 선택합니다.
-
역할 이름을 입력합니다.
-
가능하다면 역할 이름 또는 역할 이름 접미사를 입력합니다. 역할 이름은 AWS 계정 내에서 고유해야 합니다. 대소문자는 구별하지 않습니다. 예를 들어, 이름이
PRODROLE
과prodrole
, 두 가지로 지정된 역할을 만들 수는 없습니다. 다른 AWS 리소스가 역할을 참조할 수 있으므로 역할이 생성된 후에는 역할 이름을 편집할 수 없습니다. -
(선택 사항) 역할 설명에 새 역할에 대한 설명을 입력합니다.
-
역할을 검토한 다음 역할 생성을 선택합니다.
SageMaker AI 역할 ARN을 기록해 둡니다. 콘솔을 사용하여 역할 ARN을 찾으려면 다음과 같이 하세요.
-
IAM 콘솔(https://console.aws.amazon.com/iam
)에 로그인합니다. -
역할을 선택합니다.
-
검색 필드에 역할 이름을 입력하여 방금 생성한 역할을 검색합니다.
-
역할을 선택합니다.
-
역할 ARN은 요약 페이지 상단에 있습니다.
-
-
IAM 역할에 Amazon SageMaker AI, Amazon S3 및 Amazon SNS 권한을 추가합니다.
역할이 생성되면 IAM 역할에 SageMaker AI, Amazon S3 및 선택적으로 Amazon SNS 권한을 부여합니다.
IAM 콘솔에서 역할을 선택합니다. 검색 필드에 역할 이름을 입력하여 방금 생성한 역할을 검색합니다.
역할을 선택합니다.
다음은 정책 연결을 선택합니다.
-
Amazon SageMaker 비동기 추론은
"sagemaker:CreateModel"
,"sagemaker:CreateEndpointConfig"
,"sagemaker:CreateEndpoint"
및"sagemaker:InvokeEndpointAsync"
작업을 수행할 수 있는 권한이 필요합니다.이러한 작업은
AmazonSageMakerFullAccess
정책에 포함됩니다. 이 정책을 IAM 역할에 추가합니다. 검색 필드에서AmazonSageMakerFullAccess
를 검색합니다.AmazonSageMakerFullAccess
를 선택합니다. 정책 연결을 선택합니다.
그런 다음 정책 연결을 선택하여 Amazon S3 권한을 추가합니다.
정책 생성을 선택합니다.
JSON
탭을 선택합니다.다음 정책 설명을 추가합니다.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:GetObject", "s3:PutObject", "s3:AbortMultipartUpload", "s3:ListBucket" ], "Effect": "Allow", "Resource": "arn:aws:s3:::
bucket_name/*
" } ] }다음: 태그를 선택합니다.
정책 이름을 입력합니다.
정책 생성을 선택합니다.
Amazon SNS 권한을 추가하려면 완료한 것과 동일한 단계를 반복하여 Amazon S3 권한을 추가합니다. 정책 설명에는 다음을 첨부하세요.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sns:Publish" ], "Effect": "Allow", "Resource": "arn:aws:sns:
<region>:<Account_ID>:<SNS_Topic>
" } ] }
-
추론 데이터(예: 기계 학습 모델, 샘플 데이터)를 Amazon S3에 업로드합니다.
-
사전 빌드된 도커 추론 이미지를 선택하거나 자체 추론 도커 이미지를 생성합니다.
SageMaker AI는 Apache MXNet, TensorFlow, PyTorch, Chainer와 같은 가장 일반적인 기계 학습 프레임워크 중 일부를 위한 기본 제공 알고리즘 및 사전 구축된 Docker 이미지를 위한 컨테이너를 제공합니다. 사용 가능한 SageMaker AI 이미지의 전체 목록은 사용 가능한 딥 러닝 컨테이너 이미지를 참조하세요
. SageMaker AI 제공 컨테이너를 사용하도록 선택한 경우 컨테이너에서 환경 변수를 설정하여 엔드포인트 제한 시간 및 페이로드 크기를 기본값에서 늘릴 수 있습니다. 각 프레임워크에 대해 서로 다른 환경 변수를 설정하는 방법을 알아보려면 비동기 엔드포인트 생성의 모델 생성 단계를 참조하세요. 기존 SageMaker AI 컨테이너 중 요구 사항을 충족하는 컨테이너가 없고 자체 컨테이너가 없는 경우 새 Docker 컨테이너를 생성해야 할 수 있습니다. 도커 이미지 생성 방법에 대한 정보는 사용자 지정 추론 코드가 있는 컨테이너에서 확인하세요.
-
Amazon SNS 주제 생성(선택 사항)
처리가 완료된 요청에 대한 알림을 보내는 Amazon Simple Notification Service(SNS) 주제를 생성합니다. Amazon SNS는 메시징 지향 애플리케이션을 위한 알림 서비스로서 여러 구독자가 HTTP, Amazon SQS, 이메일을 비롯한 다양한 전송 프로토콜을 통해 시간이 중요한 메시지의 “푸시” 알림을 요청하고 수신하도록 하는 것입니다.
EndpointConfig
API를 사용하여AsyncInferenceConfig
를 지정하는 경우EndpointConfig
객체를 생성할 때 Amazon SNS 주제를 지정할 수 있습니다.다음 단계에 따라 Amazon SNS 주제를 생성하고 구독합니다.
-
Amazon SNS 콘솔을 사용하여 주제를 생성합니다. 자세한 내용은 Amazon Simple Notification Service 개발자 안내서에서 Amazon SNS 주제 생성을 참조하세요.
주제를 구독합니다. 자세한 내용은 Amazon Simple Notification Service 개발자 안내서에서 Amazon SNS 주제 구독을 참조하세요.
-
주제 구독을 확인하도록 요청하는 이메일이 전송되면 구독을 확인합니다.
주제 Amazon Resource Name(ARN)을 기록합니다. 생성한 Amazon SNS 주제는 AWS 계정의 다른 리소스이며 고유한 ARN이 있습니다. ARN의 형식은 다음과 같습니다.
arn:aws:sns:
aws-region:account-id:topic-name
Amazon SNS에 대한 자세한 내용은 Amazon SNS 개발자 안내서를 참조하세요.
-