기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
사전 조건 완료
다음 주제에서는 비동기 엔드포인트를 생성하기 전에 완료해야 하는 사전 조건을 설명합니다. 이러한 사전 조건에는 모델 아티팩트의 적절한 저장, 올바른 권한으로 AWS IAM 구성, 컨테이너 이미지 선택이 포함됩니다.
사전 조건을 완료하려면
-
Amazon 에 대한 IAM 역할을 생성합니다 SageMaker.
비동기 추론은 Amazon S3 버킷 에 대한 액세스 권한이 필요합니다URI. 이를 용이하게 하려면 를 실행할 수 SageMaker 있고 Amazon S3 및 Amazon 에 액세스할 수 있는 권한이 있는 IAM 역할을 생성합니다SNS. 이 역할을 사용하여 계정에서 를 SageMaker 실행하고 Amazon S3 버킷 및 Amazon SNS 주제에 액세스할 수 있습니다.
IAM 콘솔 AWS SDK for Python (Boto3)또는 를 사용하여 IAM 역할을 생성할 수 있습니다 AWS CLI. 다음은 IAM 역할을 생성하고 필요한 정책을 IAM 콘솔에 연결하는 방법의 예입니다.
에 로그인 AWS Management Console 하고 에서 IAM 콘솔을 엽니다https://console.aws.amazon.com/iam/
. -
IAM 콘솔의 탐색 창에서 역할 을 선택한 다음 역할 생성 을 선택합니다.
-
Select type of trusted entity(신뢰할 수 있는 엔터티 유형 선택)에서 AWS service(서비스)를 선택합니다.
-
이 역할을 맡을 수 있게 하려는 서비스를 선택합니다. 이 경우 를 선택합니다SageMaker. 그런 다음 다음: 권한을 선택합니다.
-
그러면 Amazon S3, Amazon ECR및 CloudWatch Logs와 같은 관련 서비스에 대한 액세스 권한을 부여하는 IAM 정책이 자동으로 생성됩니다.
-
-
다음: 태그를 선택합니다.
-
(선택 사항) 태그를 키 값 페어로 연결하여 메타데이터를 역할에 추가합니다. 에서 태그를 사용하는 방법에 대한 자세한 내용은 리소스 태그 지정을 IAM참조하세요. IAM
-
다음: 검토를 선택합니다.
-
역할 이름(Role name)을 입력합니다.
-
가능하다면 역할 이름 또는 역할 이름 접미사를 입력합니다. 역할 이름은 AWS 계정 내에서 고유해야 합니다. 대소문자는 구별하지 않습니다. 예를 들어, 이름이
PRODROLE
과prodrole
, 두 가지로 지정된 역할을 만들 수는 없습니다. 다른 AWS 리소스가 역할을 참조할 수 있으므로 역할이 생성된 후에는 역할 이름을 편집할 수 없습니다. -
(선택 사항) Role description에 새 역할에 대한 설명을 입력합니다.
-
역할을 검토한 다음 Create role을 선택합니다.
SageMaker 역할 을 기록해 둡니다ARN. 콘솔을 ARN 사용하여 역할을 찾으려면 다음을 수행합니다.
-
IAM 콘솔로 이동합니다. https://console.aws.amazon.com/iam/
-
역할(Roles)을 선택합니다.
-
검색 필드에 역할 이름을 입력하여 방금 생성한 역할을 검색합니다.
-
역할을 선택합니다.
-
역할은 요약 페이지 ARN 상단에 있습니다.
-
-
IAM 역할에 Amazon SageMaker, Amazon S3 및 Amazon SNS 권한을 추가합니다.
역할이 생성되면 IAM 역할에 , SageMaker Amazon S3 및 선택적으로 Amazon SNS 권한을 부여합니다.
IAM 콘솔에서 역할을 선택합니다. 검색 필드에 역할 이름을 입력하여 방금 생성한 역할을 검색합니다.
역할을 선택합니다.
다음은 정책 연결(Attach Policies)을 선택합니다.
-
Amazon SageMaker 비동기 추론에는
"sagemaker:CreateModel"
,"sagemaker:CreateEndpointConfig"
, 및 작업을 수행할 수 있는 권한이 필요합니다"sagemaker:CreateEndpoint"
"sagemaker:InvokeEndpointAsync"
.이러한 작업은
AmazonSageMakerFullAccess
정책에 포함됩니다. 이 정책을 IAM 역할에 추가합니다. 검색 필드에서AmazonSageMakerFullAccess
을(를) 검색합니다.AmazonSageMakerFullAccess
를 선택합니다. 정책 연결을 선택합니다.
그런 다음 정책 연결을 선택하여 Amazon S3 권한을 추가합니다.
정책 생성을 선택합니다.
JSON
탭을 선택합니다.다음 정책 설명을 추가합니다.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:GetObject", "s3:PutObject", "s3:AbortMultipartUpload", "s3:ListBucket" ], "Effect": "Allow", "Resource": "arn:aws:s3:::
bucket_name/*
" } ] }다음: 태그를 선택합니다.
정책 이름을 입력합니다.
정책 생성을 선택합니다.
Amazon S3 권한을 추가하려면 완료한 것과 동일한 단계를 반복하여 Amazon SNS 권한을 추가합니다. 정책 설명에는 다음을 첨부하세요.
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sns:Publish" ], "Effect": "Allow", "Resource": "arn:aws:sns:
<region>:<Account_ID>:<SNS_Topic>
" } ] }
-
추론 데이터(예: 기계 학습 모델, 샘플 데이터)를 Amazon S3에 업로드합니다.
-
사전 빌드된 도커 추론 이미지를 선택하거나 자체 추론 도커 이미지를 생성합니다.
SageMaker 는 Apache ,MXNet TensorFlow PyTorch, 및 Chainer와 같은 가장 일반적인 기계 학습 프레임워크 중 일부에 기본 제공 알고리즘 및 사전 구축된 Docker 이미지를 위한 컨테이너를 제공합니다. 사용 가능한 SageMaker 이미지의 전체 목록은 사용 가능한 딥 러닝 컨테이너 이미지 섹션을 참조하세요
. SageMaker 제공된 컨테이너를 사용하도록 선택한 경우 컨테이너의 환경 변수를 설정하여 엔드포인트 제한 시간 및 페이로드 크기를 기본값에서 늘릴 수 있습니다. 각 프레임워크에 대해 서로 다른 환경 변수를 설정하는 방법을 알아보려면 비동기 엔드포인트 생성의 모델 생성 단계를 참조하세요. 기존 SageMaker 컨테이너 중 요구 사항을 충족하는 컨테이너가 없고 자체 컨테이너가 없는 경우 새 Docker 컨테이너를 생성해야 할 수 있습니다. 도커 이미지 생성 방법에 대한 정보는 사용자 지정 추론 코드가 있는 컨테이너에서 확인하세요.
-
Amazon SNS 주제 생성(선택 사항)
처리를 완료한 요청에 대한 알림을 보내는 Amazon Simple Notification Service(AmazonSNS) 주제를 생성합니다. AmazonSNS은 메시징 지향 애플리케이션을 위한 알림 서비스이며, 여러 구독자가 , HTTPAmazon 및 이메일을 포함한 전송 프로토콜 선택을 통해 긴급 메시지에 대한 “푸시” 알림을 요청SQS하고 수신합니다. 를
AsyncInferenceConfig
사용하여 를 지정할 때EndpointConfig
객체를 생성할 때 Amazon SNS 주제를 지정할 수 있습니다EndpointConfig
API.단계에 따라 Amazon SNS 주제를 생성하고 구독합니다.
-
Amazon SNS 콘솔을 사용하여 주제를 생성합니다. 지침은 Amazon Simple Notification Service 개발자 안내서의 Amazon SNS 주제 생성을 참조하세요.
주제를 구독합니다. 지침은 Amazon Simple Notification Service 개발자 안내서의 Amazon SNS 주제 구독을 참조하세요.
-
주제 구독을 확인하도록 요청하는 이메일이 전송되면 구독을 확인합니다.
주제 Amazon 리소스 이름()을 기록해 둡니다ARN. 생성한 Amazon SNS 주제는 AWS 계정의 다른 리소스이며 고유한 가 있습니다ARN. 의 형식ARN은 다음과 같습니다.
arn:aws:sns:
aws-region:account-id:topic-name
Amazon 에 대한 자세한 내용은 Amazon SNS 개발자 안내서를 SNS참조하세요.
-