모델 패키징(Boto3)

AWS SDK for Python (Boto3)(으)로 SageMaker Edge Manager 패키징 작업을 생성할 수 있습니다. 계속하기 전에 사전 조건 완료 충족 여부를 확인하세요.

엣지 패키징 작업을 요청하려면 CreateEdgePackagingJob을(를) 사용합니다. 엣지 패키징 작업 이름, SageMakerNeo 컴파일 작업 이름, 역할 Amazon 리소스 이름(ARN), 모델 이름, 모델 버전, 패키징 작업 출력을 저장하려는 Amazon S3 버킷 URI를 입력해야 합니다. Edge Manager 패키징 작업 이름과Neo 컴파일 작업 이름은 대소문자를 구분해야 함에 유의하세요.

# Import AWS SDK for Python (Boto3)
import boto3

# Create Edge client so you can submit a packaging job
sagemaker_client = boto3.client("sagemaker", region_name='aws-region')

sagemaker_client.create_edge_packaging_job(
    EdgePackagingJobName="edge-packaging-name",
    CompilationJobName="neo-compilation-name",
    RoleArn="arn:aws:iam::99999999999:role/rolename",
    ModelName="sample-model-name",
    ModelVersion="model-version",
    OutputConfig={
        "S3OutputLocation": "s3://your-bucket/",
    }
)

DescribeEdgePackagingJob을(를) 사용하고 대소문자 구분 엣지 패키징 작업 이름을 입력하여 엣지 패키징 작업 상태를 확인할 수 있습니다.

response = sagemaker_client.describe_edge_packaging_job(
                                    EdgePackagingJobName="edge-packaging-name")

그러면 패키징 작업 상태 폴링 시 사용 가능한 사전이 반환됩니다.

# Optional - Poll every 30 sec to check completion status
import time

while True:
    response = sagemaker_client.describe_edge_packaging_job(
                                         EdgePackagingJobName="edge-packaging-name")
    
    if response['EdgePackagingJobStatus'] == 'Completed':
        break
    elif response['EdgePackagingJobStatus'] == 'Failed':
        raise RuntimeError('Packaging job failed')
    print('Packaging model...')
    time.sleep(30)
print('Done!')

패키징 작업 목록을 보려면 ListEdgePackagingJobs을(를) 사용합니다. 이 API로 특정 패키징 작업을 검색할 수 있습니다. 이름 일부를 입력하여 NameContains 기준으로 패키징 작업 이름을 필터하고, ModelNameContains의 이름 일부를 입력하여 모델 이름에 입력한 이름이 포함된 작업 기준으로 필터링합니다. 또한 SortBy 기준으로 정렬할 열을 지정하고, SortOrder 기준으로 정렬할 방향(Ascending 또는 Descending)을 지정합니다.

sagemaker_client.list_edge_packaging_jobs(
    "NameContains": "sample",
    "ModelNameContains": "sample",
    "SortBy": "column-name",
    "SortOrder": "Descending"
)    

패키징 작업을 중지하려면 StopEdgePackagingJob을(를) 사용하고 엣지 패키징 작업 이름을 입력합니다.

sagemaker_client.stop_edge_packaging_job(
        EdgePackagingJobName="edge-packaging-name"
)

Edge Manager API의 전체 목록은 Boto3 설명서에서 확인하세요.