배포된 서비스에서 추론 요청(Boto3) - Amazon SageMaker

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

배포된 서비스에서 추론 요청(Boto3)

SageMaker 엔드포인트가 있으면 Python(Boto3) 클라이언트용 및 를 사용하여 SageMaker SDK 추론 요청을 제출할 수 invoke_endpoint() API 있습니다InService. 다음 코드 예제에서는 추론을 위해 이미지를 전송하는 방법을 보여줍니다.

PyTorch and MXNet
import boto3

import json
 
endpoint = 'insert name of your endpoint here'
 
runtime = boto3.Session().client('sagemaker-runtime')
 
# Read image into memory
with open(image, 'rb') as f:
    payload = f.read()
# Send image via InvokeEndpoint API
response = runtime.invoke_endpoint(EndpointName=endpoint, ContentType='application/x-image', Body=payload)

# Unpack response
result = json.loads(response['Body'].read().decode())
TensorFlow

콘텐츠 유형에 application/json 대한 입력을 로 TensorFlow 제출합니다.

from PIL import Image
import numpy as np
import json
import boto3

client = boto3.client('sagemaker-runtime') 
input_file = 'path/to/image'
image = Image.open(input_file)
batch_size = 1
image = np.asarray(image.resize((224, 224)))
image = image / 128 - 1
image = np.concatenate([image[np.newaxis, :, :]] * batch_size)
body = json.dumps({"instances": image.tolist()})
ioc_predictor_endpoint_name = 'insert name of your endpoint here'
content_type = 'application/json'   
ioc_response = client.invoke_endpoint(
    EndpointName=ioc_predictor_endpoint_name,
    Body=body,
    ContentType=content_type
 )
XGBoost

XGBoost 애플리케이션의 경우 대신 CSV 텍스트를 제출해야 합니다.

import boto3
import json
 
endpoint = 'insert your endpoint name here'
 
runtime = boto3.Session().client('sagemaker-runtime')
 
csv_text = '1,-1.0,1.0,1.5,2.6'
# Send CSV text via InvokeEndpoint API
response = runtime.invoke_endpoint(EndpointName=endpoint, ContentType='text/csv', Body=csv_text)
# Unpack response
result = json.loads(response['Body'].read().decode())

는 사용자 지정 콘텐츠 유형을 BYOM 허용합니다. 자세한 내용은 runtime_InvokeEndpoint 단원을 참조하십시오.