Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Inferenzen von einem bereitgestellten Service anfordern (Amazon SageMaker SDK)

Verwenden Sie die folgenden Codebeispiele, um Rückschlüsse von Ihrem bereitgestellten Dienst anzufordern, die auf dem Framework basieren, das Sie zum Trainieren Ihres Modells verwendet haben. Die Codebeispiele für die verschiedenen Frameworks sind ähnlich. Der Hauptunterschied besteht darin, dass der Inhaltstyp TensorFlow erforderlich application/json ist.

PyTorch und MXNet

Wenn Sie PyTorch Version 1.4 oder höher oder MXNet 1.7.0 oder höher verwenden und einen Amazon SageMaker AI-Endpunkt habenInService, können Sie mithilfe des predictor Pakets des Python-SDK Inferenzanfragen stellen. SageMaker

Das folgende Codebeispiel zeigt, wie diese APIs verwendet werden können, um ein Bild für die Inferenz zu senden:

from sagemaker.core.resources import Endpoint

endpoint_name = 'insert name of your endpoint here'

# Read image into memory
payload = None
with open("image.jpg", 'rb') as f:
    payload = f.read()

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=payload, content_type='application/x-image')
print(inference_response.body.read().decode('utf-8'))

TensorFlow

Das folgende Codebeispiel zeigt, wie Sie die SageMaker Python SDK-API verwenden, um ein Bild zur Inferenz zu senden:

from sagemaker.core.resources import Endpoint
from PIL import Image
import numpy as np
import json

endpoint_name = 'insert the name of your endpoint here'

# Read image into memory
image = Image.open(input_file)
batch_size = 1
image = np.asarray(image.resize((224, 224)))
image = image / 128 - 1
image = np.concatenate([image[np.newaxis, :, :]] * batch_size)
body = json.dumps({"instances": image.tolist()})

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=body, content_type='application/json')
print(inference_response)