Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# Inferenzen von einem bereitgestellten Service anfordern (Amazon SageMaker SDK)
<a name="neo-requests-sdk"></a>

Verwenden Sie die folgenden Codebeispiele, um Rückschlüsse von Ihrem bereitgestellten Dienst anzufordern, die auf dem Framework basieren, das Sie zum Trainieren Ihres Modells verwendet haben. Die Codebeispiele für die verschiedenen Frameworks sind ähnlich. Der Hauptunterschied besteht darin, dass der Inhaltstyp TensorFlow erforderlich `application/json` ist. 

 

## PyTorch und MXNet
<a name="neo-requests-sdk-py-mxnet"></a>

 Wenn Sie ** PyTorch Version 1.4 oder höher oder ** MXNet 1.7.0 ** oder höher verwenden ** und einen Amazon SageMaker AI-Endpunkt haben`InService`, können Sie mithilfe des `predictor` Pakets des Python-SDK Inferenzanfragen stellen. SageMaker 

**Anmerkung**  
Die API variiert je nach Python-SDK-Version: SageMaker   
Verwenden Sie für Version 1.x die [`RealTimePredictor`](https://sagemaker.readthedocs.io/en/v1.72.0/api/inference/predictors.html#sagemaker.predictor.RealTimePredictor) und [`Predict`](https://sagemaker.readthedocs.io/en/v1.72.0/api/inference/predictors.html#sagemaker.predictor.RealTimePredictor.predict) API.
Verwenden Sie für Version 3.x die [`Endpoint`](https://sagemaker.readthedocs.io/en/stable/api/sagemaker_serve.html) und die [`invoke`](https://sagemaker.readthedocs.io/en/stable/api/sagemaker_core.html) API.

Das folgende Codebeispiel zeigt, wie diese APIs verwendet werden können, um ein Bild für die Inferenz zu senden: 

```
from sagemaker.core.resources import Endpoint

endpoint_name = {{'insert name of your endpoint here'}}

# Read image into memory
payload = None
with open("image.jpg", 'rb') as f:
    payload = f.read()

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=payload, content_type='application/x-image')
print(inference_response.body.read().decode('utf-8'))
```

## TensorFlow
<a name="neo-requests-sdk-py-tf"></a>

Das folgende Codebeispiel zeigt, wie Sie die SageMaker Python SDK-API verwenden, um ein Bild zur Inferenz zu senden: 

```
from sagemaker.core.resources import Endpoint
from PIL import Image
import numpy as np
import json

endpoint_name = {{'insert the name of your endpoint here'}}

# Read image into memory
image = Image.open(input_file)
batch_size = 1
image = np.asarray(image.resize((224, 224)))
image = image / 128 - 1
image = np.concatenate([image[np.newaxis, :, :]] * batch_size)
body = json.dumps({"instances": image.tolist()})

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=body, content_type='application/json')
print(inference_response)
```