Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Richiedi inferenze da un servizio distribuito (Amazon SDK) SageMaker
<a name="neo-requests-sdk"></a>

Utilizza i seguenti esempi di codice per richiedere inferenze dal servizio distribuito in base al framework utilizzato per addestrare il modello. Gli esempi di codice per i diversi framework sono simili. La differenza principale è che TensorFlow richiede `application/json` come tipo di contenuto. 

 

## PyTorch e MXNet
<a name="neo-requests-sdk-py-mxnet"></a>

 Se utilizzi la versione ** PyTorch 1.4 o successiva o ** MXNet 1.7.0 ** o versione successiva ** e disponi di un endpoint Amazon SageMaker AI`InService`, puoi effettuare richieste di inferenza utilizzando il pacchetto dell'SDK Python. `predictor` SageMaker 

**Nota**  
L'API varia in base alla versione Python SDK: SageMaker   
Per la versione 1.x, utilizza l'API [`RealTimePredictor`](https://sagemaker.readthedocs.io/en/v1.72.0/api/inference/predictors.html#sagemaker.predictor.RealTimePredictor) e [`Predict`](https://sagemaker.readthedocs.io/en/v1.72.0/api/inference/predictors.html#sagemaker.predictor.RealTimePredictor.predict).
Per la versione 3.x, usa l'API [`Endpoint`](https://sagemaker.readthedocs.io/en/stable/api/sagemaker_serve.html) e. [`invoke`](https://sagemaker.readthedocs.io/en/stable/api/sagemaker_core.html)

L'esempio di codice seguente mostra come utilizzare queste API per inviare un'immagine per l'inferenza: 

```
from sagemaker.core.resources import Endpoint

endpoint_name = {{'insert name of your endpoint here'}}

# Read image into memory
payload = None
with open("image.jpg", 'rb') as f:
    payload = f.read()

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=payload, content_type='application/x-image')
print(inference_response.body.read().decode('utf-8'))
```

## TensorFlow
<a name="neo-requests-sdk-py-tf"></a>

Il seguente esempio di codice mostra come utilizzare l'API SageMaker Python SDK per inviare un'immagine per l'inferenza: 

```
from sagemaker.core.resources import Endpoint
from PIL import Image
import numpy as np
import json

endpoint_name = {{'insert the name of your endpoint here'}}

# Read image into memory
image = Image.open(input_file)
batch_size = 1
image = np.asarray(image.resize((224, 224)))
image = image / 128 - 1
image = np.concatenate([image[np.newaxis, :, :]] * batch_size)
body = json.dumps({"instances": image.tolist()})

endpoint = Endpoint(endpoint_name=endpoint_name)
inference_response = endpoint.invoke(body=body, content_type='application/json')
print(inference_response)
```