Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Implementa un endpoint di inferenza utilizzando l'API, AWS CLI
<a name="use-training-plan-for-inference-endpoints-using-api-cli-sdk"></a>

Per utilizzare i piani di SageMaker formazione su un endpoint di SageMaker inferenza, specifica il `MlReservationArn` parametro con l'ARN della risorsa del piano di formazione desiderata nel campo di chiamata all'operazione API. `CapacityReservationConfig` [`CreateEndpointConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpointConfig.html) È possibile utilizzare esattamente un piano per endpoint di inferenza.

**Importante**  
Il `InstanceType` campo impostato nella `ProductionVariants` sezione della `CreateEndpointConfig` richiesta deve corrispondere a quello `InstanceType` del piano di formazione.

## Crea una configurazione degli endpoint con prenotazione del piano di formazione
<a name="inference-endpoint-create-config"></a>

Crea una configurazione degli endpoint che associ il tuo endpoint di inferenza alla capacità riservata. Includi l'`CapacityReservationConfig`oggetto nella `ProductionVariants` sezione, impostando l'ARN del tuo piano `MlReservationArn` di allenamento.

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0,
          "CapacityReservationConfig": {
              "CapacityReservationPreference": "capacity-reservations-only",
              "MlReservationArn": "{{arn:aws:sagemaker:us-east-1:123456789123:training-plan/p4-for-inference-endpoint}}"
          }
      }]'
```

L'`CapacityReservationPreference`impostazione di `capacity-reservations-only` garantisce che l'endpoint funzioni solo con la capacità riservata e interrompa il traffico al termine della prenotazione.

## Implementa l'endpoint su capacità riservata
<a name="inference-endpoint-deploy"></a>

Con la configurazione dell'endpoint pronta, implementa l'endpoint.

```
aws sagemaker create-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ftp-ep-config}}"
```

L'endpoint ora funziona interamente all'interno della capacità riservata del piano di formazione. Dopo che l'endpoint ha raggiunto `InService` lo stato, è possibile richiamarlo per l'inferenza.

## Richiamare l'endpoint
<a name="inference-endpoint-invoke"></a>

Durante la finestra di prenotazione attiva, l'endpoint funziona normalmente con un accesso prevedibile alla capacità.

```
aws sagemaker-runtime invoke-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --body fileb://input.json \
  --content-type "application/json" \
  output.json
```

## Aggiornamento dell’endpoint
<a name="inference-endpoint-update"></a>

SageMaker L'intelligenza artificiale supporta diversi scenari di aggiornamento mantenendo la connessione alla capacità riservata.

**Aggiornamento a una nuova versione del modello**  
È possibile eseguire l'aggiornamento a una nuova versione del modello mantenendo la stessa capacità riservata.

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config-v2}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model-v2}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0,
          "CapacityReservationConfig": {
              "CapacityReservationPreference": "capacity-reservations-only",
              "MlReservationArn": "{{arn:aws:sagemaker:us-east-1:123456789123:training-plan/p4-for-inference-endpoint}}"
          }
      }]'

aws sagemaker update-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ftp-ep-config-v2}}"
```

**Passa dal piano di formazione alla capacità su richiesta**  
Per trasferire l'endpoint oltre il periodo di prenotazione, puoi migrare alla capacità su richiesta.

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ondemand-ep-config}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0
    }]'

aws sagemaker update-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ondemand-ep-config}}"
```

## Ridimensiona l'endpoint
<a name="inference-endpoint-scale"></a>

Se hai riservato una capacità superiore a quella inizialmente distribuita, puoi aumentare la capacità entro i limiti di prenotazione.

```
aws sagemaker update-endpoint-weights-and-capacities \
  --endpoint-name "{{my-endpoint}}" \
  --desired-weights-and-capacities '[{
          "VariantName": "AllTraffic",
          "DesiredInstanceCount": 2
      }]'
```

**Importante**  
Se si tenta di superare la capacità riservata, la richiesta ha esito negativo e `ValidationException` indica che il numero di istanze richieste supera la capacità riservata.

## Eliminazione di un endpoint
<a name="inference-endpoint-delete"></a>

Quando non è più necessario l'endpoint di inferenza, eliminalo insieme alla configurazione dell'endpoint.

```
aws sagemaker delete-endpoint \
  --endpoint-name "{{my-endpoint}}"

aws sagemaker delete-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config}}"
```

**Nota**  
L'eliminazione dell'endpoint non annulla la prenotazione del piano di formazione.
La capacità riservata rimane allocata fino alla scadenza del periodo di prenotazione del piano di formazione.
È possibile creare un nuovo endpoint utilizzando lo stesso ARN di prenotazione del piano di formazione se la capacità è disponibile e la prenotazione è attiva.
Ti viene addebitato l'intero periodo di prenotazione indipendentemente da quando elimini l'endpoint.