翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

# API を使用して推論エンドポイントをデプロイします。 AWS CLI
<a name="use-training-plan-for-inference-endpoints-using-api-cli-sdk"></a>

SageMaker 推論エンドポイントで SageMaker トレーニングプランを使用するには、 [`CreateEndpointConfig`](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateEndpointConfig.html) API オペレーションを呼び出す`CapacityReservationConfig`ときに、 で目的のトレーニングプランリソース ARN を持つ `MlReservationArn`パラメータを指定します。推論エンドポイントごとに 1 つのプランのみを使用できます。

**重要**  
`CreateEndpointConfig` リクエストの `ProductionVariants`セクションで設定された`InstanceType`フィールドは、トレーニングプラン`InstanceType`の と一致する必要があります。

## トレーニングプランの予約を使用してエンドポイント設定を作成する
<a name="inference-endpoint-create-config"></a>

推論エンドポイントをリザーブドキャパシティにバインドするエンドポイント設定を作成します。`ProductionVariants` セクションに `CapacityReservationConfig` オブジェクトを含め、 `MlReservationArn`をトレーニングプラン ARN に設定します。

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0,
          "CapacityReservationConfig": {
              "CapacityReservationPreference": "capacity-reservations-only",
              "MlReservationArn": "{{arn:aws:sagemaker:us-east-1:123456789123:training-plan/p4-for-inference-endpoint}}"
          }
      }]'
```

`CapacityReservationPreference` の設定`capacity-reservations-only`により、エンドポイントはリザーブドキャパシティでのみ実行され、予約が終了するとトラフィックの処理が停止します。

## リザーブドキャパシティにエンドポイントをデプロイする
<a name="inference-endpoint-deploy"></a>

エンドポイント設定の準備ができたら、エンドポイントをデプロイします。

```
aws sagemaker create-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ftp-ep-config}}"
```

エンドポイントは、リザーブドトレーニングプラン容量内で完全に実行されるようになりました。エンドポイント`InService`のステータスに達したら、推論のためにエンドポイントを呼び出すことができます。

## エンドポイントの呼び出し
<a name="inference-endpoint-invoke"></a>

アクティブな予約ウィンドウ中、エンドポイントは通常動作し、キャパシティーへの予測可能なアクセスを提供します。

```
aws sagemaker-runtime invoke-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --body fileb://input.json \
  --content-type "application/json" \
  output.json
```

## エンドポイントを更新する
<a name="inference-endpoint-update"></a>

SageMaker AI は、リザーブドキャパシティへの接続を維持しながら、いくつかの更新シナリオをサポートしています。

**新しいモデルバージョンへの更新**  
同じ予約容量を維持しながら、新しいモデルバージョンに更新できます。

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config-v2}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model-v2}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0,
          "CapacityReservationConfig": {
              "CapacityReservationPreference": "capacity-reservations-only",
              "MlReservationArn": "{{arn:aws:sagemaker:us-east-1:123456789123:training-plan/p4-for-inference-endpoint}}"
          }
      }]'

aws sagemaker update-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ftp-ep-config-v2}}"
```

**トレーニングプランからオンデマンドキャパシティに移行する**  
予約期間を超えてエンドポイントを移行するには、オンデマンドキャパシティに移行できます。

```
aws sagemaker create-endpoint-config \
  --endpoint-config-name "{{ondemand-ep-config}}" \
  --production-variants '[{
          "VariantName": "AllTraffic",
          "ModelName": "{{my-model}}",
          "InitialInstanceCount": {{1}},
          "InstanceType": "{{ml.p4d.24xlarge}}",
          "InitialVariantWeight": 1.0
    }]'

aws sagemaker update-endpoint \
  --endpoint-name "{{my-endpoint}}" \
  --endpoint-config-name "{{ondemand-ep-config}}"
```

## エンドポイントのスケーリング
<a name="inference-endpoint-scale"></a>

最初にデプロイした容量よりも多くの容量を予約した場合は、予約制限内でスケールアップできます。

```
aws sagemaker update-endpoint-weights-and-capacities \
  --endpoint-name "{{my-endpoint}}" \
  --desired-weights-and-capacities '[{
          "VariantName": "AllTraffic",
          "DesiredInstanceCount": 2
      }]'
```

**重要**  
リザーブドキャパシティーを超えてスケーリングしようとすると、リクエストは失敗し、リクエストされたインスタンス数がリザーブドキャパシティーを超えている`ValidationException`ことを示す が表示されます。

## エンドポイントを削除する
<a name="inference-endpoint-delete"></a>

推論エンドポイントが不要になった場合は、エンドポイント設定とともに削除します。

```
aws sagemaker delete-endpoint \
  --endpoint-name "{{my-endpoint}}"

aws sagemaker delete-endpoint-config \
  --endpoint-config-name "{{ftp-ep-config}}"
```

**注記**  
エンドポイントを削除しても、トレーニングプランの予約はキャンセルされません。
リザーブドキャパシティは、トレーニングプランの予約期間が終了するまで割り当てられます。
キャパシティーが利用可能で予約がアクティブであれば、同じトレーニングプランの予約 ARN を使用して新しいエンドポイントを作成できます。
エンドポイントを削除するタイミングに関係なく、予約期間全体に対して課金されます。