翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
# シャドウテストを作成する
シャドウテストを作成して、シャドウバリアントと本番稼働用バリアントのパフォーマンスを比較できます。推論リクエストを提供している既存のエンドポイントでテストを実行することができ、またテストを実行する新しいエンドポイントを作成することもできます。
シャドウテストを作成するには、次を指定する必要があります。
+ 受信した推論リクエストを 100% 受け取り、応答する本番稼働用バリアント。
+ 受信リクエストを割合で受け取り、本番稼働用バリアントから複製するがレスポンスを返さないシャドウバリアント。
各バリアントについて、SageMaker AI を使用してモデル、インスタンスタイプ、およびインスタンス数を制御できます。シャドウバリアントに複製する受信リクエストの割合 (別名、トラフィックサンプリング率) を設定できます。SageMaker AI はシャドウバリアントへのリクエストの複製を管理し、テストのスケジュール時または実行時にトラフィックのサンプリング率を変更できます。必要に応じて、データキャプチャを有効にして、本番稼働用バリアントおよびシャドウバリアントのリクエストとレスポンスをログに記録することもできます。
**注記**
SageMaker AI は、エンドポイントごとに最大 1 つのシャドウバリアントをサポートします。1 つのシャドウバリアントに 1 つのエンドポイントがある場合、本番稼働用バリアントは最大 1 つです。
いつでもテストを開始し、指定した期間継続するようにスケジュールできます。デフォルトの期間は 7 日で、最大 30 日です。テストが完了すると、エンドポイントはテストを開始する前の状態に戻ります。これにより、テストの完了時にリソースを手動でクリーンアップする必要がなくなります。
SageMaker AI コンソールのダッシュボードから実行しているテストをモニタリングできます。ダッシュボードでは、本番稼働用バリアントとシャドウバリアントの呼び出しメトリクスとインスタンスメトリクスを対照比較でき、関連するメトリクス統計が表形式ビューで表示されます。このダッシュボードは、完了したテストでも使用可能です。メトリクスを確認したら、シャドウバリアントを新しい本番稼働用バリアントに昇格させるか、既存の本番稼働用バリアントを保持するかのいずれかを選択できます。シャドウバリアントを昇格すると、すべての受信リクエストに応答します。詳細については、「[シャドウバリアントを昇格させる](shadow-tests-complete.md#shadow-tests-complete-promote)」を参照してください。
次の手順では、SageMaker AI コンソールからシャドウテストを作成する方法について説明します。既存のエンドポイントを使用するか、シャドウテスト用に新しいエンドポイントを作成するかによって、ワークフローは異なります。
**Topics**
+ [前提条件](#shadow-tests-create-prerequisites)
+ [シャドウテストの詳細を入力する](#shadow-tests-create-console-shadow-test-details)
+ [シャドウテストの設定を入力する](#shadow-tests-create-console-shadow-test-settings)
## 前提条件
SageMaker AI コンソールでシャドウテストを作成する前に、SageMaker AI モデルを使用する準備をしておく必要があります。SageMaker AI モデルの作成方法については、「[リアルタイム推論用のモデルをデプロイする](realtime-endpoints-deploy-models.md)」を参照してください。
既存のエンドポイントと本番稼働用バリアントおよびシャドウバリアント、既存のエンドポイントと本番稼働用バリアントのみ、または比較する SageMaker AI モデルだけを使用してシャドウテストを開始できます。シャドウテストは、テスト開始前のエンドポイントの作成とバリアントの追加をサポートしています。
**注記**
特定のエンドポイント機能によっては、エンドポイントとシャドウテストに互換性がない場合があります。エンドポイントで次の機能のいずれかを使用している場合、エンドポイントでシャドウテストを使用することはできません。シャドウテストの設定をリクエストすると検証エラーになります。
サーバーレス推論
非同期推論
Marketplace コンテナ
マルチコンテナエンドポイント
マルチモデルエンドポイント
Inf1 (Inferentiaベース) インスタンスを使うエンドポイント
## シャドウテストの詳細を入力する
シャドウテストの作成を開始するには、次の作業を行って **[シャドウテストの詳細を入力]** ページに入力します。
1. [SageMaker AI コンソール](https://console.aws.amazon.com/sagemaker/)を開きます。
1. 左側のナビゲーションパネルで **[推論]** を選択し、次に **[シャドウテスト]** を選択します。
1. **[シャドウテストを作成]** を選択します。
1. **[名前]** に、テストの名前を入力します。
1. (オプション) **[説明]** に、テストの説明を入力します。
1. (オプション) **キー**と**値**のペアを使用して**タグ**を指定します。
1. [**次へ**] を選択します。
## シャドウテストの設定を入力する
**[シャドウテストの詳細を入力]** ページに入力した後、**[シャドウテスト設定を入力]** ページに入力します。既に SageMaker AI 推論エンドポイントと本番稼働用バリアントがある場合は、**[既存のエンドポイントを使用]** ワークフローに従ってください。エンドポイントをまだ作成していない場合は、**[新しいエンドポイントを作成]** ワークフローに従ってください。
------
#### [ Use an existing endpoint ]
テストに既存のエンドポイントを使用する場合は、次の作業を行って **[シャドウテスト設定を入力]** ページに入力します。
1. `AmazonSageMakerFullAccess` IAM ポリシーがアタッチされたロールを選択します。
1. **[既存のエンドポイントを使用]** を選択し、使用可能なエンドポイントの 1 つを選択します。
1. (オプション) エンドポイントのストレージボリュームを暗号化するには、既存の KMS キーを選択するか、**[暗号化キー]** の下のドロップダウンリストから **[KMS キー ARN を入力]** を選択します。2 番目のオプションを選択すると、KMS キー ARN を入力するフィールドが表示されます。そのフィールドに KMS キー ARN を入力します。
1. そのエンドポイントの背後に複数の本番稼働用バリアントがある場合、テストに使用しないバリアントを削除してください。モデルバリアントを削除するには、そのモデルバリアントを選択して **[削除]** を選択します。
1. シャドウバリアントがまだない場合は、シャドウバリアントを追加してください。シャドウバリアントを追加するには、次の作業を行います。
1. **[Add]** (追加) を選択します。
1. **[シャドウバリアント]** を選択します。
1. **[モデルの追加]** ダイアログボックスで、シャドウバリアントに使用するモデルを選択します。
1. **[保存]** を選択します。
1. (オプション) 前述のステップでは、シャドウバリアントはデフォルトの設定で追加されます。これらの設定を変更するには、シャドウバリアントを選択して **[編集]** を選択します。**[シャドウバリアントを編集]** ダイアログボックスが表示されます。このダイアログボックスの入力方法の詳細については、「[シャドウテストを編集する](shadow-tests-view-monitor-edit-individual.md)」を参照してください。
1. **[スケジュール]** セクションで、次のようにテスト期間を入力します。
1. **[期間]** の下のボックスを選択します。ポップアップカレンダーが表示されます。
1. カレンダーから開始日と終了日を選択するか、**[開始日]** と **[終了日]** のフィールドにそれぞれ開始日と終了日を入力します。
1. (オプション) **[開始時刻]** と **[終了時刻]** のフィールドには、それぞれ開始時刻と終了時刻を 24 時間形式で入力します。
1. **[Apply]** (適用) を選択します。
最短期間は 1 時間、最長期間は 30 日です。
1. (オプション) **[データキャプチャを有効にする**] をオンにして、エンドポイントからの推論リクエストとレスポンス情報を Amazon S3 バケットに保存し、Amazon S3 バケットの場所を入力します。
1. **[シャドウテストを作成]** を選択します。
------
#### [ Create a new endpoint ]
既存のエンドポイントがない場合、またはテスト用に新しいエンドポイントを作成する場合は、**[シャドウテスト設定を入力]** ページに次のように入力します。
1. `AmazonSageMakerFullAccess` IAM ポリシーがアタッチされたロールを選択します。
1. **[新しいエンドポイントを作成]** を選択します。
1. **[名前]** に、エンドポイントの名前を入力します。
1. 1 つの本番稼働用バリアントと 1 つのシャドウバリアントをエンドポイントに追加します。
+ 本番稼働用バリアントを追加するには、**[追加]** を選択し、**[本番稼働用バリアント]** を選択します。**[モデルの追加]** ダイアログボックスで、本番稼働用バリアントに使用するモデルを選択し、**[保存]** を選択します。
+ シャドウバリアントを追加するには、**[追加]** を選択し、**[シャドウバリアント]** を選択します。**[モデルの追加]** ダイアログボックスで、シャドウバリアントに使用するモデルを選択し、**[保存]** を選択します。
1. (オプション) 前述のステップでは、シャドウバリアントはデフォルトの設定で追加されます。これらの設定を変更するには、シャドウバリアントを選択して **[編集]** を選択します。**[シャドウバリアントを編集]** ダイアログボックスが表示されます。このダイアログボックスの入力方法の詳細については、「[シャドウテストを編集する](shadow-tests-view-monitor-edit-individual.md)」を参照してください。
1. **[スケジュール]** セクションで、次のようにテスト期間を入力します。
1. **[期間]** の下のボックスを選択します。ポップアップカレンダーが表示されます。
1. カレンダーから開始日と終了日を選択するか、**[開始日]** と **[終了日]** にそれぞれ開始日と終了日を入力します。
1. (オプション) **[開始時刻]** と **[終了時刻]** に、それぞれ開始時刻と終了時刻を 24 時間形式で入力します。
1. **[Apply]** (適用) を選択します。
最短期間は 1 時間、最長期間は 30 日です。
1. (オプション) **[データキャプチャを有効にする**] をオンにして、エンドポイントからの推論リクエストとレスポンス情報を Amazon S3 バケットに保存し、Amazon S3 バケットの場所を入力します。
1. **[シャドウテストを作成]** を選択します。
------
上述の手順を完了すると、指定した開始日時にテストが開始するようにスケジュールされます。テストの進行状況はダッシュボードから確認できます。テストの表示と実行可能なアクションの詳細については、「[シャドウテストを表示、監視、編集する方法](shadow-tests-view-monitor-edit.md)」を参照してください。