シャドウテスト

Amazon SageMaker AI では、モデル提供インフラストラクチャに対するあらゆる変更を、そのパフォーマンスを現在デプロイされているインフラストラクチャと比較することで評価できます。この方法はシャドウテストと呼ばれています。シャドウテストは、潜在的な設定エラーやパフォーマンスの問題がエンドユーザーに影響を与える前に発見するのに役立ちます。 SageMaker AI を使用すると、シャドウテストインフラストラクチャの構築に投資する必要がなくなるため、モデル開発に集中できます。

この機能を使用することで、モデル、コンテナ、インスタンスなど、本番稼働用バリアントのあらゆるコンポーネントへの変更を、エンドユーザーに影響を与えることなく検証できます。これは次のような状況で役立ちます (これらに限定されません)。

SageMaker AI コンソールは、シャドウテストのワークフローを管理するためのガイド付きエクスペリエンスを提供します。事前に設定した期間のシャドウテストを設定し、ライブダッシュボードでテストの進行状況を監視し、完了時にクリーンアップし、結果に基づいてアクションを実行できます。テストする本番稼働用バリアントを選択すると、 SageMaker AI は新しいバリアントをシャドウモードで自動的にデプロイし、推論リクエストのコピーを同じエンドポイント内でリアルタイムでルーティングします。本番稼働用バリアントの応答のみが呼び出し元のアプリケーションに返されます。シャドウバリアントの応答を破棄するか、オフラインで比較できるようにログに残すかを選択できます。本番稼働用バリアントとシャドウバリアントの詳細については、「本番環境でのモデルの検証」を参照してください。

シャドウテストを作成する手順については、「シャドウテストを作成する」を参照してください。