シャドウテスト

Amazon SageMaker では、モデル提供インフラストラクチャに対する変更を評価するには、そのパフォーマンスを現在デプロイされているインフラストラクチャと比較します。この方法はシャドウテストと呼ばれています。シャドウテストは、潜在的な設定エラーやパフォーマンスの問題がエンドユーザーに影響を与える前に発見するのに役立ちます。では SageMaker、シャドウテストインフラストラクチャの構築に投資する必要がないため、モデル開発に集中できます。

この機能を使用することで、モデル、コンテナ、インスタンスなど、本番稼働用バリアントのあらゆるコンポーネントへの変更を、エンドユーザーに影響を与えることなく検証できます。これは次のような状況で役立ちます (これらに限定されません)。

SageMaker コンソールは、シャドウテストのワークフローを管理するためのガイド付きエクスペリエンスを提供します。シャドウテストは、事前定義された期間にわたって設定し、ライブダッシュボードでテストの進行状況をモニタリングし、完了時にクリーンアップして、結果に対応できます。テスト対象の本番稼働用バリアントを選択すると、 SageMaker は新しいバリアントをシャドウモードで自動的にデプロイし、推論リクエストのコピーを同じエンドポイント内でリアルタイムでルーティングします。本番稼働用バリアントの応答のみが呼び出し元のアプリケーションに返されます。シャドウバリアントの応答を破棄するか、オフラインで比較できるようにログに残すかを選択できます。本番稼働用バリアントとシャドウバリアントの詳細については、「本番稼働のモデルを安全に検証」を参照してください。

シャドウテストを作成する手順については、「シャドウテストを作成する」を参照してください。