翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

設定とモニタリングを自動ロールバックする

Amazon CloudWatch アラームは、デプロイガードレールでベーキング期間を使用するための前提条件です。デプロイガードレールの自動ロールバック機能は、エンドポイントをモニタリングできる CloudWatch アラームを設定する場合にのみ使用できます。指定したモニタリング期間中にアラームが作動した場合、 はアプリケーションを保護するために古いエンドポイントへの完全なロールバック SageMaker を開始します。エンドポイントをモニタリングする CloudWatch アラームを設定していない場合、デプロイ中に自動ロールバック機能は機能しません。

Amazon の詳細については CloudWatch、「Amazon ユーザーガイド」の「Amazon CloudWatchとは」を参照してください。 CloudWatch

アラームの例

開始に役立つように、 CloudWatch アラームの機能を示す以下の例を提供しています。次の例の使用または変更するだけでなく、独自のアラームを作成し、指定したフリートのさまざまなメトリクスを一定期間モニタリングするようにアラームを設定できます。アラームに追加できる SageMaker メトリクスとディメンションの詳細については、「」を参照してくださいAmazon SageMaker で Amazon をモニタリングする CloudWatch。

新旧両方のフリートの呼び出しエラーをモニタリングする

次の CloudWatch アラームは、エンドポイントの平均エラー率をモニタリングします。このアラームを任意のデプロイガードレールのトラフィックシフトタイプで使うことで、新旧両方のフリートで全体的なモニタリングを行うことができます。アラームが作動すると、 は古いフリートへのロールバック SageMaker を開始します。

新旧両方のフリートから発生する呼び出しエラーは、平均エラー率に影響します。平均エラー率が指定されたしきい値を超えると、アラームが作動します。この例では、デプロイ期間中、新旧両方のフリートで 4xx エラー (クライアントエラー) をモニタリングします。メトリクス Invocation5XXErrors を使って 5xx エラー (サーバーエラー) をモニタリングすることもできます。

#Applied deployment type: all types
{
    "AlarmName": "EndToEndDeploymentHighErrorRateAlarm",
    "AlarmDescription": "Monitors the error rate of 4xx errors",
    "MetricName": "Invocation4XXErrors",
    "Namespace": "AWS/SageMaker",
    "Statistic": "Average",
    "Dimensions": [
        {
            "Name": "EndpointName",
            "Value": <your-endpoint-name>
        },
        {
            "Name": "VariantName",
            "Value": "AllTraffic"
        }
    ],
    "Period": 600,
    "EvaluationPeriods": 2,
    "Threshold": 1,
    "ComparisonOperator": "GreaterThanThreshold",
    "TreatMissingData": "notBreaching"
}

前の例では、次のフィールドの値に注意してください。

新しいフリートのモデルのレイテンシーをモニタリングする

次の CloudWatch アラーム例は、デプロイ中の新しいフリートのモデルレイテンシーをモニタリングします。このアラームを使って、新しいフリートのみをモニタリングし、古いフリートを除外できます。アラームは、デプロイ全体で持続します。この例では、新しいフリートの包括的な end-to-end モニタリングを提供し、新しいフリートに応答時間の問題がある場合に古いフリートへのロールバックを開始します。

CloudWatch は、新しいフリートがトラフィックの受信を開始したEndpointConfigName:{New-Ep-Config}後、 ディメンションを持つメトリクスを公開します。これらのメトリクスはデプロイが完了した後も存続します。

次のアラーム例は、どのデプロイタイプでも使用できます。

#Applied deployment type: all types
{
    "AlarmName": "NewEndpointConfigVersionHighModelLatencyAlarm",
    "AlarmDescription": "Monitors the model latency on new fleet",
    "MetricName": "ModelLatency",
    "Namespace": "AWS/SageMaker",
    "Statistic": "Average",
    "Dimensions": [
        {
            "Name": "EndpointName",
            "Value": <your-endpoint-name>
        },
        {
            "Name": "VariantName",
            "Value": "AllTraffic"
        },
        {
            "Name": "EndpointConfigName",
            "Value": <your-config-name>
    ],
    "Period": 300,
    "EvaluationPeriods": 2,
    "Threshold": 100000, # 100ms
    "ComparisonOperator": "GreaterThanThreshold",
    "TreatMissingData": "notBreaching"
}

前の例では、次のフィールドの値に注意してください。