サーバーレスエンドポイントからメトリクスを追跡するためのアラームとログ - Amazon SageMaker AI

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

サーバーレスエンドポイントからメトリクスを追跡するためのアラームとログ

サーバーレスエンドポイントをモニタリングするには、Amazon CloudWatch アラームを使用できます。CloudWatch は、 AWS アプリケーションとリソースからメトリクスをリアルタイムで収集するサービスです。アラームは収集されたメトリックをモニタリングし、しきい値とそのしきい値を超えた場合に実行するアクションを事前に指定することができます。例えば、エンドポイントがエラーしきい値を超えた場合、CloudWatch アラームから通知を送信できます。CloudWatch アラームを設定することで、エンドポイントのパフォーマンスと機能を可視化できます。CloudWatch アラームの使用の詳細については、Amazon CloudWatch ユーザーガイドの「Amazon CloudWatch アラームの使用」を参照してください。

CloudWatch によるモニタリング

次のメトリクスは、サーバーレスエンドポイントに対するメトリクスの網羅的なリストです。以下にリストされていないメトリクスは、サーバーレスエンドポイントに対して発行されません。以下のメトリクスの詳細については、「Amazon CloudWatch で Amazon SageMaker AI をモニタリング Amazon CloudWatchする」を参照してください。

共通のエンドポイントメトリクス

これらの CloudWatch メトリクスは、リアルタイムエンドポイントについて発行されるメトリクスと同じです。

OverheadLatency メトリクスは、サーバーレスエンドポイントの新しいコンピューティングリソースを起動するためのコールドスタート時間を含む、SageMaker AI が追加したすべての追加のレイテンシーを追跡します。オンデマンドのサーバーレスエンドポイントと比較すると、プロビジョニングされた同時実行を備えたサーバーレスエンドポイントの OverheadLatency は、一般的に大幅に短くなります。

サーバーレスエンドポイントは、Invocations4XXErrorsInvocations5XXErrorsInvocationsModelLatencyModelSetupTimeMemoryUtilization メトリクスを使用することもできます。これらのメトリクスの詳細については、「SageMaker AI エンドポイント呼び出しメトリクス」を参照してください。

共通のサーバーレスエンドポイントのメトリクス

これらの CloudWatch メトリクスは、オンデマンドのサーバーレスエンドポイントとプロビジョニングされた同時実行を備えたサーバーレスエンドポイントの両方に発行されます。

メトリクス名 説明 単位/統計
ServerlessConcurrentExecutionsUtilization 同時実行数を最大同時実行数で割った値。

単位: なし

有効な統計: Average、Max、Min

プロビジョニングされた同時実行メトリクスを備えたサーバーレスエンドポイント

これらの CloudWatch メトリクスは、プロビジョニングされた同時実行を備えたサーバーレスエンドポイントに発行されます。

メトリクス名 説明 単位/統計
ServerlessProvisionedConcurrencyExecutions エンドポイントが処理する同時実行数。

単位: カウント

有効な統計: Average、Max、Min

ServerlessProvisionedConcurrencyUtilization 同時実行数を割り当て済みのプロビジョニングされた同時実行数で割った値。

単位: なし

有効な統計: Average、Max、Min

ServerlessProvisionedConcurrencyInvocations プロビジョニングされた同時実行が処理した InvokeEndpoint リクエストの数。

単位: カウント

有効な統計: Average、Max、Min

ServerlessProvisionedConcurrencySpilloverInvocations プロビジョニングされた同時実行で処理されず、オンデマンドのサーバーレス推論によって処理された InvokeEndpoint リクエストの数。

単位: カウント

有効な統計: Average、Max、Min

ログ

エンドポイントからのログをデバッグ用または進行状況分析用にモニタリングする場合は、Amazon CloudWatch Logs を使用できます。サーバーレスエンドポイントに使用できる SageMaker AI が提供するロググループは です/aws/sagemaker/Endpoints/[EndpointName]。SageMaker AI での CloudWatch Logs の使用の詳細については、「」を参照してくださいAmazon SageMaker AI が Amazon CloudWatch Logs に送信するロググループとストリーム。CloudWatch Logs の詳細については、Amazon CloudWatch Logs ユーザーガイドの「Amazon CloudWatch Logs とは」を参照してください。