Amazon Bedrock のヘルスとパフォーマンスをモニタリングする - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock のヘルスとパフォーマンスをモニタリングする

Amazon Bedrock アプリケーションのすべての部分を Amazon を使用してモニタリングできます。Amazon CloudWatchは生データを収集し、読み取り可能なほぼリアルタイムのメトリクスに処理します。コンソールを使用してメトリクスを CloudWatchグラフ化できます。また、特定のしきい値を超えないかどうかをモニタリングするアラームを設定するとともに、しきい値を超えたときに通知を送信したりアクションを実行したりできます。

詳細については、「Amazon ユーザーガイド」の「Amazon とは CloudWatch」を参照してください。 CloudWatch

Amazon Bedrock ランタイムメトリクス

次の表は、Amazon Bedrock が提供するランタイムメトリックスについて説明しています。

メトリクス名 単位 説明
呼び出し SampleCount Converse 、、InvokeModel、および ConverseStreamInvokeModelWithResponseStreamAPIオペレーションへのリクエストの数。

InvocationLatency

MilliSeconds

呼び出しのレイテンシー。

InvocationClientErrors

SampleCount

クライアント側でエラーが発生した呼び出しの数。

InvocationServerErrors

SampleCount

AWS サーバー側のエラーが発生する呼び出しの数。

InvocationThrottles

SampleCount

システムがスロットリングした呼び出しの数。

InputTokenCount

SampleCount

入力内のトークンの数。

LegacyModelInvocations SampleCount レガシーモデルを使用した呼び出しの数

OutputTokenCount

SampleCount

出力内のトークンの数。

OutputImageCount

SampleCount

出力内のイメージの数 (イメージ生成モデルにのみ適用されます)。

CloudWatch Amazon Bedrock のメトリクス

配信の成功または失敗の試行ごとに、次の Amazon CloudWatch メトリクスが名前空間 AWS/Bedrock、、および Across all model IDsディメンションの下に出力されます。

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Amazon Bedrock オペレーションのメトリクスを取得するには、以下の情報を指定する必要があります。

  • メトリクスディメンション。ディメンションは、メトリクスを識別するための名前と値のペアのセットです。Amazon Bedrock は、以下のディメンションをサポートしています。

    • ModelId - すべてのメトリクス

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • メトリクス名 (InvocationClientErrors など)。

Amazon Bedrock のメトリクスは、 AWS Management Console、、 AWS CLIまたは で取得できます CloudWatch API。は、 AWS Software Development Kits (SDKs) または CloudWatch API ツールのいずれか CloudWatch APIから使用できます。

CloudWatch コンソールで Amazon Bedrock メトリクスを表示するには、ナビゲーションペインのメトリクスセクションに移動し、すべてのメトリクスオプションを選択し、モデル ID を検索します。

Amazon Bedrock を でモニタリングするには、適切な CloudWatch アクセス許可が必要です。詳細については、「Amazon CloudWatch CloudWatch ユーザーガイド」の「Amazon の認証とアクセスコントロール CloudWatch」を参照してください。