

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

# 监控 Amazon Bedrock 的性能
<a name="monitoring"></a>

您可以使用 Amazon 监控您的 Amazon Bedrock 应用程序的所有部分 CloudWatch，亚马逊会收集原始数据并将其处理为可读的近乎实时的指标。您可以使用 CloudWatch控制台绘制指标的图表。此外，您还可以设置警报来监视特定阈值，并在值超出这些阈值时发送通知或采取措施。

有关更多信息，请参阅《[亚马逊 CloudWatch 用户指南》 CloudWatch中的 “什么是](https://docs.aws.amazon.com/AmazonCloudWatch/latest/DeveloperGuide/WhatIsCloudWatch.html)*亚马逊*”。

Amazon Bedrock 为您的应用程序的不同组件提供全面的监控功能：
+ [使用 CloudWatch 日志和 Amazon S3 监控模型调用](model-invocation-logging.md)-使用 CloudWatch 日志和 Amazon S3 跟踪和分析模型调用。
+ [使用 CloudWatch 日志监控知识库](knowledge-bases-logging.md)-监控知识库的操作和性能。
+ [使用指标监控 Amazon Bedrock Guardrails CloudWatch](monitoring-guardrails-cw-metrics.md)-跟踪护栏评估和政策执行。
+ [使用 CloudWatch 指标监控 Amazon 基岩代理](monitoring-agents-cw-metrics.md)-监控代理调用和性能指标。
+ [Amazon Bedrock 运行时指标](#runtime-cloudwatch-metrics)-查看关键运行时指标，包括调用、延迟、错误和令牌计数。
+ [使用亚马逊监控 Amazon Bedrock 作业状态的变化 EventBridge监控事件变化](monitoring-eventbridge.md)-跟踪作业状态变化并自动响应事件。
+ [使用监控 Amazon Bedrock API 调用 CloudTrail](logging-using-cloudtrail.md)-审计 API 调用并跟踪用户活动。

**Topics**
+ [使用 CloudWatch 日志和 Amazon S3 监控模型调用](model-invocation-logging.md)
+ [使用 CloudWatch 日志监控知识库](knowledge-bases-logging.md)
+ [使用指标监控 Amazon Bedrock Guardrails CloudWatch](monitoring-guardrails-cw-metrics.md)
+ [使用 CloudWatch 指标监控 Amazon 基岩代理](monitoring-agents-cw-metrics.md)
+ [Amazon Bedrock 运行时指标](#runtime-cloudwatch-metrics)
+ [CloudWatch Amazon Bedrock 的指标](#br-cloudwatch-metrics)
+ [使用亚马逊监控 Amazon Bedrock 作业状态的变化 EventBridge](monitoring-eventbridge.md)
+ [使用监控 Amazon Bedrock API 调用 CloudTrail](logging-using-cloudtrail.md)

## Amazon Bedrock 运行时指标
<a name="runtime-cloudwatch-metrics"></a>

下表描述了 Amazon Bedrock 提供的运行时指标。


| 指标名称 | 单位 | 说明 | 
| --- | --- | --- | 
| Invocations | SampleCount | 成功请求[匡威](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html)、[ConverseStream[InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)、和 [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)API 操作的次数。 | 
|  InvocationLatency  | MilliSeconds |  从发送请求到收到最后一个令牌的时间。    | 
|  InvocationClientErrors  | SampleCount |  导致发生客户端错误的调用次数。  | 
|  InvocationServerErrors  | SampleCount |  导致 AWS 服务器端错误的调用次数。  | 
|  InvocationThrottles  | SampleCount |  系统节流的调用次数。受限请求和其他调用错误不会计入调用次数或错误次数。实际显示的节流次数取决于 SDK 中的重试设置。有关更多信息，请参阅《工具参考指南》 AWS SDKs 和《工具参考指南》中的[重试行为](https://docs.aws.amazon.com/sdkref/latest/guide/feature-retry-behavior.html)。  | 
|  InputTokenCount  | SampleCount |  输入中的令牌数。  | 
| LegacyModelInvocations | SampleCount | 使用[旧版](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_FoundationModelLifecycle.html)模型的调用次数  | 
|  OutputTokenCount  | SampleCount |  输出中的令牌数。  | 
|  OutputImageCount  | SampleCount |  输出中的图像数（仅适用于图像生成模型）。  | 
|  TimeToFirstToken  | MilliSeconds |  从发送请求到收到第一个令牌的时间，用于[ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)和[InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)流式传输 API 操作。  | 
|  预计TPMQuota使用量  | SampleCount |  C [onverse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html)、、[ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)和 [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)API 操作的每分钟代币 (TPM) 配额消耗量估计。[InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)  | 

还提供了针对 [Amazon Bedrock 护栏](monitoring-guardrails-cw-metrics.md)和 [Amazon Bedrock 代理](monitoring-agents-cw-metrics.md)的指标。

## CloudWatch Amazon Bedrock 的指标
<a name="br-cloudwatch-metrics"></a>

对于每次成功或失败的配送尝试，都会在命名空间`AWS/Bedrock`和`Across all model IDs`维度下发出以下 Amazon CloudWatch 指标：
+ `ModelInvocationLogsCloudWatchDeliverySuccess`
+ `ModelInvocationLogsCloudWatchDeliveryFailure`
+ `ModelInvocationLogsS3DeliverySuccess`
+ `ModelInvocationLogsS3DeliveryFailure`
+ `ModelInvocationLargeDataS3DeliverySuccess`
+ `ModelInvocationLargeDataS3DeliveryFailure`

要检索 Amazon Bedrock 操作的指标，请指定以下信息：
+ 指标维度。*维度*是用于标识指标的一组名称-值对。Amazon Bedrock 支持以下维度：
  + `ModelId` – 所有指标
  + `ModelId + ImageSize + BucketedStepSize` – OutputImageCount
+ 指标名称，如 `InvocationClientErrors`。

您可以通过 AWS 管理控制台、或 CloudWatch API 获取 Amazon Bedrock 的指标。 AWS CLI您可以通过其中一个 AWS 软件开发套件 (SDKs) 或 CloudWatch API 工具来使用 API。 CloudWatch 

要在 CloudWatch 控制台中查看 Amazon Bedrock 指标，请前往导航窗格的指标部分并选择所有指标选项，然后搜索型号 ID。

您必须拥有相应的 CloudWatch 权限才能监控 Amazon Bedrock。 CloudWatch 有关更多信息，请参阅亚马逊* CloudWatch 用户指南 CloudWatch*中的[亚马逊身份验证和访问控制](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/auth-and-access-control-cw.html)。