本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 監控 Amazon Bedrock 的效能
<a name="monitoring"></a>

您可以使用 Amazon CloudWatch 監控 Amazon Bedrock 的所有部分，其會收集原始資料，並將該資料處理成可讀且近乎即時的指標。使用 CloudWatch 主控台繪製指標圖。您也可以設定留意特定閾值的警示，當超出這些閾值時傳送通知或採取動作。

如需詳細資訊，請參閱《*Amazon CloudWatch 使用者指南*》中的[什麼是 Amazon CloudWatch](https://docs.aws.amazon.com/AmazonCloudWatch/latest/DeveloperGuide/WhatIsCloudWatch.html)。

Amazon Bedrock 提供應用程式不同元件的完整監控功能：
+ [使用 CloudWatch Logs 和 Amazon S3 監控模型調用](model-invocation-logging.md) - 使用 CloudWatch Logs 和 Amazon S3 追蹤和分析模型調用。
+ [使用 CloudWatch Logs 監控知識庫](knowledge-bases-logging.md) - 監控知識庫操作和效能。
+ [使用 CloudWatch 指標監控 Amazon Bedrock 防護機制](monitoring-guardrails-cw-metrics.md) - 追蹤護欄評估和政策強制執行。
+ [使用 CloudWatch 指標監控 Amazon Bedrock 代理人](monitoring-agents-cw-metrics.md) - 監控客服人員叫用和效能指標。
+ [Amazon Bedrock 執行時期指標](#runtime-cloudwatch-metrics) - 檢視金鑰執行時間指標，包括調用、延遲、錯誤和字符計數。
+ [使用 Amazon EventBridge 監控 Amazon Bedrock 任務狀態變更監控事件變更](monitoring-eventbridge.md) - 追蹤任務狀態變更，並自動回應事件。
+ [使用 CloudTrail 監控 Amazon Bedrock API 呼叫](logging-using-cloudtrail.md) - 稽核 API 呼叫並追蹤使用者活動。

**Topics**
+ [使用 CloudWatch Logs 和 Amazon S3 監控模型調用](model-invocation-logging.md)
+ [使用 CloudWatch Logs 監控知識庫](knowledge-bases-logging.md)
+ [使用 CloudWatch 指標監控 Amazon Bedrock 防護機制](monitoring-guardrails-cw-metrics.md)
+ [使用 CloudWatch 指標監控 Amazon Bedrock 代理人](monitoring-agents-cw-metrics.md)
+ [Amazon Bedrock 執行時期指標](#runtime-cloudwatch-metrics)
+ [適用於 Amazon Bedrock 的 CloudWatch 指標](#br-cloudwatch-metrics)
+ [使用 Amazon EventBridge 監控 Amazon Bedrock 任務狀態變更](monitoring-eventbridge.md)
+ [使用 CloudTrail 監控 Amazon Bedrock API 呼叫](logging-using-cloudtrail.md)

## Amazon Bedrock 執行時期指標
<a name="runtime-cloudwatch-metrics"></a>

下表說明 Amazon Bedrock 提供的執行時期指標。


| 指標名稱 | 單位 | Description | 
| --- | --- | --- | 
| 調用 | SampleCount | [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html)、[ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)、[InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) 和 [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html) API 操作的成功請求數量。 | 
|  InvocationLatency  | 毫秒 |  從傳送請求到收到最後一個字符的時間。    | 
|  InvocationClientErrors  | SampleCount |  導致用戶端錯誤的調用數量。  | 
|  InvocationServerErrors  | SampleCount |  導致 AWS 伺服器端錯誤的調用次數。  | 
|  InvocationThrottles  | SampleCount |  系統限流的調用數量。限流的請求和其他調用錯誤不會計為調用或錯誤。您看到的限流數目取決於 SDK 中的重試設定。如需詳細資訊，請參閱《 AWS SDKs和工具參考指南》中的[重試行為](https://docs.aws.amazon.com/sdkref/latest/guide/feature-retry-behavior.html)。  | 
|  InputTokenCount  | SampleCount |  輸入中的字符數量。  | 
| LegacyModelInvocations | SampleCount | 使用[舊版](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_FoundationModelLifecycle.html)模型的調用次數  | 
|  OutputTokenCount  | SampleCount |  輸出中的字符數量。  | 
|  OutputImageCount  | SampleCount |  輸出中的影像數量 (僅適用於影像產生模型)。  | 
|  TimeToFirstToken  | 毫秒 |  針對 [ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html) 和 [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html) 串流 API 操作，從請求傳送到收到第一個字符的時間。  | 
|  EstimatedTPMQuotaUsage  | SampleCount |  [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html)、[ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html)、[InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) 和 [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html) API 操作的每分鐘預估字符數 (TPM) 配額消耗。  | 

[Amazon Bedrock 防護機制](monitoring-guardrails-cw-metrics.md)和 [Amazon Bedrock 代理人](monitoring-agents-cw-metrics.md)也有指標。

## 適用於 Amazon Bedrock 的 CloudWatch 指標
<a name="br-cloudwatch-metrics"></a>

對於每次傳送成功或失敗嘗試，系統即會在命名空間 `AWS/Bedrock` 和 `Across all model IDs` 維度下發出下列的 Amazon CloudWatch 指標：
+ `ModelInvocationLogsCloudWatchDeliverySuccess`
+ `ModelInvocationLogsCloudWatchDeliveryFailure`
+ `ModelInvocationLogsS3DeliverySuccess`
+ `ModelInvocationLogsS3DeliveryFailure`
+ `ModelInvocationLargeDataS3DeliverySuccess`
+ `ModelInvocationLargeDataS3DeliveryFailure`

若要擷取 Amazon Bedrock 操作的指標，您必須指定下列資訊：
+ 指標維度。*維度*是一組用來識別指標的名稱與數值對。Amazon Bedrock 支援以下維度：
  + `ModelId` – 所有指標
  + `ModelId + ImageSize + BucketedStepSize` – OutputImageCount
+ 指標名稱，例如 `InvocationClientErrors`。

您可以使用 AWS 管理主控台、 AWS CLI或 CloudWatch API 取得 Amazon Bedrock 的指標。您可以透過其中一個 AWS 軟體開發套件 (SDKs) 或 CloudWatch API 工具來使用 CloudWatch API。

若要在 CloudWatch 主控台中檢視 Amazon Bedrock 指標，請前往導覽窗格中的指標區段，然後選取所有指標選項，再搜尋模型 ID。

您必須擁有適當的 CloudWatch 許可來使用 CloudWatch 監控 Amazon Bedrock。如需詳細資訊，請參閱*《Amazon CloudWatch 使用者指南》*中的 [Amazon CloudWatch 的驗證和存取控制](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/auth-and-access-control-cw.html)。