View a markdown version of this page

AgentCore 產生的執行時間可觀測性資料 - Amazon Bedrock AgentCore

AgentCore 產生的執行時間可觀測性資料

AgentCore 提供的執行時間指標可讓您了解代理程式執行活動層級、處理延遲、資源使用率和錯誤率。AgentCore 還提供總調用和工作階段的彙總指標。

可觀測性執行時間指標

以下清單說明 AgentCore 提供的執行時間指標。執行期指標會以一分鐘的間隔批次處理。若要進一步了解如何檢視執行時間指標,請參閱檢視 Amazon Bedrock AgentCore 代理程式的可觀測性資料

調用

顯示對資料平面 API 提出的請求總數。無論請求承載大小或回應狀態為何,每個 API 呼叫都會計為一個叫用。

調用 (彙總)

顯示所有資源的調用總數

限流

顯示服務因超過允許的 TPS (每秒交易數) 或配額限制而調節的請求數量。這些請求會使用 HTTP 狀態碼 429 傳回 ThrottlingException。監控此指標,以判斷您是否需要檢閱服務配額或最佳化請求模式。

系統錯誤

顯示 AgentCore 在請求處理期間遇到的伺服器端錯誤數量。高階伺服器端錯誤可能表示需要調查的潛在基礎結構或服務問題。如需可能的錯誤代碼清單,請參閱錯誤類型

使用者錯誤

代表因請求無效而導致的用戶端錯誤數目。這些需要使用者動作才能解決。高階用戶端錯誤可能表示需要解決的請求格式或許可問題。如需可能的錯誤代碼清單,請參閱錯誤類型

延遲

從接收請求到傳送最終回應字符所經過的總時間。代表請求的完整end-to-end處理時間。

總錯誤數

系統和使用者錯誤的總數。在 Amazon Bedrock AgentCore 主控台中,此指標會以調用總數的百分比顯示錯誤數量。

工作階段計數

顯示報告期間內建立的新客服人員工作階段數目。每個工作階段在建立時計算一次;對相同工作階段的後續調用不會增加此指標。這是累積計數器,而不是目前作用中工作階段的計量。可用於監控整體平台用量、趨勢工作階段建立率,以及了解使用者參與模式。

工作階段 (彙總)

顯示報告期間內跨所有資源建立的新工作階段總數。

ActiveSessionCount

顯示您帳戶的目前作用中工作階段數量。與 SessionCount 指標 (累積計數器) 不同,此指標是顯示任何指定時間執行多少工作階段的即時指標。Amazon Bedrock AgentCore 會在每個服務類型每分鐘發佈一次此指標。使用它來監控目前的容量使用率、設定意外使用量峰值的警示,以及了解工作階段配額消耗。使用 Service 維度 — 搭配值 AgentCore.RuntimeAgentCore.CodeInterpreterAgentCore.Browser — 依工作負載類型篩選此指標。Amazon Bedrock AgentCore 會將此指標直接發佈到 AWS/Bedrock-AgentCore 命名空間中的 AWS 帳戶。

ActiveStreamingConnections

(僅限 WebSocket) 顯示每個代理程式目前作用中的 WebSocket 連線數量。監控此指標以了解連線用量,並偵測連線下降或峰值以進行容量規劃。唯一有意義的統計資料是 1 分鐘的總和。

InboundStreamingBytesProcessed

(僅限 WebSocket) 顯示從用戶端接收到代理程式容器的 WebSocket 影格中成功處理的位元組總數。使用此指標來監控資料輸送量並識別使用模式。

OutboundStreamingBytesProcessed

(僅限 WebSocket) 顯示從代理程式容器傳送至用戶端的 WebSocket 影格中成功處理的位元組總數。監控此指標以了解客服人員回應模式,並確保資料傳輸成功。

資源用量指標和日誌

Amazon Bedrock AgentCore 執行期提供全面的資源用量遙測,包括執行期資源的 CPU 和記憶體耗用指標。

注意

資源用量資料最多可延遲 60 分鐘,且精確度可能因指標而異。

已取代的指標

Amazon Bedrock AgentCore 執行期會自動提供帳戶、代理程式執行期和代理程式端點層級的資源用量指標。這些指標會以 1 分鐘解析度發佈。Amazon CloudWatch 彙總和指標資料保留將遵循標準 Amazon CloudWatch 資料保留政策。如需詳細資訊,請參閱 https://https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric

以下是可用於監控 資源的維度集和指標:

名稱 維度 說明

CPUUsed-vCPUHours

服務;服務、資源;服務、資源、名稱

vCPU-Hours 單位中消耗的虛擬 CPU 總量,可用於資源和帳戶層級。適用於資源追蹤和估計帳單可見性。

MemoryUsed-GBHours

服務;服務、資源;服務、資源、名稱

以 GB-Hours 單位為單位耗用的記憶體總量,可用於資源和帳戶層級。適用於資源追蹤和估計帳單可見性。

維度說明

  • 服務 - AgentCore.Runtime

  • 資源 - 代理程式 Arn

  • 名稱 - 客服人員端點名稱,格式為 AgentName::EndpointName

帳戶層級指標可在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的執行期索引標籤下取得。儀表板會顯示從這些指標產生的記憶體和 CPU 用量圖表,代表您帳戶中所有客服人員在該區域內的總資源用量。

客服人員端點層級指標可在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的 AgentEndpoint 頁面取得。儀表板會顯示從這些指標產生的記憶體和 CPU 用量圖表,代表指定代理程式端點調用之所有工作階段的總資源用量。

注意

提供遙測資料用於監控目的。實際計費是根據計量用量資料計算,並且可能因彙總時間、對帳程序和測量精確度而與遙測值不同。如需授權費用,請參閱您的 AWS 帳單。

付費日誌

Bedrock AgentCore 執行期以 1 秒的精細程度提供工作階段層級用量指標的附加日誌。每個日誌記錄都包含資源消耗資料,包括 CPU 用量 (agent.runtime.vcpu.hours.used) 和記憶體消耗 (agent.runtime.memory.gb_hours.used)。

每個日誌記錄都會有以下結構描述:

日誌類型 日誌欄位 說明

USAGE_LOGS

event_timestamp, resource_arn, service.name, cloud.provider, cloud.region, account.id, region, resource.id, session.id, agent.name, elapsed_time_seconds, agent.runtime.vcpu.hours.used, agent.runtime.memory.gb_hours.used

用於工作階段層級資源追蹤的資源用量日誌。

若要為您的代理程式啟用 USAGE_LOG 日誌類型,請參閱新增可觀測性到您的 Amazon Bedrock AgentCore 資源。然後,日誌會依設定顯示在設定的目的地 (AWS LogGroup、Amazon S3 或 Amazon Kinesis Firehose) 中。

在 Amazon CloudWatch Bedrock AgentCore 可觀測性主控台的客服人員工作階段頁面中,您可以查看從這些日誌產生的資源用量指標。若要最佳化指標檢視體驗,請使用右上角的選擇器選取所需的時間範圍,以專注於特定的 CPU 和記憶體用量資料。

注意

提供遙測資料用於監控目的。實際計費是根據計量用量資料計算,並且可能因彙總時間、對帳程序和測量精確度而與遙測值不同。如需授權費用,請參閱您的 AWS 帳單。

提供的跨度資料

為了增強可觀測性,AgentCore 提供結構化範圍,提供客服人員執行期調用的可見性。若要啟用此跨度資料,您需要在客服人員資源上啟用可觀測性。如需步驟和詳細資訊,請參閱將可觀測性新增至 Amazon Bedrock AgentCore 資源。此跨度資料可在 Amazon CloudWatch Logs 中取得。對於使用共用跨度目的地的客服人員,跨度會出現在客服人員的日誌群組 (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) 或aws/spans日誌群組中。如需詳細資訊,請參閱 Amazon Bedrock AgentCore 執行時間中託管之代理程式的範圍目的地。下表定義建立範圍的操作,以及每個擷取範圍的屬性。

操作名稱 跨度屬性 說明

InvokeAgentRuntime

aws.operation.name、aws.resource.arn、aws.request_id、aws.agent.id、aws.endpoint.name、aws.account.id session.id 、 latency_ms、rror_type、aws.resource.type、aws.xray.origin、aws.region

叫用代理程式執行時間。

  • aws.operation.name - 操作名稱 (InvokeAgentRuntime)

  • aws.resource.arn - 代理程式執行時間的 Amazon 資源名稱

  • aws.request_id - 呼叫的請求 ID

  • aws.agent.id - 代理程式執行時間的唯一識別符

  • aws.endpoint.name - 用來叫用代理程式執行期的端點名稱

  • aws.account.id - 客戶的帳戶 ID

  • session.id - 調用的工作階段 ID

  • latency_ms - 請求的延遲,以毫秒為單位

  • error_type - 限流、系統或使用者 (只有在發生錯誤時才會出現)

  • aws.resource.type - CFN 資源類型

  • aws.xray.origin - x-ray 用來識別服務的 CFN 資源類型

  • aws.region - 客戶資源所在的區域

應用程式日誌資料

AgentCore 提供結構化應用程式日誌,協助您了解客服人員執行期調用和工作階段層級的資源耗用。在代理程式資源上啟用可觀測性時,會提供此日誌資料。如需步驟和詳細資訊,請參閱將可觀測性新增至 Amazon Bedrock AgentCore 資源。AgentCore 可以將日誌輸出到 CloudWatch Logs、Amazon S3 或 Firehose 串流。如果您使用 CloudWatch Logs 目的地,這些日誌會存放在代理程式的應用程式日誌下,或存放在您自己的自訂日誌群組下。

日誌類型 日誌欄位 說明

APPLICATION_LOGS

時間戳記, resource_arn, event_timestamp, account_id, request_id, session_id, trace_id, span_id, service_name, operation, request_payload, response_payload

具有追蹤欄位、請求和回應承載的 InvokeRuntimeOperation 應用程式日誌

  • request_payload - 代理程式調用的請求承載

  • response_payload - 來自客服人員調用的回應

錯誤類型

下列清單定義使用者、系統和限流錯誤的可能錯誤類型。

使用者錯誤代碼

  • InvocationError.Validation - 用戶端提供的輸入無效 (400)

  • InvocationError.ResourceNotFound - 請求的資源不存在 (404)

  • InvocationError.AccessDenied - 用戶端缺少許可 (403)

  • InvocationError.Conflict - 資源衝突 (409)

系統錯誤代碼

  • InvocationError.Internal - 內部伺服器錯誤 (500)

調節錯誤代碼

  • InvocationError.Throttling - 速率限制 (429)

  • InvocationError.ServiceQuota - 已達到服務端配額/限制 (402)