本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
AgentCore 生成的运行时可观测性数据
提供的运行时指标 AgentCore 使您可以了解代理执行活动级别、处理延迟、资源利用率和错误率。 AgentCore 还提供总调用次数和会话数的汇总指标。
可观测性运行时指标
以下列表描述了提供的运行时指标 AgentCore。运行时指标以一分钟为间隔进行批处理。要了解有关查看运行时指标的更多信息,请参阅查看您的 Amazon Bedrock AgentCore 代理的可观测性数据。
- Invocations
-
显示向数据平面 API 发出的请求总数。无论请求负载大小或响应状态如何,每个 API 调用都算作一次调用。
- 调用次数(汇总)
-
显示所有资源的调用总数
- 节流
-
显示由于超出允许的 TPS(每秒交易数)或配额限制而被服务限制的请求数。这些请求返回 HT ThrottlingException TP 状态码 429。监控此指标以确定您是否需要审查服务配额或优化请求模式。
- 系统错误
-
显示请求处理 AgentCore 期间遇到的服务器端错误的数量。较高的服务端错误率可能表明存在需排查的基础设施问题或服务问题。有关可能的错误代码列表,请参阅错误类型。
- 用户错误
-
表示由无效请求导致的客户端错误的数量。这些问题需要用户操作才能解决。大量的客户端错误可能表明请求格式或权限存在需要解决的问题。有关可能的错误代码列表,请参阅错误类型。
- 延迟
-
从接收请求到发送最终响应令牌所经过的总时间。表示请求的完整端到端处理时间。
- 错误总数
-
系统和用户错误的总数。在 Amazon Bedrock AgentCore 控制台中,此指标显示错误数量占调用总数的百分比。
- 会话数
-
显示报告期间内创建的新代理会话的数量。每个会话在创建时计算一次;对同一会话的后续调用不会增加此指标。这是一个累积计数器,不是衡量当前活跃会话的指标。可用于监控整体平台使用情况、趋势会话创建率和了解用户参与模式。
- 会话(汇总)
-
显示报告期内在所有资源上创建的新会话总数。
- ActiveSessionCount
-
显示您账户的当前活跃会话数。与
SessionCount指标(累积计数器)不同,该指标是一种实时衡量标准,显示在任何给定时刻有多少会话正在运行。Amazon Bedrock 每分钟针对每种服务类型 AgentCore 发布一次此指标。使用它来监控当前容量利用率,为意外使用量峰值设置警报,并了解您的会话配额消耗。使用Service维度(含值AgentCore.RuntimeAgentCore.CodeInterpreter、或AgentCore.Browser)按工作负载类型筛选此指标。亚马逊 Bedrock 将此指标直接 AgentCore 发布到您在AWS/Bedrock-AgentCore命名空间中的 AWS 账户。 - ActiveStreamingConnections
-
(WebSocket 仅)显示每个代理当前的活动 WebSocket 连接数。监控此指标以了解连接使用情况并检测连接中断或峰值以进行容量规划。唯一有意义的统计数据是 1 分钟的总和。
- InboundStreamingBytesProcessed
-
(WebSocket 仅限)显示从客户端到代理容器的 WebSocket 帧中成功处理的总字节数。使用此指标监控数据吞吐量并确定使用模式。
- OutboundStreamingBytesProcessed
-
(WebSocket 仅限)显示从代理容器发送到客户端的 WebSocket 帧中成功处理的总字节数。监控此指标以了解代理响应模式并确保成功传输数据。
资源使用指标和日志
Amazon Bedrock AgentCore 运行时提供全面的资源使用遥测数据,包括运行时资源的 CPU 和内存消耗指标。
注意
资源使用数据最多可能延迟 60 分钟,精度可能因指标而异。
已售指标
Amazon Bedrock AgentCore 运行时自动提供账户、代理运行时和代理终端节点级别的资源使用量指标。这些指标以 1 分钟的分辨率发布。亚马逊 CloudWatch 汇总和指标数据保留将遵循标准的亚马逊 CloudWatch 数据保留政策。有关更多信息,请参阅 https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html #Metric 。
以下是可用于监控资源的维度集和指标:
| Name | Dimensions | 说明 |
|---|---|---|
|
CPUUsed-vCPUHours |
服务;服务、资源;服务、资源、名称 |
消耗的虚拟 CPU 总量(以 v 为CPU-Hours 单位),可在资源和账户级别获得。可用于资源跟踪和预估账单可见性。 |
|
MemoryUsed-GBHours |
服务;服务、资源;服务、资源、名称 |
GB-Hours 单位消耗的内存总量,在资源和账户级别上可用。可用于资源跟踪和预估账单可见性。 |
维度解释
-
服务 - AgentCore.Runtime
-
资源 -特工 Arn
-
名称 -代理端点名称,格式为 AgentName:EndpointName
账户级别指标可在亚马逊 CloudWatch Bedrock 可 AgentCore 观测性控制台的 “运行时间” 选项卡下找到。控制面板显示根据这些指标生成的内存和 CPU 使用率图表,表示该区域内您账户中所有代理的总资源使用情况。
代理终端节点级别指标可在亚马逊 CloudWatch Bedrock 可 AgentCore 观测性控制台的 AgentEndpoint 页面上找到。仪表板显示根据这些指标生成的内存和 CPU 使用情况图表,表示指定代理端点调用的所有会话的总资源使用情况。
注意
遥测数据是为监控目的而提供的。实际账单是根据计量使用数据计算的,由于汇总时间、对账过程和测量精度,可能与遥测值有所不同。有关权威费用,请参阅您的 AWS 账单账单。
Vended logs(已出售日志)
Bedrock AgentCore Runtime 以 1 秒的粒度为会话级别的使用指标提供供应商日志。每条日志记录都包含资源消耗数据,包括 CPU 使用率(agent.runtime.vcpu.hours.used)和内存消耗(agent.runtime.memory.gb_hours.used)。
每条日志记录将具有以下架构:
| 日志类型 | 日志字段 | 说明 |
|---|---|---|
|
使用日志 |
事件时间戳、资源_arn、服务名称、云提供商、云区域、账户ID、区域、资源ID、会话ID、代理名称、已用时间_秒、代理运行时.vcpu.hours.used、代理运行时.vcpu.hours.used、代理运行时.memory.gb_hours.used |
用于会话级资源跟踪的资源使用日志。 |
要为您的代理启用 USAGE_LOG 日志类型,请参阅为您的 Amazon Bedrock 资源添加可观察性。 AgentCore 然后,日志将按配置显示在配置的目的地(AWS LogGroup亚马逊 S3 或 Amazon Kinesis Firehose)中。
在 Amazon CloudWatch Bedrock AgentCore 可观测性控制台的代理会话页面中,您可以看到根据这些日志生成的资源使用量指标。要优化指标查看体验,请使用右上角的选择器选择所需的时间范围,重点关注特定的 CPU 和内存使用率数据。
注意
遥测数据是为监控目的而提供的。实际账单是根据计量使用数据计算的,由于汇总时间、对账过程和测量精度,可能与遥测值有所不同。有关权威费用,请参阅您的 AWS 账单账单。
提供的跨度数据
为了增强可观察性, AgentCore 提供结构化跨度,以提供对代理运行时调用的可见性。要启用此跨度数据,您需要在代理资源上启用可观察性。有关步骤和详细信息,请参阅为您的亚马逊 Bedrock AgentCore 资源添加可观察性。此跨度数据可在亚马逊 CloudWatch 日志中找到。跨度显示在代理的日志组 (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) 中,或者出现在使用共享跨度目标的代理的aws/spans日志组中。有关更多信息,请参阅 Amazon Bedrock AgentCore 运行时中托管的代理的跨度目标。下表定义了创建跨度的操作以及每个捕获跨度的属性。
| 操作名称 | 跨度属性 | 说明 |
|---|---|---|
|
InvokeAgentRuntime |
aws.operation.name、aws.resource.arn、aws.request_id、aws.agent.id、aws.endpoint.name、aws.account.id、session.id、latency_ms、error_type、aws.resource.type、aws.xray.origin、aws.region |
调用代理运行时。 |
-
aws.operation.name-操作名称 () InvokeAgentRuntime
-
aws.resource.arn-代理运行时的亚马逊资源名称
-
aws.request_id-调用的请求 ID
-
aws.agent.id-代理运行时的唯一标识符
-
aws.endpoint.name-用于调用代理运行时的端点的名称
-
aws.account.id-客户的账户 ID
-
session.id-调用的会话 ID
-
latency_ms-请求的延迟(以毫秒为单位)
-
error_type-油门、系统或用户(仅在出错时出现)
-
aws.resource.type-CFN 资源类型
-
aws.xray.origin-x-ray 用来识别服务的 CFN 资源类型
-
aws.region-客户资源所在的区域
应用程序日志数据
AgentCore 提供结构化应用程序日志,可帮助您了解代理运行时调用和会话级资源消耗。此日志数据是在代理资源上启用可观察性时提供的。有关步骤和详细信息,请参阅为您的亚马逊 Bedrock AgentCore 资源添加可观察性。 AgentCore 可以将日志输出到日 CloudWatch 志、亚马逊 S3 或 Firehose 数据流。如果您使用 CloudWatch 日志目标,则这些日志存储在代理的应用程序日志下或您自己的自定义日志组下。
| 日志类型 | 日志字段 | 说明 |
|---|---|---|
|
应用程序日志 |
时间戳、resource_arn、事件时间戳、账户 ID、请求 ID、会话 ID、trace_id、ssan_id、span_id、服务名称、操作、请求负载、响应负载 |
InvokeRuntimeOperation 包含跟踪字段、请求和响应有效载荷的应用程序日志 |
-
request_payload-代理调用的请求负载
-
response_payload-来自代理调用的响应
错误类型
以下列表定义了用户、系统和限制错误的可能错误类型。
用户错误码
-
InvocationError.Validation-客户提供的输入无效 (400) -
InvocationError.ResourceNotFound-请求的资源不存在 (404) -
InvocationError.AccessDenied-客户端缺少权限 (403) -
InvocationError.Conflict-资源冲突 (409)
系统错误码
-
InvocationError.Internal-内部服务器错误 (500)
节流错误代码
-
InvocationError.Throttling-速率限制 (429) -
InvocationError.ServiceQuota- Service-side quota/limit 已到达 (402)