View a markdown version of this page

AgentCore 生成的运行时可观测性数据 - Amazon Bedrock AgentCore

AgentCore 生成的运行时可观测性数据

提供的运行时指标 AgentCore 使您可以了解代理执行活动级别、处理延迟、资源利用率和错误率。 AgentCore 还提供了总调用次数和会话数的汇总指标。

可观察性运行时指标

下表描述了提供的运行时指标 AgentCore。运行时指标每隔一分钟进行批处理。要了解有关查看运行时指标的更多信息,请参阅查看 Amazon Bedrock AgentCore 代理的可观察性数据

Invocations

显示向数据平面 API 发出的请求总数。无论请求负载大小或响应状态如何,每个 API 调用都算作一次调用。

调用次数(聚合)

显示所有资源的调用总数

节流

显示由于超出允许的 TPS(每秒事务数)或配额限制而被服务限制的请求数。这些请求返回时 ThrottlingException 带有 HTTP 状态码 429。监控此指标以确定是否需要查看服务配额或优化请求模式。

系统错误

显示请求处理 AgentCore 期间遇到的服务器端错误的数量。较高的服务端错误率可能表明存在需排查的基础设施问题或服务问题。有关可能的错误代码列表,请参阅错误类型

用户错误

表示因无效请求而导致的客户端错误数。这些问题需要用户操作才能解决。严重的客户端错误可能表明请求格式或权限存在问题需要解决。有关可能的错误代码列表,请参阅错误类型

延迟

从收到请求到发送最终响应令牌之间的总时间。表示请求的完整端到端处理时间。

错误总数

系统和用户错误的总数。在 Amazon Bedrock AgentCore 控制台中,该指标显示错误数占调用总数的百分比。

会话计数

显示在报告期内创建的新代理会话的数量。每个会话在创建时计入一次;对同一会话的后续调用不会增加该指标。这是一个累积计数器,而不是衡量当前活跃会话的指标。对于监控整体平台使用情况、会话创建率趋势以及了解用户参与模式非常有用。

会话(汇总)

显示报告期内在所有资源中创建的新会话总数。

ActiveSessionCount

显示您的账户当前处于活动状态的会话数。与SessionCount指标(累积计数器)不同,该指标是一个实时指标,显示在任何给定时刻有多少会话在运行。Amazon Bedrock 每分钟为每种服务类型 AgentCore 发布一次该指标。使用它来监控当前的容量利用率,为意外的使用量峰值设置警报,并了解您的会话配额消耗情况。使用Service维度(含值AgentCore.RuntimeAgentCore.CodeInterpreter、或AgentCore.Browser)按工作负载类型筛选此指标。Amazon Bedrock 将该指标直接 AgentCore 发布到您在AWS/Bedrock-AgentCore命名空间中的 AWS 账户。

ActiveStreamingConnections

(WebSocket 仅限)显示每个代理当前的活动 WebSocket 连接数。监控此指标以了解连接使用情况,并检测连接中断或峰值以进行容量规划。唯一有意义的统计数据是 1 分钟的总和。

InboundStreamingBytesProcessed

(WebSocket 仅限)显示从客户端接收到代理容器的 WebSocket 帧中成功处理的总字节数。使用此指标来监控数据吞吐量并确定使用模式。

OutboundStreamingBytesProcessed

(WebSocket 仅限)显示从代理容器发送到客户端的 WebSocket 帧中成功处理的总字节数。监控此指标以了解代理响应模式并确保成功传输数据。

资源使用指标和日志

Amazon Bedrock AgentCore 运行时提供全面的资源使用遥测功能,包括运行时资源的 CPU 和内存消耗指标。

注意

资源使用情况数据最多可能延迟 60 分钟,并且精度可能因指标而异。

已售指标

Amazon Bedrock AgentCore 运行时会自动提供账户、代理运行时和代理终端节点级别的资源使用指标。这些指标以 1 分钟的分辨率发布。Amazon CloudWatch 聚合和指标数据保留将遵循标准的亚马逊 CloudWatch 数据保留政策。有关更多信息,请参阅 https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric.

以下是可用于监控资源的维度集和指标:

Name Dimensions 说明

CPUUsed-vCPUHours

服务;服务、资源;服务、资源、名称

以 v 为CPU-Hours 单位消耗的虚拟 CPU 总量,在资源和账户级别上可用。对于资源跟踪和预估账单可见性很有用。

MemoryUsed-GBHours

服务;服务、资源;服务、资源、名称

以单位为 GB-Hours 单位消耗的内存总量,在资源和账户级别上可用。对于资源跟踪和预估账单可见性很有用。

维度说明

  • 服务- AgentCore.Runtime

  • 资源-Agent Arn

  • 名称-代理端点名称,格式为 AgentName:: EndpointName

账户级别指标可在 Amazon B CloudWatch edrock 可 AgentCore 观察性控制台的 “运行时间” 选项卡下找到。控制面板显示根据这些指标生成的内存和 CPU 使用率图表,表示该区域内您账户中所有代理的总资源使用情况。

代理终端节点级别指标可在 Amazon B CloudWatch edrock 可 AgentCore 观测性控制台的 AgentEndpoint 页面中找到。仪表板显示根据这些指标生成的内存和 CPU 使用率图表,表示指定代理端点调用的所有会话的总资源使用情况。

注意

提供遥测数据是为了进行监控。实际账单是根据计量使用数据计算的,由于聚合时间、对账流程和测量精度,可能与遥测值不同。有关权威费用,请参阅您的 AWS 账单。

Vended logs(已出售日志)

Bedrock AgentCore Runtime 以 1 秒的粒度为会话级别的使用指标提供销售日志。每条日志记录都包含资源消耗数据,包括 CPU 使用率(agent.runtime.vcpu.hours.used)和内存消耗(agent.runtime.memory.gb_hours.used)。

每条日志记录都将具有以下架构:

日志类型 日志字段 说明

使用日志

事件时间戳、资源_arn、service.name、cloud.provider、cloud.region、account.id、区域、资源.id、session.id、agent.id、agent_time_seconds、agent.runtime.vcpu.hours.used、agent.runtime.gb_hours.used、agent.runtime.gb_hours.use

用于会话级资源跟踪的资源使用日志。

要为您的代理启用 USAGE_LOG 日志类型,请参阅为您的 Amazon Bedrock 资源添加可观察性。 AgentCore 然后,日志将按照配置显示在已配置的目标(AWS LogGroupAmazon S3 或 Amazon Kinesis Firehose)中。

在 Amazon B CloudWatch edrock 可 AgentCore 观察性控制台的代理会话页面中,您可以看到根据这些日志生成的资源使用量指标。要优化指标查看体验,请使用右上角的选择器选择所需的时间范围,重点关注特定的 CPU 和内存使用率数据。

注意

提供遥测数据是为了进行监控。实际账单是根据计量使用数据计算的,由于聚合时间、对账流程和测量精度,可能与遥测值不同。有关权威费用,请参阅您的 AWS 账单。

提供的跨度数据

为了增强可观察性, AgentCore 提供了结构化跨度,以提供代理运行时调用的可见性。要启用此跨度数据,您需要在代理资源上启用可观察性。有关步骤和详细信息,请参阅为您的 Amazon Bedrock AgentCore 资源添加可观察性。此跨度数据可在 Amazon CloudWatch 日志中找到。Span 出现在代理的日志组 (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) 中,或者使用共享跨度目标的代理的aws/spans日志组中。有关更多信息,请参阅 Amazon Bedrock AgentCore 运行时中托管的代理的 Span 目标。下表定义了为其创建跨度的操作以及每个捕获的跨度的属性。

操作名称 跨度属性 说明

InvokeAgentRuntime

aws.operation.name、aws.resource.arn、aws.request_id、aws.agent.id、aws.endpoint.name、aws.account.id、session.id、latency_ms、error_type、aws.resource.type、aws.xray.origin、aws.region

调用代理运行时。

  • aws.operation.name-操作名称 () InvokeAgentRuntime

  • aws.resource.arn-代理运行时的亚马逊资源名称

  • aws.request_id-调用的请求 ID

  • aws.agent.id-代理运行时的唯一标识符

  • aws.endpoint.name-用于调用代理运行时的端点的名称

  • aws.account.id-买家的账户 ID

  • session.id-调用的会话 ID

  • latency_ms-请求的延迟(以毫秒为单位)

  • error_type-油门、系统或用户(仅在错误时出现)

  • aws.resource.type-CFN 资源类型

  • aws.xray.origin-X 射线用来识别服务的 CFN 资源类型

  • aws.region-客户资源所在的区域

应用程序日志数据

AgentCore 提供结构化应用程序日志,可帮助您了解代理运行时调用和会话级别的资源消耗。此日志数据是在您的代理资源上启用可观察性时提供的。有关步骤和详细信息,请参阅为您的 Amazon Bedrock AgentCore 资源添加可观察性。 AgentCore 可以将日志输出到日 CloudWatch 志、Amazon S3 或 Firehose 流。如果您使用 CloudWatch 日志目标,则这些日志将存储在代理的应用程序日志下或您自己的自定义日志组下。

日志类型 日志字段 说明

应用程序日志

时间戳、resource_arn、event_timestamp、account_id、request_id、span_id、span_id、span_id、span_id、service_name、操作、请求载荷、响应负载

InvokeRuntimeOperation 包含跟踪字段、请求和响应负载的应用程序日志

  • request_payload-代理调用的请求有效负载

  • response_payload-代理调用的响应

错误类型

以下列表定义了用户错误、系统错误和限制错误的可能错误类型。

用户错误码

  • InvocationError.Validation-客户提供的输入无效 (400)

  • InvocationError.ResourceNotFound-请求的资源不存在 (404)

  • InvocationError.AccessDenied-客户端缺少权限 (403)

  • InvocationError.Conflict-资源冲突 (409)

系统错误码

  • InvocationError.Internal-服务器内部错误 (500)

限制错误代码

  • InvocationError.Throttling-速率限制 (429)

  • InvocationError.ServiceQuota- Service-side quota/limit 已到达 (402)