View a markdown version of this page

AgentCore datos de observabilidad en tiempo de ejecución generados - Amazon Bedrock AgentCore

AgentCore datos de observabilidad en tiempo de ejecución generados

Las métricas de tiempo de ejecución que proporciona AgentCore le permiten ver los niveles de actividad de ejecución de sus agentes, la latencia de procesamiento, la utilización de los recursos y las tasas de error. AgentCore también proporciona métricas agregadas para el total de invocaciones y sesiones.

Métricas de observabilidad y tiempo de ejecución

En la siguiente lista se describen las métricas de tiempo de ejecución proporcionadas por AgentCore. Las métricas de tiempo de ejecución se agrupan en lotes a intervalos de un minuto. Para obtener más información sobre la visualización de las métricas de tiempo de ejecución, consulte Ver datos de observabilidad de sus agentes de Amazon Bedrock AgentCore .

Invocations

Muestra el número total de solicitudes realizadas a la API de Data Plane. Cada llamada a la API cuenta como una invocación, independientemente del tamaño de la carga útil de la solicitud o del estado de la respuesta.

Invocaciones (agregadas)

Muestra el número total de invocaciones en todos los recursos

Limitaciones

Muestra el número de solicitudes limitadas por el servicio debido a que se han superado los límites de cuota o de TPS (transacciones por segundo) permitidos. Estas solicitudes se devuelven ThrottlingException con el código de estado HTTP 429. Supervisa esta métrica para determinar si necesitas revisar tus cuotas de servicio u optimizar los patrones de solicitudes.

Errores del sistema

Muestra el número de errores del servidor detectados AgentCore durante el procesamiento de la solicitud. Los altos niveles de errores en el servidor pueden indicar posibles problemas de infraestructura o servicio que requieren una investigación. Consulte Tipos de error para obtener una lista de posibles códigos de error.

Errores de usuario

Representa el número de errores del lado del cliente derivados de solicitudes no válidas. Para resolverlos, es necesario que el usuario tome medidas. Los altos niveles de errores del lado del cliente pueden indicar problemas con el formato de las solicitudes o los permisos que deben abordarse. Consulte Tipos de error para ver una lista de posibles códigos de error.

Latencia

El tiempo total transcurrido entre la recepción de la solicitud y el envío del token de respuesta final. Representa el tiempo completo de procesamiento de principio a fin de la solicitud.

Errores totales

El número total de errores del sistema y del usuario. En la AgentCore consola de Amazon Bedrock, esta métrica muestra el número de errores como porcentaje del número total de invocaciones.

Recuento de sesiones

Muestra el número de nuevas sesiones de agente creadas durante el período del informe. Cada sesión se cuenta una vez en el momento de la creación; las invocaciones posteriores a la misma sesión no incrementan esta métrica. Se trata de un contador acumulativo, no de un indicador de las sesiones actualmente activas. Útil para monitorear el uso general de la plataforma, conocer las tendencias de las tasas de creación de sesiones y comprender los patrones de participación de los usuarios.

Sesiones (agregadas)

Muestra el número total de sesiones nuevas creadas en todos los recursos durante el período del informe.

ActiveSessionCount

Muestra el número de sesiones activas actualmente en tu cuenta. A diferencia de la SessionCount métrica (un contador acumulativo), esta métrica es un indicador en tiempo real que muestra cuántas sesiones se están ejecutando en un momento dado. Amazon Bedrock AgentCore publica esta métrica una vez por minuto y por tipo de servicio. Utilícela para monitorear el uso de la capacidad actual, configurar alarmas en caso de picos de uso inesperados y comprender el consumo de la cuota de sesión. Utilice la Service dimensión (con valores AgentCore.Runtime oAgentCore.Browser) para filtrar esta métrica por tipo de carga de trabajo. AgentCore.CodeInterpreter Amazon Bedrock AgentCore publica esta métrica directamente en su AWS cuenta en el AWS/Bedrock-AgentCore espacio de nombres.

ActiveStreamingConnections

(WebSocket solo) Muestra el número actual de WebSocket conexiones activas por agente. Supervise esta métrica para comprender el uso de las conexiones y detectar caídas o picos de conexión para planificar la capacidad. La única estadística significativa es la suma de 1 minuto.

InboundStreamingBytesProcessed

(WebSocket solo) Muestra el número total de bytes procesados correctamente en las WebSocket tramas recibidas de los clientes a los contenedores de agentes. Utilice esta métrica para supervisar el rendimiento de los datos e identificar los patrones de uso.

OutboundStreamingBytesProcessed

(WebSocket solo) Muestra el número total de bytes procesados correctamente en las WebSocket tramas enviadas desde los contenedores de agentes a los clientes. Supervise esta métrica para comprender los patrones de respuesta de los agentes y garantizar una transmisión de datos correcta.

Métricas y registros de uso de recursos

El tiempo de AgentCore ejecución de Amazon Bedrock proporciona una completa telemetría de uso de recursos, que incluye métricas de consumo de CPU y memoria para los recursos de tiempo de ejecución.

nota

Los datos de uso de recursos pueden demorarse hasta 60 minutos y la precisión puede variar según las métricas.

Métricas vendidas

El tiempo de AgentCore ejecución de Amazon Bedrock proporciona automáticamente métricas de uso de recursos a nivel de cuenta, tiempo de ejecución del agente y punto final del agente. Estas métricas se publican con una resolución de 1 minuto. CloudWatch La agregación y la retención de datos métricos de Amazon seguirán las políticas de retención CloudWatch de datos estándar de Amazon. Para obtener más información, consulta https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric.

Estos son los conjuntos de dimensiones y las métricas disponibles para supervisar sus recursos:

Name Dimensiones Description (Descripción)

CPUUsed-vCPUHours

Servicio; servicio, recurso; servicio, recurso, nombre

La cantidad total de CPU virtual consumida en una CPU-Hours unidad v, disponible en los niveles de recursos y cuentas. Útil para el seguimiento de los recursos y la visibilidad estimada de la facturación.

MemoryUsed-GBHours

Servicio; servicio, recurso; servicio, recurso, nombre

La cantidad total de memoria consumida por GB-Hours unidad, disponible a nivel de recursos y cuentas. Útil para el seguimiento de los recursos y la visibilidad estimada de la facturación.

Explicación de las dimensiones

  • Servicio - AgentCore.Runtime

  • Recurso: agente Arn

  • Nombre: nombre del punto de conexión del agente, con el formato AgentName: EndpointName

Las métricas a nivel de cuenta están disponibles en Amazon CloudWatch Bedrock AgentCore Observability Console, en la pestaña Runtime. El panel muestra los gráficos de uso de memoria y CPU generados a partir de estas métricas, que representan el uso total de recursos de todos los agentes de su cuenta en la región.

Las métricas a nivel de Agent Endpoint están disponibles en la AgentEndpoint página de Amazon CloudWatch Bedrock AgentCore Observability Console. El panel muestra los gráficos de uso de memoria y CPU generados a partir de estas métricas, que representan el uso total de recursos en todas las sesiones invocadas por el Agent Endpoint especificado.

nota

Los datos de telemetría se proporcionan con fines de supervisión. La facturación real se calcula en función de los datos de uso medido y puede diferir de los valores de telemetría debido al tiempo de agregación, los procesos de conciliación y la precisión de la medición. Consulte su estado de cuenta para AWS ver los cargos autorizados.

Registros proporcionados

Bedrock AgentCore Runtime proporciona registros vendidos para las métricas de uso a nivel de sesión con una granularidad de 1 segundo. Cada registro contiene datos sobre el consumo de recursos, incluido el uso de la CPU (agent.runtime.vcpu.hours.used) y el consumo de memoria (agent.runtime.memory.gb_hours.used).

Cada registro de registro tendrá el siguiente esquema:

Tipo de registro Campos de registro Description (Descripción)

USAGE_LOGS

event_timestamp, resource_arn, service.name, cloud.provider, cloud.region, account.id, region, resource.id, session.id, agent.name, elapsed_time_seconds, agent.runtime.vcpu.hours.used, agent.runtime.memory.gb_hours.used

Registros de uso de recursos para el seguimiento de los recursos a nivel de sesión.

Para habilitar el tipo de registro USAGE_LOG para sus agentes, consulte Añadir observabilidad a sus recursos de Amazon Bedrock. AgentCore A continuación, los registros se muestran en el destino configurado (AWS LogGroupAmazon S3 o Amazon Kinesis Firehose) tal y como se configuró.

En la página Sesión de agente de la consola de AgentCore observabilidad de Amazon CloudWatch Bedrock, puede ver las métricas de uso de recursos generadas a partir de estos registros. Para optimizar su experiencia de visualización de métricas, seleccione el intervalo de tiempo que desee utilizando el selector situado en la parte superior derecha para centrarse en los datos específicos de uso de la CPU y la memoria.

nota

Los datos de telemetría se proporcionan con fines de supervisión. La facturación real se calcula en función de los datos de uso medido y puede diferir de los valores de telemetría debido al tiempo de agregación, los procesos de conciliación y la precisión de la medición. Consulte su estado de cuenta para AWS ver los cargos autorizados.

Datos de intervalo proporcionados

Para mejorar la observabilidad, AgentCore proporciona intervalos estructurados que proporcionan visibilidad de las invocaciones del agente en tiempo de ejecución. Para habilitar estos datos de intervalo, debe habilitar la observabilidad en su recurso de agente. Consulte Añadir observabilidad a sus AgentCore recursos de Amazon Bedrock para ver los pasos y los detalles. Estos datos de intervalo están disponibles en Amazon CloudWatch Logs. Los intervalos aparecen en el grupo de registros del agente (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>) o en el grupo de aws/spans registros de los agentes que utilizan el destino del intervalo compartido. Para obtener más información, consulte el destino de Span para los agentes alojados en Amazon Bedrock AgentCore Runtime. En la siguiente tabla se define la operación para la que se crean los intervalos y los atributos de cada intervalo capturado.

Nombre de operación Atributos del intervalo Description (Descripción)

InvokeAgentRuntime

aws.operation.name, aws.resource.arn, aws.request_id, aws.agent.id, aws.endpoint.name, aws.account.id, session.id, latency_ms, error_type, aws.resource.type, aws.xray.origin, aws.region

Invoca el tiempo de ejecución del agente.

  • aws.operation.name: el nombre de la operación () InvokeAgentRuntime

  • aws.resource.arn: el nombre del recurso de Amazon para el tiempo de ejecución del agente

  • aws.request_id: ID de solicitud para la invocación

  • aws.agent.id: el identificador único del tiempo de ejecución del agente

  • aws.endpoint.name: el nombre del punto final utilizado para invocar el tiempo de ejecución del agente

  • aws.account.id: identificador de la cuenta del cliente

  • session.id: el ID de sesión para la invocación

  • latency_ms: la latencia de la solicitud en milisegundos

  • error_type: acelerador, sistema o usuario (solo está presente en caso de error)

  • aws.resource.type: el tipo de recurso CFN

  • aws.xray.origin: el tipo de recurso CFN utilizado por x-ray para identificar el servicio

  • aws.region: la región en la que se encuentra el recurso del cliente

Datos de registro de la aplicación

AgentCore proporciona registros de aplicaciones estructurados que le ayudan a obtener visibilidad de las invocaciones del agente en tiempo de ejecución y del consumo de recursos a nivel de sesión. Estos datos de registro se proporcionan cuando se habilita la observabilidad en su recurso de agente. Consulte Añadir observabilidad a sus AgentCore recursos de Amazon Bedrock para ver los pasos y los detalles. AgentCore puede enviar CloudWatch registros a Logs, Amazon S3 o Firehose Stream. Si utiliza un destino de CloudWatch registros, estos registros se almacenan en los registros de la aplicación de su agente o en su propio grupo de registros personalizado.

Tipo de registro Campos de registro Description (Descripción)

APPLICATION_LOGS

timestamp, resource_arn, event_timestamp, account_id, request_id, session_id, trace_id, span_id, service_name, operation, request_payload

La aplicación registra InvokeRuntimeOperation con campos de rastreo y cargas útiles de solicitud y respuesta

  • request_payload: la carga útil de solicitud de la invocación del agente

  • response_payload: la respuesta de la invocación del agente

Tipos de error

En la siguiente lista se definen los posibles tipos de error de usuario, sistema y errores de regulación.

Códigos de error de usuario

  • InvocationError.Validation- El cliente proporcionó una entrada no válida (400)

  • InvocationError.ResourceNotFound- El recurso solicitado no existe (404)

  • InvocationError.AccessDenied- El cliente carece de permisos (403)

  • InvocationError.Conflict- Conflicto de recursos (409)

Códigos de error del sistema

  • InvocationError.Internal- Error interno del servidor (500)

Códigos de error de aceleración

  • InvocationError.Throttling- Limitación de velocidad (429)

  • InvocationError.ServiceQuota- Service-side quota/limit alcanzado (402)