Comprenda la observabilidad de los recursos de los agentes en AgentCore
En esta sección se definen los conceptos de sesiones, trazas y períodos en relación con el monitoreo y la observabilidad de los agentes.
Sesiones
Una sesión representa un contexto de interacción completo entre un usuario y un agente. Las sesiones encapsulan todo el flujo de conversación o interacción, manteniendo el estado y el contexto en varios intercambios. Cada sesión tiene un identificador único y captura el ciclo de vida completo de la interacción del usuario con el agente, desde la inicialización hasta la finalización.
Las sesiones proporcionan las siguientes funciones a los agentes:
-
Persistencia del contexto en múltiples interacciones dentro de la misma conversación
-
Administración del estado para mantener la información específica del usuario
-
Seguimiento del historial de conversaciones para una mejor comprensión del contexto
-
Asignación y administración de recursos durante la interacción
-
Aislamiento entre las diferentes interacciones de los usuarios con el mismo agente
Desde el punto de vista de la observabilidad, las sesiones proporcionan una visión de alto nivel de los patrones de participación de los usuarios, lo que le permite supervisar el rendimiento de los agentes en función de las métricas, los seguimientos y los intervalos, y comprender cómo interactúan los usuarios con sus agentes a lo largo del tiempo y en diferentes casos de uso.
De forma predeterminada, AgentCore proporciona un conjunto de métricas de observabilidad a nivel de sesión para los agentes que se ejecutan en tiempo de ejecución. AgentCore Puedes ver las métricas de tiempo de ejecución en la CloudWatch consola de Amazon en la página de observabilidad generativa de la IA. Esta página ofrece una variedad de gráficos y visualizaciones para ayudarte a interpretar los datos de tus agentes. AgentCore también genera un conjunto predeterminado de métricas para los recursos de memoria, los recursos de puerta de enlace y las herramientas integradas. Todas estas métricas se pueden ver en CloudWatch. Además de las métricas proporcionadas, los registros y los intervalos se proporcionan de forma predeterminada para los recursos de memoria y, al instrumentar el código del agente, puede capturar métricas, registros y intervalos personalizados para su agente, que también se pueden consultar en la página de observabilidad CloudWatch generativa de la IA. Consulte las siguientes secciones y consulte los datos de observabilidad de sus AgentCore agentes de Amazon Bedrock para obtener más información.
Rastros
Un rastreo representa un registro detallado de un único ciclo de solicitud-respuesta que comienza con la invocación de un agente y puede incluir llamadas adicionales a otros agentes. Los rastreos capturan la ruta de ejecución completa de una solicitud, incluidos todos los pasos del procesamiento interno, las llamadas a los servicios externos, los puntos de decisión y la utilización de los recursos. Cada rastreo está asociado a una sesión específica y proporciona una visibilidad detallada del comportamiento del agente en una interacción determinada.
Las trazas incluyen los siguientes componentes para los agentes:
-
Solicite detalles, incluidas las marcas de tiempo, los parámetros de entrada y el contexto
-
Pasos de procesamiento que muestran la secuencia de operaciones realizadas
-
Invocaciones de herramientas con input/output parámetros y tiempos de ejecución
-
Métricas de utilización de recursos, como el tiempo de procesamiento
-
Información sobre los errores, incluidos los detalles de las excepciones y los intentos de recuperación
-
Detalles de la generación de la respuesta y resultado final
Desde el punto de vista de la observabilidad, los rastreos proporcionan información detallada sobre el funcionamiento interno de sus agentes, lo que le permite solucionar problemas, optimizar el rendimiento y comprender los patrones de comportamiento. Al analizar los datos de rastreo, puede identificar los cuellos de botella, detectar anomalías y verificar que su agente funciona según lo esperado en diferentes escenarios y entradas.
Para recopilar datos de rastreo, debe instrumentar el código de su agente mediante la AWS Distro for Open Telemetry (ADOT). Consulte Habilitar la observabilidad en el código de agente para AgentCore-hosted los agentes y Habilitar la observabilidad para los agentes alojados fuera de ella para obtener más información. AgentCore
Intervalos
Un intervalo representa una unidad de trabajo discreta y medible dentro del flujo de ejecución de un agente. Los intervalos capturan las operaciones pormenorizadas que se producen durante el procesamiento de las solicitudes, lo que proporciona una visibilidad detallada de los componentes internos y los pasos que componen un seguimiento completo. Cada intervalo tiene una hora de inicio y finalización definida, lo que crea un cronograma preciso de las actividades de los agentes y su duración.
Los intervalos incluyen los siguientes atributos esenciales para la observabilidad de los agentes:
-
Nombre de la operación que identifica la función o el proceso específico que se está ejecutando
-
Marcas de tiempo que indican las horas exactas de inicio y finalización de la operación
-
Parent-child relaciones que muestran cómo las operaciones encajan en procesos más grandes
-
Etiquetas y atributos que proporcionan metadatos contextuales sobre la operación
-
Eventos que marcan sucesos importantes a lo largo de la vida útil del lapso
-
Información de estado que indica el éxito, el fracaso u otros estados de finalización
-
Métricas de utilización de recursos específicas de la operación
Los intervalos forman una estructura jerárquica dentro de las trazas, y los intervalos principales incluyen los intervalos secundarios que representan operaciones más granulares. Por ejemplo, un intervalo de «procesar consulta de usuario» de alto nivel puede contener intervalos secundarios para «analizar la entrada», «recuperar contexto», «generar respuesta» y «formatear la salida». Esta organización jerárquica crea un árbol de ejecución detallado que revela el flujo completo de operaciones dentro del agente.
De forma predeterminada, AgentCore genera un conjunto de datos de intervalo solo para los recursos de memoria. Estos datos se pueden ver en CloudWatch los registros y en las señales de CloudWatch la aplicación. Para registrar los datos de alcance de sus agentes o recursos de pasarela, debe instrumentar a su agente. Consulte Habilitar la observabilidad en el código del agente para AgentCore-hosted los agentes y Habilitar la observabilidad para los agentes alojados fuera de él AgentCore para obtener más información.
Relación entre sesiones, trazas y intervalos
Las sesiones, los trazos y los intervalos forman una relación jerárquica de tres niveles en el marco de observabilidad de los agentes. Una sesión contiene varios trazos, y cada uno de ellos representa una interacción discreta dentro del contexto más amplio de la sesión. Cada traza, a su vez, contiene varios intervalos que capturan las operaciones y los pasos detallados de esa interacción. Esta estructura jerárquica permite analizar el comportamiento de los agentes con distintos niveles de detalle, desde los patrones de sesión de alto nivel hasta los flujos de interacción de nivel medio y las rutas de ejecución detalladas para operaciones específicas.
La relación entre estos tres componentes de observabilidad se puede visualizar de la siguiente manera:
-
Sesiones (nivel más alto): representan conversaciones completas de usuarios o contextos de interacción
-
Rastros (nivel medio): representan los ciclos individuales de solicitud y respuesta dentro de una sesión
-
Intervalos (nivel más bajo): representan operaciones o pasos específicos de una traza
Esta relación de varios niveles permite varias capacidades de observabilidad importantes:
-
Análisis contextual de las interacciones individuales dentro de su flujo de conversación más amplio
-
Correlación de las solicitudes relacionadas a lo largo del recorrido de interacción de un usuario
-
Solución progresiva de problemas, desde las anomalías a nivel de sesión hasta los patrones a nivel de seguimiento y las causas fundamentales a nivel de intervalo
-
Elaboración integral de perfiles de rendimiento en diferentes dimensiones temporales y funcionales
-
Comprensión holística de los patrones de comportamiento y la evolución de los agentes a lo largo de una conversación
-
Identificación precisa de los cuellos de botella en el rendimiento a nivel operativo mediante el análisis de los intervalos
Si bien los rastreos proporcionan visibilidad de los ciclos completos de solicitud-respuesta, los intervalos ofrecen una visión más profunda del funcionamiento interno de esos ciclos. Los intervalos revelan exactamente qué operaciones consumen más tiempo, dónde se originan los errores y cómo interactúan los diferentes componentes en una sola traza. Esta granularidad resulta especialmente valiosa a la hora de solucionar problemas complejos o de optimizar el rendimiento en implementaciones de agentes sofisticadas.
Al aprovechar los datos de sesión, rastreo y extensión en su estrategia de observabilidad, puede obtener información completa sobre el comportamiento, el rendimiento y la eficacia de sus agentes con varios niveles de detalle. Este enfoque multicapa de la observabilidad permite una mejora continua, una sólida solución de problemas y una optimización fundamentada de las implementaciones de sus agentes, desde los patrones de conversación de alto nivel hasta el rendimiento de las operaciones individuales.
