Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Comprenez l'observabilité des ressources des agences dans AgentCore
Cette section définit les concepts de sessions, de traces et de spans en ce qui concerne la surveillance et l'observabilité des agents.
Séances
Une session représente un contexte d'interaction complet entre un utilisateur et un agent. Les sessions encapsulent l'intégralité de la conversation ou du flux d'interaction, en maintenant l'état et le contexte des différents échanges. Chaque session possède un identifiant unique et capture le cycle de vie complet de l'engagement de l'utilisateur avec l'agent, de l'initialisation à la résiliation.
Les sessions fournissent les fonctionnalités suivantes aux agents :
-
Persistance du contexte lors de multiples interactions au sein d'une même conversation
-
Gestion de l'état pour conserver les informations spécifiques à l'utilisateur
-
Suivi de l'historique des conversations pour une compréhension contextuelle
-
Allocation et gestion des ressources pendant la durée de l'interaction
-
Isolation entre les différentes interactions des utilisateurs avec le même agent
Du point de vue de l'observabilité, les sessions fournissent une vue d'ensemble des modèles d'engagement des utilisateurs, ce qui vous permet de surveiller les performances des agents sur l'ensemble des métriques, des traces et des intervalles, et de comprendre comment les utilisateurs interagissent avec vos agents au fil du temps et dans différents cas d'utilisation.
Par défaut, AgentCore fournit un ensemble de mesures d'observabilité au niveau de la session pour les agents qui s'exécutent pendant l' AgentCore exécution. Vous pouvez consulter les mesures d'exécution dans la CloudWatch console Amazon sur la page d'observabilité générative de l'IA. Cette page propose une variété de graphiques et de visualisations pour vous aider à interpréter les données de vos agents. AgentCore génère également un ensemble de métriques par défaut pour les ressources mémoire, les ressources de passerelle et les outils intégrés. Toutes ces mesures peuvent être consultées dans CloudWatch. Outre les métriques fournies, les journaux et les intervalles sont fournis par défaut pour les ressources mémoire, et en instrumentant le code de votre agent, vous pouvez capturer des métriques, des journaux et des intervalles personnalisés pour votre agent, qui peuvent également être consultés sur la page d'observabilité CloudWatch générative de l'IA. Consultez les sections suivantes et consultez les données d'observabilité pour vos AgentCore agents Amazon Bedrock pour en savoir plus.
Suivis
Une trace représente un enregistrement détaillé d'un seul cycle demande-réponse commençant par l'appel d'un agent et peut inclure des appels supplémentaires vers d'autres agents. Les traces capturent le chemin d'exécution complet d'une demande, y compris toutes les étapes de traitement internes, les appels de service externes, les points de décision et l'utilisation des ressources. Chaque trace est associée à une session spécifique et fournit une visibilité granulaire sur le comportement de l'agent pour une interaction particulière.
Les traces incluent les composants suivants pour les agents :
-
Détails de la demande, y compris les horodatages, les paramètres d'entrée et le contexte
-
Étapes de traitement montrant la séquence des opérations effectuées
-
Invocations d'outils avec input/output paramètres et temps d'exécution
-
Indicateurs d'utilisation des ressources, tels que le temps de traitement
-
Informations sur les erreurs, y compris les détails des exceptions et les tentatives de restauration
-
Détails de la génération de réponses et sortie finale
Du point de vue de l'observabilité, les traces fournissent des informations détaillées sur le fonctionnement interne de vos agents, ce qui vous permet de résoudre les problèmes, d'optimiser les performances et de comprendre les modèles de comportement. En analysant les données de trace, vous pouvez identifier les goulots d'étranglement, détecter les anomalies et vérifier que votre agent fonctionne comme prévu dans différents scénarios et entrées.
Pour collecter des données de trace, vous devez instrumenter le code de votre agent à l'aide du AWS Distro for Open Telemetry (ADOT). Consultez Activation de l'observabilité dans le code des AgentCore-hosted agents pour les agents et Activation de l'observabilité pour les agents hébergés en dehors de l'environnement AgentCore pour en savoir plus.
Spans
Un span représente une unité de travail discrète et mesurable au sein du flux d'exécution d'un agent. Les spans capturent les opérations précises qui se produisent pendant le traitement des demandes, offrant une visibilité détaillée sur les composants internes et les étapes qui constituent une trace complète. Chaque période a une heure de début et de fin définie, ce qui permet de créer une chronologie précise des activités des agents et de leurs durées.
Les spans incluent les attributs essentiels suivants pour l'observabilité des agents :
-
Nom de l'opération identifiant la fonction ou le processus spécifique en cours d'exécution
-
Horodatages indiquant les heures exactes de début et de fin de l'opération
-
Parent-child relations montrant comment les opérations s'imbriquent dans des processus plus vastes
-
Balises et attributs fournissant des métadonnées contextuelles sur l'opération
-
Événements marquant des événements importants survenus au cours de la durée de vie de la période
-
Informations d'état indiquant la réussite, l'échec ou d'autres états d'achèvement
-
Métriques d'utilisation des ressources spécifiques à l'opération
Les spans forment une structure hiérarchique au sein des traces, les spans parents englobant les spans enfants qui représentent des opérations plus granulaires. Par exemple, un intervalle « requête utilisateur du processus » de haut niveau peut contenir des intervalles enfants pour « analyser l'entrée », « récupérer le contexte », « générer une réponse » et « formater la sortie ». Cette organisation hiérarchique crée un arbre d'exécution détaillé qui révèle le flux complet des opérations au sein de l'agent.
Par défaut, AgentCore génère un ensemble de données d'intervalle pour les ressources mémoire uniquement. Ces données peuvent être consultées dans les CloudWatch journaux et les signaux CloudWatch d'application. Pour enregistrer les données de span pour vos agents ou les ressources de votre passerelle, vous devez instrumenter votre agent. Consultez Activation de l'observabilité dans le code des AgentCore-hosted agents pour les agents et Activation de l'observabilité pour les agents hébergés en dehors de l'environnement AgentCore pour en savoir plus.
Relation entre les sessions, les traces et les intervalles
Les sessions, les traces et les intervalles forment une relation hiérarchique à trois niveaux dans le cadre d'observabilité pour les agents. Une session contient plusieurs traces, chaque trace représentant une interaction discrète dans le contexte plus large de la session. Chaque trace, à son tour, contient plusieurs intervalles qui capturent les opérations et les étapes précises de cette interaction. Cette structure hiérarchique vous permet d'analyser le comportement des agents à différents niveaux de granularité, qu'il s'agisse de modèles de session de haut niveau, de flux d'interactions de niveau intermédiaire ou de chemins d'exécution détaillés pour des opérations spécifiques.
La relation entre ces trois composantes d'observabilité peut être visualisée comme suit :
-
Sessions (niveau le plus élevé) - Représentent des conversations utilisateur complètes ou des contextes d'interaction
-
Traces (niveau intermédiaire) : représentent les cycles individuels de demande-réponse au sein d'une session
-
Spans (niveau le plus bas) : représente des opérations ou des étapes spécifiques au sein d'une trace
Cette relation à plusieurs niveaux permet plusieurs fonctionnalités d'observabilité importantes :
-
Analyse contextuelle des interactions individuelles dans le cadre de leur flux de conversation plus large
-
Corrélation des demandes associées tout au long du parcours d'interaction d'un utilisateur
-
Résolution progressive des problèmes, des anomalies au niveau de la session aux modèles au niveau des traces, en passant par les causes profondes au niveau de l'étendue
-
Profilage complet des performances à travers différentes dimensions temporelles et fonctionnelles
-
Compréhension holistique des modèles de comportement et de l'évolution des agents tout au long d'une conversation
-
Identification précise des goulots d'étranglement en matière de performances au niveau des opérations grâce à une analyse des intervalles
Alors que les traces fournissent une visibilité sur l'ensemble des cycles demande-réponse, les spans offrent des informations plus détaillées sur le fonctionnement interne de ces cycles. Les spans indiquent exactement quelles opérations prennent le plus de temps, d'où proviennent les erreurs et comment les différents composants interagissent au sein d'une seule trace. Cette granularité est particulièrement utile pour résoudre des problèmes complexes ou optimiser les performances dans le cadre d'implémentations d'agents sophistiquées.
En exploitant les données de session, de trace et d'intervalle dans votre stratégie d'observabilité, vous pouvez obtenir des informations complètes sur le comportement, les performances et l'efficacité de votre agent à plusieurs niveaux de détail. Cette approche multicouche de l'observabilité favorise l'amélioration continue, le dépannage robuste et l'optimisation informée des implémentations de vos agents, depuis les modèles de conversation de haut niveau jusqu'aux performances opérationnelles individuelles.
