View a markdown version of this page

Entenda a observabilidade de recursos agentes em AgentCore - Base da Amazônia AgentCore

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Entenda a observabilidade de recursos agentes em AgentCore

Esta seção define os conceitos de sessões, rastreamentos e extensões relacionados ao monitoramento e observabilidade dos agentes.

Sessões

Uma sessão representa um contexto de interação completo entre um usuário e um agente. As sessões encapsulam todo o fluxo de conversa ou interação, mantendo o estado e o contexto em várias trocas. Cada sessão tem um identificador exclusivo e captura todo o ciclo de vida do engajamento do usuário com o agente, da inicialização ao encerramento.

As sessões fornecem os seguintes recursos para os agentes:

  • Persistência do contexto em várias interações na mesma conversa

  • Gerenciamento de estado para manter informações específicas do usuário

  • Rastreamento do histórico de conversas para compreensão contextual

  • Alocação e gerenciamento de recursos durante a interação

  • Isolamento entre diferentes interações do usuário com o mesmo agente

Do ponto de vista da observabilidade, as sessões fornecem uma visão de alto nível dos padrões de engajamento do usuário, permitindo que você monitore o desempenho do agente em métricas, rastreamentos e períodos e entenda como os usuários interagem com seus agentes ao longo do tempo e em diferentes casos de uso.

Por padrão, AgentCore fornece um conjunto de métricas de observabilidade no nível da sessão para agentes que estão em execução no AgentCore tempo de execução. Você pode visualizar as métricas de tempo de execução no CloudWatch console da Amazon na página generativa de observabilidade da IA. Esta página oferece uma variedade de gráficos e visualizações para ajudar você a interpretar os dados de seus agentes. AgentCore também gera um conjunto padrão de métricas para recursos de memória, recursos de gateway e ferramentas integradas. Todas essas métricas podem ser visualizadas em CloudWatch. Além das métricas fornecidas, os registros e os intervalos são fornecidos por padrão para recursos de memória e, ao instrumentar o código do seu agente, você pode capturar métricas, registros e períodos personalizados para seu agente, que também podem ser visualizados na página CloudWatch generativa de observabilidade da IA. Consulte as seções a seguir e veja os dados de observabilidade de seus AgentCore agentes do Amazon Bedrock para saber mais.

Rastreamentos

Um rastreamento representa um registro detalhado de um único ciclo de solicitação-resposta começando com a invocação de um agente e pode incluir chamadas adicionais para outros agentes. Os rastreamentos capturam o caminho completo de execução de uma solicitação, incluindo todas as etapas de processamento interno, chamadas de serviços externos, pontos de decisão e utilização de recursos. Cada rastreamento é associado a uma sessão específica e fornece visibilidade granular do comportamento do agente em uma interação específica.

Os rastreamentos incluem os seguintes componentes para agentes:

  • Detalhes da solicitação, incluindo registros de data e hora, parâmetros de entrada e contexto

  • Etapas de processamento mostrando a sequência de operações realizadas

  • Invocações de ferramentas com input/output parâmetros e tempos de execução

  • Métricas de utilização de recursos, como tempo de processamento

  • Informações de erro, incluindo detalhes de exceções e tentativas de recuperação

  • Detalhes da geração de resposta e saída final

Do ponto de vista da observabilidade, os rastreamentos fornecem insights profundos sobre o funcionamento interno de seus agentes, permitindo que você solucione problemas, otimize o desempenho e compreenda os padrões de comportamento. Ao analisar dados de rastreamento, você pode identificar gargalos, detectar anomalias e verificar se seu agente está funcionando conforme o esperado em diferentes cenários e entradas.

Para coletar dados de rastreamento, você precisa instrumentar o código do seu agente usando a AWS Distro for Open Telemetry (ADOT). Consulte Habilitando a observabilidade no código do agente para AgentCore-hosted agentes e Habilitando a observabilidade para agentes hospedados fora do AgentCore para saber mais.

Segmentos

Um intervalo representa uma unidade de trabalho discreta e mensurável dentro do fluxo de execução de um agente. Os spans capturam operações refinadas que ocorrem durante o processamento da solicitação, fornecendo visibilidade detalhada dos componentes internos e das etapas que compõem um rastreamento completo. Cada período tem um horário de início e término definido, criando um cronograma preciso das atividades do agente e suas durações.

Os intervalos incluem os seguintes atributos essenciais para a observabilidade do agente:

  • Nome da operação identificando a função ou o processo específico que está sendo executado

  • Registros de data e hora marcando os horários exatos de início e término da operação

  • Parent-child relacionamentos que mostram como as operações se encaixam em processos maiores

  • Tags e atributos que fornecem metadados contextuais sobre a operação

  • Eventos marcando ocorrências significativas durante a vida útil do período

  • Informações de status indicando sucesso, falha ou outros estados de conclusão

  • Métricas de utilização de recursos específicas da operação

As extensões formam uma estrutura hierárquica dentro dos rastreamentos, com as extensões principais abrangendo as extensões secundárias que representam operações mais granulares. Por exemplo, um período de “processar consulta do usuário” de alto nível pode conter períodos secundários para “analisar entrada”, “recuperar contexto”, “gerar resposta” e “formatar saída”. Essa organização hierárquica cria uma árvore de execução detalhada que revela o fluxo completo de operações dentro do agente.

Por padrão, AgentCore gera um conjunto de dados de abrangência somente para recursos de memória. Esses dados podem ser visualizados em CloudWatch registros e sinais de CloudWatch aplicativos. Para registrar dados de abrangência de seus agentes ou recursos de gateway, você precisa instrumentar seu agente. Consulte Habilitando a observabilidade no código do agente para AgentCore-hosted agentes e Habilitando a observabilidade para agentes hospedados fora do AgentCore para saber mais.

Relação entre sessões, rastreamentos e extensões

Sessões, rastreamentos e extensões formam uma relação hierárquica de três camadas na estrutura de observabilidade para agentes. Uma sessão contém vários rastreamentos, com cada rastreamento representando uma interação discreta dentro do contexto mais amplo da sessão. Cada rastreamento, por sua vez, contém várias extensões que capturam as operações e etapas refinadas dessa interação. Essa estrutura hierárquica permite analisar o comportamento do agente em diferentes níveis de granularidade, desde padrões de sessão de alto nível até fluxos de interação de nível médio e caminhos de execução detalhados para operações específicas.

A relação entre esses três componentes de observabilidade pode ser visualizada como:

  • Sessões (nível mais alto) - Representam conversas completas do usuário ou contextos de interação

  • Rastreamentos (nível médio) - representam ciclos individuais de solicitação-resposta em uma sessão

  • Extensões (nível mais baixo) - representam operações ou etapas específicas em um rastreamento

Esse relacionamento de várias camadas permite vários recursos importantes de observabilidade:

  • Análise contextual de interações individuais em seu fluxo de conversação mais amplo

  • Correlação de solicitações relacionadas em toda a jornada de interação de um usuário

  • Solução de problemas progressiva, de anomalias em nível de sessão a padrões em nível de rastreamento e causas básicas em nível de extensão

  • Perfil de desempenho abrangente em diferentes dimensões temporais e funcionais

  • Compreensão holística dos padrões de comportamento e evolução dos agentes ao longo de uma conversa

  • Identificação precisa de gargalos de desempenho no nível de operação por meio da análise de abrangência

Embora os rastreamentos forneçam visibilidade de ciclos completos de solicitação-resposta, os intervalos oferecem uma visão mais profunda do funcionamento interno desses ciclos. As extensões revelam exatamente quais operações consomem mais tempo, onde os erros se originam e como diferentes componentes interagem em um único rastreamento. Essa granularidade é particularmente valiosa ao solucionar problemas complexos ou otimizar o desempenho em implementações sofisticadas de agentes.

Ao aproveitar os dados de sessão, rastreamento e abrangência em sua estratégia de observabilidade, você pode obter informações abrangentes sobre o comportamento, o desempenho e a eficácia do seu agente em vários níveis de detalhes. Essa abordagem de observabilidade em várias camadas oferece suporte à melhoria contínua, à solução de problemas robusta e à otimização informada das implementações de seus agentes, desde padrões de conversação de alto nível até o desempenho da operação individual.