View a markdown version of this page

Observabilidade e controles de custos - Base da Amazônia AgentCore

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Observabilidade e controles de custos

Esta página aborda o monitoramento de seu equipamento, o controle dos custos de execução e o gerenciamento de tags de recursos.

Observabilidade

Cada invocação de harness gera automaticamente rastreamentos, registros e métricas por meio AgentCore do Observability in. CloudWatch Chamadas de modelo, invocações de ferramentas, operações de memória, comandos shell: cada etapa aparece com detalhes de tempo e carga útil. Sem configuração extra. Os traços estão disponíveis a partir da primeira invocação.

Traços, registros e métricas fluem para CloudWatch a função de execução do harness. Visualize-os no painel do AgentCore Observability ou consulte-os programaticamente por meio dos CloudWatch registros e das APIs. X-Ray

Antes de ver os rastreamentos, ative a Pesquisa de transações em CloudWatch (uma vez por conta). Consulte Introdução ao AgentCore Observability para obter detalhes de configuração.

Saiba mais: Visão geral da observabilidade · métricas · telemetria

CloudTrail

As operações do Harness são registradas AWS CloudTrail como eventos de gerenciamento (plano de controle) e eventos de dados (plano de dados). Em CloudTrail, os recursos de aproveitamento aparecem sob o tipo de AWS::BedrockAgentCore::Runtime recurso em vez de um tipo específico de aproveitamento. Harness é uma abstração gerenciada sobre o AgentCore Runtime, e CloudTrail os eventos refletem o recurso de tempo de execução subjacente para fins de consistência.

Todos os CloudTrail eventos de arnês usam resources.type =AWS::BedrockAgentCore::Runtime. Os nomes dos eventos são:

  • CreateHarness,UpdateHarness,DeleteHarness,GetHarness, ListHarnesses (eventos de gerenciamento)

  • InvokeAgentRuntime, InvokeAgentRuntimeCommand (eventos de dados)

nota

As operações do plano de dados aparecem como InvokeAgentRuntime e InvokeAgentRuntimeCommand em CloudTrail, correspondendo à API Runtime subjacente. O resources.ARN campo contém o ARN do chicote para eventos do plano de controle e o ARN de tempo de execução para eventos do plano de dados.

Entenda os custos de aproveitamento

Não há custo adicional para o arnês em si. Você paga taxas padrão pelos recursos subjacentes que o equipamento usa. Para ver as tarifas atuais, consulte os AgentCore preços do Amazon Bedrock e a página de preços do seu fornecedor de modelos.

A tabela a seguir descreve os recursos que podem gerar cobranças quando você usa o arnês.

Recurso Quando as cobranças são aplicadas O que determina o uso

AgentCore Tempo de execução

AgentCore O Runtime inicia uma microVM para cada sessão do harness.

AgentCore O tempo de execução é responsável pelo consumo real da CPU e pelo pico de memória consumido a cada segundo, desde a inicialização até o encerramento da microVM, incluindo a sobrecarga do sistema. As cobranças da CPU não se aplicam durante a I/O espera do modelo ou da ferramenta se nenhum processo em segundo plano usar a CPU. A memória permanece faturável enquanto a sessão é executada.

Inferência do modelo

O fornecedor do modelo fatura cada vez que o agente chama o modelo configurado. Uma invocação de equipamento pode fazer várias chamadas de modelo.

O provedor calcula as cobranças dos tokens de entrada e saída. A entrada inclui o prompt do sistema, histórico de conversas, memória recuperada, instruções de habilidades e definições das ferramentas permitidas. Para saber mais sobre a sobrecarga de definição de ferramentas, consulte. Ferramentas

AgentCore Memória

AgentCore A memória é cobrada quando o equipamento grava eventos ou recupera registros. A memória gerenciada é ativada por padrão; as cobranças também se aplicam à memória conectada.

AgentCore A memória mede novos eventos de curto prazo, registros de memória de longo prazo armazenados e solicitações de recuperação de memória de longo prazo.

AgentCore Navegador e intérprete de código

O navegador e o intérprete de código cobram quando o agente usa essas ferramentas configuradas.

Cada serviço mede o consumo ativo de CPU e memória em suas sessões. Suas definições de ferramentas ainda podem adicionar tokens de entrada de modelo quando permitidos, mesmo que o agente não os chame.

AgentCore Gateway e pesquisa na Web

O gateway cobra quando o equipamento descobre ou invoca ferramentas, realiza pesquisas ou usa ferramentas indexadas. O Web Search é cobrado quando o equipamento envia uma consulta.

O Gateway mede operações de API, consultas de pesquisa e ferramentas indexadas, conforme aplicável. O Web Search mede suas consultas separadamente.

Observabilidade

CloudWatch fatura os rastreamentos, registros e métricas que cada invocação emite.

CloudWatch mede a ingestão, o armazenamento e o uso de consultas.

Armazenamento e rede

Os serviços de armazenamento e rede são cobrados quando você usa um contêiner personalizado, sistemas de arquivos persistentes ou transferência de dados.

O Amazon ECR mede o armazenamento de imagens. O Amazon S3 e o EFS medem o uso de recursos. As taxas de transferência de dados padrão se aplicam ao tráfego da rede.

Estime o custo do tempo de

O faturamento em tempo de execução usa o consumo ativo por segundo em vez do tempo de instância provisionado:

CPU cost = consumed vCPU-seconds / 3,600 * vCPU-hour rate Memory cost = sum of peak GB consumed in each second / 3,600 * GB-hour rate

Não estime o custo da CPU apenas com base na invocação do relógio de parede ou na duração da sessão. As I/O esperas de modelo e ferramenta não geram cobranças de CPU quando nenhum outro processo usa CPU. No entanto, o consumo de memória permanece faturável. Um menor tempo idleRuntimeSessionTimeout pode reduzir por quanto tempo a memória permanece faturável após a última invocação, ao custo de partidas a frio mais frequentes.

Uso de medidas e atributos

  • Leia metadata eventos no fluxo de invocação para usar o token do modelo.

  • Use rastreamentos AgentCore de observabilidade, CloudWatch registros e X-Ray APIs para identificar chamadas de modelo, chamadas de ferramentas, operações de memória e sua duração. A observabilidade explica a atividade, mas não é um relatório de cobrança.

  • Use o AWS Cost Explorer ou o Relatório de AWS Custos e Uso para uso faturado. Ative suas etiquetas de chicote como etiquetas de alocação de custos para filtrar as cobranças suportadas.

As tags de aproveitamento se propagam para o tempo de execução gerenciado, o endpoint de tempo de execução e a memória gerenciada criada para o equipamento. Marque recursos criados separadamente, como Gateway, EFS, S3 ou um recurso traga sua própria memória, de forma independente.

Controle o custo com limites

Estabeleça limites rígidos para que um agente fugitivo não consiga gastar recursos:

  • maxIterations- reasoning/action ciclos por invocação. Padrão 75.

  • timeoutSeconds- tempo limite do relógio de parede para uma única invocação. Padrão 3600.

  • maxTokens- orçamento simbólico por invocação. Padrão N/A.

  • idleRuntimeSessionTimeout- por quanto tempo uma microVM ociosa permanece aquecida. Padrão 900.

  • maxLifetime- vida útil máxima de uma sessão de microVM. Padrão 28800.

Todos os limites são opcionais; omita-os para usar os padrões do serviço. Como o harness é apoiado pelo AgentCore Runtime, as invocações do harness também estão sujeitas às cotas de serviço do Runtime. Para obter mais informações, consulte AgentCore Aproveitar as cotas de serviço e as cotas de serviço AgentCore de tempo de execução.

exemplo
AWS CLI/boto3
aws bedrock-agentcore-control update-harness \ --harness-id "MyHarness-UuFdkQoXSL" \ --max-iterations 50 \ --timeout-seconds 1800 \ --max-tokens 8192

Ou substitua uma única invocação passando maxIterationstimeoutSeconds, ou entrando. maxTokens invoke_harness

AgentCore CLI

Defina os padrões:

agentcore add harness --name bounded-agent \ --max-iterations 50 --timeout 1800 --max-tokens 8192 \ --truncation-strategy sliding_window \ --idle-timeout 600 --max-lifetime 14400 agentcore deploy

A --truncation-strategy bandeira aceita sliding_window ousummarization. Os --max-lifetime sinalizadores --idle-timeout e definem os limites do ciclo de vida em segundos.

Substituir em uma única chamada:

agentcore invoke --harness bounded-agent --max-iterations 20 --harness-timeout 600 \ "Quick lookup: what's the weather in Seattle?"

Tags

Aplique etiquetas em seu equipamento para alocação de custos e controle de acesso.

exemplo
AWS CLI/boto3
aws bedrock-agentcore-control create-harness \ --harness-name "MyHarness" \ --execution-role-arn "arn:aws:iam::123456789012:role/MyHarnessRole" \ --tags '{"team": "platform", "environment": "staging"}'
AgentCore CLI

Defina tags emharness.json:

{ "tags": { "team": "platform", "environment": "staging" } }

Corra agentcore deploy para se inscrever.

As tags de aproveitamento se propagam para o tempo de execução gerenciado, o endpoint de tempo de execução e a memória gerenciada criada para o equipamento. Os recursos criados separadamente mantêm suas próprias tags.