As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Observabilidade e controles de custos
Esta página aborda o monitoramento de seu equipamento, o controle dos custos de execução e o gerenciamento de tags de recursos.
Observabilidade
Cada invocação de harness gera automaticamente rastreamentos, registros e métricas por meio AgentCore do Observability in. CloudWatch Chamadas de modelo, invocações de ferramentas, operações de memória, comandos shell: cada etapa aparece com detalhes de tempo e carga útil. Sem configuração extra. Os traços estão disponíveis a partir da primeira invocação.
Traços, registros e métricas fluem para CloudWatch a função de execução do harness. Visualize-os no painel do AgentCore Observability ou
Antes de ver os rastreamentos, ative a Pesquisa de transações em CloudWatch (uma vez por conta). Consulte Introdução ao AgentCore Observability para obter detalhes de configuração.
Saiba mais: Visão geral da observabilidade · métricas · telemetria
CloudTrail
As operações do Harness são registradas AWS CloudTrail como eventos de gerenciamento (plano de controle) e eventos de dados (plano de dados). Em CloudTrail, os recursos de aproveitamento aparecem sob o tipo de AWS::BedrockAgentCore::Runtime recurso em vez de um tipo específico de aproveitamento. Harness é uma abstração gerenciada sobre o AgentCore Runtime, e CloudTrail os eventos refletem o recurso de tempo de execução subjacente para fins de consistência.
Todos os CloudTrail eventos de arnês usam resources.type =AWS::BedrockAgentCore::Runtime. Os nomes dos eventos são:
-
CreateHarness,UpdateHarness,DeleteHarness,GetHarness,ListHarnesses(eventos de gerenciamento) -
InvokeAgentRuntime,InvokeAgentRuntimeCommand(eventos de dados)
nota
As operações do plano de dados aparecem como InvokeAgentRuntime e InvokeAgentRuntimeCommand em CloudTrail, correspondendo à API Runtime subjacente. O resources.ARN campo contém o ARN do chicote para eventos do plano de controle e o ARN de tempo de execução para eventos do plano de dados.
Entenda os custos de aproveitamento
Não há custo adicional para o arnês em si. Você paga taxas padrão pelos recursos subjacentes que o equipamento usa. Para ver as tarifas atuais, consulte os AgentCore preços do Amazon Bedrock
A tabela a seguir descreve os recursos que podem gerar cobranças quando você usa o arnês.
| Recurso | Quando as cobranças são aplicadas | O que determina o uso |
|---|---|---|
|
AgentCore Tempo de execução |
AgentCore O Runtime inicia uma microVM para cada sessão do harness. |
AgentCore O tempo de execução é responsável pelo consumo real da CPU e pelo pico de memória consumido a cada segundo, desde a inicialização até o encerramento da microVM, incluindo a sobrecarga do sistema. As cobranças da CPU não se aplicam durante a I/O espera do modelo ou da ferramenta se nenhum processo em segundo plano usar a CPU. A memória permanece faturável enquanto a sessão é executada. |
|
Inferência do modelo |
O fornecedor do modelo fatura cada vez que o agente chama o modelo configurado. Uma invocação de equipamento pode fazer várias chamadas de modelo. |
O provedor calcula as cobranças dos tokens de entrada e saída. A entrada inclui o prompt do sistema, histórico de conversas, memória recuperada, instruções de habilidades e definições das ferramentas permitidas. Para saber mais sobre a sobrecarga de definição de ferramentas, consulte. Ferramentas |
|
AgentCore Memória |
AgentCore A memória é cobrada quando o equipamento grava eventos ou recupera registros. A memória gerenciada é ativada por padrão; as cobranças também se aplicam à memória conectada. |
AgentCore A memória mede novos eventos de curto prazo, registros de memória de longo prazo armazenados e solicitações de recuperação de memória de longo prazo. |
|
AgentCore Navegador e intérprete de código |
O navegador e o intérprete de código cobram quando o agente usa essas ferramentas configuradas. |
Cada serviço mede o consumo ativo de CPU e memória em suas sessões. Suas definições de ferramentas ainda podem adicionar tokens de entrada de modelo quando permitidos, mesmo que o agente não os chame. |
|
AgentCore Gateway e pesquisa na Web |
O gateway cobra quando o equipamento descobre ou invoca ferramentas, realiza pesquisas ou usa ferramentas indexadas. O Web Search é cobrado quando o equipamento envia uma consulta. |
O Gateway mede operações de API, consultas de pesquisa e ferramentas indexadas, conforme aplicável. O Web Search mede suas consultas separadamente. |
|
Observabilidade |
CloudWatch fatura os rastreamentos, registros e métricas que cada invocação emite. |
CloudWatch mede a ingestão, o armazenamento e o uso de consultas. |
|
Armazenamento e rede |
Os serviços de armazenamento e rede são cobrados quando você usa um contêiner personalizado, sistemas de arquivos persistentes ou transferência de dados. |
O Amazon ECR mede o armazenamento de imagens. O Amazon S3 e o EFS medem o uso de recursos. As taxas de transferência de dados padrão se aplicam ao tráfego da rede. |
Estime o custo do tempo de
O faturamento em tempo de execução usa o consumo ativo por segundo em vez do tempo de instância provisionado:
CPU cost = consumed vCPU-seconds / 3,600 * vCPU-hour rate Memory cost = sum of peak GB consumed in each second / 3,600 * GB-hour rate
Não estime o custo da CPU apenas com base na invocação do relógio de parede ou na duração da sessão. As I/O esperas de modelo e ferramenta não geram cobranças de CPU quando nenhum outro processo usa CPU. No entanto, o consumo de memória permanece faturável. Um menor tempo idleRuntimeSessionTimeout pode reduzir por quanto tempo a memória permanece faturável após a última invocação, ao custo de partidas a frio mais frequentes.
Uso de medidas e atributos
-
Leia
metadataeventos no fluxo de invocação para usar o token do modelo. -
Use rastreamentos AgentCore de observabilidade, CloudWatch registros e X-Ray APIs para identificar chamadas de modelo, chamadas de ferramentas, operações de memória e sua duração. A observabilidade explica a atividade, mas não é um relatório de cobrança.
-
Use o AWS Cost Explorer ou o Relatório de AWS Custos e Uso para uso faturado. Ative suas etiquetas de chicote como etiquetas de alocação de custos para filtrar as cobranças suportadas.
As tags de aproveitamento se propagam para o tempo de execução gerenciado, o endpoint de tempo de execução e a memória gerenciada criada para o equipamento. Marque recursos criados separadamente, como Gateway, EFS, S3 ou um recurso traga sua própria memória, de forma independente.
Controle o custo com limites
Estabeleça limites rígidos para que um agente fugitivo não consiga gastar recursos:
-
maxIterations- reasoning/action ciclos por invocação. Padrão 75. -
timeoutSeconds- tempo limite do relógio de parede para uma única invocação. Padrão 3600. -
maxTokens- orçamento simbólico por invocação. Padrão N/A. -
idleRuntimeSessionTimeout- por quanto tempo uma microVM ociosa permanece aquecida. Padrão 900. -
maxLifetime- vida útil máxima de uma sessão de microVM. Padrão 28800.
Todos os limites são opcionais; omita-os para usar os padrões do serviço. Como o harness é apoiado pelo AgentCore Runtime, as invocações do harness também estão sujeitas às cotas de serviço do Runtime. Para obter mais informações, consulte AgentCore Aproveitar as cotas de serviço e as cotas de serviço AgentCore de tempo de execução.
exemplo
Tags
Aplique etiquetas em seu equipamento para alocação de custos e controle de acesso.
exemplo
As tags de aproveitamento se propagam para o tempo de execução gerenciado, o endpoint de tempo de execução e a memória gerenciada criada para o equipamento. Os recursos criados separadamente mantêm suas próprias tags.
Tópicos relacionados
-
Memória- a memória persiste no contexto da conversa entre as sessões
-
Ambiente e sistema de arquivos- variáveis de ambiente e contêineres personalizados
-
Segurança e controles de acesso- política de função de execução e permissões do IAM