As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Monitorar a integridade e a performance do Amazon Bedrock
É possível monitorar todas as partes da aplicação do Amazon Bedrock usando o Amazon CloudWatch, que coleta dados brutos e os processa em métricas legíveis quase em tempo real. É possível representar as métricas graficamente usando o console do CloudWatch. Também é possível definir alarmes que observam determinados limites e enviam notificações ou realizam ações quando os valores excedem esse limites.
Para obter mais informações, consulte O que é o Amazon CloudWatch? no Guia do usuário do Amazon CloudWatch.
Tópicos
- Monitore a invocação do modelo usando Logs CloudWatch
- Monitorar bases de conhecimento usando o CloudWatch Logs
- Monitore os guardrails do Amazon Bedrock usando métricas CloudWatch
- Monitorar o Amazon Bedrock Studio usando o CloudWatch Logs
- Métricas de runtime do Amazon Bedrock
- Métricas do CloudWatch para o Amazon Bedrock
- Monitorar as mudanças de estado de trabalhos do Amazon Bedrock usando o Amazon EventBridge
- Monitore API chamadas do Amazon Bedrock usando CloudTrail
Métricas de runtime do Amazon Bedrock
A tabela a seguir descreve as métricas de tempo de execução fornecidas pelo Amazon Bedrock.
| Nome da métrica | Unidade | Descrição |
|---|---|---|
| Invocações | SampleCount | Número de solicitações para as operações de API Converse, ConverseStream, InvokeModel e InvokeModelWithResponseStream. |
|
InvocationLatency |
MilliSeconds |
Latência das invocações.
|
|
InvocationClientErrors |
SampleCount |
Número de invocações que resultam em erros do lado do cliente. |
|
InvocationServerErrors |
SampleCount |
Número de invocações que resultam em erros do lado do servidor da AWS. |
|
InvocationThrottles |
SampleCount |
Número de invocações que o sistema limitou. |
|
InputTokenCount |
SampleCount |
Número de tokens na entrada. |
| LegacyModelInvocations | SampleCount | Número de invocações usando modelos herdados |
|
OutputTokenCount |
SampleCount |
Número de tokens na saída. |
|
OutputImageCount |
SampleCount |
Número de imagens na saída (aplicável somente a modelos de geração de imagens). |
Métricas do CloudWatch para o Amazon Bedrock
Para cada tentativa de entrega bem-sucedida ou com falha, as seguintes métricas do Amazon CloudWatch são emitidas sob o namespace AWS/Bedrock e a dimensão Across all model IDs:
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Para recuperar métricas para as operações do Amazon Bedrock, especifique as seguintes informações:
-
A dimensão da métrica. Uma dimensão é um conjunto de pares de nome-valor que você usa para identificar uma métrica. O Amazon Bedrock é compatível com as seguintes dimensões:
-
ModelId: todas as métricas -
ModelId + ImageSize + BucketedStepSize: OutputImageCount
-
-
O nome da métrica, como
InvocationClientErrors.
É possível obter métricas para o Amazon Bedrock com o AWS Management Console, a AWS CLI ou a API do CloudWatch. É possível usar a API do CloudWatch por meio de um dos kits de desenvolvimento de software (SDKs) da AWS ou das ferramentas de API do CloudWatch.
Para visualizar as métricas do Amazon Bedrock no console do CloudWatch, acesse a seção de métricas no painel de navegação, selecione a opção de todas as métricas e pesquise o ID do modelo.
Você deve ter as permissões adequadas do CloudWatch para monitorar o Amazon Bedrock com o CloudWatch. Para obter mais informações, consulte Autenticação e controle de acesso para o Amazon CloudWatch no Guia do usuário do Amazon CloudWatch.
