Monitora lo stato e le prestazioni di Amazon Bedrock - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Monitora lo stato e le prestazioni di Amazon Bedrock

Puoi monitorare tutte le parti della tua applicazione Amazon Bedrock utilizzando Amazon CloudWatch, che raccoglie dati grezzi e li elabora in metriche leggibili quasi in tempo reale. Puoi rappresentare graficamente le metriche utilizzando la console. CloudWatch Puoi anche impostare allarmi che controllano determinate soglie e inviare notifiche o intraprendere azioni quando i valori superano queste soglie.

Per ulteriori informazioni, consulta What is Amazon CloudWatch nella Amazon CloudWatch User Guide.

Metriche di runtime di Amazon Bedrock

La tabella seguente descrive le metriche di runtime fornite da Amazon Bedrock.

Nome parametro Unità Descrizione
Invocazioni SampleCount Numero di richieste a Converse, ConverseStreamInvokeModel, e operazioni. InvokeModelWithResponseStreamAPI

InvocationLatency

MilliSeconds

Latenza delle invocazioni.

InvocationClientErrors

SampleCount

Numero di invocazioni che provocano errori sul lato client.

InvocationServerErrors

SampleCount

Numero di chiamate che provocano errori sul lato server. AWS

InvocationThrottles

SampleCount

Numero di invocazioni limitate dal sistema.

InputTokenCount

SampleCount

Numero di token nell'input.

LegacyModelInvocations SampleCount Numero di invocazioni che utilizzano modelli Legacy

OutputTokenCount

SampleCount

Numero di token nell'output.

OutputImageCount

SampleCount

Numero di immagini nell'output (applicabile solo per i modelli di generazione di immagini).

CloudWatch metriche per Amazon Bedrock

Per ogni tentativo di consegna riuscito o non riuscito, vengono emesse le seguenti CloudWatch metriche Amazon sotto il namespace AWS/Bedrock e la dimensione: Across all model IDs

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Per recuperare le metriche per le operazioni di Amazon Bedrock, specifica le seguenti informazioni:

  • La dimensione del parametro. Una dimensione è un set di coppie nome-valore utilizzate per identificare una metrica. Amazon Bedrock supporta le seguenti dimensioni:

    • ModelId: tutte le metriche

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • Il nome del parametro, ad esempio InvocationClientErrors.

Puoi ottenere metriche per Amazon Bedrock con il AWS Management Console, il AWS CLI, o il. CloudWatch API Puoi utilizzarli CloudWatch API tramite uno dei AWS Software Development Kit (SDKs) o gli strumenti. CloudWatch API

Per visualizzare i parametri di Amazon Bedrock nella CloudWatch console, vai alla sezione metriche nel riquadro di navigazione e seleziona l'opzione tutte le metriche, quindi cerca l'ID del modello.

È necessario disporre delle CloudWatch autorizzazioni appropriate per monitorare Amazon Bedrock con. CloudWatch Per ulteriori informazioni, consulta Authentication and Access Control for Amazon CloudWatch nella Amazon CloudWatch User Guide.