Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Monitora lo stato e le prestazioni di Amazon Bedrock
Puoi monitorare tutte le parti della tua applicazione Amazon Bedrock utilizzando Amazon CloudWatch, che raccoglie dati grezzi e li elabora in metriche leggibili quasi in tempo reale. Puoi rappresentare graficamente le metriche utilizzando la console. CloudWatch Puoi anche impostare allarmi che controllano determinate soglie e inviare notifiche o intraprendere azioni quando i valori superano queste soglie.
Per ulteriori informazioni, consulta What is Amazon CloudWatch nella Amazon CloudWatch User Guide.
Argomenti
- Monitora l'invocazione del modello utilizzando Logs CloudWatch
- Monitora le knowledge base utilizzando CloudWatch i log
- Monitora Amazon Bedrock Guardrails utilizzando Metrics CloudWatch
- Monitora Amazon Bedrock Studio utilizzando i log CloudWatch
- Metriche di runtime di Amazon Bedrock
- CloudWatch metriche per Amazon Bedrock
- Monitora le modifiche allo stato dei job di Amazon Bedrock con Amazon EventBridge
- Monitora le API chiamate Amazon Bedrock utilizzando CloudTrail
Metriche di runtime di Amazon Bedrock
La tabella seguente descrive le metriche di runtime fornite da Amazon Bedrock.
Nome parametro | Unità | Descrizione |
---|---|---|
Invocazioni | SampleCount | Numero di richieste a Converse, ConverseStreamInvokeModel, e operazioni. InvokeModelWithResponseStreamAPI |
InvocationLatency |
MilliSeconds |
Latenza delle invocazioni.
|
InvocationClientErrors |
SampleCount |
Numero di invocazioni che provocano errori sul lato client. |
InvocationServerErrors |
SampleCount |
Numero di chiamate che provocano errori sul lato server. AWS |
InvocationThrottles |
SampleCount |
Numero di invocazioni limitate dal sistema. |
InputTokenCount |
SampleCount |
Numero di token nell'input. |
LegacyModelInvocations | SampleCount | Numero di invocazioni che utilizzano modelli Legacy |
OutputTokenCount |
SampleCount |
Numero di token nell'output. |
OutputImageCount |
SampleCount |
Numero di immagini nell'output (applicabile solo per i modelli di generazione di immagini). |
CloudWatch metriche per Amazon Bedrock
Per ogni tentativo di consegna riuscito o non riuscito, vengono emesse le seguenti CloudWatch metriche Amazon sotto il namespace AWS/Bedrock
e la dimensione: Across all model IDs
-
ModelInvocationLogsCloudWatchDeliverySuccess
-
ModelInvocationLogsCloudWatchDeliveryFailure
-
ModelInvocationLogsS3DeliverySuccess
-
ModelInvocationLogsS3DeliveryFailure
-
ModelInvocationLargeDataS3DeliverySuccess
-
ModelInvocationLargeDataS3DeliveryFailure
Per recuperare le metriche per le operazioni di Amazon Bedrock, specifica le seguenti informazioni:
-
La dimensione del parametro. Una dimensione è un set di coppie nome-valore utilizzate per identificare una metrica. Amazon Bedrock supporta le seguenti dimensioni:
-
ModelId
: tutte le metriche -
ModelId + ImageSize + BucketedStepSize
– OutputImageCount
-
-
Il nome del parametro, ad esempio
InvocationClientErrors
.
Puoi ottenere metriche per Amazon Bedrock con il AWS Management Console, il AWS CLI, o il. CloudWatch API Puoi utilizzarli CloudWatch API tramite uno dei AWS Software Development Kit (SDKs) o gli strumenti. CloudWatch API
Per visualizzare i parametri di Amazon Bedrock nella CloudWatch console, vai alla sezione metriche nel riquadro di navigazione e seleziona l'opzione tutte le metriche, quindi cerca l'ID del modello.
È necessario disporre delle CloudWatch autorizzazioni appropriate per monitorare Amazon Bedrock con. CloudWatch Per ulteriori informazioni, consulta Authentication and Access Control for Amazon CloudWatch nella Amazon CloudWatch User Guide.