Überwachen Sie den Zustand und die Leistung von Amazon Bedrock - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überwachen Sie den Zustand und die Leistung von Amazon Bedrock

Sie können alle Teile Ihrer Amazon Bedrock-Anwendung mithilfe von Amazon überwachen. Amazon CloudWatch sammelt Rohdaten und verarbeitet sie zu lesbaren, nahezu in Echtzeit verfügbaren Metriken. Sie können die Metriken mithilfe der CloudWatch Konsole grafisch darstellen. Sie können auch Alarme einrichten, die auf bestimmte Grenzwerte achten und Benachrichtigungen senden oder Aktivitäten auslösen, wenn diese Grenzwerte überschritten werden.

Weitere Informationen finden Sie unter Was ist Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.

Amazon Bedrock-Laufzeitmetriken

In der folgenden Tabelle werden die von Amazon Bedrock bereitgestellten Laufzeitmetriken beschrieben.

Metrikname Einheit Beschreibung
Aufrufe SampleCount Anzahl der Anfragen an die Converse, ConverseStreamInvokeModel, und InvokeModelWithResponseStreamAPIOperationen.

InvocationLatency

MilliSeconds

Latenz der Aufrufe

InvocationClientErrors

SampleCount

Anzahl der Aufrufe, die zu clientseitigen Fehlern führen

InvocationServerErrors

SampleCount

Anzahl der Aufrufe, die zu serverseitigen Fehlern führen. AWS

InvocationThrottles

SampleCount

Anzahl der Aufrufe, die das System gedrosselt hat

InputTokenCount

SampleCount

Anzahl der Token in der Eingabe.

LegacyModelInvocations SampleCount Anzahl der Aufrufe mit Legacy-Modellen

OutputTokenCount

SampleCount

Anzahl der Token in der Ausgabe.

OutputImageCount

SampleCount

Anzahl der Bilder in der Ausgabe (gilt nur für Modelle zur Bilderzeugung).

CloudWatch Metriken für Amazon Bedrock

Für jeden erfolgreichen oder fehlgeschlagenen Zustellversuch werden die folgenden CloudWatch Amazon-Metriken unter dem Namespace AWS/Bedrock und der Across all model IDs Dimension ausgegeben:

  • ModelInvocationLogsCloudWatchDeliverySuccess

  • ModelInvocationLogsCloudWatchDeliveryFailure

  • ModelInvocationLogsS3DeliverySuccess

  • ModelInvocationLogsS3DeliveryFailure

  • ModelInvocationLargeDataS3DeliverySuccess

  • ModelInvocationLargeDataS3DeliveryFailure

Geben Sie die folgenden Informationen an, um Metriken für Amazon–Bedrock-Operationen abzurufen:

  • Die Metrikdimension. Eine Dimension bezeichnet eine Reihe von Name-Wert-Paaren, mit denen eine Kennzahl eindeutig identifiziert wird. Amazon Bedrock unterstützt die folgenden Dimensionen:

    • ModelId – alle Metriken

    • ModelId + ImageSize + BucketedStepSize – OutputImageCount

  • Der Metrikname, beispielsweise InvocationClientErrors.

Sie können Metriken für Amazon Bedrock mit dem AWS Management Console AWS CLI, dem oder dem CloudWatch API abrufen. Sie können das CloudWatch API über eines der AWS Software Development Kits (SDKs) oder die CloudWatch API Tools verwenden.

Um Amazon Bedrock-Metriken in der CloudWatch Konsole anzuzeigen, gehen Sie zum Abschnitt Metriken im Navigationsbereich, wählen Sie die Option Alle Metriken aus und suchen Sie dann nach der Modell-ID.

Sie müssen über die entsprechenden CloudWatch Berechtigungen verfügen, um Amazon Bedrock mit überwachen zu können. CloudWatch Weitere Informationen finden Sie unter Authentifizierung und Zugriffskontrolle für Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.