Überwachung der Endgeräte - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überwachung der Endgeräte

Nachdem Sie einen SageMaker KI-Hosting-Endpunkt erstellt haben, können Sie Ihren Endpunkt mithilfe von Amazon CloudWatch überwachen. Amazon sammelt Rohdaten und verarbeitet sie zu lesbaren, nahezu in Echtzeit verfügbaren Metriken. Mithilfe dieser Metriken können Sie auf historische Informationen zugreifen und sich einen besseren Überblick über die Leistung Ihres Endpunkts verschaffen. Weitere Informationen finden Sie im CloudWatch Amazon-Benutzerhandbuch.

Auf der Seite mit den Endpunktdetails auf der Registerkarte Überwachung können Sie sich CloudWatch Metrikdaten ansehen, die von Ihrem Endpunkt erfasst wurden.

Die Registerkarte Überwachen enthält die folgenden Abschnitte:

  • Betriebsmetriken: Sehen Sie sich Metriken an, die die Auslastung der Ressourcen Ihres Endpunkts verfolgen, z. B. CPU-Auslastung und Speicherauslastung.

  • Aufrufmetriken: Sehen Sie sich Metriken an, die die Anzahl, den Zustand und den Status von InvokeEndpoint Anfragen verfolgen, die an Ihren Endpunkt eingehen, z. B. Aufrufmodellfehler und Modelllatenz.

  • Integritätskennzahlen: Sehen Sie sich Metriken an, die den allgemeinen Zustand Ihres Endpunkts verfolgen, z. B. Aufruffehler und Benachrichtigungsfehler.

Eine ausführliche Beschreibung der einzelnen Metriken finden Sie unter SageMaker KI überwachen mit CloudWatch.

Der folgende Screenshot zeigt den Abschnitt Betriebsmetriken für einen serverlosen Endpunkt.

Screenshot der Metrikdiagramme im Abschnitt mit den Betriebsmetriken auf der Seite mit den Endpunktdetails.

Sie können den Zeitraum und die Statistik, die Sie für die Kennzahlen in einem bestimmten Abschnitt verfolgen möchten, sowie den Zeitraum, für den Sie die Metrikdaten anzeigen möchten, anpassen. Sie können der Ansicht auch Metrik-Widgets für jeden Abschnitt hinzufügen und daraus entfernen, indem Sie Widget hinzufügen wählen. Im Dialogfeld Widget hinzufügen können Sie die Metriken, die Sie sehen möchten, auswählen und deren Auswahl aufheben.

Welche Metriken verfügbar sind, hängt möglicherweise von Ihrem Endpunkttyp ab. Beispielsweise verfügen serverlose Endgeräte über einige Messwerte, die für Echtzeit-Endpunkte nicht verfügbar sind. Spezifischere Überwachen von -Metriken nach Endpunkttyp finden Sie auf den folgenden Seiten: