View a markdown version of this page

Erste Schritte mit CloudWatch SageMaker AI Insights - Amazon CloudWatch
Schritt 1: IOT-Anreicherung aktivierenSchritt 2: Überprüfen Sie die EndpunktkonfigurationSchritt 3: Bestätigen Sie, dass der Endpunkt InServiceSchritt 4: Öffnen Sie SageMaker AI InsightsSchritt 5: Überprüfen Sie, ob die Daten fließenErforderliche Berechtigungen

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erste Schritte mit CloudWatch SageMaker AI Insights

Folgen Sie diesen Schritten, um SageMaker AI Insights für Ihre Inferenzendpunkte zu aktivieren und darauf zuzugreifen.

Die vollständige Anleitung zur Einrichtung detaillierter Beobachtbarkeitsmetriken auf Ihren Endpunkten finden Sie unter Detaillierte SageMaker KI-Observabilität im AI Developer Guide. SageMaker

Schritt 1: IOT-Anreicherung aktivieren

SageMaker Für AI Insights müssen die Anreicherung von oTEL-Metriken und Ressourcen-Tags in Ihrem Konto aktiviert sein.

Um die OtEL-Anreicherung zu aktivieren (Konsole)

  1. Öffnen Sie die CloudWatch Konsole und wählen Sie Einstellungen.

  2. Aktivieren Sie die OtEL-Metrikanreicherung.

  3. Aktivieren Sie Ressourcen-Tags für Telemetrie.

Verwenden Sie die folgenden Befehle AWS CLI, um die OTEL-Anreicherung mit dem zu aktivieren.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Schritt 2: Überprüfen Sie Ihre Endpunktkonfiguration

Stellen Sie sicher, dass EnableDetailedObservability dies in Ihrer Endpunktkonfiguration true auf eingestellt ist. Dies ist die Standardeinstellung für neue Endpunkte.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Wenn sie nicht aktiviert ist, erstellen Sie eine neue Endpunktkonfiguration, bei der das Flag auf gesetzt ist, true und aktualisieren Sie Ihren Endpunkt.

Schritt 3: Bestätigen Sie, dass Ihr Endpunkt InService

Vergewissern Sie sich, dass sich Ihr Endpunkt im InService Status befindet.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

Die erwartete Ausgabe ist"InService".

Schritt 4: Öffnen Sie SageMaker AI Insights

Navigieren Sie mithilfe eines der folgenden Pfade zum Dashboard.

  • CloudWatch Konsole → Infrastrukturüberwachung → SageMaker AI Insights

  • SageMaker KI-Konsole → Endpunkte → wählen Sie SageMaker AI Insights öffnen

  • SageMaker AI-Konsole → Endpunkt-Detailseite → Wählen Sie In SageMaker AI Insights anzeigen

Schritt 5: Überprüfen Sie, ob die Daten fließen

Nach 2—3 Minuten sollte das Dashboard mit den folgenden Daten gefüllt sein.

  • Die Anzahl der Aufrufe in der Übersichtsleiste

  • Daten zur Instanz und zur Inferenzkomponente (IC) auf der Registerkarte „Leistung“

  • Kennzahlen zur Auslastung auf der Registerkarte „Kapazität“

Tipp

Wenn Sie Keine Daten sehen, vergewissern Sie sich, dass die OTEL-Anreicherung aktiviert ist und Ihr Endpunkt InService seit mindestens 2—3 Minuten aktiv ist.

Erforderliche Berechtigungen für AI Insights SageMaker

Für die Verwendung von SageMaker AI Insights sind bestimmte IAM-Berechtigungen erforderlich. Die folgende Richtlinie enthält die Berechtigungen, die für die Verwendung von SageMaker AI Insights erforderlich sind.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}