Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Observability für SageMaker HyperPod Amazon-Cluster, orchestriert von Amazon EKS
Um eine umfassende Beobachtbarkeit Ihrer Amazon SageMaker HyperPod (SageMaker HyperPod) -Cluster-Ressourcen und Softwarekomponenten zu erreichen, integrieren Sie den Cluster in Amazon CloudWatch Container Insights, Amazon Managed Service for Prometheus und Amazon Managed Grafana. Diese Tools bieten Einblick in den Zustand des Clusters, die Leistungskennzahlen und die Ressourcennutzung.
Die Integration mit Amazon Managed Service for Prometheus ermöglicht den Export von Metriken zu Ihren HyperPod Cluster-Ressourcen und bietet Einblicke in deren Leistung, Auslastung und Zustand. Die Integration mit Amazon Managed Grafana ermöglicht die Visualisierung dieser Metriken über verschiedene Grafana-Dashboards, die eine intuitive Oberfläche für die Überwachung und Analyse des Clusterverhaltens bieten. Durch die Nutzung dieser Services erhalten Sie einen zentralen und einheitlichen Überblick über Ihren HyperPod Cluster, was die proaktive Überwachung, Fehlerbehebung und Optimierung Ihrer verteilten Trainingsworkloads erleichtert.
Anmerkung
Amazon Managed Service for Prometheus und Amazon Managed Grafana konzentrieren sich zwar CloudWatch auf betriebliche Kennzahlen (z. B. Systemzustand, Trainingsleistung bei der Arbeit), aber SageMaker HyperPod Nutzungsberichte ergänzen Task Governance, um Einblicke in Finanzen und Ressourcenverantwortung zu erhalten. Diese Berichte verfolgen:
-
Berechnen Sie die Auslastung (GPU/CPU/Neuron Kernstunden) von namespaces/teams
-
Zuordnung der Kosten für zugewiesene und geliehene Ressourcen
-
Historische Trends (bis zu 180 Tage) zur Prüfung und Optimierung
Weitere Informationen zum Einrichten und Generieren von Nutzungsberichten finden Sie unter Berichterstattung über die Computernutzung in HyperPod.
Tipp
Praktische Beispiele und Lösungen finden Sie auch im Abschnitt
Fahren Sie mit den folgenden Themen fort, um die SageMaker HyperPod Cluster-Observability einzurichten.
Themen
