Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

SageMaker HyperPod Amazon-Observability mit Amazon Managed Grafana und Amazon Managed Service für Prometheus

Amazon SageMaker HyperPod (SageMaker HyperPod) bietet ein umfassendes, sofort einsatzbereites Dashboard, das Ihnen Einblicke in die Entwicklungsaufgaben und Cluster-Ressourcen des Foundation-Modells (FM) bietet. Diese vereinheitlichte Observability-Lösung veröffentlicht automatisch wichtige Metriken in Amazon Managed Service für Prometheus und zeigt sie in Amazon-Managed Grafana-Dashboards an. Die Dashboards wurden speziell für die FM-Entwicklung optimiert und decken umfassende Informationen zum Zustand der Hardware, zur Ressourcennutzung und zur Leistung auf Aufgabenebene ab. Mit diesem Add-on können Sie Integritäts- und Leistungsdaten von NVIDIA DCGM, Kubernetes-Node-Exportern auf Instanzebene, Elastic Fabric Adapter, integrierten Dateisystemen, Kubernetes-APIs, Kueue und Task-Operatoren konsolidieren. SageMaker HyperPod

Unterstützung für eingeschränkte Instanzgruppen (RIG)

Das Observability-Add-on unterstützt auch Cluster, die eingeschränkte Instanzgruppen enthalten. In RIG-Clustern passt das Add-on seine Bereitstellungsstrategie automatisch an, um den Netzwerkisolations- und Sicherheitsbeschränkungen eingeschränkter Knoten zu entsprechen. DaemonSet Komponenten (Node-Exporter, DCGM-Exporter, EFA-Exporter, Neuron-Monitor und Node Collector) laufen sowohl auf Standard- als auch auf eingeschränkten Knoten. Die Bereitstellungskomponenten (Central Collector, Kube State Metrics und Training Metrics Agent) werden mit einer grenzübergreifenden Logik geplant, um die Netzwerkisolierung zwischen Instanzgruppen zu berücksichtigen. Die Erfassung von Container-Protokollen mit Fluent Bit ist auf eingeschränkten Knoten nicht verfügbar.

Informationen zur Einrichtung des Add-ons auf Clustern mit eingeschränkten Instanzgruppen finden Sie unterEinrichtung des SageMaker HyperPod Observability-Add-ons.