Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

SageMaker HyperPod Osservabilità di Amazon con Amazon Managed Grafana e Amazon Managed Service per Prometheus

Amazon SageMaker HyperPod (SageMaker HyperPod) fornisce una dashboard completa e pronta all'uso che fornisce informazioni dettagliate sulle attività di sviluppo del modello di base (FM) e sulle risorse dei cluster. Questa soluzione unificata di osservabilità pubblica automaticamente le metriche chiave in Servizio gestito da Amazon per Prometheus e le visualizza nelle dashboard di Grafana gestito da Amazon. Le dashboard sono ottimizzate specificamente per lo sviluppo di FM con una copertura approfondita dello stato di integrità dell’hardware, dell’utilizzo delle risorse e delle prestazioni a livello di attività. Con questo componente aggiuntivo, puoi consolidare i dati sullo stato e sulle prestazioni di NVIDIA DCGM, esportatori di nodi Kubernetes a livello di istanza, Elastic Fabric Adapter, file system integrati, API Kubernetes, Kueue e task operator. SageMaker HyperPod

Supporto per Restricted Instance Group (RIG)

L'add-on per l'osservabilità supporta anche i cluster che contengono gruppi di istanze con restrizioni. Nei cluster RIG, l'add-on adatta automaticamente la propria strategia di distribuzione per rispettare l'isolamento della rete e i vincoli di sicurezza dei nodi con restrizioni. DaemonSet i componenti (node exporter, DCGM exporter, EFA exporter, Neuron monitor e node collector) funzionano sia su nodi standard che su nodi limitati. I componenti di distribuzione (central collector, Kube State Metrics e Training Metrics Agent) sono pianificati con una logica che riconosce i confini per rispettare l'isolamento della rete tra i gruppi di istanze. La raccolta di log del contenitore con Fluent Bit non è disponibile sui nodi con restrizioni.

Per informazioni sulla configurazione del componente aggiuntivo sui cluster con gruppi di istanze con restrizioni, vedere. Configurazione del componente aggiuntivo per l'osservabilità SageMaker HyperPod