Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Container-Insights-Metriken mit verbesserter Beobachtbarkeit für Amazon EKS und Kubernetes
Die folgende Tabelle listet die Metriken und Dimensionen auf, die von Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS und Kubernetes erfasst werden. Diese Metriken befinden sich im ContainerInsights-Namespace. Weitere Informationen finden Sie unter Kennzahlen.
Wenn Sie keine Container-Insights-Metriken mit verbesserter Beobachtbarkeit in Ihrer Konsole sehen, stellen Sie sicher, dass Sie die Einrichtung von Container Insights mit verbesserter Beobachtbarkeit durchgeführt haben. Metriken werden erst angezeigt, wenn Container Insights mit verbesserter Beobachtbarkeit vollständig eingerichtet wurde. Weitere Informationen finden Sie unter Container Insights.
Wenn Sie Version 1.5.0 oder höher des Amazon EKS-Add-ons oder Version 1.300035.0 des CloudWatch Agenten verwenden, werden die meisten in der folgenden Tabelle aufgeführten Metriken sowohl für Linux- als auch für Windows-Knoten erfasst. In der Tabellenspalte Metrikname können Sie sehen, welche Metriken für Windows nicht erfasst werden.
In der früheren Version von Container Insights, die aggregierte Metriken auf Cluster- und Serviceebene bereitstellt, werden die Metriken als benutzerdefinierte Metriken berechnet. Bei Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS werden die Container-Insights-Metriken pro Beobachtung abgerechnet, anstatt pro gespeicherter Metrik oder aufgenommenem Protokoll. Weitere Informationen zur Preisgestaltung finden Sie unter CloudWatch Amazon-Preise. CloudWatch
Anmerkung
Unter Windows werden Netzwerkmetriken wie pod_network_rx_bytes und pod_network_tx_bytes für Hostprozesscontainer nicht erfasst.
RedHat OpenShift Auf Clustern AWS (ROSA) werden Diskio-Metriken wie node_diskio_io_serviced_total und nicht node_diskio_io_service_bytes_total erfasst.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Anzahl der fehlgeschlagenen Workerknoten im Cluster. Ein Knoten gilt als ausgefallen, wenn er unter Knotenbedingungen leidet. Weitere Informationen finden Sie unter Bedingungen |
|
|
|
Die Gesamtzahl der Workerknoten im Cluster. |
|
|
|
Die Anzahl der Pods, die pro Namespace in der Ressource ausgeführt werden, die durch die von Ihnen verwendeten Dimensionen angegeben wird. |
|
|
|
Die maximale Anzahl der CPU-Einheiten, die einem einzelnen Knoten in diesem Cluster zugewiesen werden können. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die für Knotenkomponenten, wie z. B. kubelet, kube-proxy und Docker, reserviert sind. Formel: Anmerkung
|
|
|
|
Die Anzahl der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. |
|
|
|
Der Gesamtprozentsatz der CPU-Einheiten, die auf den Knoten im Cluster verwendet werden. Formel: |
|
|
|
Der Gesamtprozentsatz der Dateisystemkapazität, die auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Die maximale Menge an Arbeitsspeicher in Byte, die einem einzelnen Knoten in diesem Cluster zugewiesen werden kann. |
|
Ist nicht für Windows verfügbar. |
|
Die Gesamtzahl der inodes (verwendet und unbenutzt) auf einem Knoten. |
|
Ist nicht für Windows verfügbar. |
|
Die Anzahl der ungenutzten inodes auf einem Knoten. |
|
|
|
Die Gesamtzahl der auf dem Knoten verfügbaren GPUs. |
|
|
|
Die Anzahl der GPU(s), die von den laufenden Pods auf dem Knoten verwendet werden. |
|
|
|
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit auf den Knoten im Cluster verwendet wird. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Knoten oder den Knoten verwendet wird. Dies ist der Prozentsatz der Knotenspeichernutzung geteilt durch die Knotenspeicherbegrenzung. Formel: |
|
|
|
Die Menge an Arbeitsspeicher in Byte, die im arbeitenden Satz der Knoten im Cluster verwendet wird. |
|
|
|
Die Gesamtzahl der pro Knoten in einem Cluster über das Netzwerk gesendeten und empfangenen Bytes pro Sekunde. Formel: Anmerkung
|
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Container. |
|
|
|
Die Anzahl der pro Knoten in einem Cluster ausgeführten Pods. |
|
|
|
Die Anzahl der Pods, die einem Knoten auf der Grundlage seiner zuweisbaren Ressourcen zugewiesen werden können. Diese ist definiert als die verbleibende Kapazität eines Knotens nach Berücksichtigung der Reservierungen von System-Daemons und der harten Schwellenwerte für die Bereinigung. |
|
|
|
Die Anzahl der Pods, die einem Knoten basierend auf seiner Kapazität zugewiesen werden können. |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Zeigt an, ob die Knotenstatusbedingung |
|
|
|
Gibt an, ob eine der Knotenstatusbedingungen Unbekannt ist. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle auf dem Knoten empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber von einer Netzwerkschnittstelle auf dem Knoten verworfen wurden. |
|
Ist nicht für Windows oder auf ROSA-Clustern verfügbar. |
|
Die Gesamtzahl der Byte, die durch alle I/O Operationen auf dem Knoten übertragen wurden. |
|
Ist nicht für Windows oder auf ROSA-Clustern verfügbar. |
|
Die Gesamtzahl der I/O Operationen auf dem Knoten. |
|
|
|
Die CPU-Kapazität, die pro Pod in einem Cluster reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods verwendet werden. Formel: |
|
|
|
Der Prozentsatz der CPU-Einheiten, die von Pods im Verhältnis zum Pod-Limit verwendet werden. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der für Pods reserviert ist. Formel: Anmerkung
|
|
|
|
Der Prozentsatz des Arbeitsspeichers, der derzeit vom Pod oder Pods verwendet wird. Formel: |
|
|
|
Der Prozentsatz des Arbeitsspeichers, der von den Pods im Verhältnis zum Pod-Limit verwendet wird. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: |
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk empfangen werden. Formel: Anmerkung
|
|
|
|
Die Anzahl der Bytes pro Sekunde, die vom Pod über das Netzwerk übertragen werden. Formel: Anmerkung
|
|
|
|
Die CPU-Anforderungen für den Pod. Formel: Anmerkung
|
|
|
|
Die SpeicherAnforderungen für den Pod. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte CPU-Limit. Wenn für keinen der Container im Pod ein CPU-Limit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Das für die Container im Pod definierte Speicherlimit. Wenn für keinen der Container im Pod ein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Zeigt an, dass alle Container im Pod beendet wurden und mindestens ein Container mit einem Status ungleich Null beendet wurde oder vom System beendet wurde. |
|
|
|
Zeigt an, dass alle Container im Pod bereit sind, da sie den Zustand |
|
|
|
Zeigt an, dass alle Container im Pod laufen. |
|
|
|
Zeigt an, dass der Pod für einen Knoten geplant wurde. |
|
|
|
Zeigt an, dass der Status des Pods nicht abgerufen werden kann. |
|
|
|
Zeigt an, dass der Pod vom Cluster akzeptiert wurde, aber einer oder mehrere Container noch nicht bereit sind. |
|
|
|
Zeigt an, dass alle Container im Pod erfolgreich beendet wurden und nicht neu gestartet werden. |
|
|
|
Meldet die Anzahl der Container, die in der Pod-Spezifikation definiert sind. |
|
|
|
Meldet die Anzahl der Container im Pod, die sich derzeit im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die sich im Status |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund eines |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Meldet die Anzahl der Container im Pod, die aufgrund von |
|
|
|
Meldet die Anzahl der Container im Pod, die mit dem Grund |
|
|
|
Zeigt an, dass ein Pod aufgrund einer Überschreitung des Speicherlimits beendet wurde. Diese Metrik wird nur beim Auftreten dieses Problems angezeigt. |
|
|
|
Die Anzahl der Pakete, die von einer Netzwerkschnittstelle für den Pod empfangen und anschließend verworfen wurden. |
|
|
|
Die Anzahl der Pakete, die übertragen werden sollten, aber für den Pod verworfen wurden. |
|
|
Der derzeit von einem Pod verwendete Speicher in Byte. |
|
|
Die Anzahl von CPU-Einheiten, die von einem Pod verwendet werden. |
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Der Prozentsatz der CPU-Einheiten, die vom Container im Verhältnis zum Container-Limit verwendet werden. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
|
|
Prozentsatz der Speichereinheiten, die vom Container verwendet werden. Formel: Anmerkung
|
|
|
|
Prozentsatz der vom Container benutzten Speichereinheiten im Verhältnis zum Container-Limit. Wenn für den Container kein Speicherlimit definiert ist, wird diese Metrik nicht angezeigt. Formel: Anmerkung
|
|
Ist nicht für Windows verfügbar. |
|
Die Anzahl der Fehler bei der Speicherzuweisung, die beim Container aufgetreten sind. |
|
|
PodName, |
Die Gesamtanzahl der Container-Neustarts in einem Pod. |
|
|
Service
|
Die Anzahl der Pods, von denen der Service oder die Services im Cluster ausgeführt werden. |
|
|
|
Die Anzahl der Pods, die für einen Workload gewünscht werden, wie in der Workload-Spezifikation definiert. |
|
|
|
Die Anzahl der Pods für einen Workload, die den Status Bereit erreicht haben. |
|
|
|
Die Anzahl der verfügbaren Pods für einen Workload. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der Pods für einen Workload, die nicht verfügbar sind. Ein Pod ist verfügbar, wenn er für die in der Workload-Spezifikation definierten |
|
|
|
Die Anzahl der zum Zeitpunkt der letzten Prüfung in etcd gespeicherten Objekte. |
|
|
|
Gesamtgröße der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und könnte sich in zukünftigen Versionen von Kubernetes ändern. Einheit: Byte Aussagekräftige Statistiken: Summe, Durchschnitt, Minimum, Maximum |
|
|
|
Die Gesamtzahl der API-Anforderungen an den Kubernetes-API-Server. |
|
|
|
Reaktionslatenz für API-Anforderungen an den Kubernetes-API-Server. |
|
|
|
Latenz des Admission Controllers in Sekunden. Ein Admission Controller ist Code, der Anforderungen an den Kubernetes-API-Server abfängt. |
|
|
|
Reaktionslatenz bei Clients, die den Kubernetes-API-Server aufrufen. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Gesamtzahl der API-Anforderungen, die von Clients an den Kubernetes-API-Server gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Antwortlatenz bei API-Aufrufen an Etcd. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Größe der physisch zugewiesenen Speicherdatenbankdatei in Byte. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der aktiven Anforderungen mit langer Laufzeit an den Kubernetes-API-Server. |
|
|
|
Die Anzahl der Anforderungen, die vom Kubernetes-API-Server verarbeitet werden. |
|
|
|
Webhook-Latenz bei der Zulassung in Sekunden. Zulassungs-Webhooks sind HTTP-Callbacks, die ZulassungsAnforderungen empfangen und etwas damit anfangen. |
|
|
|
Latenz der Teilschritte bei der Zulassung in Sekunden. |
|
|
|
Anzahl der Anforderungen an veraltete APIs auf dem Kubernetes-API-Server. |
|
|
|
Anzahl der Anforderungen an den Kubernetes-API-Server, auf die mit einem 5XX-HTTP-Antwortcode geantwortet wurde. |
|
|
|
Reaktionslatenz beim Auflisten von Objekten aus Etc. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Threads, die von den aktuell ausgeführten Anforderungen im API-Subsystem Priority and Fairness genutzt werden. |
|
|
|
Anzahl der Anforderungen, die vom API-Subsystem Priority and Fairness abgelehnt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
|
|
|
Die Anzahl der Anforderungen in der Warteschlange, die vom Kubernetes-API-Server in die Warteschlange gestellt wurden. Diese Metrik ist experimentell und kann sich in zukünftigen Versionen von Kubernetes ändern. |
NVIDIA-GPU-Metriken
Ab 1.300034.0 der Version des CloudWatch Agenten erfasst Container Insights mit erweiterter Beobachtbarkeit für Amazon EKS standardmäßig NVIDIA-GPU-Metriken aus EKS-Workloads. Der CloudWatch Agent muss mit der CloudWatch Observability EKS-Add-On-Version v1.3.0-eksbuild.1 oder höher installiert werden. Weitere Informationen finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Diese NVIDIA-GPU-Metriken, die erfasst werden, sind in der Tabelle in diesem Abschnitt aufgeführt.
Damit Container Insights NVIDIA-GPU-Metriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Zusatzversion
v1.3.0-eksbuild.1oder höher verwenden. -
Das NVIDIA-Geräte-Plugin für Kubernetes
muss im Cluster installiert sein. -
Das NVIDIA-Container-Toolkit
muss auf den Knoten des Clusters installiert sein. Beispielsweise werden die für Amazon EKS optimierten beschleunigten AMIs mit den erforderlichen Komponenten erstellt.
Sie können die Erfassung von NVIDIA-GPU-Metriken deaktivieren, indem Sie die accelerated_compute_metrics Option in der CloudWatch Start-Agent-Konfigurationsdatei auf setzen. false Weitere Informationen sowie ein Beispiel für eine Opt-Out-Konfiguration finden Sie unter (Optional) Zusätzliche Konfiguration.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Container zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Container zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers der GPU(s), die dem Container zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Container zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Container zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Container zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPUs, die dem Container zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers auf den GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Knoten zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Knoten zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Knoten zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPU (s), die dem Knoten zugewiesen sind. |
|
|
|
Die Gesamtgröße des Frame-Puffers in Byte auf den GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Die Bytes des verwendeten Frame-Puffers auf den GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Der Prozentsatz des verwendeten Frame-Puffers der GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Der Stromverbrauch der GPU(s), die dem Pod zugewiesen sind, in Watt. |
|
|
|
Die Temperatur der GPU(s), die dem Pod zugewiesen sind, in Grad Celsius. |
|
|
|
Die prozentuale Auslastung der GPU(s), die dem Pod zugewiesen sind. |
|
|
|
Die prozentuale Auslastung der Tensorkerne auf den GPUs, die dem Pod zugewiesen sind. |
Detaillierte GPU-Überwachung
Ab 1.300062.0 der Version des CloudWatch Agenten unterstützt Container Insights mit verbesserter Beobachtbarkeit für Amazon EKS eine detaillierte GPU-Überwachung mit Erfassungsintervallen von unter einer Minute. Dadurch werden Überwachungslücken bei kurzzeitigen Inferenz-Workloads für maschinelles Lernen geschlossen, die bei den standardmäßigen Erfassungsintervallen möglicherweise völlig übersehen werden. Der CloudWatch Agent muss mit der CloudWatch Observability EKS-Zusatzversion oder höher installiert werden. v4.7.0-eksbuild.1 Weitere Informationen finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm.
Standardmäßig werden GPU-Metriken in Intervallen von 60 Sekunden erfasst und aufgenommen. Wenn die detaillierte Überwachung aktiviert ist, erfasst der CloudWatch Agent GPU-Metriken in Intervallen von unter einer Minute (mindestens 1 Sekunde), aber die Metriken werden immer noch in Intervallen von 1 Minute aufgenommen. CloudWatch Sie können jedoch statistische Aggregationen (wie Minimum, Maximum und Perzentile wie p90) der Datenpunkte unter einer Minute innerhalb jedes Zeitraums von 1 Minute abfragen, um genaue GPU-Auslastungsdaten und eine bessere Ressourcenoptimierung zu erhalten.
Konfiguration
Um eine detaillierte GPU-Überwachung zu ermöglichen, aktualisieren Sie Ihre CloudWatch Agentenkonfiguration, sodass der accelerated_compute_gpu_metrics_collection_interval Parameter in den Abschnitt aufgenommen wird, wie im folgenden Beispiel dargestellt. kubernetes
{ "logs": { "metrics_collected": { "kubernetes": { "cluster_name": "MyCluster", "enhanced_container_insights": true, "accelerated_compute_metrics": true, "accelerated_compute_gpu_metrics_collection_interval": 1 } } } }
Der accelerated_compute_gpu_metrics_collection_interval Parameter akzeptiert Werte in Sekunden mit einem Mindestwert von 1 Sekunde. Wenn Sie ihn auf einstellen, werden Erfassungsintervalle von 1 Sekunde 1 aktiviert. Wenn dieser Parameter nicht angegeben ist, wird das Standardintervall von 60 Sekunden verwendet.
Vollständige Anweisungen zur Konfiguration finden Sie unterAnleitung zur Einrichtung (AWS CLI).
AWS Neuronenmetriken für AWS Trainium und AWS Inferentia
Ab 1.300036.0 der Version des CloudWatch Agenten erfasst Container Insights mit erweiterter Beobachtbarkeit für Amazon EKS standardmäßig Messwerte für beschleunigte Berechnungen von AWS
Trainium- und AWS Inferentia-Beschleunigern. Der CloudWatch Agent muss mit der CloudWatch Observability EKS-Zusatzversion oder höher installiert werden. v1.5.0-eksbuild.1 Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu AWS -Trainium finden Sie unter AWS
Trainium
Damit Container Insights AWS Neuron-Metriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Zusatzversion
v1.5.0-eksbuild.1oder höher verwenden. -
Der Neuron-Treiber
muss auf den Knoten des Clusters installiert sein. -
Das Neuron-Geräte-Plugin
muss auf dem Cluster installiert sein. Beispielsweise werden die für Amazon EKS optimierten beschleunigten AMIs mit den erforderlichen Komponenten erstellt.
Die Metriken, die erfasst werden, sind in der Tabelle in diesem Abschnitt aufgeführt. Die Metriken werden für AWS Trainium, AWS Inferentia und Inferentia2 erfasst. AWS
Der CloudWatch Agent erfasst diese Metriken vom Neuron-Monitor
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
NeuronCore Auslastung während des erfassten Zeitraums der dem Container NeuronCore zugewiesenen Daten. Einheit: Prozent |
|
|
|
Die Menge an Gerätespeicher, die während des Trainings vom für Konstanten verwendet wird und NeuronCore die dem Container zugewiesen wird (oder die Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von dem, der dem Container zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Größe des Gerätespeichers, der für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Container zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von den dem Container NeuronCore zugewiesenen Geräten für die Neuron-Laufzeit verwendet wird. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von den dem Container NeuronCore zugewiesenen Tensoren verwendet werden. Einheit: Byte |
|
|
|
Die Gesamtmenge an Speicher, die von dem dem Container NeuronCore zugewiesenen Speicherplatz verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
|
|
|
Die NeuronCore Auslastung des dem Pod NeuronCore zugewiesenen Speichers während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge an Gerätespeicher, die während des Trainings für Konstanten verwendet wurde und NeuronCore die dem Pod zugewiesen wurde (oder die Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von dem, der dem Pod zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird NeuronCore , das dem Pod zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von den dem Pod NeuronCore zugewiesenen Geräten für die Neuron-Laufzeit verwendet wird. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von den dem Pod NeuronCore zugewiesenen Geräten für Tensoren verwendet wird. Einheit: Byte |
|
|
|
Die Gesamtmenge an Speicher, die von dem dem Pod NeuronCore zugewiesenen Speicher verwendet wird. Einheit: Byte |
|
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts, das einem Pod zugewiesen wurde. Einheit: Byte |
|
|
|
Die NeuronCore Auslastung des dem Knoten NeuronCore zugewiesenen Speichers während des erfassten Zeitraums. Einheit: Prozent |
|
|
|
Die Menge an Gerätespeicher, die während des Trainings vom für Konstanten verwendet wurde und NeuronCore die dem Knoten zugewiesen wurde (oder die Gewichte während der Inferenz). Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von dem, der dem Knoten zugewiesen ist NeuronCore , für den ausführbaren Code der Modelle verwendet wird. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die für das Scratchpad verwendet wird, das von den Modellen gemeinsam genutzt wird, und NeuronCore das dem Knoten zugewiesen ist. Dieser Speicherbereich ist für die Modelle reserviert. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von dem für die Neuron-Laufzeit verwendet wird und NeuronCore dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Menge an Gerätespeicher, die von der für Tensoren verwendet wird und NeuronCore die dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtmenge an Speicher, NeuronCore die von dem verwendet wird und der dem Knoten zugewiesen ist. Einheit: Byte |
|
|
|
Die Gesamtzahl der Ausführungsfehler auf dem Knoten. Dies wird vom CloudWatch Agenten berechnet, indem die Fehler der folgenden Typen aggregiert werden: Einheit: Anzahl |
|
|
|
Die gesamte Speicherauslastung des Neuron-Geräts auf dem Knoten in Byte. Einheit: Byte |
|
|
In Sekunden, die Latenz für eine Ausführung auf dem Knoten, gemessen durch die Neuron-Laufzeit. Einheit: Sekunden |
|
|
Die Anzahl der korrigierten und nicht korrigierten ECC-Ereignisse für den On-Chip-SRAM und den Gerätespeicher des Neuron-Geräts auf dem Knoten. Einheit: Anzahl |
AWS Metriken für Elastic Fabric Adapter (EFA)
Ab 1.300037.0 der Version des CloudWatch Agenten erfasst Container Insights mit erweiterter Beobachtbarkeit für Amazon EKS Metriken des AWS Elastic Fabric Adapters (EFA) aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der CloudWatch Observability EKS-Add-On-Version v1.5.2-eksbuild.1 oder höher installiert werden. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu AWS Elastic Fabric Adapter (EFA) finden Sie unter Elastic Fabric Adapter
Damit Container Insights AWS Elastic Fabric-Adaptermetriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der Amazon CloudWatch Observability EKS-Add-on-Version
v1.5.2-eksbuild.1oder höher verwenden. -
Das EFA-Geräte-Plugin muss auf dem Cluster installiert sein. Weitere Informationen finden Sie unter https://github.com/aws/eks-charts/tree/master/stable/aws-efa-k8s-device-plugin
aws-efa-k8s-device-plugin unter. GitHub
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Container zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Container zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Container zugewiesen sind, verworfenen Pakete. Einheit: Count/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte übertragen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Container zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Pod zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Pod zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Pod zugewiesen sind, verworfenen Pakete. Einheit: Count/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten empfangen werden, die dem Knoten zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Bytes, die pro Sekunde von EFA-Geräten übertragen werden, die dem Knoten zugewiesen sind. Einheit: Bytes/Second |
|
|
|
Die Anzahl der empfangenen und dann von den EFA-Geräten, die dem Knoten zugewiesen sind, verworfenen Pakete. Einheit: Count/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Knoten zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die mithilfe von Lesevorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Pod zugewiesenen EFA-Geräte übertragen wurden. Einheit: Bytes/Second |
|
|
|
Die Anzahl der Byte pro Sekunde, die während Schreibvorgängen mit direktem Remote-Zugriff auf den Speicher durch die dem Knoten zugewiesenen EFA-Geräte empfangen wurden. Einheit: Bytes/Second |
Amazon SageMaker AI HyperPod Metriken
Ab v2.0.1-eksbuild.1 der Version des CloudWatch Observability EKS-Add-ons erfasst Container Insights mit erweiterter Observability für Amazon EKS automatisch Amazon SageMaker AI HyperPod Metriken aus Amazon EKS-Clustern. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen dazu finden Sie Amazon SageMaker AI HyperPod unter. Amazon SageMaker AI
HyperPod
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Gibt an, ob ein Knoten als Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten als Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten als Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch durch ersetzt Amazon SageMaker AI HyperPod. Einheit: Anzahl |
|
|
|
Gibt an, ob ein Knoten als Wenn die automatische Knotenwiederherstellung aktiviert ist, wird der Knoten automatisch von neu gestartet. Amazon SageMaker AI HyperPod Einheit: Anzahl |
Amazon-EBS-NVMe-Treibermetriken
Ab 1.300056.0 der Version des CloudWatch Agenten erfasst Container Insights mit erweiterter Beobachtbarkeit für Amazon EKS automatisch Amazon EBS-NVMe-Treibermetriken aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der Amazon EKS-Zusatzversion CloudWatch Observability oder höher installiert werden. 4.1.0 Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zu Amazon EBS finden Sie unter Amazon EBS – detaillierte Leistungsstatistiken.
Damit Container Insights Amazon-EBS-NVMe-Treibermetriken erfassen kann, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der CloudWatch Observability Amazon EKS-Zusatzversion
4.1.0oder höher verwenden. -
Das EBS-CSI-Treiber-Add-On
1.42.0der das Helm-Chart müssen auf dem Cluster mit aktivierten Metriken installiert sein.-
Um die Metriken bei Nutzung des Amazon-EBS-CSI-Treiber-Add-Ons zu aktivieren, verwenden Sie beim Erstellen oder Aktualisieren des Add-Ons die folgende Option:
--configuration-values '{ "node": { "enableMetrics": true } }' -
Um die Metriken bei Nutzung des Helm-Charts zu aktivieren, verwenden Sie beim Erstellen oder Aktualisieren des Add-Ons die folgende Option:
--set node.enableMetrics=true
-
Die Metriken, die erfasst werden, sind in der folgenden Tabelle aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Gesamtzahl der abgeschlossenen Lesevorgänge. |
|
|
|
Die Gesamtzahl der abgeschlossenen Schreibvorgänge. |
|
|
|
Die Gesamtzahl der übertragenen und gelesenen Bytes. |
|
|
|
Die Gesamtzahl der übertragenen und geschriebenen Bytes. |
|
|
|
Die Gesamtzeit für alle abgeschlossenen Lesevorgänge in Mikrosekunden. |
|
|
|
Die Gesamtzeit für alle abgeschlossenen Schreibvorgänge in Mikrosekunden. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in welcher der IOPS-Bedarf die vom Volume bereitgestellte IOPS-Leistung überstiegen hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in welcher der Durchsatzbedarf die vom Volume bereitgestellte Durchsatzleistung überstiegen hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale IOPS-Leistung der angeschlossenen Amazon-EC2-Instance überschritten hat. |
|
|
|
Die Gesamtzeit in Mikrosekunden, in der das EBS-Volume die maximale Durchsatzleistung der angeschlossenen Amazon-EC2-Instance überschritten hat. |
|
|
|
Die Anzahl der Lese- und Schreibvorgänge, die auf Abschluss warten. |
Die lokale Amazon EC2-Instance speichert NVMe-Metriken
Ab 1.300069.0 der Version des CloudWatch Agenten erfasst Container Insights mit erweiterter Beobachtbarkeit für Amazon EKS automatisch NVMe-Metriken für den lokalen Amazon EC2-Instance-Speicher aus Amazon EKS-Clustern auf Linux-Instances. Der CloudWatch Agent muss mit der Amazon EKS-Zusatzversion CloudWatch Observability 6.2.0 oder höher oder dem entsprechenden Helm-Diagramm installiert werden. Weitere Informationen zu den Add-Ons finden Sie unter Installieren Sie den CloudWatch Agenten mit dem Amazon CloudWatch Observability EKS-Add-on oder dem Helm-Diagramm. Weitere Informationen zum Amazon EC2-Instance-Speicher finden Sie unter Amazon EC2-Instance-Speicher.
Um diese Metriken zu erfassen, müssen Sie die folgenden Voraussetzungen erfüllen:
-
Sie müssen Container Insights mit erweiterter Observability für Amazon EKS mit der CloudWatch Observability Amazon EKS-Zusatzversion
6.2.0oder höher verwenden. -
Das
aws-ec2-local-instance-store-csi-driverEKS-Add-on oder das Helm-Diagramm müssen auf dem Cluster mit aktivierten Metriken installiert sein.-
Um die Metriken zu aktivieren, wenn Sie das
aws-ec2-local-instance-store-csi-driverAdd-on verwenden, verwenden Sie die folgende Option, wenn Sie das Add-on erstellen oder aktualisieren.--configuration-values '{"metrics":{"enabled":true}}' -
Um die Metriken zu aktivieren, wenn Sie Helm Chart verwenden, verwenden Sie die folgende Option, wenn Sie das Add-on erstellen oder aktualisieren.
--set metrics.enabled=true
-
-
Ihr Cluster muss über Worker-Knoten verfügen, die auf EC2-Instance-Typen ausgeführt werden, die Instance-Speicher-Volumes unterstützen. Weitere Informationen finden Sie unter Überlegungen im Amazon EKS-Benutzerhandbuch.
Wenn die Voraussetzungen erfüllt sind, erkennt und erfasst der CloudWatch Agent automatisch die Metriken aus dem CSI-Treiber für den lokalen Instance-Speicher. Es ist keine zusätzliche CloudWatch Agentenkonfiguration erforderlich.
In der folgenden Tabelle sind die gesammelten Metriken aufgeführt.
| Metrikname | Dimensionen | Description |
|---|---|---|
|
|
|
Die Gesamtzahl der abgeschlossenen Lesevorgänge. |
|
|
|
Die Gesamtzahl der abgeschlossenen Schreibvorgänge. |
|
|
|
Die Gesamtzahl der übertragenen und gelesenen Bytes. |
|
|
|
Die Gesamtzahl der übertragenen und geschriebenen Bytes. |
|
|
|
Die Gesamtzeit, die alle abgeschlossenen Lesevorgänge in Sekunden aufgewendet haben. |
|
|
|
Die Gesamtzeit, die alle abgeschlossenen Schreibvorgänge in Sekunden aufgewendet haben. |
|
|
|
Die Gesamtzeit in Sekunden, für die das Instance-Speicher-Volume die maximale IOPS-Leistung der angehängten Amazon EC2-Instance überschritten hat. |
|
|
|
Die Gesamtzeit in Sekunden, in der das Instance-Speicher-Volume die maximale Durchsatzleistung der angehängten Amazon EC2-Instance überschritten hat. |
|
|
|
Die Anzahl der Lese- und Schreibvorgänge, die auf Abschluss warten. |
