Verwenden von verwalteter Skalierung in Amazon EMR

Im Folgenden AWS-Regionen ist Amazon EMR Managed Scaling mit Amazon EMR 6.14.0 und höher verfügbar:

Im Folgenden AWS-Regionen ist Amazon EMR Managed Scaling mit Amazon EMR 5.30.0 und 6.1.0 und höher verfügbar:

Amazon EMR Managed Scaling funktioniert nur mit YARN Anwendungen wie Spark, Hadoop, Hive und Flink. Es unterstützt keine Anwendungen, die nicht darauf basierenYARN, wie Presto und. HBase

Minimum (MinimumCapacityUnits) — Die untere Grenze der zulässigen EC2 Kapazität in einem Cluster. Sie wird anhand von Kernen oder Instanzen der virtuellen Zentraleinheit (VCPU) für Instanzgruppen gemessen. Sie wird in Einheiten für Instance-Flotten gemessen.

Maximum (MaximumCapacityUnits) — Die Obergrenze der zulässigen EC2 Kapazität in einem Cluster. Sie wird anhand von Kernen oder Instanzen der virtuellen Zentraleinheit (VCPU) für Instanzgruppen gemessen. Sie wird in Einheiten für Instance-Flotten gemessen.

On-Demand-Limit (MaximumOnDemandCapacityUnits) (optional) — Die Obergrenze der zulässigen EC2 Kapazität für den On-Demand-Markttyp in einem Cluster. Wenn dieser Parameter nicht angegeben wird, wird der Standardwert MaximumCapacityUnits verwendet.

Maximale Anzahl an Kernknoten (MaximumCoreCapacityUnits) (optional) — Die Obergrenze der zulässigen EC2 Kapazität für den Core-Knotentyp in einem Cluster. Wenn dieser Parameter nicht angegeben wird, wird der Standardwert MaximumCapacityUnits verwendet.

Managed Scaling wird in limitierten Versionen AWS-Regionen und EMR Amazon-Versionen unterstützt. Weitere Informationen finden Sie unter Verwaltete Skalierungsverfügbarkeit.

Sie müssen die erforderlichen Parameter für Amazon EMR Managed Scaling konfigurieren. Weitere Informationen finden Sie unter Verwaltete Skalierungsparameter.

Um Managed Scaling verwenden zu können, muss der Metrics-Collector-Prozess in der Lage sein, eine Verbindung zum öffentlichen API Endpunkt für die verwaltete Skalierung in Gateway herzustellen. API Wenn Sie einen privaten DNS Namen mit verwenden Amazon Virtual Private Cloud, funktioniert die verwaltete Skalierung nicht ordnungsgemäß. Um sicherzustellen, dass die verwaltete Skalierung funktioniert, empfehlen wir, dass Sie eine der folgenden Aktionen ausführen:

Wenn Ihre YARN Jobs während des Herunterskalierens zeitweise langsam sind und die YARN Resource Manager-Protokolle zeigen, dass die meisten Ihrer Knoten während dieser Zeit auf der Negativliste standen, können Sie den Schwellenwert für die Außerbetriebnahme anpassen.

Reduzieren Sie den spark.blacklist.decommissioning.timeout von einer Stunde auf eine Minute, um den Knoten für andere ausstehende Container verfügbar zu machen, um die Aufgabenverarbeitung fortzusetzen.

Sie sollten auch einen höheren Wert festlegenYARN.resourcemanager.nodemanager-graceful-decommission-timeout-secs, um sicherzustellen, dass Amazon EMR das Beenden des Knotens nicht erzwingt, solange die längste „Spark-Task“ noch auf dem Knoten läuft. Die aktuelle Standardeinstellung ist 60 Minuten, was bedeutet, dass der Container nach 60 Minuten YARN zwangsweise beendet wird, sobald der Knoten in den Stilllegungszustand übergeht.

Das folgende Beispiel für eine YARN Resource Manager-Protokollzeile zeigt Knoten, die dem Status „Außerbetriebnahme“ hinzugefügt wurden:

2021-10-20 15:55:26,994 INFO org.apache.hadoop.YARN.server.resourcemanager.DefaultAMSProcessor (IPC Server handler 37 on default port 8030): blacklist are updated in Scheduler.blacklistAdditions: [ip-10-10-27-207.us-west-2.compute.internal, ip-10-10-29-216.us-west-2.compute.internal, ip-10-10-31-13.us-west-2.compute.internal, ... , ip-10-10-30-77.us-west-2.compute.internal], blacklistRemovals: []

Erfahren Sie mehr darüber, wie Amazon bei der Außerbetriebnahme von Knoten in die YARN Deny-Listing-Funktion EMR integriert, in Fällen, in denen Knoten in Amazon auf eine Ablehnungsliste gesetzt werden EMR können, und zur Konfiguration des Verhaltens bei der Außerbetriebnahme von Spark-Knoten.

Eine übermäßige Auslastung von EBS Volumes kann zu Problemen mit Managed Scaling führen. Wir empfehlen, das EBS Volumen unter 90% zu halten. Weitere Informationen finden Sie unter Speicheroptionen und Verhalten von Instanzen in Amazon EMR.

CloudWatch Amazon-Metriken sind entscheidend für den Betrieb von Amazon EMR Managed Scaling. Wir empfehlen Ihnen, die CloudWatch Amazon-Metriken genau zu beobachten, um sicherzustellen, dass keine Daten fehlen. Weitere Informationen darüber, wie Sie CloudWatch Alarme konfigurieren können, um fehlende Messwerte zu erkennen, finden Sie unter CloudWatch Amazon-Alarme verwenden.

Verwaltete Skalierungsvorgänge auf Clustern der Versionen 5.30.0 und 5.30.1, ohne dass Presto installiert ist, können zu Anwendungsausfällen führen oder dazu führen, dass eine einheitliche Instance-Gruppe oder Instance-Flotte unverändert im Status ARRESTED bleibt, insbesondere wenn auf einen Herunterskalierungsvorgang schnell ein Skalierungsvorgang folgt.

Um dieses Problem zu umgehen, wählen Sie Presto als zu installierende Anwendung, wenn Sie einen Cluster mit den EMR Amazon-Versionen 5.30.0 und 5.30.1 erstellen, auch wenn Ihr Job Presto nicht benötigt.

Wenn Sie den maximalen Core-Knoten und das On-Demand-Limit für Amazon EMR Managed Scaling festlegen, sollten Sie die Unterschiede zwischen Instance-Gruppen und Instance-Flotten berücksichtigen. Jede Instance-Gruppenkonfiguration besteht jeder Knotentyp aus demselben Instance-Typ und derselben Kaufoption für Instances: On-Demand oder Spot. Für jede Instance-Flotte geben Sie bis zu fünf Instance-Typen an, die als On-Demand- und Spot Instances bereitgestellt werden können. Weitere Informationen finden Sie unter Erstellen eines Clusters mit Instance-Flotten oder einheitlichen Instance-Gruppen, Instance Flotten Optionen und Knotenzuweisungsszenarien.

Wenn Sie bei Amazon EMR 5.30.0 und höher die Standardregel Allow All Outbound auf 0.0.0.0/ für die Master-Sicherheitsgruppe entfernen, müssen Sie eine Regel hinzufügen, die ausgehende TCP Konnektivität zu Ihrer Sicherheitsgruppe für den Servicezugriff auf Port 9443 zulässt. Ihre Sicherheitsgruppe für den Servicezugriff muss auch eingehenden TCP Datenverkehr über Port 9443 von der Master-Sicherheitsgruppe zulassen. Weitere Informationen zur Konfiguration von Sicherheitsgruppen finden Sie unter Von Amazon EMR verwaltete Sicherheitsgruppe für die primäre Instance (private Subnetze).

Sie können es verwenden AWS CloudFormation , um Amazon EMR Managed Scaling zu konfigurieren. Weitere Informationen finden Sie unter AWS:EMR: :Cluster im AWS CloudFormation Benutzerhandbuch.

Wenn Sie Spot-Knoten verwenden, sollten Sie die Verwendung EMR von Knotenbezeichnungen in Betracht ziehen, um zu verhindern, dass Amazon Anwendungsprozesse EMR entfernt, wenn Amazon Spot-Knoten entfernt. Weitere Informationen zu Knotenbezeichnungen finden Sie unter Task-Knoten.

Die Knotenkennzeichnung wird in EMR Amazon-Versionen 6.15 oder niedriger standardmäßig nicht unterstützt. Weitere Informationen finden Sie unter Grundlegendes zu Knotentypen: Primär-, Kern- und Aufgabenknoten.

Wenn Sie EMR Amazon-Versionen 6.15 oder niedriger verwenden, können Sie Knotenbezeichnungen nur nach Knotentyp zuweisen, z. B. Kern- und Aufgabenknoten. Wenn Sie jedoch Amazon EMR Version 7.0 oder höher verwenden, können Sie Node-Labels nach Knotentyp und Markttyp konfigurieren, z. B. On-Demand und Spot.

Wenn die Nachfrage nach Anwendungsprozessen steigt und die Nachfrage nach Ausführern sinkt, wenn Sie den Anwendungsprozess auf Kernknoten beschränkt haben, können Sie bei derselben Größenänderung wieder Kernknoten hinzufügen und Aufgabenknoten entfernen. Weitere Informationen finden Sie unter Grundlegendes zu Strategien und Szenarien für die Knotenzuweisung.

Amazon kennzeichnet Aufgabenknoten EMR nicht, sodass Sie die YARN Eigenschaften nicht festlegen können, um Anwendungsprozesse nur für Aufgabenknoten einzuschränken. Wenn Sie jedoch Markttypen als Knotenbezeichnungen verwenden möchten, können Sie die SPOT Bezeichnungen ON_DEMAND oder für die Platzierung von Antragsprozessen verwenden. Wir empfehlen nicht, Spot-Nodes für primäre Anwendungsprozesse zu verwenden.

Wenn Sie Node Labels verwenden, kann die Gesamtzahl der laufenden Einheiten im Cluster vorübergehend die in Ihrer verwalteten Skalierungsrichtlinie festgelegte maximale Rechenleistung überschreiten, während Amazon EMR einige Ihrer Instances außer Betrieb nimmt. Die Gesamtzahl der angeforderten Einheiten bleibt immer auf oder unter der in Ihrer Richtlinie festgelegten maximalen Rechenleistung.

Managed Scaling unterstützt nur die Knotenbezeichnungen ON_DEMAND und SPOT oder CORE undTASK. Benutzerdefinierte Knotenbezeichnungen werden nicht unterstützt.

Amazon EMR erstellt Knotenbezeichnungen, wenn der Cluster erstellt und Ressourcen bereitgestellt werden. Amazon unterstützt das Hinzufügen von Knotenbezeichnungen bei der Neukonfiguration des Clusters EMR nicht. Sie können die Knotenbezeichnungen auch nicht ändern, wenn Sie die verwaltete Skalierung nach dem Start des Clusters konfigurieren.

Bei der verwalteten Skalierung werden Kern- und Taskknoten unabhängig voneinander auf der Grundlage des Anwendungsprozesses und der Nachfrage der Executoren skaliert. Um HDFS Datenverlust beim Herunterfahren der Kerne zu vermeiden, sollten Sie sich an die Standardpraxis für Kernknoten halten. Weitere Informationen zu bewährten Methoden für Kernknoten und HDFS Replikation finden Sie unter Überlegungen und bewährte Methoden.

Sie können nicht sowohl den Anwendungsprozess als auch die Executoren nur auf dem Knoten core oder dem ON_DEMAND Knoten platzieren. Wenn Sie sowohl den Anwendungsprozess als auch die Executoren auf einem der Knoten hinzufügen möchten, verwenden Sie die Konfiguration nicht. yarn.node-labels.am.default-node-label-expression

Um beispielsweise sowohl den Anwendungsprozess als auch die Executoren in ON_DEMAND Knoten zu platzieren, setzen Sie max compute auf den Wert Maximum im Knoten. ON_DEMAND Entfernen Sie außerdem die Konfigurationyarn.node-labels.am.default-node-label-expression.

Um sowohl den Anwendungsprozess als auch Executoren auf core Knoten hinzuzufügen, entfernen Sie die yarn.node-labels.am.default-node-label-expression Konfiguration.

Wenn Sie verwaltete Skalierung mit Knotenbezeichnungen verwenden, legen Sie die Eigenschaft fest, yarn.scheduler.capacity.maximum-am-resource-percent: 1 wenn Sie mehrere Anwendungen parallel ausführen möchten. Dadurch wird sichergestellt, dass Ihre Anwendungsprozesse die verfügbaren CORE ON_DEMAND OR-Knoten vollständig nutzen.

Wenn Sie verwaltete Skalierung mit Knotenbezeichnungen verwenden, legen Sie für yarn.resourcemanager.decommissioning.timeout die Eigenschaft einen Wert fest, der länger ist als die am längsten laufende Anwendung in Ihrem Cluster. Dadurch wird die Wahrscheinlichkeit verringert, dass Amazon EMR Managed Scaling Ihre Anwendungen für die Wiederinbetriebnahme oder Knoten neu planen muss. CORE ON_DEMAND