5.32.0 Anwendungsversionen 5.32.0 Versionshinweise 5.32.0 Komponentenversionen 5.32.0 Konfigurationsklassifizierungen

EMRAmazon-Version 5.32.0

5.32.0 Anwendungsversionen

Die folgenden Anwendungen werden in dieser Version unterstützt: Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Mahout, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Zeppelin, und ZooKeeper.

In der folgenden Tabelle sind die in dieser Version von Amazon verfügbaren Anwendungsversionen EMR und die Anwendungsversionen der vorherigen drei EMR Amazon-Versionen (sofern zutreffend) aufgeführt.

Eine umfassende Historie der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:

Informationen zur Anwendungsversion
	emr-5.32.0	emr-5.31.1	emr-5.31.0	emr-5.30.2
AWS SDKfür Java	1.11.890	1.11.852	1,11.852	1,11.759
Python	2,7, 3,7	2,7, 3,7	2,7, 3,7	2,7, 3,7
Scala	2.11.12	2.11.12	2.11.12	2.11.12
AmazonCloudWatchAgent	-	-	-	-
Delta	-	-	-	-
Flink	1.11.2	1.11.0	1.11.0	1.10.0
Ganglia	3.7.2	3.7.2	3.7.2	3.7.2
HBase	1.4.13	1.4.13	1.4.13	1.4.13
HCatalog	2.3.7	2.3.7	2.3.7	2.3.6
Hadoop	2.10.1	2.10.0	2.10.0	2.8.5
Hive	2.3.7	2.3.7	2.3.7	2.3.6
Hudi	0.6.0-amzn-0	0.6.0-amzn-0	0.6.0-amzn-0	0.5.2-incubating
Hue	4.8.0	4.7.1	4.7.1	4.6.0
Iceberg	-	-	-	-
JupyterEnterpriseGateway	2.1.0	-	-	-
JupyterHub	1.1.0	1.1.0	1.1.0	1.1.0
Livy	0.7.0	0.7.0	0.7.0	0.7.0
MXNet	1.7.0	1.6.0	1.6.0	1.5.1
Mahout	0.13.0	0.13.0	0.13.0	0.13.0
Oozie	5.2.0	5.2.0	5.2.0	5.2.0
Phoenix	4.14.3	4.14.3	4.14.3	4.14.3
Pig	0.17.0	0.17.0	0.17.0	0.17.0
Presto	0,240,1	0,238,3	0,238,3	0.232
Spark	2.4.7	2.4.6	2.4.6	2.4.5
Sqoop	1.4.7	1.4.7	1.4.7	1.4.7
TensorFlow	2.3.1	2.1.0	2.1.0	1.14.0
Tez	0.9.2	0.9.2	0.9.2	0.9.2
Trino (Presto) SQL	-	-	-	-
Zeppelin	0.8.2	0.8.2	0.8.2	0.8.2
ZooKeeper	3.4.14	3.4.14	3.4.14	3.4.14

5.32.0 Versionshinweise

Die folgenden Versionshinweise enthalten Informationen für EMR Amazon-Version 5.32.0. Änderungen beziehen sich auf Version 5.31.0.

Erste Version: 8. Januar 2021

Upgrades

Der Amazon-Glue-Konnektor wurde auf Version 1.14.0 aktualisiert
Amazon SageMaker Spark wurde SDK auf Version 1.4.1 aktualisiert
Auf Version AWS SDK for Java 1.11.890 aktualisiert
EMRDynamoDB Connector Version 4.16.0 wurde aktualisiert
Auf Version 2.45.0 aktualisiert EMRFS
EMRLog Analytics-Metriken wurden auf Version 1.18.0 aktualisiert
EMR MetricsAndEventsApiGateway Der Client wurde auf Version 1.5.0 aktualisiert
EMRRecord Server wurde auf Version 1.8.0 aktualisiert
EMRS3 Dist CP wurde auf Version 2.17.0 aktualisiert
EMRSecret Agent wurde auf Version 1.7.0 aktualisiert
Flink auf Version 1.11.2 aktualisiert
Hadoop wurde auf Version 2.10.1-amzn-0 aktualisiert
Upgrade von Hive auf Version 2.3.7-amzn-3
Hue auf Version 4.8.0 aktualisiert
Mxnet wurde auf Version 1.7.0 aktualisiert
OpenCV wurde auf Version 4.4.0 aktualisiert
Presto auf Version 0.240.1-amzn-0 aktualisiert
Spark auf Version 2.4.7-amzn-0 aktualisiert
Auf Version TensorFlow 2.3.1 aktualisiert

Änderungen, Verbesserungen und behobene Probleme

Dies ist eine Version zur Behebung von Problemen mit Amazon EMR Scaling, wenn ein Cluster nicht erfolgreich hoch-/herunterskaliert werden kann oder wenn es zu Anwendungsausfällen kommt.
Es wurde ein Problem behoben, bei dem Skalierungsanforderungen für einen großen, stark ausgelasteten Cluster fehlschlugen, wenn EMR Amazon-On-Cluster-Daemons Aktivitäten zur Integritätsprüfung durchführten, z. B. das Erfassen von YARN Knotenstatus und HDFS Knotenstatus. Dies geschah, weil On-Cluster-Daemons nicht in der Lage waren, die Gesundheitsstatusdaten eines Knotens an interne Amazon-Komponenten zu übermitteln. EMR
Die EMR Cluster-Daemons wurden verbessert, um den Knotenstatus bei der Wiederverwendung von IP-Adressen korrekt nachzuverfolgen, um die Zuverlässigkeit bei Skalierungsvorgängen zu erhöhen.
SPARK-29683. Es wurde ein Problem behoben, bei dem während der Cluster-Skalierung Auftragsfehler auftraten, da Spark davon ausging, dass alle verfügbaren Knoten auf der Verweigern-Liste standen.
YARN-9011. Es wurde ein Problem behoben, bei dem Jobfehler aufgrund eines Fehlers bei der YARN Außerbetriebnahme auftraten, wenn der Cluster versuchte, nach oben oder unten zu skalieren.
Das Problem mit Schritt- oder Jobfehlern bei der Cluster-Skalierung wurde behoben, indem sichergestellt wurde, dass die Knotenstatus zwischen den EMR Amazon-On-Cluster-Daemons und/immer konsistent sind. YARN HDFS
Es wurde ein Problem behoben, bei dem Clustervorgänge wie Herunterskalierung und Schrittübermittlung für EMR Amazon-Cluster, die mit Kerberos-Authentifizierung aktiviert waren, fehlschlugen. Dies lag daran, dass der EMR Amazon-On-Cluster-Daemon das Kerberos-Ticket nicht erneuert hat, das für die sichere Kommunikation HDFS YARN mit/auf dem primären Knoten erforderlich ist.
Neuere EMR Amazon-Versionen beheben das Problem mit einem niedrigeren Limit für „Max. Anzahl geöffneter Dateien“ für ältere Versionen AL2 in AmazonEMR. Die EMR Amazon-Versionen 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 und höher enthalten jetzt einen dauerhaften Fix mit einer höheren Einstellung für „Max. Anzahl geöffneter Dateien“.
Aktualisierte Komponentenversionen.
Eine Liste der Komponentenversionen finden Sie unter About Amazon EMR Releases in diesem Handbuch.

Neue Features

Ab Amazon EMR 5.32.0 und 6.5.0 ist die dynamische Executor-Sizierung für Apache Spark standardmäßig aktiviert. Sie können dieses Feature ein- oder ausschalten, indem Sie den Konfigurationsparameter spark.yarn.heterogeneousExecutors.enabled verwenden.
Unterstützungsstatus von Instance Metadata Service (IMDS) V2: Die Komponenten Amazon EMR 5.23.1, 5.27.1 und 5.32 oder höher werden für alle Aufrufe verwendet. IMDSv2 IMDS Für IMDS Aufrufe in Ihrem Anwendungscode können Sie sowohl als auch IMDSv1 verwenden oder die Option so konfigurierenIMDSv2, dass sie nur für zusätzliche Sicherheit IMDS verwendet wird. IMDSv2 Bei anderen EMR 5.x-Versionen IMDSv1 führt die Deaktivierung zu einem Fehler beim Starten des Clusters.
Ab Amazon EMR 5.32.0 können Sie einen Cluster starten, der nativ in Apache Ranger integriert ist. Apache Ranger ist ein Open-Source-Framework zur Aktivierung, Überwachung und Verwaltung einer umfassenden Datensicherheit auf der gesamten Hadoop-Plattform. Weitere Informationen finden Sie unter Apache Ranger. Dank der nativen Integration können Sie Ihren eigenen Apache Ranger verwenden, um eine detaillierte Datenzugriffskontrolle auf Amazon durchzusetzen. EMR Weitere Informationen finden Sie unter Integrieren von Amazon EMR mit Apache Ranger im EMRAmazon-Versionshandbuch.
Amazon EMR Release 5.32.0 unterstützt Amazon EMR on. EKS Weitere Informationen zu den ersten Schritten mit EMR on EKS finden Sie unter Was ist Amazon EMR auf EKS.
Amazon EMR Release 5.32.0 unterstützt Amazon EMR Studio (Preview). Weitere Informationen zu den ersten Schritten mit EMR Studio finden Sie unter Amazon EMR Studio (Vorversion).
Verwaltete Richtlinien mit Geltungsbereich: Um den AWS bewährten Methoden zu entsprechen, EMR hat Amazon EMR verwaltete Standardrichtlinien mit Geltungsbereich v2 eingeführt, die als Ersatz für Richtlinien dienen, die nicht mehr unterstützt werden. Weitere Informationen finden Sie unter EMRVon Amazon verwaltete Richtlinien.

Bekannte Probleme

Für private Subnetz-Cluster von Amazon EMR 6.3.0 und 6.2.0 können Sie nicht auf die Ganglia-Webbenutzeroberfläche zugreifen. Sie erhalten die Fehlermeldung „Zugriff verweigert (403)“. Andere Websites wie SparkUIs, Hue, Zeppelin JupyterHub, Livy und Tez funktionieren normal. Der Zugriff auf die Ganglia-Web-Benutzeroberfläche auf öffentlichen Subnetzclustern funktioniert ebenfalls normal. Um dieses Problem zu beheben, starten Sie den httpd-Service auf dem Primärknoten mit sudo systemctl restart httpd neu. Dieses Problem wurde in Amazon EMR 6.4.0 behoben.
Niedrigeres Limit für die maximale Anzahl geöffneter Dateien bei älteren Versionen AL2 [in neueren Versionen behoben]. EMRAmazon-Versionen: emr-5.30.x, emr-5.31.0, emr-5.32.0, emr-6.0.0, emr-6.1.0 und emr-6.2.0 basieren auf älteren Versionen von ofAmazon Linux 2 (AL2), die eine niedrigere Ulimit-Einstellung für „Max. Geöffnete Dateien“ haben, wenn Amazon-Cluster mit der Standardeinstellung erstellt werden. EMR AMI Die EMR Amazon-Versionen 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 und höher enthalten einen dauerhaften Fix mit einer höheren Einstellung für „Max. Anzahl geöffneter Dateien“. Versionen mit einem niedrigeren Limit für geöffnete Dateien verursachen beim Senden des Spark-Jobs den Fehler „Zu viele offene Dateien“. In den betroffenen Versionen AMI hat die EMR Amazon-Standardeinstellung eine Ulimit-Standardeinstellung von 4096 für „Max. Geöffnete Dateien“, was unter dem Dateilimit von 65536 in Linux 2 liegt. latestAmazon AMI Die niedrigere Ulimit-Einstellung für „Max. Anzahl geöffneter Dateien“ führt dazu, dass der Spark-Job fehlschlägt, wenn der Spark-Treiber und der Executor versuchen, mehr als 4 096 Dateien zu öffnen. Um das Problem zu beheben, EMR verfügt Amazon über ein Bootstrap Action (BA) -Skript, das die Ulimit-Einstellung bei der Cluster-Erstellung anpasst.

Wenn Sie eine ältere EMR Amazon-Version verwenden, die nicht über die permanente Lösung für dieses Problem verfügt, können Sie mit der folgenden Problemumgehung das Instance-Controller-Ulimit explizit auf maximal 65536 Dateien festlegen.
Explizit ein ulimit über die Befehlszeile setzen
1. Bearbeiten Sie /etc/systemd/system/instance-controller.service, um die folgenden Parameter zum Abschnitt Service hinzuzufügen.
  
  LimitNOFILE=65536
  
  LimitNPROC=65536
2. Starten Sie neu InstanceController
  
  $ sudo systemctl daemon-reload
  
  $ sudo systemctl restart instance-controller
Mithilfe der Bootstrap-Aktion (BA) ein Ulimit festlegen

Sie können auch ein Bootstrap-Aktionsskript (BA) verwenden, um das Ulimit für den Instance-Controller bei der Clustererstellung auf 65 536 Dateien zu konfigurieren.
```
#!/bin/bash
for user in hadoop spark hive; do
sudo tee /etc/security/limits.d/$user.conf << EOF
$user - nofile 65536
$user - nproc 65536
EOF
done
for proc in instancecontroller logpusher; do
sudo mkdir -p /etc/systemd/system/$proc.service.d/
sudo tee /etc/systemd/system/$proc.service.d/override.conf << EOF
[Service]
LimitNOFILE=65536
LimitNPROC=65536
EOF
pid=$(pgrep -f aws157.$proc.Main)
sudo prlimit --pid $pid --nofile=65535:65535 --nproc=65535:65535
done
sudo systemctl daemon-reload
```
Wichtig
EMRCluster, auf denen Amazon Linux oder Amazon Linux 2 Amazon Machine Images (AMIs) ausgeführt werden, verwenden das Standardverhalten von Amazon Linux und laden wichtige und kritische Kernel-Updates, die einen Neustart erfordern, nicht automatisch herunter und installieren sie. Dies ist dasselbe Verhalten wie bei anderen EC2 Amazon-Instances, auf denen das standardmäßige Amazon Linux ausgeführt wirdAMI. Wenn neue Amazon Linux-Softwareupdates, die einen Neustart erfordern (wie Kernel und CUDA Updates)NVIDIA, verfügbar werden, nachdem eine EMR Amazon-Version verfügbar wird, laden EMR Cluster-Instances, die standardmäßig ausgeführt werden, diese Updates AMI nicht automatisch herunter und installieren sie. Um Kernel-Updates zu erhalten, können Sie Ihr Amazon so anpassen EMR AMI, dass es das neueste Amazon Linux verwendet AMI.
Die Konsolenunterstützung zur Erstellung einer Sicherheitskonfiguration, die die AWS Ranger-Integrationsoption spezifiziert, wird derzeit in der GovCloud Region nicht unterstützt. Die Sicherheitskonfiguration kann mit dem CLI vorgenommen werden. Weitere Informationen finden Sie unter EMR Sicherheitskonfiguration erstellen im Amazon EMR Management Guide.

Wenn AtRestEncryption die HDFS Verschlüsselung auf einem Cluster aktiviert ist, der Amazon EMR 5.31.0 oder 5.32.0 verwendet, führen Hive-Abfragen zu der folgenden Laufzeitausnahme.


TaskAttempt 3 failed, info=[Error: Error while running task ( failure ) : attempt_1604112648850_0001_1_01_000000_3:java.lang.RuntimeException: java.lang.RuntimeException: Hive Runtime Error while closing operators: java.io.IOException: java.util.ServiceConfigurationError: org.apache.hadoop.security.token.TokenIdentifier: Provider org.apache.hadoop.hbase.security.token.AuthenticationTokenIdentifier not found

Wenn Sie Spark mit der Formatierung des Hive-Partitionsspeicherorts verwenden, um Daten in Amazon S3 zu lesen, und Sie Spark auf den EMR Amazon-Versionen 5.30.0 bis 5.36.0 und 6.2.0 bis 6.9.0 ausführen, kann ein Problem auftreten, das Ihr Cluster daran hindert, Daten korrekt zu lesen. Dies kann passieren, wenn Ihre Partitionen alle der folgenden Eigenschaften aufweisen:
- Zwei oder mehr Partitionen werden aus derselben Tabelle gescannt.
- Mindestens ein Partitionsverzeichnispfad ist ein Präfix für mindestens einen anderen Partitionsverzeichnispfad, z. B. ist s3://bucket/table/p=a ein Präfix von s3://bucket/table/p=a b.
- Das erste Zeichen, das auf das Präfix im anderen Partitionsverzeichnis folgt, hat einen Wert von UTF -8, der kleiner als das Zeichen (U+002F) ist. / Beispielsweise fällt das Leerzeichen (U+0020), das in s3://bucket/table/p=a b zwischen a und b vorkommt, in diese Kategorie. Beachten Sie, dass es 14 weitere Zeichen gibt, die keine Kontrollzeichen sind: !"#$%&‘()*+,-. Weitere Informationen finden Sie unter Kodierungstabelle UTF -8 und Unicode-Zeichen.
Um dieses Problem zu umgehen, stellen Sie die spark.sql.sources.fastS3PartitionDiscovery.enabled-Konfiguration auf false in der spark-defaults-Klassifizierung ein.

5.32.0 Komponentenversionen

Die Komponenten, die Amazon mit dieser Version EMR installiert, sind unten aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur bei Amazon erhältlich EMR und werden für Systemprozesse und Funktionen installiert. Diese beginnen in der Regel mit emr oder aws. Big-Data-Anwendungspakete in der neuesten EMR Amazon-Version sind normalerweise die neueste Version, die in der Community zu finden ist. Wir stellen Community-Veröffentlichungen EMR so schnell wie möglich auf Amazon zur Verfügung.

Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form CommunityVersion-amzn-EmrVersion. Der EmrVersion beginnt bei 0. Wenn beispielsweise eine Open-Source-Community-Komponente, die myapp-component mit Version 2.2 benannt ist, dreimal geändert wurde, um sie in verschiedenen EMR Amazon-Versionen aufzunehmen, wird ihre Release-Version als aufgeführt2.2-amzn-2.

Komponente	Version	Beschreibung
aws-sagemaker-spark-sdk	1.4.1	Amazon SageMaker Spark SDK
emr-ddb	4.16.0	Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem.
emr-goodies	2.13.0	Praktische Bibliotheken für das Hadoop-Ökosystem.
emr-kinesis	3.5.0	Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem.
emr-notebook-env	1.1.0	Conda Env für EMR-Notebooks, das Jupyter Enterprise Gateway enthält
emr-s3-dist-cp	2.17.0	Verteilte Kopieranwendung, die für Amazon S3 optimiert ist.
emr-s3-select	1.6.0	EMRS3Select-Anschluss
emrfs	2.45.0	Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem.
flink-client	1.11.2	Apache Flink-Clientskripts und -Anwendungen für die Befehlszeile.
flink-jobmanager-config	1.11.2	Verwaltung von Ressourcen auf EMR Knoten für Apache JobManager Flink.
ganglia-monitor	3.7.2	Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent.
ganglia-metadata-collector	3.7.2	Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten.
ganglia-web	3.7.1	Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken.
hadoop-client	2.10.1-amzn-0	Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn".
hadoop-hdfs-datanode	2.10.1-amzn-0	HDFSDienst auf Knotenebene zum Speichern von Blöcken.
hadoop-hdfs-library	2.10.1-amzn-0	HDFSBefehlszeilenclient und Bibliothek
hadoop-hdfs-namenode	2.10.1-amzn-0	HDFSDienst zum Verfolgen von Dateinamen und Blockspeicherorten.
hadoop-hdfs-journalnode	2.10.1-amzn-0	HDFSDienst für die Verwaltung des Hadoop-Dateisystem-Journals auf HA-Clustern.
hadoop-httpfs-server	2.10.1-amzn-0	HTTPEndpunkt für OperationenHDFS.
hadoop-kms-server	2.10.1-amzn-0	Kryptografischer Schlüsselverwaltungsserver, der auf dem von Hadoop basiert. KeyProvider API
hadoop-mapred	2.10.1-amzn-0	MapReduce Execution Engine-Bibliotheken zum Ausführen einer MapReduce Anwendung.
hadoop-yarn-nodemanager	2.10.1-amzn-0	YARNDienst zur Verwaltung von Containern auf einem einzelnen Knoten.
hadoop-yarn-resourcemanager	2.10.1-amzn-0	YARNDienst für die Zuweisung und Verwaltung von Clusterressourcen und verteilten Anwendungen.
hadoop-yarn-timeline-server	2.10.1-amzn-0	Dienst zum Abrufen aktueller und historischer Informationen für YARN Anwendungen.
hbase-hmaster	1.4.13	Dienst für einen HBase Cluster, der für die Koordination der Regionen und die Ausführung von Verwaltungsbefehlen zuständig ist.
hbase-region-server	1.4.13	Dienst für die Versorgung einer oder mehrerer HBase Regionen.
hbase-client	1.4.13	HBaseBefehlszeilenclient.
hbase-rest-server	1.4.13	Dienst, der einen RESTful HTTP Endpunkt für bereitstellt. HBase
hbase-thrift-server	1.4.13	Dienst, der einen Thrift-Endpunkt für HBase bereitstellt.
hcatalog-client	2.3.7-amzn-3	Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers.
hcatalog-server	2.3.7-amzn-3	Bereitstellung von DienstenHCatalog, einer Tabelle und einer Speicherverwaltungsebene für verteilte Anwendungen.
hcatalog-webhcat-server	2.3.7-amzn-3	HTTPEndpunkt, der eine REST Schnittstelle zu bereitstelltHCatalog.
hive-client	2.3.7-amzn-3	Hive-Befehlszeilen-Client.
hive-hbase	2.3.7-amzn-3	Hive-hbase client.
hive-metastore-server	2.3.7-amzn-3	Dienst für den Zugriff auf den Hive-Metastore, ein semantisches Repository, das Metadaten für SQL Hadoop-Operationen speichert.
hive-server2	2.3.7-amzn-3	Service zur Annahme von Hive-Abfragen als Webanfragen.
hudi	0.6.0-amzn-0	Inkrementelles Verarbeitungs-Framework zur Stromversorgung der Datenpipline bei geringer Latenz und hoher Effizienz.
hudi-spark	0.6.0-amzn-0	Bündel-Bibliothek zum Ausführen von Spark mit Hudi.
hudi-presto	0.6.0-amzn-0	Bundle-Bibliothek zum Ausführen von Presto mit Hudi.
hue-server	4.8.0	Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen.
jupyterhub	1.1.0	Multi-User-Server für Jupyter-Notebooks
livy-server	0.7.0-incubating	RESTSchnittstelle für die Interaktion mit Apache Spark
nginx	1.12.1	nginx [engine x] ist ein HTTP Reverse-Proxy-Server
mahout-client	0.13.0	Bibliothek für Machine Learning.
mxnet	1.7.0	Eine flexible, skalierbare und effiziente Bibliothek für Deep Learning.
mariadb-server	5.5.68	Mein SQL Datenbankserver.
nvidia-cuda	10.1.243	Nvidia-Treiber und Cuda-Toolkit
oozie-client	5.2.0	Oozie-Befehlszeilen-Client.
oozie-server	5.2.0	Service für die Annahme von Oozie Workflow-Anforderungen.
opencv	4.4.0	Open Source Computer Vision Library.
phoenix-library	4,14,3- -1,4 HBase	Die Phoenix-Bibliotheken für den Server und den Client
phoenix-query-server	4,14,3- -1,4 HBase	Ein leichter Server, der sowohl JDBC Zugriff als auch Protokollpuffer und JSON Formatzugriff auf die Avatica bietet API
presto-coordinator	0.240.1-amzn-0	Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker.
presto-worker	0.240.1-amzn-0	Service für das Ausführen von Teilen einer Abfrage.
presto-client	0.240.1-amzn-0	Presto-Befehlszeilenclient, der auf den Standby-Mastern eines HA-Clusters installiert ist, auf denen der Presto-Server nicht gestartet wird.
pig-client	0.17.0	Pig-Befehlszeilen-Client.
r	3.4.3	The R Project for Statistical Computing (Software zur statistischen Datenverarbeitung)
ranger-kms-server	1.2.0	Apache Ranger Key Management System
spark-client	2.4.7-amzn-0	Spark-Befehlszeilen-Clients.
spark-history-server	2.4.7-amzn-0	Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung.
spark-on-yarn	2.4.7-amzn-0	In-Memory-Ausführungsengine für. YARN
spark-yarn-slave	2.4.7-amzn-0	Apache Spark-Bibliotheken, die von YARN Slaves benötigt werden.
sqoop-client	1.4.7	Apache Sqoop-Befehlszeilen-Client.
tensorflow	2.3.1	TensorFlow Open-Source-Softwarebibliothek für leistungsstarke numerische Berechnungen.
tez-on-yarn	0.9.2	Die YARN TEZ-Anwendung und die Bibliotheken.
webserver	2.4.25+	HTTPApache-Server.
zeppelin-server	0.8.2	Webbasiertes Notizbuch, das interaktive Datenanalysen ermöglicht.
zookeeper-server	3.4.14	Zentraler Service für die Verwaltung von Konfigurationsinformationen, die Benennung, die Bereitstellung verteilter Synchronisierung und die Bereitstellung von Gruppenservices.
zookeeper-client	3.4.14	ZooKeeper Befehlszeilen-Client.

5.32.0 Konfigurationsklassifizierungen

Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML Konfigurationsdatei für die Anwendung, wie hive-site.xml z. Weitere Informationen finden Sie unter Anwendungen konfigurieren.

Aktionen zur Neukonfiguration treten auf, wenn Sie eine Konfiguration für Instance-Gruppen in einem laufenden Cluster angeben. Amazon leitet EMR nur Rekonfigurationsaktionen für die Klassifizierungen ein, die Sie ändern. Weitere Informationen finden Sie unter Eine Instance-Gruppe in einem laufenden Cluster neu konfigurieren.

emr-5.32.0-Klassifizierungen
Klassifizierungen	Beschreibung	Aktionen zur Neukonfiguration
capacity-scheduler	Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop.	Restarts the ResourceManager service.
container-executor	Ändern Sie die Werte in der Datei container-executor.cfg von HadoopYARN.	Not available.
container-log4j	Ändern Sie die Werte in der Datei container-log4j.properties YARN von Hadoop.	Not available.
core-site	Ändert die Werte in der core-site.xml-Datei in Hadoop.	Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.
docker-conf	Ändern Sie die Docker-bezogenen Einstellungen.	Not available.
emrfs-site	EMRFSEinstellungen ändern.	Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.
flink-conf	Ändert die flink-conf.yaml-Einstellungen.	Restarts Flink history server.
flink-log4j	Ändert die log4j.properties-Einstellungen für Flink.	Restarts Flink history server.
flink-log4j-yarn-session	Ändern Sie die Einstellungen von Flink log4 j-yarn-session .properties.	Not available.
flink-log4j-cli	Ändert die log4j-cli.properties-Einstellungen für Flink.	Restarts Flink history server.
hadoop-env	Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten.	Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.
hadoop-log4j	Ändert die Werte in der log4j.properties-Datei in Hadoop.	Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.
hadoop-ssl-server	Ändert die SSL-Server-Konfiguration in Hadoop.	Not available.
hadoop-ssl-client	Ändert die SSL-Client-Konfiguration in Hadoop.	Not available.
hbase	Amazon EMR — kuratierte Einstellungen für Apache. HBase	Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.
hbase-env	Ändern Sie die Werte in der UmgebungHBase.	Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.
hbase-log4j	Ändern Sie die Werte in der Datei HBase hbase-log4j.properties.	Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.
hbase-metrics	Ändern Sie die Werte in der Datei hadoop-metrics2-hbase.properties. HBase	Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.
hbase-policy	Ändern Sie HBase die Werte in der Datei hbase-policy.xml.	Not available.
hbase-site	Ändern Sie die Werte in HBase der Datei hbase-site.xml.	Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.
hdfs-encryption-zones	Konfigurieren Sie HDFS Verschlüsselungszonen.	Should not be reconfigured.
hdfs-site	Ändern Sie die Werte in HDFS's hdfs-site.xml.	Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.
hcatalog-env	Werte in HCatalog der Umgebung ändern.	Restarts Hive HCatalog Server.
hcatalog-server-jndi	Ändern Sie die Werte in HCatalog's jndi.properties.	Restarts Hive HCatalog Server.
hcatalog-server-proto-hive-site	Ändern Sie die Werte in .xmlHCatalog. proto-hive-site	Restarts Hive HCatalog Server.
hcatalog-webhcat-env	Werte in der Umgebung ebHCat von HCatalog W ändern.	Restarts Hive WebHCat Server.
hcatalog-webhcat-log4j2	Ändern Sie die Werte in den ebHCat log4j2.properties von HCatalog W.	Restarts Hive WebHCat Server.
hcatalog-webhcat-site	Ändern Sie die Werte in der Datei webhcat-site.xml von HCatalog W. ebHCat	Restarts Hive WebHCat Server.
hive-beeline-log4j2	Ändert die Werte in der beeline-log4j2.properties-Datei in Hive.	Not available.
hive-parquet-logging	Ändert die Werte in der parquet-logging.properties-Datei in Hive.	Not available.
hive-env	Ändert die Werte in der Hive-Umgebung.	Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore.
hive-exec-log4j2	Ändern Sie die Werte in der Datei hive-exec-log 4j2.properties von Hive.	Restarts HiveServer2 and HiveMetastore.
hive-llap-daemon-log4j2	Ändern Sie die Werte in der Datei 4j2.properties von Hive. llap-daemon-log	Not available.
hive-log4j2	Ändert die Werte in der hive-log4j2.properties-Datei in Hive.	Not available.
hive-site	Ändert die Werte in der hive-site.xml-Datei in Hive.	Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.
hiveserver2-site	Ändert die Werte in der hiveserver2-site.xml-Datei von Server2 in Hive.	Not available.
hue-ini	Ändert die Werte in der INI-Datei in Hue.	Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.
httpfs-env	Ändern Sie die Werte in der Umgebung. HTTPFS	Restarts Hadoop Httpfs service.
httpfs-site	Ändert die Werte in der httpfs-site.xml-Datei in Hadoop.	Restarts Hadoop Httpfs service.
hadoop-kms-acls	Ändert die Werte in der kms-acls.xml-Datei in Hadoop.	Not available.
hadoop-kms-env	Werte in der KMS Hadoop-Umgebung ändern.	Restarts Hadoop-KMS service.
hadoop-kms-log4j	Ändert die Werte in der kms-log4j.properties-Datei in Hadoop.	Not available.
hadoop-kms-site	Ändert die Werte in der kms-site.xml-Datei in Hadoop.	Restarts Hadoop-KMS and Ranger-KMS service.
hudi-env	Ändern der Werte in der Hudi-Umgebung.	Not available.
jupyter-notebook-conf	Ändert die Werte in der jupyter_notebook_config.py-Datei in Jupyter Notebook.	Not available.
jupyter-hub-conf	Ändern Sie die Werte in JupyterHubs der Datei jupyterhub_config.py.	Not available.
jupyter-s3-conf	Konfigurieren Sie die S3-Persistenz für Jupyter Notebooks.	Not available.
jupyter-sparkmagic-conf	Ändert die Werte in der config.json-Datei in Sparkmagic.	Not available.
livy-conf	Ändert die Werte in der livy.conf-Datei von Livy.	Restarts Livy Server.
livy-env	Ändert die Werte in der Livy-Umgebung.	Restarts Livy Server.
livy-log4j	Ändert die log4j.properties-Einstellungen für Livy.	Restarts Livy Server.
mapred-env	Ändern Sie die Werte in der MapReduce Anwendungsumgebung.	Restarts Hadoop MapReduce-HistoryServer.
mapred-site	Ändern Sie die Werte in der Datei mapred-site.xml der MapReduce Anwendung.	Restarts Hadoop MapReduce-HistoryServer.
oozie-env	Ändert die Werte in der Oozie-Umgebung.	Restarts Oozie.
oozie-log4j	Ändert die Werte in der oozie-log4j.properties-Datei in Oozie.	Restarts Oozie.
oozie-site	Ändert die Werte in der oozie-site.xml-Datei in Oozie.	Restarts Oozie.
phoenix-hbase-metrics	Ändert die Werte in der hadoop-metrics2-hbase.properties-Datei in Phoenix.	Not available.
phoenix-hbase-site	Ändert die Werte in der hbase-site.xml-Datei in Phoenix.	Not available.
phoenix-log4j	Ändert die Werte in der log4j.properties-Datei in Phoenix.	Restarts Phoenix-QueryServer.
phoenix-metrics	Ändert die Werte in der hadoop-metrics2-phoenix.properties-Datei in Phoenix.	Not available.
pig-env	Ändert die Werte in der Pig-Umgebung.	Not available.
pig-properties	Ändert die Werte in der pig.properties-Datei in Pig.	Restarts Oozie.
pig-log4j	Ändert die Werte in der log4j.properties-Datei in Pig.	Not available.
presto-log	Ändert die Werte in der log.properties-Datei in Presto.	Restarts Presto-Server.
presto-config	Ändert die Werte in der config.properties-Datei in Presto.	Restarts Presto-Server.
presto-password-authenticator	Ändern Sie Werte in der Presto-Datei password-authenticator.properties.	Not available.
presto-env	Ändern Sie die Werte in der presto-env.sh-Datei in Presto.	Restarts Presto-Server.
presto-node	Ändern Sie die Werte in der node.properties-Datei in Presto.	Not available.
presto-connector-blackhole	Ändert die Werte in der blackhole.properties-Datei in Presto.	Not available.
presto-connector-cassandra	Ändert die Werte in der cassandra.properties-Datei in Presto.	Not available.
presto-connector-hive	Ändert die Werte in der hive.properties-Datei in Presto.	Restarts Presto-Server.
presto-connector-jmx	Ändert die Werte in der jmx.properties-Datei in Presto.	Not available.
presto-connector-kafka	Ändert die Werte in der kafka.properties-Datei in Presto.	Not available.
presto-connector-localfile	Ändert die Werte in der localfile.properties-Datei in Presto.	Not available.
presto-connector-memory	Ändert die Werte in der memory.properties-Datei in Presto.	Not available.
presto-connector-mongodb	Ändert die Werte in der mongodb.properties-Datei in Presto.	Not available.
presto-connector-mysql	Ändert die Werte in der mysql.properties-Datei in Presto.	Not available.
presto-connector-postgresql	Ändert die Werte in der postgresql.properties-Datei in Presto.	Not available.
presto-connector-raptor	Ändert die Werte in der raptor.properties-Datei in Presto.	Not available.
presto-connector-redis	Ändert die Werte in der redis.properties-Datei in Presto.	Not available.
presto-connector-redshift	Ändert die Werte in der redshift.properties-Datei.	Not available.
presto-connector-tpch	Ändert die Werte in der tpch.properties-Datei in Presto.	Not available.
presto-connector-tpcds	Ändert die Werte in der tpcds.properties-Datei in Presto.	Not available.
ranger-kms-dbks-site	Ändern Sie die Werte in der Datei dbks-site.xml von RangerKMS.	Restarts Ranger KMS Server.
ranger-kms-site	Ändern Sie die Werte in der ranger-kms-site XML-Datei von Ranger. KMS	Restarts Ranger KMS Server.
ranger-kms-env	Ändern Sie Werte in der KMS Ranger-Umgebung.	Restarts Ranger KMS Server.
ranger-kms-log4j	Ändern Sie die Werte in der Datei kms-log4j.properties von Ranger. KMS	Not available.
ranger-kms-db-ca	Ändern Sie die Werte für die CA-Datei auf S3 für Meine Verbindung mit Ranger. SQL SSL KMS	Not available.
recordserver-env	Werte in der EMR RecordServer Umgebung ändern.	Restarts EMR record server.
recordserver-conf	Ändern Sie die Werte in EMR RecordServer der Datei server.properties.	Restarts EMR record server.
recordserver-log4j	Ändern Sie die Werte in der Datei EMR RecordServer log4j.properties.	Restarts EMR record server.
spark	Amazon EMR — kuratierte Einstellungen für Apache Spark.	This property modifies spark-defaults. See actions there.
spark-defaults	Ändert die Werte in der spark-defaults.conf-Datei in Spark.	Restarts Spark history server and Spark thrift server.
spark-env	Ändert die Werte in der Spark-Umgebung.	Restarts Spark history server and Spark thrift server.
spark-hive-site	Ändert die Werte in der hive-site.xml-Datei in Spark.	Not available.
spark-log4j	Ändert die Werte in der log4j.properties-Datei in Spark.	Restarts Spark history server and Spark thrift server.
spark-metrics	Ändert die Werte in der metrics.properties-Datei in Spark.	Restarts Spark history server and Spark thrift server.
sqoop-env	Ändert die Werte in der Sqoop-Umgebung.	Not available.
sqoop-oraoop-site	Ändern Sie die Werte in der Datei oraoop-site.xml OraOop von Sqoop.	Not available.
sqoop-site	Ändert die Werte in der sqoop-site.xml in Sqoop.	Not available.
tez-site	Ändert die Werte in der tez-site.xml-Datei in Tez.	Restarts Oozie.
yarn-env	Werte in der YARN Umgebung ändern.	Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.
yarn-site	Ändern Sie die Werte in YARN der Datei yarn-site.xml.	Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.
zeppelin-env	Ändert die Werte in der Zeppelin-Umgebung.	Restarts Zeppelin.
zookeeper-config	Ändern Sie die Werte in ZooKeeper der Datei zoo.cfg.	Restarts Zookeeper server.
zookeeper-log4j	Ändern Sie die Werte in ZooKeeper der Datei log4j.properties.	Restarts Zookeeper server.

Warnung JavaScript ist in Ihrem Browser nicht verfügbar oder deaktiviert.

Zur Nutzung der AWS-Dokumentation muss JavaScript aktiviert sein. Weitere Informationen finden auf den Hilfe-Seiten Ihres Browsers.

Dokumentkonventionen

emr-5.32.1

emr-5.31.1