Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
EMRAmazon-Version 6.3.0
6.3.0 Anwendungsversionen
Die folgenden Anwendungen werden in dieser Version unterstützt: Flink
In der folgenden Tabelle sind die in dieser Version von Amazon verfügbaren Anwendungsversionen EMR und die Anwendungsversionen der vorherigen drei EMR Amazon-Versionen (sofern zutreffend) aufgeführt.
Eine umfassende Historie der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:
emr-6.3.0 | emr-6.2.1 | emr-6.2.0 | emr-6.1.1 | |
---|---|---|---|---|
AWS SDKfür Java | 1.11.977 | 1.11.880 | 1.11.880 | 1.11.828 |
Python | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 |
Scala | 2.12,10 | 2.12.10 | 2.12.10 | 2.12.10 |
AmazonCloudWatchAgent | - | - | - | - |
Delta | - | - | - | - |
Flink | 1.12.1 | 1.11.2 | 1.11.2 | 1.11.0 |
Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 |
HBase | 2.2.6 | 2.2.6-amzn-0 | 2.2.6-amzn-0 | 2.2.5 |
HCatalog | 3.1.2 | 3.1.2 | 3.1.2 | 3.1.2 |
Hadoop | 3.2.1 | 3.2.1 | 3.2.1 | 3.2.1 |
Hive | 3.1.2 | 3.1.2 | 3.1.2 | 3.1.2 |
Hudi | 0.7.0-amzn-0 | 0.6.0-amzn-1 | 0.6.0-amzn-1 | 0.5.2-incubating-amzn-2 |
Hue | 4.9.0 | 4.8.0 | 4.8.0 | 4.7.1 |
Iceberg | - | - | - | - |
JupyterEnterpriseGateway | 2.1.0 | 2.1.0 | 2.1.0 | - |
JupyterHub | 1.2.2 | 1.1.0 | 1.1.0 | 1.1.0 |
Livy | 0.7.0 | 0.7.0 | 0.7.0 | 0.7.0 |
MXNet | 1.7.0 | 1.7.0 | 1.7.0 | 1.6.0 |
Mahout | - | - | - | - |
Oozie | 5.2.1 | 5.2.0 | 5.2.0 | 5.2.0 |
Phoenix | 5.0.0 | 5.0.0 | 5.0.0 | 5.0.0 |
Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 |
Presto | 0,245,1 | 0,238,3 | 0,238,3 | 0.232 |
Spark | 3.1.1 | 3.0.1 | 3.0.1 | 3.0.0 |
Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 |
TensorFlow | 2.4.1 | 2.3.1 | 2.3.1 | 2.1.0 |
Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 |
Trino (Presto) SQL | 350 | 343 | 343 | 338 |
Zeppelin | 0.9.0 | 0.9.0 | 0.9.0 | 0.9.0 |
ZooKeeper | 3.4.14 | 3.4.14 | 3.4.14 | 3.4.14 |
6.3.0 Versionshinweise
Die folgenden Versionshinweise enthalten Informationen für EMR Amazon-Version 6.3.0. Änderungen beziehen sich auf Version 6.2.0.
Erste Version: 12. Mai 2021
Letzte Aktualisierung: 9. August 2021
Unterstützte Anwendungen
AWS SDK for Java Version 1.11.977
CloudWatch Version 2.1.0 senken
Version 4.16.0 von EMR DynamoDB Connector
EMRFSAusführung 2.46.0
Amazon EMR Goodies versie 3.2.0
Amazon EMR Kinesis Connector, Version 3.5.0
Amazon EMR Record Server, Version 2.0.0
Amazon EMR Scripts versie 2.5.0
Flink-Version 1.12.1
Ganglia Version 3.7.2
AWS Glue Hive Metastore Client Version 3.2.0
Hadoop-Version 3.2.1-amzn-3
HBaseAusführung 2.2.6-amzn-1
HBase-operator-tools 1.0.0
HCatalogAusführung 3.1.2-amzn-0
Hive-Version 3.1.2-amzn-4
Hudi-Version 0.7.0-amzn-0
Hue Version 4.9.0
JDKJava-Version Corretto-8.282.08.1 (Build 1.8.0_282-b08)
JupyterHub Ausführung 1.2.0
Livy-Version 0.7.0-incubating
MXNetAusführung 1.7.0
Oozie-Version 5.2.1
Phoenix Version 5.0.0
Pig Version 0.17.0
Presto-Version 0.245.1-amzn-0
Presto, Version 3.5.0 SQL
Apache Ranger KMS (transparente Multimaster-Verschlüsselung) Version 2.0.0
Ranger-Plugins 2.0.1-amzn-0
Ranger-S3-Plugin 1.1.0
SageMaker Spark-Version 1.4.1 SDK
Scala Version 2.12.10 (Offene JDK 64-Bit-Server-VM, Java 1.8.0_282)
Spark-Version 3.1.1-amzn-0
Spark-Rapids 0.4.1
Sqoop-Version 1.4.7
TensorFlow Ausführung 2.4.1
Tez-Version 0.9.2
Zeppelin-Version 0.9.0
Zookeeper Version 3.4.14
Konnektoren und Treiber: DynamoDB Connector 4.16.0
Neue Features
Amazon EMR unterstützt Amazon S3 Access Points, eine Funktion von Amazon S3, mit der Sie den Zugriff auf gemeinsam genutzte Data Lakes einfach verwalten können. Mit Ihrem Amazon S3 Access Point-Alias können Sie Ihren Datenzugriff auf Amazon in großem Umfang vereinfachenEMR. Sie können Amazon S3 Access Points mit allen Versionen von Amazon EMR ohne zusätzliche Kosten in allen AWS Regionen verwenden, in denen Amazon verfügbar EMR ist. Weitere Informationen zu Amazon S3 Access Points und Zugangspunkt-Aliassen finden Sie unter Verwenden eines Alias im Bucket-Stil für Ihren Zugangspunkt im Amazon-S3-Benutzerhandbuch.
Die neuen
ListReleaseLabel
API ParameterDescribeReleaseLabel
und die Parameter enthalten Informationen zum EMR Amazon-Release-Label. Sie können programmgesteuert Versionen auflisten, die in der Region verfügbar sind, in der die API Anfrage ausgeführt wird, und die verfügbaren Anwendungen für ein bestimmtes EMR Amazon-Release-Label auflisten. In den Release-Label-Parametern werden auch EMR Amazon-Releases aufgeführt, die eine bestimmte Anwendung unterstützen, z. B. Spark. Diese Informationen können verwendet werden, um EMR Amazon-Cluster programmgesteuert zu starten. Sie können beispielsweise einen Cluster mit der neuesten Release-Version aus denListReleaseLabel
-Ergebnissen starten. Weitere Informationen finden Sie unter DescribeReleaseLabelund ListReleaseLabelsin der EMRAPIAmazon-Referenz.Mit Amazon EMR 6.3.0 können Sie einen Cluster starten, der nativ in Apache Ranger integriert ist. Apache Ranger ist ein Open-Source-Framework zur Aktivierung, Überwachung und Verwaltung einer umfassenden Datensicherheit auf der gesamten Hadoop-Plattform. Weitere Informationen finden Sie unter Apache Ranger
. Dank der nativen Integration können Sie Ihren eigenen Apache Ranger verwenden, um eine detaillierte Datenzugriffskontrolle auf Amazon durchzusetzen. EMR Weitere Informationen finden Sie unter Integrieren von Amazon EMR mit Apache Ranger im Amazon EMR Management Guide. Verwaltete Richtlinien mit Geltungsbereich: Um den AWS bewährten Verfahren Rechnung zu tragen, EMR hat Amazon EMR verwaltete Standardrichtlinien mit Geltungsbereich v2 als Ersatz für Richtlinien eingeführt, die nicht mehr unterstützt werden. Weitere Informationen finden Sie unter EMRVon Amazon verwaltete Richtlinien.
Support-Status für Instance Metadata Service (IMDS) V2: Für Amazon EMR 6.2 oder höher werden EMR Amazon-Komponenten IMDSv2 für alle IMDS Aufrufe verwendet. Für IMDS Aufrufe in Ihrem Anwendungscode können Sie IMDSv1 sowohl als auch verwenden oder die Option so konfigurierenIMDSv2, IMDS dass sie nur IMDSv2 für zusätzliche Sicherheit verwendet wird. Wenn Sie die Option IMDSv1 in früheren Versionen von Amazon EMR 6.x deaktivieren, führt dies zu einem Fehler beim Starten des Clusters.
Änderungen, Verbesserungen und behobene Probleme
-
Dies ist eine Version zur Behebung von Problemen mit Amazon EMR Scaling, wenn ein Cluster nicht erfolgreich hoch-/herunterskaliert werden kann oder wenn es zu Anwendungsausfällen kommt.
Es wurde ein Problem behoben, bei dem Skalierungsanforderungen für einen großen, stark ausgelasteten Cluster fehlschlugen, wenn EMR Amazon-On-Cluster-Daemons Aktivitäten zur Integritätsprüfung durchführten, z. B. das Erfassen von YARN Knotenstatus und HDFS Knotenstatus. Dies geschah, weil On-Cluster-Daemons nicht in der Lage waren, die Gesundheitsstatusdaten eines Knotens an interne Amazon-Komponenten zu übermitteln. EMR
Die EMR Cluster-Daemons wurden verbessert, um den Knotenstatus bei der Wiederverwendung von IP-Adressen korrekt nachzuverfolgen, um die Zuverlässigkeit bei Skalierungsvorgängen zu erhöhen.
SPARK-29683
. Es wurde ein Problem behoben, bei dem während der Cluster-Skalierung Auftragsfehler auftraten, da Spark davon ausging, dass alle verfügbaren Knoten auf der Verweigern-Liste standen. YARN-9011
. Es wurde ein Problem behoben, bei dem Jobfehler aufgrund eines Fehlers bei der YARN Außerbetriebnahme auftraten, wenn der Cluster versuchte, nach oben oder unten zu skalieren. Das Problem mit Schritt- oder Jobfehlern bei der Cluster-Skalierung wurde behoben, indem sichergestellt wurde, dass die Knotenstatus zwischen den EMR Amazon-On-Cluster-Daemons und/immer konsistent sind. YARN HDFS
Es wurde ein Problem behoben, bei dem Clustervorgänge wie Herunterskalierung und Schrittübermittlung für EMR Amazon-Cluster, die mit Kerberos-Authentifizierung aktiviert waren, fehlschlugen. Dies lag daran, dass der EMR Amazon-On-Cluster-Daemon das Kerberos-Ticket nicht erneuert hat, das für die sichere Kommunikation HDFS YARN mit/auf dem primären Knoten erforderlich ist.
Neuere EMR Amazon-Versionen beheben das Problem mit einem niedrigeren Limit für „Max. Anzahl geöffneter Dateien“ für ältere Versionen AL2 in AmazonEMR. Die EMR Amazon-Versionen 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 und höher enthalten jetzt einen dauerhaften Fix mit einer höheren Einstellung für „Max. Anzahl geöffneter Dateien“.
Die SQL Standardeinstellung für den
formatted
Erklärmodus derSpark-Benutzeroberfläche wurde in Spark 3.1 von auf geändert. extended
Amazon EMR hat es wieder auf die Aufnahmeextended
logischer Planinformationen in die SQL Spark-Benutzeroberfläche zurückgesetzt. Dies kann durch Einstellen vonspark.sql.ui.explainMode
aufformatted
rückgängig gemacht werden.-
Die folgenden Commits wurden aus dem Spark-Master-Branch zurückportiert.
- [SPARK-34752] [BUILD]
Geben Sie Jetty an 9.4.37 an die Adresse -2020-27223. CVE - [-34534] Korrigiert die Reihenfolge beim Abrufen von Blöcken. SPARK
blockIds FetchShuffleBlocks - [SPARK-34681] [SQL]
Es wurde ein Fehler behoben, der beim Erstellen der linken Seite mit einer ungleichen Bedingung beim Erstellen eines kompletten Router-Shuffled-Hash-Joins auftrat. - [SPARK-34497] [SQL]
Integrierte Verbindungsanbieter wurden behoben, um Änderungen im Sicherheitskontext wiederherzustellen. JDBC JVM Um die Interoperabilität mit dem Nvidia RAPIDs Spark-Plugin zu verbessern, wurde eine Problemumgehung hinzugefügt, um ein Problem zu beheben, das verhindert, dass das dynamische Bereinigen von Partitionen ausgelöst wird, wenn Nvidia Spark RAPIDs mit deaktivierter adaptiver Abfrageausführung verwendet wird. Weitere Informationen finden Sie unter RAPIDSProblem #1378 und Problem # #1386
. RAPIDS Einzelheiten zur neuen Konfiguration spark.sql.optimizer.dynamicPartitionPruning.enforceBroadcastReuse
finden Sie in RAPIDSAusgabe #1386.Der Standardalgorithmus für den Dateiausgabe-Committer wurde in Open Source Spark 3.1 vom v2-Algorithmus auf den v1-Algorithmus geändert. Weitere Informationen finden Sie unter Amazon EMR Optimizing Spark Performance — Dynamic Partition Pruning
. Amazon EMR kehrte zum v2-Algorithmus zurück, dem in früheren Amazon EMR 6.x-Versionen verwendeten Standard, um Leistungsrückgänge zu verhindern. Um das Open-Source-Verhalten von Spark 3.1 wiederherzustellen, setzen Sie
spark.hadoop.mapreduce.fileoutputcommitter.algorithm.version
auf1
. Open Source Spark hat diese Änderung vorgenommen, weil das Festschreiben von Aufgaben im Datei-Output-Committer-Algorithmus v2 nicht atomar ist, was in einigen Fällen zu Problemen mit der Korrektheit der Ausgabedaten führen kann. Das Festschreiben von Aufgaben im Algorithmus v1 ist jedoch auch nicht atomar. In einigen Szenarien beinhaltet die Aufgabenübergabe ein Löschen, das vor einer Umbenennung durchgeführt wird. Dies kann zu einem unbemerkten Problem mit der Datenkorrektheit führen.Managed Scaling-Probleme in früheren EMR Amazon-Versionen wurden behoben und Verbesserungen vorgenommen, sodass die Ausfallraten von Anwendungen erheblich reduziert wurden.
Das AWS SDK Java-Bundle wurde auf jedem neuen Cluster installiert. Dies ist ein einzelnes JAR, das alle Dienste SDKs und ihre Abhängigkeiten enthält, anstatt einzelne Komponenten-Jars. Weitere Informationen finden Sie unter Java SDK Bundled Dependency
.
Bekannte Probleme
Für private Subnetz-Cluster von Amazon EMR 6.3.0 und 6.2.0 können Sie nicht auf die Ganglia-Webbenutzeroberfläche zugreifen. Sie erhalten die Fehlermeldung „Zugriff verweigert (403)“. Andere Websites wie SparkUIs, Hue, Zeppelin JupyterHub, Livy und Tez funktionieren normal. Der Zugriff auf die Ganglia-Web-Benutzeroberfläche auf öffentlichen Subnetzclustern funktioniert ebenfalls normal. Um dieses Problem zu beheben, starten Sie den httpd-Service auf dem Primärknoten mit
sudo systemctl restart httpd
neu. Dieses Problem wurde in Amazon EMR 6.4.0 behoben.Wenn der AWS Glue-Datenkatalog aktiviert ist, URI kann die Verwendung von Spark für den Zugriff auf eine AWS Glue-Datenbank mit einem Null-String-Speicherort fehlschlagen. Dies passiert bei früheren EMR Amazon-Versionen, aber SPARK -31709 (https://issues.apache. org/jira/browse/SPARK-31709) macht es für mehr Fälle relevant. Wenn Sie beispielsweise eine Tabelle in der AWS Standard-Glue-DB erstellen, deren Speicherort eine Nullzeichenfolge URI ist,
spark.sql("CREATE TABLE mytest (key string) location '/table_path';")
schlägt dies mit der Meldung fehl, dass kein Pfad aus einer leeren Zeichenfolge erstellt werden kann. Um dies zu umgehen, legen Sie manuell einen Speicherort URI für Ihre AWS Glue-Datenbanken fest und erstellen Sie dann mit Spark Tabellen innerhalb dieser Datenbanken.In Amazon EMR 6.3.0 SQL wurde Presto von Version 343 auf Version 350 aktualisiert. Es gibt zwei sicherheitsrelevante Änderungen von Open Source, die sich auf diese Versionsänderung beziehen. Die dateibasierte Katalogzugriffssteuerung wurde von
deny
zuallow
geändert, wenn keine Regeln für Tabellen-, Schema- oder Sitzungseigenschaften definiert sind. Außerdem wurde die dateibasierte Systemzugriffskontrolle dahingehend geändert, dass sie Dateien unterstützt, für die keine Katalogregeln definiert sind. In diesem Fall ist der gesamte Zugriff auf Kataloge zulässig.Weitere Informationen finden Sie in Version 344 (9. Oktober 2020)
. Beachten Sie das Hadoop-Benutzerverzeichnis (/) home/hadoop) is readable by everyone. It has Unix 755 (drwxr-xr-x) directory permissions to allow read access by frameworks like Hive. You can put files in /home/hadoop und seine Unterverzeichnisse. Beachten Sie jedoch die Berechtigungen für diese Verzeichnisse, um vertrauliche Informationen zu schützen.
-
Niedrigeres Limit für die maximale Anzahl geöffneter Dateien bei älteren Versionen AL2 [in neueren Versionen behoben]. EMRAmazon-Versionen: emr-5.30.x, emr-5.31.0, emr-5.32.0, emr-6.0.0, emr-6.1.0 und emr-6.2.0 basieren auf älteren Versionen von ofAmazon Linux 2 (AL2), die eine niedrigere Ulimit-Einstellung für „Max. Geöffnete Dateien“ haben, wenn Amazon-Cluster mit der Standardeinstellung erstellt werden. EMR AMI Die EMR Amazon-Versionen 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 und höher enthalten einen dauerhaften Fix mit einer höheren Einstellung für „Max. Anzahl geöffneter Dateien“. Versionen mit einem niedrigeren Limit für geöffnete Dateien verursachen beim Senden des Spark-Jobs den Fehler „Zu viele offene Dateien“. In den betroffenen Versionen AMI hat die EMR Amazon-Standardeinstellung eine Ulimit-Standardeinstellung von 4096 für „Max. Geöffnete Dateien“, was unter dem Dateilimit von 65536 in Linux 2 liegt. latestAmazon AMI Die niedrigere Ulimit-Einstellung für „Max. Anzahl geöffneter Dateien“ führt dazu, dass der Spark-Job fehlschlägt, wenn der Spark-Treiber und der Executor versuchen, mehr als 4 096 Dateien zu öffnen. Um das Problem zu beheben, EMR verfügt Amazon über ein Bootstrap Action (BA) -Skript, das die Ulimit-Einstellung bei der Cluster-Erstellung anpasst.
Wenn Sie eine ältere EMR Amazon-Version verwenden, die nicht über die permanente Lösung für dieses Problem verfügt, können Sie mit der folgenden Problemumgehung das Instance-Controller-Ulimit explizit auf maximal 65536 Dateien festlegen.
Explizit ein ulimit über die Befehlszeile setzen
Bearbeiten Sie
/etc/systemd/system/instance-controller.service
, um die folgenden Parameter zum Abschnitt Service hinzuzufügen.LimitNOFILE=65536
LimitNPROC=65536
Starten Sie neu InstanceController
$ sudo systemctl daemon-reload
$ sudo systemctl restart instance-controller
Mithilfe der Bootstrap-Aktion (BA) ein Ulimit festlegen
Sie können auch ein Bootstrap-Aktionsskript (BA) verwenden, um das Ulimit für den Instance-Controller bei der Clustererstellung auf 65 536 Dateien zu konfigurieren.
#!/bin/bash for user in hadoop spark hive; do sudo tee /etc/security/limits.d/$user.conf << EOF $user - nofile 65536 $user - nproc 65536 EOF done for proc in instancecontroller logpusher; do sudo mkdir -p /etc/systemd/system/$proc.service.d/ sudo tee /etc/systemd/system/$proc.service.d/override.conf << EOF [Service] LimitNOFILE=65536 LimitNPROC=65536 EOF pid=$(pgrep -f aws157.$proc.Main) sudo prlimit --pid $pid --nofile=65535:65535 --nproc=65535:65535 done sudo systemctl daemon-reload
-
Wichtig
EMRCluster, auf denen Amazon Linux oder Amazon Linux 2 Amazon Machine Images (AMIs) ausgeführt werden, verwenden das Standardverhalten von Amazon Linux und laden wichtige und kritische Kernel-Updates, die einen Neustart erfordern, nicht automatisch herunter und installieren sie. Dies ist dasselbe Verhalten wie bei anderen EC2 Amazon-Instances, auf denen das standardmäßige Amazon Linux ausgeführt wirdAMI. Wenn neue Amazon Linux-Softwareupdates, die einen Neustart erfordern (wie Kernel und CUDA Updates)NVIDIA, verfügbar werden, nachdem eine EMR Amazon-Version verfügbar wird, laden EMR Cluster-Instances, die standardmäßig ausgeführt werden, diese Updates AMI nicht automatisch herunter und installieren sie. Um Kernel-Updates zu erhalten, können Sie Ihr Amazon so anpassen EMR AMI, dass es das neueste Amazon Linux verwendet AMI.
Um Spark-Aktionen mit Apache Oozie zu verwenden, müssen Sie Ihrer Oozie-
workflow.xml
-Datei die folgende Konfiguration hinzufügen. Andernfalls fehlen mehrere wichtige Bibliotheken wie Hadoop und EMRFS E im Klassenpfad der Spark-Executoren, die Oozie startet.<spark-opts>--conf spark.yarn.populateHadoopClasspath=true</spark-opts>
Wenn Sie Spark mit der Formatierung des Hive-Partitionsspeicherorts verwenden, um Daten in Amazon S3 zu lesen, und Sie Spark auf den EMR Amazon-Versionen 5.30.0 bis 5.36.0 und 6.2.0 bis 6.9.0 ausführen, kann ein Problem auftreten, das verhindert, dass Ihr Cluster Daten korrekt liest. Dies kann passieren, wenn Ihre Partitionen alle der folgenden Eigenschaften aufweisen:
-
Zwei oder mehr Partitionen werden aus derselben Tabelle gescannt.
-
Mindestens ein Partitionsverzeichnispfad ist ein Präfix für mindestens einen anderen Partitionsverzeichnispfad, z. B. ist
s3://bucket/table/p=a
ein Präfix vons3://bucket/table/p=a b
. -
Das erste Zeichen, das auf das Präfix im anderen Partitionsverzeichnis folgt, hat einen Wert von UTF -8, der kleiner als das Zeichen (U+002F) ist.
/
Beispielsweise fällt das Leerzeichen (U+0020), das ins3://bucket/table/p=a b
zwischen a und b vorkommt, in diese Kategorie. Beachten Sie, dass es 14 weitere Zeichen gibt, die keine Kontrollzeichen sind:!"#$%&‘()*+,-
. Weitere Informationen finden Sie unter Kodierungstabelle UTF -8und Unicode-Zeichen.
Um dieses Problem zu umgehen, stellen Sie die
spark.sql.sources.fastS3PartitionDiscovery.enabled
-Konfiguration auffalse
in derspark-defaults
-Klassifizierung ein.-
6.3.0 Komponentenversionen
Die Komponenten, die Amazon mit dieser Version EMR installiert, sind unten aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur bei Amazon erhältlich EMR und werden für Systemprozesse und Funktionen installiert. Diese beginnen in der Regel mit emr
oder aws
. Big-Data-Anwendungspakete in der neuesten EMR Amazon-Version sind normalerweise die neueste Version, die in der Community zu finden ist. Wir stellen Community-Veröffentlichungen EMR so schnell wie möglich auf Amazon zur Verfügung.
Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form
. Der CommunityVersion
-amzn-EmrVersion
beginnt bei 0. Wenn beispielsweise eine Open-Source-Community-Komponente, die EmrVersion
myapp-component
mit Version 2.2 benannt ist, dreimal geändert wurde, um sie in verschiedenen EMR Amazon-Versionen aufzunehmen, wird ihre Release-Version als aufgeführt2.2-amzn-2
.
Komponente | Version | Beschreibung |
---|---|---|
aws-sagemaker-spark-sdk | 1.4.1 | Amazon SageMaker Spark SDK |
emr-ddb | 4.16.0 | Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
emr-goodies | 3.2.0 | Praktische Bibliotheken für das Hadoop-Ökosystem. |
emr-kinesis | 3.5.0 | Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
emr-notebook-env | 1.2.0 | Conda Env für EMR-Notebooks, das Jupyter Enterprise Gateway enthält |
emr-s3-dist-cp | 2.18.0 | Verteilte Kopieranwendung, die für Amazon S3 optimiert ist. |
emr-s3-select | 2.1.0 | EMRS3Select-Anschluss |
emrfs | 2.46.0 | Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
flink-client | 1.12.1 | Apache Flink-Clientskripts und -Anwendungen für die Befehlszeile. |
flink-jobmanager-config | 1.12.1 | Verwaltung von Ressourcen auf EMR Knoten für Apache JobManager Flink. |
ganglia-monitor | 3.7.2 | Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent. |
ganglia-metadata-collector | 3.7.2 | Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten. |
ganglia-web | 3.7.1 | Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken. |
hadoop-client | 3.2.1-amzn-3 | Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn". |
hadoop-hdfs-datanode | 3.2.1-amzn-3 | HDFSDienst auf Knotenebene zum Speichern von Blöcken. |
hadoop-hdfs-library | 3.2.1-amzn-3 | HDFSBefehlszeilenclient und Bibliothek |
hadoop-hdfs-namenode | 3.2.1-amzn-3 | HDFSDienst zum Verfolgen von Dateinamen und Blockspeicherorten. |
hadoop-hdfs-journalnode | 3.2.1-amzn-3 | HDFSDienst für die Verwaltung des Hadoop-Dateisystem-Journals auf HA-Clustern. |
hadoop-httpfs-server | 3.2.1-amzn-3 | HTTPEndpunkt für OperationenHDFS. |
hadoop-kms-server | 3.2.1-amzn-3 | Kryptografischer Schlüsselverwaltungsserver, der auf dem von Hadoop basiert. KeyProvider API |
hadoop-mapred | 3.2.1-amzn-3 | MapReduce Execution Engine-Bibliotheken zum Ausführen einer MapReduce Anwendung. |
hadoop-yarn-nodemanager | 3.2.1-amzn-3 | YARNDienst zur Verwaltung von Containern auf einem einzelnen Knoten. |
hadoop-yarn-resourcemanager | 3.2.1-amzn-3 | YARNDienst für die Zuweisung und Verwaltung von Clusterressourcen und verteilten Anwendungen. |
hadoop-yarn-timeline-server | 3.2.1-amzn-3 | Dienst zum Abrufen aktueller und historischer Informationen für YARN Anwendungen. |
hbase-hmaster | 2.2.6-amzn-1 | Dienst für einen HBase Cluster, der für die Koordination der Regionen und die Ausführung von Verwaltungsbefehlen zuständig ist. |
hbase-region-server | 2.2.6-amzn-1 | Dienst für die Versorgung einer oder mehrerer HBase Regionen. |
hbase-client | 2.2.6-amzn-1 | HBaseBefehlszeilenclient. |
hbase-rest-server | 2.2.6-amzn-1 | Dienst, der einen RESTful HTTP Endpunkt für bereitstellt. HBase |
hbase-thrift-server | 2.2.6-amzn-1 | Dienst, der einen Thrift-Endpunkt für HBase bereitstellt. |
hcatalog-client | 3.1.2-amzn-4 | Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers. |
hcatalog-server | 3.1.2-amzn-4 | Bereitstellung von DienstenHCatalog, einer Tabelle und einer Speicherverwaltungsebene für verteilte Anwendungen. |
hcatalog-webhcat-server | 3.1.2-amzn-4 | HTTPEndpunkt, der eine REST Schnittstelle zu bereitstelltHCatalog. |
hive-client | 3.1.2-amzn-4 | Hive-Befehlszeilen-Client. |
hive-hbase | 3.1.2-amzn-4 | Hive-hbase client. |
hive-metastore-server | 3.1.2-amzn-4 | Dienst für den Zugriff auf den Hive-Metastore, ein semantisches Repository, das Metadaten für SQL Hadoop-Operationen speichert. |
hive-server2 | 3.1.2-amzn-4 | Service zur Annahme von Hive-Abfragen als Webanfragen. |
hudi | 0.7.0-amzn-0 | Inkrementelles Verarbeitungs-Framework zur Stromversorgung der Datenpipline bei geringer Latenz und hoher Effizienz. |
hudi-presto | 0.7.0-amzn-0 | Bundle-Bibliothek zum Ausführen von Presto mit Hudi. |
hudi-prestosql | 0.7.0-amzn-0 | Bundle-Bibliothek für die Ausführung von Presto mit Hudi. SQL |
hudi-spark | 0.7.0-amzn-0 | Bündel-Bibliothek zum Ausführen von Spark mit Hudi. |
hue-server | 4.9.0 | Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen. |
jupyterhub | 1.2.2 | Multi-User-Server für Jupyter-Notebooks |
livy-server | 0.7.0-incubating | RESTSchnittstelle für die Interaktion mit Apache Spark |
nginx | 1.12.1 | nginx [engine x] ist ein HTTP Reverse-Proxy-Server |
mxnet | 1.7.0 | Eine flexible, skalierbare und effiziente Bibliothek für Deep Learning. |
mariadb-server | 5.5.68+ | MariaDB-Datenbankserver. |
nvidia-cuda | 10.1,243 | Nvidia-Treiber und Cuda-Toolkit |
oozie-client | 5.2.1 | Oozie-Befehlszeilen-Client. |
oozie-server | 5.2.1 | Service für die Annahme von Oozie Workflow-Anforderungen. |
opencv | 4.5.0 | Open Source Computer Vision Library. |
phoenix-library | 5.0.0- -2.0 HBase | Die Phoenix-Bibliotheken für den Server und den Client |
phoenix-query-server | 5.0.0- -2,0 HBase | Ein leichter Server, der sowohl JDBC Zugriff als auch Protokollpuffer und JSON Formatzugriff auf die Avatica bietet API |
presto-coordinator | 0.245.1-amzn-0 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker. |
presto-worker | 0.245.1-amzn-0 | Service für das Ausführen von Teilen einer Abfrage. |
presto-client | 0.245.1-amzn-0 | Presto-Befehlszeilenclient, der auf den Standby-Mastern eines HA-Clusters installiert ist, auf denen der Presto-Server nicht gestartet wird. |
prestosql-coordinator | 350 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Prestosql-Worker. |
prestosql-worker | 350 | Service für das Ausführen von Teilen einer Abfrage. |
prestosql-client | 350 | Presto-Befehlszeilenclient, der auf den Standby-Mastern eines HA-Clusters installiert ist, auf denen der Presto-Server nicht gestartet wird. |
pig-client | 0.17.0 | Pig-Befehlszeilen-Client. |
r | 4.0.2 | The R Project for Statistical Computing (Software zur statistischen Datenverarbeitung) |
ranger-kms-server | 2.0.0 | Apache Ranger Key Management System |
spark-client | 3.1.1-amzn-0 | Spark-Befehlszeilen-Clients. |
spark-history-server | 3.1.1-amzn-0 | Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung. |
spark-on-yarn | 3.1.1-amzn-0 | In-Memory-Ausführungsengine für. YARN |
spark-yarn-slave | 3.1.1-amzn-0 | Apache Spark-Bibliotheken, die von YARN Slaves benötigt werden. |
spark-rapids | 0.4.1 | Nvidia RAPIDS Spark-Plugin, das Apache Spark beschleunigt mitGPUs. |
sqoop-client | 1.4.7 | Apache Sqoop-Befehlszeilen-Client. |
tensorflow | 2.4.1 | TensorFlow Open-Source-Softwarebibliothek für leistungsstarke numerische Berechnungen. |
tez-on-yarn | 0.9.2 | Die YARN TEZ-Anwendung und die Bibliotheken. |
webserver | 2.4.41+ | HTTPApache-Server. |
zeppelin-server | 0.9.0 | Webbasiertes Notizbuch, das interaktive Datenanalysen ermöglicht. |
zookeeper-server | 3.4.14 | Zentraler Service für die Verwaltung von Konfigurationsinformationen, die Benennung, die Bereitstellung verteilter Synchronisierung und die Bereitstellung von Gruppenservices. |
zookeeper-client | 3.4.14 | ZooKeeper Befehlszeilen-Client. |
6.3.0 Konfigurationsklassifizierungen
Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML Konfigurationsdatei für die Anwendung, wie hive-site.xml
z. Weitere Informationen finden Sie unter Anwendungen konfigurieren.
Aktionen zur Neukonfiguration treten auf, wenn Sie eine Konfiguration für Instance-Gruppen in einem laufenden Cluster angeben. Amazon leitet EMR nur Rekonfigurationsaktionen für die Klassifizierungen ein, die Sie ändern. Weitere Informationen finden Sie unter Eine Instance-Gruppe in einem laufenden Cluster neu konfigurieren.
Klassifizierungen | Beschreibung | Aktionen zur Neukonfiguration |
---|---|---|
capacity-scheduler | Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop. | Restarts the ResourceManager service. |
container-executor | Ändern Sie die Werte in der Datei container-executor.cfg von HadoopYARN. | Not available. |
container-log4j | Ändern Sie die Werte in der Datei container-log4j.properties YARN von Hadoop. | Not available. |
core-site | Ändert die Werte in der core-site.xml-Datei in Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
docker-conf | Ändern Sie die Docker-bezogenen Einstellungen. | Not available. |
emrfs-site | EMRFSEinstellungen ändern. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
flink-conf | Ändert die flink-conf.yaml-Einstellungen. | Restarts Flink history server. |
flink-log4j | Ändert die log4j.properties-Einstellungen für Flink. | Restarts Flink history server. |
flink-log4j-session | Ändern Sie die Einstellungen von Flink log4j-session.properties für Kubernetes-/Yarn-Sitzungen. | Restarts Flink history server. |
flink-log4j-cli | Ändert die log4j-cli.properties-Einstellungen für Flink. | Restarts Flink history server. |
hadoop-env | Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer. |
hadoop-log4j | Ändert die Werte in der log4j.properties-Datei in Hadoop. | Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer. |
hadoop-ssl-server | Ändert die SSL-Server-Konfiguration in Hadoop. | Not available. |
hadoop-ssl-client | Ändert die SSL-Client-Konfiguration in Hadoop. | Not available. |
hbase | Amazon EMR — kuratierte Einstellungen für Apache. HBase | Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts. |
hbase-env | Werte in der Umgebung ändernHBase. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-log4j | Ändern Sie die Werte in der Datei HBase hbase-log4j.properties. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-metrics | Ändern Sie die Werte in der Datei hadoop-metrics2-hbase.properties. HBase | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-policy | Ändern Sie HBase die Werte in der Datei hbase-policy.xml. | Not available. |
hbase-site | Ändern Sie die Werte in HBase der Datei hbase-site.xml. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer. |
hdfs-encryption-zones | Konfigurieren Sie HDFS Verschlüsselungszonen. | This classification should not be reconfigured. |
hdfs-env | Werte in der HDFS Umgebung ändern. | Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC. |
hdfs-site | Ändern Sie die Werte in HDFS der Datei hdfs-site.xml. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs. |
hcatalog-env | Werte in HCatalog der Umgebung ändern. | Restarts Hive HCatalog Server. |
hcatalog-server-jndi | Ändern Sie die Werte in HCatalog's jndi.properties. | Restarts Hive HCatalog Server. |
hcatalog-server-proto-hive-site | Ändern Sie die Werte in's .xmlHCatalog. proto-hive-site | Restarts Hive HCatalog Server. |
hcatalog-webhcat-env | Werte in der Umgebung ebHCat von HCatalog W ändern. | Restarts Hive WebHCat server. |
hcatalog-webhcat-log4j2 | Ändern Sie die Werte in den ebHCat log4j2.properties von HCatalog W. | Restarts Hive WebHCat server. |
hcatalog-webhcat-site | Ändern Sie die Werte in der Datei webhcat-site.xml von HCatalog W. ebHCat | Restarts Hive WebHCat server. |
hive | Amazon EMR — kuratierte Einstellungen für Apache Hive. | Sets configurations to launch Hive LLAP service. |
hive-beeline-log4j2 | Ändert die Werte in der beeline-log4j2.properties-Datei in Hive. | Not available. |
hive-parquet-logging | Ändert die Werte in der parquet-logging.properties-Datei in Hive. | Not available. |
hive-env | Ändert die Werte in der Hive-Umgebung. | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. |
hive-exec-log4j2 | Ändern Sie die Werte in der Datei 4j2.properties von Hive. hive-exec-log | Not available. |
hive-llap-daemon-log4j2 | Ändern Sie die Werte in der Datei 4j2.properties von Hive. llap-daemon-log | Not available. |
hive-log4j2 | Ändert die Werte in der hive-log4j2.properties-Datei in Hive. | Not available. |
hive-site | Ändert die Werte in der hive-site.xml-Datei in Hive. | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin. |
hiveserver2-site | Ändert die Werte in der hiveserver2-site.xml-Datei von Server2 in Hive. | Not available. |
hue-ini | Ändert die Werte in der INI-Datei in Hue. | Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations. |
httpfs-env | Ändern Sie die Werte in der Umgebung. HTTPFS | Restarts Hadoop Httpfs service. |
httpfs-site | Ändert die Werte in der httpfs-site.xml-Datei in Hadoop. | Restarts Hadoop Httpfs service. |
hadoop-kms-acls | Ändert die Werte in der kms-acls.xml-Datei in Hadoop. | Not available. |
hadoop-kms-env | Werte in der KMS Hadoop-Umgebung ändern. | Restarts Hadoop-KMS service. |
hadoop-kms-log4j | Ändert die Werte in der kms-log4j.properties-Datei in Hadoop. | Not available. |
hadoop-kms-site | Ändert die Werte in der kms-site.xml-Datei in Hadoop. | Restarts Hadoop-KMS and Ranger-KMS service. |
hudi-env | Ändern der Werte in der Hudi-Umgebung. | Not available. |
jupyter-notebook-conf | Ändert die Werte in der jupyter_notebook_config.py-Datei in Jupyter Notebook. | Not available. |
jupyter-hub-conf | Ändern Sie die Werte in JupyterHubs der Datei jupyterhub_config.py. | Not available. |
jupyter-s3-conf | Konfigurieren Sie die S3-Persistenz für Jupyter Notebooks. | Not available. |
jupyter-sparkmagic-conf | Ändert die Werte in der config.json-Datei in Sparkmagic. | Not available. |
livy-conf | Ändert die Werte in der livy.conf-Datei von Livy. | Restarts Livy Server. |
livy-env | Ändert die Werte in der Livy-Umgebung. | Restarts Livy Server. |
livy-log4j | Ändert die log4j.properties-Einstellungen für Livy. | Restarts Livy Server. |
mapred-env | Ändern Sie die Werte in der MapReduce Anwendungsumgebung. | Restarts Hadoop MapReduce-HistoryServer. |
mapred-site | Ändern Sie die Werte in der Datei mapred-site.xml der MapReduce Anwendung. | Restarts Hadoop MapReduce-HistoryServer. |
oozie-env | Ändert die Werte in der Oozie-Umgebung. | Restarts Oozie. |
oozie-log4j | Ändert die Werte in der oozie-log4j.properties-Datei in Oozie. | Restarts Oozie. |
oozie-site | Ändert die Werte in der oozie-site.xml-Datei in Oozie. | Restarts Oozie. |
phoenix-hbase-metrics | Ändert die Werte in der hadoop-metrics2-hbase.properties-Datei in Phoenix. | Not available. |
phoenix-hbase-site | Ändert die Werte in der hbase-site.xml-Datei in Phoenix. | Not available. |
phoenix-log4j | Ändert die Werte in der log4j.properties-Datei in Phoenix. | Restarts Phoenix-QueryServer. |
phoenix-metrics | Ändert die Werte in der hadoop-metrics2-phoenix.properties-Datei in Phoenix. | Not available. |
pig-env | Ändert die Werte in der Pig-Umgebung. | Not available. |
pig-properties | Ändert die Werte in der pig.properties-Datei in Pig. | Restarts Oozie. |
pig-log4j | Ändert die Werte in der log4j.properties-Datei in Pig. | Not available. |
presto-log | Ändert die Werte in der log.properties-Datei in Presto. | Restarts Presto-Server (for PrestoDB) |
presto-config | Ändert die Werte in der config.properties-Datei in Presto. | Restarts Presto-Server (for PrestoDB) |
presto-password-authenticator | Ändern Sie Werte in der Presto-Datei password-authenticator.properties. | Not available. |
presto-env | Ändern Sie die Werte in der presto-env.sh-Datei in Presto. | Restarts Presto-Server (for PrestoDB) |
presto-node | Ändern Sie die Werte in der node.properties-Datei in Presto. | Not available. |
presto-connector-blackhole | Ändert die Werte in der blackhole.properties-Datei in Presto. | Not available. |
presto-connector-cassandra | Ändert die Werte in der cassandra.properties-Datei in Presto. | Not available. |
presto-connector-hive | Ändert die Werte in der hive.properties-Datei in Presto. | Restarts Presto-Server (for PrestoDB) |
presto-connector-jmx | Ändert die Werte in der jmx.properties-Datei in Presto. | Not available. |
presto-connector-kafka | Ändert die Werte in der kafka.properties-Datei in Presto. | Not available. |
presto-connector-localfile | Ändert die Werte in der localfile.properties-Datei in Presto. | Not available. |
presto-connector-memory | Ändert die Werte in der memory.properties-Datei in Presto. | Not available. |
presto-connector-mongodb | Ändert die Werte in der mongodb.properties-Datei in Presto. | Not available. |
presto-connector-mysql | Ändert die Werte in der mysql.properties-Datei in Presto. | Not available. |
presto-connector-postgresql | Ändert die Werte in der postgresql.properties-Datei in Presto. | Not available. |
presto-connector-raptor | Ändert die Werte in der raptor.properties-Datei in Presto. | Not available. |
presto-connector-redis | Ändert die Werte in der redis.properties-Datei in Presto. | Not available. |
presto-connector-redshift | Ändert die Werte in der redshift.properties-Datei. | Not available. |
presto-connector-tpch | Ändert die Werte in der tpch.properties-Datei in Presto. | Not available. |
presto-connector-tpcds | Ändert die Werte in der tpcds.properties-Datei in Presto. | Not available. |
prestosql-log | Ändert die Werte in der log.properties-Datei in Presto. | Restarts Presto-Server (for PrestoSQL) |
prestosql-config | Ändert die Werte in der config.properties-Datei in Presto. | Restarts Presto-Server (for PrestoSQL) |
prestosql-password-authenticator | Ändern Sie Werte in der Presto-Datei password-authenticator.properties. | Restarts Presto-Server (for PrestoSQL) |
prestosql-env | Ändern Sie die Werte in der presto-env.sh-Datei in Presto. | Restarts Presto-Server (for PrestoSQL) |
prestosql-node | Ändern Sie die Werte in der Datei SQL node.properties von Presto. | Not available. |
prestosql-connector-blackhole | Ändern Sie die Werte in der Datei blackhole.properties von PrestoSQL. | Not available. |
prestosql-connector-cassandra | Ändern Sie die Werte in der Datei cassandra.properties von PrestoSQL. | Not available. |
prestosql-connector-hive | Ändern Sie die Werte in der Datei hive.properties von Presto. SQL | Restarts Presto-Server (for PrestoSQL) |
prestosql-connector-jmx | Ändern Sie die Werte in der Datei jmx.properties von PrestoSQL. | Not available. |
prestosql-connector-kafka | Ändern Sie die Werte in der Datei kafka.properties von PrestoSQL. | Not available. |
prestosql-connector-localfile | Ändern Sie die Werte in der Datei localfile.properties von PrestoSQL. | Not available. |
prestosql-connector-memory | Ändern Sie die Werte in der Datei memory.properties von PrestoSQL. | Not available. |
prestosql-connector-mongodb | Ändern Sie die Werte in der Datei mongodb.properties von PrestoSQL. | Not available. |
prestosql-connector-mysql | Ändern Sie die Werte in der Datei mysql.properties von PrestoSQL. | Not available. |
prestosql-connector-postgresql | Ändern Sie die Werte in der Datei postgresql.properties von PrestoSQL. | Not available. |
prestosql-connector-raptor | Ändern Sie die Werte in der Datei raptor.properties von Presto. SQL | Not available. |
prestosql-connector-redis | Ändern Sie die Werte in der Datei redis.properties von PrestoSQL. | Not available. |
prestosql-connector-redshift | Ändern Sie die Werte in der Datei redshift.properties von PrestoSQL. | Not available. |
prestosql-connector-tpch | Ändern Sie die Werte in der Datei tpch.properties von Presto. SQL | Not available. |
prestosql-connector-tpcds | Ändern Sie die Werte in der Datei tpcds.properties von PrestoSQL. | Not available. |
ranger-kms-dbks-site | Ändern Sie die Werte in der Datei dbks-site.xml von Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-site | Ändern Sie die Werte in der ranger-kms-site XML-Datei von Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-env | Ändern Sie die Werte in der KMS Ranger-Umgebung. | Restarts Ranger KMS Server. |
ranger-kms-log4j | Ändern Sie die Werte in der Datei kms-log4j.properties von Ranger. KMS | Not available. |
ranger-kms-db-ca | Ändern Sie die Werte für die CA-Datei auf S3 für Meine Verbindung mit Ranger. SQL SSL KMS | Not available. |
spark | Amazon EMR — kuratierte Einstellungen für Apache Spark. | This property modifies spark-defaults. See actions there. |
spark-defaults | Ändert die Werte in der spark-defaults.conf-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
spark-env | Ändert die Werte in der Spark-Umgebung. | Restarts Spark history server and Spark thrift server. |
spark-hive-site | Ändert die Werte in der hive-site.xml-Datei in Spark. | Not available. |
spark-log4j | Ändert die Werte in der log4j.properties-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
spark-metrics | Ändert die Werte in der metrics.properties-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
sqoop-env | Ändert die Werte in der Sqoop-Umgebung. | Not available. |
sqoop-oraoop-site | Ändern Sie die Werte in der Datei oraoop-site.xml OraOop von Sqoop. | Not available. |
sqoop-site | Ändert die Werte in der sqoop-site.xml in Sqoop. | Not available. |
tez-site | Ändert die Werte in der tez-site.xml-Datei in Tez. | Restart Oozie and HiveServer2. |
yarn-env | Werte in der YARN Umgebung ändern. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer. |
yarn-site | Ändern Sie die Werte in YARN der Datei yarn-site.xml. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer. |
zeppelin-env | Ändert die Werte in der Zeppelin-Umgebung. | Restarts Zeppelin. |
zeppelin-site | Ändern Sie die Konfigurationseinstellungen in zeppelin-site.xml. | Restarts Zeppelin. |
zookeeper-config | Ändern Sie die Werte in ZooKeeper der Datei zoo.cfg. | Restarts Zookeeper server. |
zookeeper-log4j | Ändern Sie die Werte in ZooKeeper der Datei log4j.properties. | Restarts Zookeeper server. |