Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
EMRAmazon-Version 5.34.0
5.34.0 Anwendungsversionen
Die folgenden Anwendungen werden in dieser Version unterstützt: Flink
In der folgenden Tabelle sind die in dieser Version von Amazon verfügbaren Anwendungsversionen EMR und die Anwendungsversionen der vorherigen drei EMR Amazon-Versionen (sofern zutreffend) aufgeführt.
Eine umfassende Historie der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:
| emr-5.34.0 | emr-5.33.1 | emr-5.33.0 | emr-5.32.1 | |
|---|---|---|---|---|
| AWS SDKfür Java | 1.11.970 | 1,11,970 | 1,11,970 | 1,11,890 |
| Python | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 |
| Scala | 2.11.12 | 2.11.12 | 2.11.12 | 2.11.12 |
| AmazonCloudWatchAgent | - | - | - | - |
| Delta | - | - | - | - |
| Flink | 1.13.1 | 1.12.1 | 1.12.1 | 1.11.2 |
| Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 |
| HBase | 1.4.13 | 1.4.13 | 1.4.13 | 1.4.13 |
| HCatalog | 2.3.8 | 2.3.7 | 2.3.7 | 2.3.7 |
| Hadoop | 2.10.1 | 2.10.1 | 2.10.1 | 2.10.1 |
| Hive | 2.3.8 | 2.3.7 | 2.3.7 | 2.3.7 |
| Hudi | 0.9.0-amzn-0 | 0.7.0-amzn-1 | 0.7.0-amzn-1 | 0.6.0-amzn-0 |
| Hue | 4.9.0 | 4.9.0 | 4.9.0 | 4.8.0 |
| Iceberg | - | - | - | - |
| JupyterEnterpriseGateway | 2.1.0 | 2.1.0 | 2.1.0 | 2.1.0 |
| JupyterHub | 1.4.1 | 1.2.2 | 1.2.2 | 1.1.0 |
| Livy | 0.7.1 | 0.7.0 | 0.7.0 | 0.7.0 |
| MXNet | 1.8.0 | 1.7.0 | 1.7.0 | 1.7.0 |
| Mahout | 0.13.0 | 0.13.0 | 0.13.0 | 0.13.0 |
| Oozie | 5.2.1 | 5.2.0 | 5.2.0 | 5.2.0 |
| Phoenix | 4.14.3 | 4.14.3 | 4.14.3 | 4.14.3 |
| Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 |
| Presto | 0,261 | 0,245,1 | 0,245,1 | 0,240,1 |
| Spark | 2.4.8 | 2.4.7 | 2.4.7 | 2.4.7 |
| Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 |
| TensorFlow | 2.4.1 | 2.4.1 | 2.4.1 | 2.3.1 |
| Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 |
| Trino (Presto) SQL | - | - | - | - |
| Zeppelin | 0.10.0 | 0.9.0 | 0.9.0 | 0.8.2 |
| ZooKeeper | 3.4.14 | 3.4.14 | 3.4.14 | 3.4.14 |
5.34.0 Versionshinweise
Die folgenden Versionshinweise enthalten Informationen für EMR Amazon-Version 5.34.0. Änderungen beziehen sich auf Version 5.33.1.
Erste Version: 20. Januar 2022
Aktualisiertes Veröffentlichungsdatum: 21. März 2022
Neue Features
-
[Verwaltete Skalierung] Verwaltete Skalierungsoptimierung mit Spark-Shuffle-Daten — Für EMR Amazon-Versionen 5.34.0 und höher sowie EMR Versionen 6.4.0 und höher ist Managed Scaling jetzt Spark Shuffle-Datenerkennung (Daten, die Spark partitionsübergreifend verteilt, um bestimmte Operationen auszuführen). Weitere Informationen zu Shuffle-Vorgängen finden Sie unter Using EMR Managed Scaling in Amazon EMR im Amazon EMR Management Guide und im Spark Programming Guide
. [Hudi] Verbesserungen zur Vereinfachung der Hudi-Konfiguration. Optimistische Parallelitätssteuerung standardmäßig deaktiviert.
Änderungen, Verbesserungen und behobene Probleme
-
Dies ist eine Version zur Behebung von Problemen mit Amazon EMR Scaling, wenn ein Cluster nicht erfolgreich hoch-/herunterskaliert werden kann oder wenn es zu Anwendungsausfällen kommt.
Bisher führte ein manueller Neustart des Resource Managers auf einem Multi-Master-Cluster dazu, dass EMR Amazon-On-Cluster-Daemons wie Zookeeper alle zuvor außer Betrieb genommenen oder verloren gegangenen Knoten in der Zookeeper-Znode-Datei neu luden. Dies führte dazu, dass die Standardgrenzwerte in bestimmten Situationen überschritten wurden. Amazon entfernt EMR jetzt die außer Betrieb genommenen oder verlorenen Knotendatensätze, die älter als eine Stunde sind, aus der Zookeeper-Datei und die internen Grenzwerte wurden erhöht.
Es wurde ein Problem behoben, bei dem Skalierungsanforderungen für einen großen, stark ausgelasteten Cluster fehlschlugen, wenn EMR Amazon-On-Cluster-Daemons Aktivitäten zur Integritätsprüfung durchführten, z. B. das Erfassen von YARN Knotenstatus und HDFS Knotenstatus. Dies geschah, weil On-Cluster-Daemons nicht in der Lage waren, die Gesundheitsstatusdaten eines Knotens an interne Amazon-Komponenten zu übermitteln. EMR
Die EMR Cluster-Daemons wurden verbessert, um den Knotenstatus bei der Wiederverwendung von IP-Adressen korrekt nachzuverfolgen, um die Zuverlässigkeit bei Skalierungsvorgängen zu erhöhen.
SPARK-29683
. Es wurde ein Problem behoben, bei dem während der Cluster-Skalierung Auftragsfehler auftraten, da Spark davon ausging, dass alle verfügbaren Knoten auf der Verweigern-Liste standen. YARN-9011
. Es wurde ein Problem behoben, bei dem Jobfehler aufgrund eines Fehlers bei der YARN Außerbetriebnahme auftraten, wenn der Cluster versuchte, nach oben oder unten zu skalieren. Das Problem mit Schritt- oder Jobfehlern bei der Cluster-Skalierung wurde behoben, indem sichergestellt wurde, dass die Knotenstatus zwischen den EMR Amazon-On-Cluster-Daemons und/immer konsistent sind. YARN HDFS
Es wurde ein Problem behoben, bei dem Clustervorgänge wie Herunterskalierung und Schrittübermittlung für EMR Amazon-Cluster, die mit Kerberos-Authentifizierung aktiviert waren, fehlschlugen. Dies lag daran, dass der EMR Amazon-On-Cluster-Daemon das Kerberos-Ticket nicht erneuert hat, das für die sichere Kommunikation HDFS YARN mit/auf dem primären Knoten erforderlich ist.
Zeppelin auf Version 0.10.0 upgegradet.
Livy Fix – auf 0.7.1 aktualisiert
Leistungsverbesserung bei Spark — Heterogene Executors werden deaktiviert, wenn bestimmte Spark-Konfigurationswerte in 5.34.0 außer Kraft gesetzt werden. EMR
Web HDFS - und HttpFS-Server sind standardmäßig deaktiviert. Sie können Web HDFS mithilfe der Hadoop-Konfiguration erneut aktivieren,.
dfs.webhdfs.enabledDer HttpFS-Server kann mitsudo systemctl start hadoop-httpfsgestartet werden.
Bekannte Probleme
Die Amazon EMR Notebooks-Funktion, die mit dem Livy-Benutzerwechsel verwendet wird, funktioniert nicht, da HttpFS standardmäßig deaktiviert ist. In diesem Fall kann das EMR Notebook keine Verbindung zu dem Cluster herstellen, für den der Livy-Identitätswechsel aktiviert ist. Die Problemumgehung besteht darin, den HttpFS-Server zu starten, bevor Sie das Notebook mit dem EMR Cluster verbinden.
sudo systemctl start hadoop-httpfsHue-Abfragen funktionieren in Amazon EMR 6.4.0 nicht, da der Apache Hadoop HttpFS-Server standardmäßig deaktiviert ist. Um Hue auf Amazon EMR 6.4.0 zu verwenden, starten Sie den HttpFS-Server auf dem EMR primären Amazon-Node entweder manuell mithilfe
sudo systemctl start hadoop-httpfsoder verwenden Sie einen Amazon-Schritt. EMRDie Amazon EMR Notebooks-Funktion, die mit dem Livy-Benutzerwechsel verwendet wird, funktioniert nicht, da HttpFS standardmäßig deaktiviert ist. In diesem Fall kann das EMR Notebook keine Verbindung zu dem Cluster herstellen, für den der Livy-Identitätswechsel aktiviert ist. Die Problemumgehung besteht darin, den HttpFS-Server zu starten, bevor Sie das Notebook mit dem EMR Cluster verbinden.
sudo systemctl start hadoop-httpfsWenn Sie Spark mit der Formatierung des Hive-Partitionsspeicherorts verwenden, um Daten in Amazon S3 zu lesen, und Sie Spark auf den EMR Amazon-Versionen 5.30.0 bis 5.36.0 und 6.2.0 bis 6.9.0 ausführen, kann ein Problem auftreten, das Ihr Cluster daran hindert, Daten korrekt zu lesen. Dies kann passieren, wenn Ihre Partitionen alle der folgenden Eigenschaften aufweisen:
-
Zwei oder mehr Partitionen werden aus derselben Tabelle gescannt.
-
Mindestens ein Partitionsverzeichnispfad ist ein Präfix für mindestens einen anderen Partitionsverzeichnispfad, z. B. ist
s3://bucket/table/p=aein Präfix vons3://bucket/table/p=a b. -
Das erste Zeichen, das auf das Präfix im anderen Partitionsverzeichnis folgt, hat einen Wert von UTF -8, der kleiner als das Zeichen (U+002F) ist.
/Beispielsweise fällt das Leerzeichen (U+0020), das ins3://bucket/table/p=a bzwischen a und b vorkommt, in diese Kategorie. Beachten Sie, dass es 14 weitere Zeichen gibt, die keine Kontrollzeichen sind:!"#$%&‘()*+,-. Weitere Informationen finden Sie unter Kodierungstabelle UTF -8und Unicode-Zeichen.
Um dieses Problem zu umgehen, stellen Sie die
spark.sql.sources.fastS3PartitionDiscovery.enabled-Konfiguration auffalsein derspark-defaults-Klassifizierung ein.-
5.34.0 Komponentenversionen
Die Komponenten, die Amazon mit dieser Version EMR installiert, sind unten aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur bei Amazon erhältlich EMR und werden für Systemprozesse und Funktionen installiert. Diese beginnen in der Regel mit emr oder aws. Big-Data-Anwendungspakete in der neuesten EMR Amazon-Version sind normalerweise die neueste Version, die in der Community zu finden ist. Wir stellen Community-Veröffentlichungen EMR so schnell wie möglich auf Amazon zur Verfügung.
Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component mit Version 2.2 benannt ist, dreimal geändert wurde, um sie in verschiedenen EMR Amazon-Versionen aufzunehmen, wird ihre Release-Version als aufgeführt2.2-amzn-2.
| Komponente | Version | Beschreibung |
|---|---|---|
| aws-sagemaker-spark-sdk | 1.4.1 | Amazon SageMaker Spark SDK |
| emr-ddb | 4.16.0 | Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-goodies | 2.14.0 | Praktische Bibliotheken für das Hadoop-Ökosystem. |
| emr-kinesis | 3.5.0 | Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-notebook-env | 1.4.0 | Conda Env für EMR-Notebooks, das Jupyter Enterprise Gateway enthält |
| emr-s3-dist-cp | 2.18.0 | Verteilte Kopieranwendung, die für Amazon S3 optimiert ist. |
| emr-s3-select | 1.7.0 | EMRS3Select-Anschluss |
| emrfs | 2.48.0 | Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| flink-client | 1.13.1 | Apache Flink-Clientskripts und -Anwendungen für die Befehlszeile. |
| flink-jobmanager-config | 1.13.1 | Verwaltung von Ressourcen auf EMR Knoten für Apache JobManager Flink. |
| ganglia-monitor | 3.7.2 | Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent. |
| ganglia-metadata-collector | 3.7.2 | Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten. |
| ganglia-web | 3.7.1 | Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken. |
| hadoop-client | 2.10.1-amzn-2 | Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn". |
| hadoop-hdfs-datanode | 2.10.1-amzn-2 | HDFSDienst auf Knotenebene zum Speichern von Blöcken. |
| hadoop-hdfs-library | 2.10.1-amzn-2 | HDFSBefehlszeilenclient und Bibliothek |
| hadoop-hdfs-namenode | 2.10.1-amzn-2 | HDFSDienst zum Verfolgen von Dateinamen und Blockspeicherorten. |
| hadoop-hdfs-journalnode | 2.10.1-amzn-2 | HDFSDienst für die Verwaltung des Hadoop-Dateisystem-Journals auf HA-Clustern. |
| hadoop-httpfs-server | 2.10.1-amzn-2 | HTTPEndpunkt für OperationenHDFS. |
| hadoop-kms-server | 2.10.1-amzn-2 | Kryptografischer Schlüsselverwaltungsserver, der auf dem von Hadoop basiert. KeyProvider API |
| hadoop-mapred | 2.10.1-amzn-2 | MapReduce Execution Engine-Bibliotheken zum Ausführen einer MapReduce Anwendung. |
| hadoop-yarn-nodemanager | 2.10.1-amzn-2 | YARNDienst zur Verwaltung von Containern auf einem einzelnen Knoten. |
| hadoop-yarn-resourcemanager | 2.10.1-amzn-2 | YARNDienst für die Zuweisung und Verwaltung von Clusterressourcen und verteilten Anwendungen. |
| hadoop-yarn-timeline-server | 2.10.1-amzn-2 | Dienst zum Abrufen aktueller und historischer Informationen für YARN Anwendungen. |
| hbase-hmaster | 1.4.13 | Dienst für einen HBase Cluster, der für die Koordination der Regionen und die Ausführung von Verwaltungsbefehlen zuständig ist. |
| hbase-region-server | 1.4.13 | Dienst für die Versorgung einer oder mehrerer HBase Regionen. |
| hbase-client | 1.4.13 | HBaseBefehlszeilenclient. |
| hbase-rest-server | 1.4.13 | Dienst, der einen RESTful HTTP Endpunkt für bereitstellt. HBase |
| hbase-thrift-server | 1.4.13 | Dienst, der einen Thrift-Endpunkt für HBase bereitstellt. |
| hcatalog-client | 2.3.8-amzn-0 | Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers. |
| hcatalog-server | 2.3.8-amzn-0 | Bereitstellung von DienstenHCatalog, einer Tabelle und einer Speicherverwaltungsebene für verteilte Anwendungen. |
| hcatalog-webhcat-server | 2.3.8-amzn-0 | HTTPEndpunkt, der eine REST Schnittstelle zu bereitstelltHCatalog. |
| hive-client | 2.3.8-amzn-0 | Hive-Befehlszeilen-Client. |
| hive-hbase | 2.3.8-amzn-0 | Hive-hbase client. |
| hive-metastore-server | 2.3.8-amzn-0 | Dienst für den Zugriff auf den Hive-Metastore, ein semantisches Repository, das Metadaten für SQL Hadoop-Operationen speichert. |
| hive-server2 | 2.3.8-amzn-0 | Service zur Annahme von Hive-Abfragen als Webanfragen. |
| hudi | 0.9.0-amzn-0 | Inkrementelles Verarbeitungs-Framework zur Versorgung der Datenpipline mit geringer Latenz und hoher Effizienz. |
| hudi-spark | 0.9.0-amzn-0 | Bündel-Bibliothek zum Ausführen von Spark mit Hudi. |
| hudi-presto | 0.9.0-amzn-0 | Bundle-Bibliothek zum Ausführen von Presto mit Hudi. |
| hue-server | 4.9.0 | Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen. |
| jupyterhub | 1.4.1 | Multi-User-Server für Jupyter-Notebooks |
| livy-server | 0.7.1-incubating | RESTSchnittstelle für die Interaktion mit Apache Spark |
| nginx | 1.13.1 | nginx [engine x] ist ein HTTP Reverse-Proxy-Server |
| mahout-client | 0.13.0 | Bibliothek für Machine Learning. |
| mxnet | 1.8.0 | Eine flexible, skalierbare und effiziente Bibliothek für Deep Learning. |
| mariadb-server | 5.5.68 | Mein SQL Datenbankserver. |
| nvidia-cuda | 10.1.243 | Nvidia-Treiber und Cuda-Toolkit |
| oozie-client | 5.2.1 | Oozie-Befehlszeilen-Client. |
| oozie-server | 5.2.1 | Service für die Annahme von Oozie Workflow-Anforderungen. |
| opencv | 4.5.0 | Open Source Computer Vision Library. |
| phoenix-library | 4,14,3- -1,4 HBase | Die Phoenix-Bibliotheken für den Server und den Client |
| phoenix-query-server | 4,14,3- -1,4 HBase | Ein leichter Server, der sowohl JDBC Zugriff als auch Protokollpuffer und JSON Formatzugriff auf die Avatica bietet API |
| presto-coordinator | 0.261-amzn-0 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker. |
| presto-worker | 0.261-amzn-0 | Service für das Ausführen von Teilen einer Abfrage. |
| presto-client | 0.261-amzn-0 | Presto-Befehlszeilenclient, der auf den Standby-Mastern eines HA-Clusters installiert ist, auf denen der Presto-Server nicht gestartet wird. |
| pig-client | 0.17.0 | Pig-Befehlszeilen-Client. |
| r | 4.0.2 | The R Project for Statistical Computing (Software zur statistischen Datenverarbeitung) |
| ranger-kms-server | 1.2.0 | Apache Ranger Key Management System |
| spark-client | 2.4.8-amzn-0 | Spark-Befehlszeilen-Clients. |
| spark-history-server | 2.4.8-amzn-0 | Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung. |
| spark-on-yarn | 2.4.8-amzn-0 | In-Memory-Ausführungsengine für. YARN |
| spark-yarn-slave | 2.4.8-amzn-0 | Apache Spark-Bibliotheken, die von YARN Slaves benötigt werden. |
| sqoop-client | 1.4.7 | Apache Sqoop-Befehlszeilen-Client. |
| tensorflow | 2.4.1 | TensorFlow Open-Source-Softwarebibliothek für leistungsstarke numerische Berechnungen. |
| tez-on-yarn | 0.9.2 | Die YARN TEZ-Anwendung und die Bibliotheken. |
| webserver | 2.4.25+ | HTTPApache-Server. |
| zeppelin-server | 0.10.0 | Webbasiertes Notizbuch, das interaktive Datenanalysen ermöglicht. |
| zookeeper-server | 3.4.14 | Zentraler Service für die Verwaltung von Konfigurationsinformationen, die Benennung, die Bereitstellung verteilter Synchronisierung und die Bereitstellung von Gruppenservices. |
| zookeeper-client | 3.4.14 | ZooKeeper Befehlszeilen-Client. |
5.34.0 Konfigurationsklassifizierungen
Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML Konfigurationsdatei für die Anwendung, wie hive-site.xml z. Weitere Informationen finden Sie unter Anwendungen konfigurieren.
Aktionen zur Neukonfiguration treten auf, wenn Sie eine Konfiguration für Instance-Gruppen in einem laufenden Cluster angeben. Amazon leitet EMR nur Rekonfigurationsaktionen für die Klassifizierungen ein, die Sie ändern. Weitere Informationen finden Sie unter Eine Instance-Gruppe in einem laufenden Cluster neu konfigurieren.
| Klassifizierungen | Beschreibung | Aktionen zur Neukonfiguration |
|---|---|---|
capacity-scheduler | Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop. | Restarts the ResourceManager service. |
container-executor | Ändern Sie die Werte in der Datei container-executor.cfg von HadoopYARN. | Not available. |
container-log4j | Ändern Sie die Werte in der Datei container-log4j.properties YARN von Hadoop. | Not available. |
core-site | Ändert die Werte in der core-site.xml-Datei in Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
docker-conf | Ändern Sie die Docker-bezogenen Einstellungen. | Not available. |
emrfs-site | EMRFSEinstellungen ändern. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
flink-conf | Ändert die flink-conf.yaml-Einstellungen. | Restarts Flink history server. |
flink-log4j | Ändert die log4j.properties-Einstellungen für Flink. | Restarts Flink history server. |
flink-log4j-session | Ändern Sie die Einstellungen von Flink log4j-session.properties für Kubernetes-/Yarn-Sitzungen. | Not available. |
flink-log4j-cli | Ändert die log4j-cli.properties-Einstellungen für Flink. | Restarts Flink history server. |
hadoop-env | Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer. |
hadoop-log4j | Ändert die Werte in der log4j.properties-Datei in Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer. |
hadoop-ssl-server | Ändert die SSL-Server-Konfiguration in Hadoop. | Not available. |
hadoop-ssl-client | Ändert die SSL-Client-Konfiguration in Hadoop. | Not available. |
hbase | Amazon EMR — kuratierte Einstellungen für Apache. HBase | Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts. |
hbase-env | Ändern Sie die Werte in der UmgebungHBase. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-log4j | Ändern Sie die Werte in der Datei HBase hbase-log4j.properties. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-metrics | Ändern Sie die Werte in der Datei hadoop-metrics2-hbase.properties. HBase | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-policy | Ändern Sie HBase die Werte in der Datei hbase-policy.xml. | Not available. |
hbase-site | Ändern Sie die Werte in HBase der Datei hbase-site.xml. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer. |
hdfs-encryption-zones | Konfigurieren Sie HDFS Verschlüsselungszonen. | Should not be reconfigured. |
hdfs-site | Ändern Sie die Werte in HDFS's hdfs-site.xml. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs. |
hcatalog-env | Werte in HCatalog der Umgebung ändern. | Restarts Hive HCatalog Server. |
hcatalog-server-jndi | Ändern Sie die Werte in HCatalog's jndi.properties. | Restarts Hive HCatalog Server. |
hcatalog-server-proto-hive-site | Ändern Sie die Werte in .xmlHCatalog. proto-hive-site | Restarts Hive HCatalog Server. |
hcatalog-webhcat-env | Werte in der Umgebung ebHCat von HCatalog W ändern. | Restarts Hive WebHCat Server. |
hcatalog-webhcat-log4j2 | Ändern Sie die Werte in den ebHCat log4j2.properties von HCatalog W. | Restarts Hive WebHCat Server. |
hcatalog-webhcat-site | Ändern Sie die Werte in der Datei webhcat-site.xml von HCatalog W. ebHCat | Restarts Hive WebHCat Server. |
hive-beeline-log4j2 | Ändert die Werte in der beeline-log4j2.properties-Datei in Hive. | Not available. |
hive-parquet-logging | Ändert die Werte in der parquet-logging.properties-Datei in Hive. | Not available. |
hive-env | Ändert die Werte in der Hive-Umgebung. | Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore. |
hive-exec-log4j2 | Ändern Sie die Werte in der Datei hive-exec-log 4j2.properties von Hive. | Restarts HiveServer2 and HiveMetastore. |
hive-llap-daemon-log4j2 | Ändern Sie die Werte in der Datei 4j2.properties von Hive. llap-daemon-log | Not available. |
hive-log4j2 | Ändert die Werte in der hive-log4j2.properties-Datei in Hive. | Not available. |
hive-site | Ändert die Werte in der hive-site.xml-Datei in Hive. | Restarts HiveServer2 and HiveMetastore. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin. |
hiveserver2-site | Ändert die Werte in der hiveserver2-site.xml-Datei von Server2 in Hive. | Not available. |
hue-ini | Ändert die Werte in der INI-Datei in Hue. | Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations. |
httpfs-env | Ändern Sie die Werte in der Umgebung. HTTPFS | Restarts Hadoop Httpfs service. |
httpfs-site | Ändert die Werte in der httpfs-site.xml-Datei in Hadoop. | Restarts Hadoop Httpfs service. |
hadoop-kms-acls | Ändert die Werte in der kms-acls.xml-Datei in Hadoop. | Not available. |
hadoop-kms-env | Werte in der KMS Hadoop-Umgebung ändern. | Restarts Hadoop-KMS service. |
hadoop-kms-log4j | Ändert die Werte in der kms-log4j.properties-Datei in Hadoop. | Not available. |
hadoop-kms-site | Ändert die Werte in der kms-site.xml-Datei in Hadoop. | Restarts Hadoop-KMS and Ranger-KMS service. |
hudi-env | Ändern der Werte in der Hudi-Umgebung. | Not available. |
jupyter-notebook-conf | Ändert die Werte in der jupyter_notebook_config.py-Datei in Jupyter Notebook. | Not available. |
jupyter-hub-conf | Ändern Sie die Werte in JupyterHubs der Datei jupyterhub_config.py. | Not available. |
jupyter-s3-conf | Konfigurieren Sie die S3-Persistenz für Jupyter Notebooks. | Not available. |
jupyter-sparkmagic-conf | Ändert die Werte in der config.json-Datei in Sparkmagic. | Not available. |
livy-conf | Ändert die Werte in der livy.conf-Datei von Livy. | Restarts Livy Server. |
livy-env | Ändert die Werte in der Livy-Umgebung. | Restarts Livy Server. |
livy-log4j | Ändert die log4j.properties-Einstellungen für Livy. | Restarts Livy Server. |
mapred-env | Ändern Sie die Werte in der MapReduce Anwendungsumgebung. | Restarts Hadoop MapReduce-HistoryServer. |
mapred-site | Ändern Sie die Werte in der Datei mapred-site.xml der MapReduce Anwendung. | Restarts Hadoop MapReduce-HistoryServer. |
oozie-env | Ändert die Werte in der Oozie-Umgebung. | Restarts Oozie. |
oozie-log4j | Ändert die Werte in der oozie-log4j.properties-Datei in Oozie. | Restarts Oozie. |
oozie-site | Ändert die Werte in der oozie-site.xml-Datei in Oozie. | Restarts Oozie. |
phoenix-hbase-metrics | Ändert die Werte in der hadoop-metrics2-hbase.properties-Datei in Phoenix. | Not available. |
phoenix-hbase-site | Ändert die Werte in der hbase-site.xml-Datei in Phoenix. | Not available. |
phoenix-log4j | Ändert die Werte in der log4j.properties-Datei in Phoenix. | Restarts Phoenix-QueryServer. |
phoenix-metrics | Ändert die Werte in der hadoop-metrics2-phoenix.properties-Datei in Phoenix. | Not available. |
pig-env | Ändert die Werte in der Pig-Umgebung. | Not available. |
pig-properties | Ändert die Werte in der pig.properties-Datei in Pig. | Restarts Oozie. |
pig-log4j | Ändert die Werte in der log4j.properties-Datei in Pig. | Not available. |
presto-log | Ändert die Werte in der log.properties-Datei in Presto. | Restarts Presto-Server. |
presto-config | Ändert die Werte in der config.properties-Datei in Presto. | Restarts Presto-Server. |
presto-password-authenticator | Ändern Sie Werte in der Presto-Datei password-authenticator.properties. | Not available. |
presto-env | Ändern Sie die Werte in der presto-env.sh-Datei in Presto. | Restarts Presto-Server. |
presto-node | Ändern Sie die Werte in der node.properties-Datei in Presto. | Not available. |
presto-connector-blackhole | Ändert die Werte in der blackhole.properties-Datei in Presto. | Not available. |
presto-connector-cassandra | Ändert die Werte in der cassandra.properties-Datei in Presto. | Not available. |
presto-connector-hive | Ändert die Werte in der hive.properties-Datei in Presto. | Restarts Presto-Server. |
presto-connector-jmx | Ändert die Werte in der jmx.properties-Datei in Presto. | Not available. |
presto-connector-kafka | Ändert die Werte in der kafka.properties-Datei in Presto. | Not available. |
presto-connector-localfile | Ändert die Werte in der localfile.properties-Datei in Presto. | Not available. |
presto-connector-memory | Ändert die Werte in der memory.properties-Datei in Presto. | Not available. |
presto-connector-mongodb | Ändert die Werte in der mongodb.properties-Datei in Presto. | Not available. |
presto-connector-mysql | Ändert die Werte in der mysql.properties-Datei in Presto. | Not available. |
presto-connector-postgresql | Ändert die Werte in der postgresql.properties-Datei in Presto. | Not available. |
presto-connector-raptor | Ändert die Werte in der raptor.properties-Datei in Presto. | Not available. |
presto-connector-redis | Ändert die Werte in der redis.properties-Datei in Presto. | Not available. |
presto-connector-redshift | Ändert die Werte in der redshift.properties-Datei. | Not available. |
presto-connector-tpch | Ändert die Werte in der tpch.properties-Datei in Presto. | Not available. |
presto-connector-tpcds | Ändert die Werte in der tpcds.properties-Datei in Presto. | Not available. |
ranger-kms-dbks-site | Ändern Sie die Werte in der Datei dbks-site.xml von RangerKMS. | Restarts Ranger KMS Server. |
ranger-kms-site | Ändern Sie die Werte in der ranger-kms-site XML-Datei von Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-env | Ändern Sie Werte in der KMS Ranger-Umgebung. | Restarts Ranger KMS Server. |
ranger-kms-log4j | Ändern Sie die Werte in der Datei kms-log4j.properties von Ranger. KMS | Not available. |
ranger-kms-db-ca | Ändern Sie die Werte für die CA-Datei auf S3 für Meine Verbindung mit Ranger. SQL SSL KMS | Not available. |
recordserver-env | Werte in der EMR RecordServer Umgebung ändern. | Restarts EMR record server. |
recordserver-conf | Ändern Sie die Werte in EMR RecordServer der Datei server.properties. | Restarts EMR record server. |
recordserver-log4j | Ändern Sie die Werte in der Datei EMR RecordServer log4j.properties. | Restarts EMR record server. |
spark | Amazon EMR — kuratierte Einstellungen für Apache Spark. | This property modifies spark-defaults. See actions there. |
spark-defaults | Ändert die Werte in der spark-defaults.conf-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
spark-env | Ändert die Werte in der Spark-Umgebung. | Restarts Spark history server and Spark thrift server. |
spark-hive-site | Ändert die Werte in der hive-site.xml-Datei in Spark. | Not available. |
spark-log4j | Ändert die Werte in der log4j.properties-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
spark-metrics | Ändert die Werte in der metrics.properties-Datei in Spark. | Restarts Spark history server and Spark thrift server. |
sqoop-env | Ändert die Werte in der Sqoop-Umgebung. | Not available. |
sqoop-oraoop-site | Ändern Sie die Werte in der Datei oraoop-site.xml OraOop von Sqoop. | Not available. |
sqoop-site | Ändert die Werte in der sqoop-site.xml in Sqoop. | Not available. |
tez-site | Ändert die Werte in der tez-site.xml-Datei in Tez. | Restarts Oozie. |
yarn-env | Werte in der YARN Umgebung ändern. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer. |
yarn-site | Ändern Sie die Werte in YARN der Datei yarn-site.xml. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer. |
zeppelin-env | Ändert die Werte in der Zeppelin-Umgebung. | Restarts Zeppelin. |
zeppelin-site | Ändern Sie die Konfigurationseinstellungen in zeppelin-site.xml. | Restarts Zeppelin. |
zookeeper-config | Ändern Sie die Werte in ZooKeeper der Datei zoo.cfg. | Restarts Zookeeper server. |
zookeeper-log4j | Ändern Sie die Werte in ZooKeeper der Datei log4j.properties. | Restarts Zookeeper server. |
