Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon-EMR-Version 4.5.0
4.5.0-Anwendungsversionen
Diese Version umfasst die folgenden Anwendungen: Ganglia
In der folgenden Tabelle sind die in dieser Version von Amazon EMR verfügbaren Anwendungsversionen und die Anwendungsversionen der vorherigen drei Amazon-EMR-Versionen (sofern zutreffend) aufgeführt.
Einen umfassenden Verlauf der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:
| emr-4.5.0 | emr-4.4.0 | emr-4.3.0 | emr-4.2.0 | |
|---|---|---|---|---|
| AWS SDK für Java | 1.10.27 | 1.10.27 | 1.10.27 | 1.10.27 |
| Python | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| Scala | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| AmazonCloudWatchAgent | - | - | - | - |
| Delta | - | - | - | - |
| Flink | - | - | - | - |
| Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.6.0 |
| HBase | - | - | - | - |
| HCatalog | 1.0.0-amzn-4 | 1.0.0-amzn-3 | - | - |
| Hadoop | 2.7.2-amzn-0 | 2.7.1-amzn-1 | 2.7.1-amzn-0 | 2.6.0-amzn-2 |
| Hive | 1.0.0-amzn-4 | 1.0.0-amzn-3 | 1.0.0-amzn-2 | 1.0.0-amzn-1 |
| Hudi | - | - | - | - |
| Hue | 3.7.1-amzn-5 | 3.7.1-amzn-5 | 3.7.1-amzn-5 | 3.7.1-amzn-5 |
| Iceberg | - | - | - | - |
| JupyterEnterpriseGateway | - | - | - | - |
| JupyterHub | - | - | - | - |
| Livy | - | - | - | - |
| MXNet | - | - | - | - |
| Mahout | 0.11.1 | 0.11.1 | 0.11.0 | 0.11.0 |
| Oozie | - | - | - | - |
| Oozie-Sandbox | 4.2.0 | 4.2.0 | 4.2.0 | 4.2.0 |
| Phoenix | - | - | - | - |
| Pig | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.14.0-amzn-0 |
| Presto | - | - | - | - |
| Presto-Sandbox | 0.140 | 0.136 | 0.130 | 0.125 |
| Spark | 1.6.1 | 1.6.0 | 1.6.0 | 1.5.2 |
| Sqoop | - | - | - | - |
| Sqoop-Sandbox | 1.4.6 | 1.4.6 | - | - |
| TensorFlow | - | - | - | - |
| Tez | - | - | - | - |
| Trino (PrestoSQL) | - | - | - | - |
| Zeppelin | - | - | - | - |
| Zeppelin-Sandbox | 0.5.6-incubating | 0.5.6-incubating | 0.5.5-incubating-amzn-1 | 0.5.5-incubating-amzn-0 |
| ZooKeeper | - | - | - | - |
| ZooKeeper-Sandbox | - | - | - | - |
Versionshinweise zu 4.5.0
Die folgenden Versionshinweise enthalten Informationen über Amazon-EMR-Version 4.5.0.
Veröffentlichungsdatum: 4. April 2016
Features
-
Upgrade auf Spark 1.6.1
-
Upgrade auf Hadoop 2.7.2
-
Upgrade auf Presto 0.140
-
AWS KMS Unterstützung für serverseitige Amazon S3-Verschlüsselung hinzugefügt.
Bekannte Probleme aus den früheren Versionen, die behoben wurden
-
Es wurde ein Problem behoben, bei dem MySQL- und Apache-Server nicht gestartet wurden, nachdem ein Knoten neu gestartet wurde.
-
Es wurde ein Problem behoben, bei dem IMPORT nicht ordnungsgemäß mit nicht partitionierte Tabellen in Amazon S3 funktionierte.
-
Es wurde ein Problem mit Presto behoben, bei dem das Staging-Verzeichnis beim Schreiben in Hive-Tabellen
/mnt/tmpanstatt/tmplauten muss.
4.5.0-Komponentenversionen
Die Komponenten, die Amazon EMR mit dieser Version installiert, sind nachstehend aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur für Amazon EMR verfügbar und werden für Systemprozesse und -Features installiert. Diese beginnen normalerweise mit emr oderaws. Big-data Bei den Anwendungspaketen in der neuesten Amazon EMR-Version handelt es sich in der Regel um die neueste Version, die in der Community zu finden ist. Wir stellen Community-Versionen in Amazon EMR so schnell wie möglich zur Verfügung.
Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component der Version 2.2 dreimal für die Aufnahme in verschiedene Amazon-EMR-Versionen geändert wurde, wird ihre Version als 2.2-amzn-2 aufgeführt.
| Komponente | Version | Description |
|---|---|---|
| emr-ddb | 3.0.0 | Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-goodies | 2.0.0 | Praktische Bibliotheken für das Hadoop-Ökosystem. |
| emr-kinesis | 3.1.0 | Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-s3-dist-cp | 2.2.0 | Verteilte Kopieranwendung, die für Amazon S3 optimiert ist. |
| emrfs | 2.5.0 | Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| ganglia-monitor | 3.7.2 | Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent. |
| ganglia-metadata-collector | 3.7.2 | Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten. |
| ganglia-web | 3.7.1 | Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken. |
| hadoop-client | 2.7.2-amzn-0 | Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn". |
| hadoop-hdfs-datanode | 2.7.2-amzn-0 | HDFS-Service auf Knotenebene zum Speichern von Blöcken. |
| hadoop-hdfs-library | 2.7.2-amzn-0 | HDFS-Client und -Bibliothek für die Befehlszeile |
| hadoop-hdfs-namenode | 2.7.2-amzn-0 | HDFS-Service für die Nachverfolgung von Dateinamen und Block-Speicherorten. |
| hadoop-httpfs-server | 2.7.2-amzn-0 | HTTP-Endpunkt für HDFS-Operationen. |
| hadoop-kms-server | 2.7.2-amzn-0 | Server zur Verwaltung kryptografischer Schlüssel, der auf der Hadoop-API basiert. KeyProvider |
| hadoop-mapred | 2.7.2-amzn-0 | MapReduce Bibliotheken für die Ausführungsengine zum Ausführen einer MapReduce Anwendung. |
| hadoop-yarn-nodemanager | 2.7.2-amzn-0 | YARN-Service für die Verwaltung von Containern auf einem einzelnen Knoten. |
| hadoop-yarn-resourcemanager | 2.7.2-amzn-0 | YARN-Service für Zuweisung und Verwaltung von Cluster-Ressourcen und verteilten Anwendungen. |
| hcatalog-client | 1.0.0-amzn-4 | Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers. |
| hcatalog-server | 1.0.0-amzn-4 | Service, der HCatalog bereitstellt (ein Tabellen- und Speicherverwaltungs-Layer für verteilte Anwendungen). |
| hcatalog-webhcat-server | 1.0.0-amzn-4 | HTTP-Endpunkt, der eine REST-Schnittstelle für HCatalog bereitstellt. |
| hive-client | 1.0.0-amzn-4 | Hive-Befehlszeilen-Client. |
| hive-metastore-server | 1.0.0-amzn-4 | Service für den Zugriff auf den Hive-Metastore (ein semantisches Repository für die Speicherung von Metadaten für SQL zu Hadoop-Operationen). |
| hive-server | 1.0.0-amzn-4 | Service zur Annahme von Hive-Abfragen als Webanfragen. |
| hue-server | 3.7.1-amzn-5 | Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen. |
| mahout-client | 0.11.1 | Bibliothek für Machine Learning. |
| mysql-server | 5.5 | MySQL-Datenbankserver. |
| oozie-client | 4.2.0 | Oozie-Befehlszeilen-Client. |
| oozie-server | 4.2.0 | Service für die Annahme von Oozie Workflow-Anforderungen. |
| presto-coordinator | 0.140 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker. |
| presto-worker | 0.140 | Service für das Ausführen von Teilen einer Abfrage. |
| pig-client | 0.14.0-amzn-0 | Pig-Befehlszeilen-Client. |
| spark-client | 1.6.1 | Spark-Befehlszeilen-Clients. |
| spark-history-server | 1.6.1 | Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung. |
| spark-on-yarn | 1.6.1 | In-memory Ausführungsengine für YARN. |
| spark-yarn-slave | 1.6.1 | Apache Spark-Bibliotheken, die von YARN-Slaves benötigt werden. |
| sqoop-client | 1.4.6 | Apache Sqoop-Befehlszeilen-Client. |
| webserver | 2.4 | Apache HTTP-Server. |
| zeppelin-server | 0.5.6-incubating | Web-based Notizbuch, das interaktive Datenanalysen ermöglicht. |
4.5.0 Konfigurationsklassifizierungen
Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML-Konfigurationsdatei für die Anwendung, z. B. hive-site.xml Weitere Informationen finden Sie unter Anwendungen konfigurieren.
| Klassifizierungen | Description |
|---|---|
capacity-scheduler | Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop. |
core-site | Ändert die Werte in der core-site.xml-Datei in Hadoop. |
emrfs-site | Ändert die EMRFS-Einstellungen. |
hadoop-env | Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten. |
hadoop-log4j | Ändert die Werte in der log4j.properties-Datei in Hadoop. |
hdfs-encryption-zones | Konfiguriert die HDFS-Verschlüsselungszonen. |
hdfs-site | Ändert die Werte in der hdfs-site.xml-Datei in HDFS. |
hcatalog-env | Ändert die Werte in der HCatalog-Umgebung. |
hcatalog-server-jndi | Ändert die Werte in der jndi.properties-Datei von HCatalog. |
hcatalog-server-proto-hive-site | Ändert die Werte in der proto-hive-site.xml-Datei von HCatalog. |
hcatalog-webhcat-env | Ändert die Werte in der WebHCat-Umgebung von HCatalog. |
hcatalog-webhcat-log4j | Ändert die Werte in der log4j.properties-Datei von WebHCat in HCatalog. |
hcatalog-webhcat-site | Ändert die Werte in der webhcat-site.xml-Datei von WebHCat in HCatalog. |
hive-env | Ändert die Werte in der Hive-Umgebung. |
hive-exec-log4j | Ändert die Werte in der hive-exec-log4j.properties-Datei in Hive. |
hive-log4j | Ändert die Werte in der hive-log4j.properties-Datei in Hive. |
hive-site | Ändert die Werte in der hive-site.xml-Datei in Hive. |
hue-ini | Ändert die Werte in der INI-Datei in Hue. |
httpfs-env | Ändert die Werte in der HTTPFS-Umgebung. |
httpfs-site | Ändert die Werte in der httpfs-site.xml-Datei in Hadoop. |
hadoop-kms-acls | Ändert die Werte in der kms-acls.xml-Datei in Hadoop. |
hadoop-kms-env | Ändert die Werte in der KMS-Umgebung in Hadoop. |
hadoop-kms-log4j | Ändert die Werte in der kms-log4j.properties-Datei in Hadoop. |
hadoop-kms-site | Ändert die Werte in der kms-site.xml-Datei in Hadoop. |
mapred-env | Ändern Sie die Werte in der MapReduce Anwendungsumgebung. |
mapred-site | Ändern Sie die Werte in der Datei mapred-site.xml der MapReduce Anwendung. |
oozie-env | Ändert die Werte in der Oozie-Umgebung. |
oozie-log4j | Ändert die Werte in der oozie-log4j.properties-Datei in Oozie. |
oozie-site | Ändert die Werte in der oozie-site.xml-Datei in Oozie. |
pig-properties | Ändert die Werte in der pig.properties-Datei in Pig. |
pig-log4j | Ändert die Werte in der log4j.properties-Datei in Pig. |
presto-log | Ändert die Werte in der log.properties-Datei in Presto. |
presto-config | Ändert die Werte in der config.properties-Datei in Presto. |
presto-connector-hive | Ändert die Werte in der hive.properties-Datei in Presto. |
spark | EMR-curated Amazon-Einstellungen für Apache Spark. |
spark-defaults | Ändert die Werte in der spark-defaults.conf-Datei in Spark. |
spark-env | Ändert die Werte in der Spark-Umgebung. |
spark-log4j | Ändert die Werte in der log4j.properties-Datei in Spark. |
spark-metrics | Ändert die Werte in der metrics.properties-Datei in Spark. |
sqoop-env | Ändert die Werte in der Sqoop-Umgebung. |
sqoop-oraoop-site | Ändern Sie die Werte in der Datei oraoop-site.xml OraOop von Sqoop. |
sqoop-site | Ändert die Werte in der sqoop-site.xml in Sqoop. |
yarn-env | Ändert die Werte in der YARN-Umgebung. |
yarn-site | Ändert die Werte in der yarn-site.xml-Datei in YARN. |
zeppelin-env | Ändert die Werte in der Zeppelin-Umgebung. |
