Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Amazon-EMR-Version 4.4.0
4.4.0-Anwendungsversionen
Diese Version umfasst die folgenden Anwendungen: Ganglia
In der folgenden Tabelle sind die in dieser Version von Amazon EMR verfügbaren Anwendungsversionen und die Anwendungsversionen der vorherigen drei Amazon-EMR-Versionen (sofern zutreffend) aufgeführt.
Einen umfassenden Verlauf der Anwendungsversionen für jede Version von Amazon EMR finden Sie in den folgenden Themen:
| emr-4.4.0 | emr-4.3.0 | emr-4.2.0 | emr-4.1.0 | |
|---|---|---|---|---|
| AWS SDK für Java | 1.10.27 | 1.10.27 | 1.10.27 | Nicht nachverfolgt |
| Python | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| Scala | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt | Nicht nachverfolgt |
| AmazonCloudWatchAgent | - | - | - | - |
| Delta | - | - | - | - |
| Flink | - | - | - | - |
| Ganglia | 3.7.2 | 3.7.2 | 3.6.0 | - |
| HBase | - | - | - | - |
| HCatalog | 1.0.0-amzn-3 | - | - | - |
| Hadoop | 2.7.1-amzn-1 | 2.7.1-amzn-0 | 2.6.0-amzn-2 | 2.6.0-amzn-1 |
| Hive | 1.0.0-amzn-3 | 1.0.0-amzn-2 | 1.0.0-amzn-1 | 1.0.0-amzn-1 |
| Hudi | - | - | - | - |
| Hue | 3.7.1-amzn-5 | 3.7.1-amzn-5 | 3.7.1-amzn-5 | 3.7.1-amzn-4 |
| Iceberg | - | - | - | - |
| JupyterEnterpriseGateway | - | - | - | - |
| JupyterHub | - | - | - | - |
| Livy | - | - | - | - |
| MXNet | - | - | - | - |
| Mahout | 0.11.1 | 0.11.0 | 0.11.0 | 0.11.0 |
| Oozie | - | - | - | - |
| Oozie-Sandbox | 4.2.0 | 4.2.0 | 4.2.0 | 4.0.1 |
| Phoenix | - | - | - | - |
| Pig | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.14.0-amzn-0 |
| Presto | - | - | - | - |
| Presto-Sandbox | 0.136 | 0.130 | 0.125 | 0.119 |
| Spark | 1.6.0 | 1.6.0 | 1.5.2 | 1.5.0 |
| Sqoop | - | - | - | - |
| Sqoop-Sandbox | 1.4.6 | - | - | - |
| TensorFlow | - | - | - | - |
| Tez | - | - | - | - |
| Trino (PrestoSQL) | - | - | - | - |
| Zeppelin | - | - | - | - |
| Zeppelin-Sandbox | 0.5.6-incubating | 0.5.5-incubating-amzn-1 | 0.5.5-incubating-amzn-0 | 0.6.0-incubating-SNAPSHOT |
| ZooKeeper | - | - | - | - |
| ZooKeeper-Sandbox | - | - | - | - |
Versionshinweise zu 4.4.0
Die folgenden Versionshinweise enthalten Informationen über Amazon-EMR-Version 4.4.0.
Veröffentlichungsdatum: 14. März 2016
Features
-
HCatalog 1.0.0 wurde hinzugefügt.
-
1.4.6 hinzugefügt Sqoop-Sandbox
-
Upgrade auf Presto 0.136
-
Upgrade auf Zeppelin 0.5.6
-
Upgrade auf Mahout 0.11.1
-
dynamicResourceAllocationwurde standardmäßig aktiviert. -
Es wurde eine Tabelle mit allen Konfigurationsklassifizierungen für die Version hinzugefügt. Weitere Informationen finden Sie in der Konfigurationsklassifizierungstabelle unter Konfigurieren von Anwendungen.
Bekannte Probleme aus den früheren Versionen, die behoben wurden
-
Es wurde ein Problem behoben, bei dem die
maximizeResourceAllocationEinstellung nicht genug Speicher für ApplicationMaster YARN-Daemons reservierte. -
Es wurde ein Problem mit einer benutzerdefinierten DNS behoben. Wenn Einträge in
resolve.confden angegebenen, benutzerdefinierten Einträge vorangestellt werden, können die benutzerdefinierten Einträge nicht aufgelöst werden. Dieses Verhalten wirkte sich auf Cluster in einer VPC aus, wo der Standard-VPC-Nameserver als oberster Eintrag inresolve.confeingefügt wird. -
Es wurde ein Problem behoben, bei dem die Python-Standardversion auf Version 2.7 geändert wurde und boto für diese Version nicht installiert war.
-
Es wurde ein Problem behoben, bei dem YARN-Container und Spark-Anwendungen eine eindeutige Ganglia Round Robin-Datenbankdatei (rrd) generierte, wodurch der erste, der Instance angefügte Datenträger vollständig belegt wurde. Aufgrund dieser Fehlerbehebung wurden YARN-Metriken auf Containerebene und Spark-Metriken auf Anwendungsebene deaktiviert.
-
Es wurde ein Problem im Protokoll-Pusher behoben, bei dem alle leeren Protokollordner gelöscht wurden. Das Ergebnis war, dass die Hive-CLI keine Protokolle erstellen konnte, da der Protokoll-Pusher den leeren
user-Ordner unter/var/log/hiveentfernte. -
Es wurde ein Problem mit Hive-Importen behoben, da sich auf die Partitionierung auswirkte und beim Import zu einem Fehler führte.
-
Es wurde ein Problem behoben, bei dem EMRFS und s3-dist-cp Bucket-Namen, die Punkte enthielten, nicht ordnungsgemäß verarbeiteten.
-
Es wurde ein Verhalten in EMRFS geändert, damit in Versioning-fähigen Buckets die Markierungsdatei
_$folder$nicht kontinuierlich erstellt wird. Dies kann zu einer verbesserten Leistung für Versioning-fähige Buckets beitragen. -
Es wurde das Verhalten in EMRFS geändert, sodass Anweisungsdateien nur in Fällen verwendet werden, in denen die clientseitige Verschlüsselung aktiviert ist. Wenn Sie Anweisungsdateien bei Verwendung der clientseitigen Verschlüsselung löschen möchten, können Sie die emrfs-site.xml-Eigenschaft,
fs.s3.cse.cryptoStorageMode.deleteInstructionFiles.enabled, auf "true" festlegen. -
Die YARN-Protokollaggregation wurde geändert, sodass Protokolle am Aggregationsziel zwei Tage lang verwahrt werden. Das Standard-Ziel ist der HDFS-Speicher Ihres Clusters. Wenn Sie diese Dauer ändern möchten, ändern Sie den Wert
yarn.log-aggregation.retain-secondsmit der Konfigurationsklassifizierungyarn-sitebeim Erstellen Ihres Clusters. Wie immer können Sie Ihre Anwendungsprotokolle beim Erstellen Ihres Clusters mit dem Parameterlog-uriin Amazon S3 speichern.
Angewendete Patches
4.4.0-Komponentenversionen
Die Komponenten, die Amazon EMR mit dieser Version installiert, sind nachstehend aufgeführt. Einige werden als Teil von Big-Data-Anwendungspaketen installiert. Andere sind nur für Amazon EMR verfügbar und werden für Systemprozesse und -Features installiert. Diese beginnen normalerweise mit emr oderaws. Big-data Bei den Anwendungspaketen in der neuesten Amazon EMR-Version handelt es sich in der Regel um die neueste Version, die in der Community zu finden ist. Wir stellen Community-Versionen in Amazon EMR so schnell wie möglich zur Verfügung.
Einige Komponenten in Amazon EMR unterscheiden sich von Community-Versionen. Diese Komponenten verfügen über eine Versionsbezeichnung in der Form CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component der Version 2.2 dreimal für die Aufnahme in verschiedene Amazon-EMR-Versionen geändert wurde, wird ihre Version als 2.2-amzn-2 aufgeführt.
| Komponente | Version | Description |
|---|---|---|
| emr-ddb | 3.0.0 | Amazon DynamoDB-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-goodies | 2.0.0 | Praktische Bibliotheken für das Hadoop-Ökosystem. |
| emr-kinesis | 3.1.0 | Amazon Kinesis-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| emr-s3-dist-cp | 2.2.0 | Verteilte Kopieranwendung, die für Amazon S3 optimiert ist. |
| emrfs | 2.4.0 | Amazon S3-Connector für Anwendungen aus dem Hadoop-Ökosystem. |
| ganglia-monitor | 3.7.2 | Eingebetteter Ganglia-Agent für Anwendungen aus dem Hadoop-Ökosystem zusammen mit dem Ganglia-Überwachungsagent. |
| ganglia-metadata-collector | 3.7.2 | Ganglia-Metadaten-Kollektor zum Aggregieren von Metriken aus Ganglia-Überwachungsagenten. |
| ganglia-web | 3.7.1 | Webanwendung zum Anzeigen von durch den Ganglia-Metadaten-Kollektor gesammelten Metriken. |
| hadoop-client | 2.7.1-amzn-1 | Hadoop-Befehlszeilen-Clients wie z. B. "hdfs", "Hadoop" oder "Garn". |
| hadoop-hdfs-datanode | 2.7.1-amzn-1 | HDFS-Service auf Knotenebene zum Speichern von Blöcken. |
| hadoop-hdfs-library | 2.7.1-amzn-1 | HDFS-Client und -Bibliothek für die Befehlszeile |
| hadoop-hdfs-namenode | 2.7.1-amzn-1 | HDFS-Service für die Nachverfolgung von Dateinamen und Block-Speicherorten. |
| hadoop-httpfs-server | 2.7.1-amzn-1 | HTTP-Endpunkt für HDFS-Operationen. |
| hadoop-kms-server | 2.7.1-amzn-1 | Server zur Verwaltung kryptografischer Schlüssel, der auf der Hadoop-API basiert. KeyProvider |
| hadoop-mapred | 2.7.1-amzn-1 | MapReduce Bibliotheken für die Ausführungsengine zum Ausführen einer MapReduce Anwendung. |
| hadoop-yarn-nodemanager | 2.7.1-amzn-1 | YARN-Service für die Verwaltung von Containern auf einem einzelnen Knoten. |
| hadoop-yarn-resourcemanager | 2.7.1-amzn-1 | YARN-Service für Zuweisung und Verwaltung von Cluster-Ressourcen und verteilten Anwendungen. |
| hcatalog-client | 1.0.0-amzn-3 | Der "hcat"-Befehlszeilen-Client-für das Bearbeiten des hcatalog-Servers. |
| hcatalog-server | 1.0.0-amzn-3 | Service, der HCatalog bereitstellt (ein Tabellen- und Speicherverwaltungs-Layer für verteilte Anwendungen). |
| hcatalog-webhcat-server | 1.0.0-amzn-3 | HTTP-Endpunkt, der eine REST-Schnittstelle für HCatalog bereitstellt. |
| hive-client | 1.0.0-amzn-3 | Hive-Befehlszeilen-Client. |
| hive-metastore-server | 1.0.0-amzn-3 | Service für den Zugriff auf den Hive-Metastore (ein semantisches Repository für die Speicherung von Metadaten für SQL zu Hadoop-Operationen). |
| hive-server | 1.0.0-amzn-3 | Service zur Annahme von Hive-Abfragen als Webanfragen. |
| hue-server | 3.7.1-amzn-5 | Webanwendung für die Analyse von Daten mithilfe von Hadoop-Anwendungen. |
| mahout-client | 0.11.1 | Bibliothek für Machine Learning. |
| mysql-server | 5.5 | MySQL-Datenbankserver. |
| oozie-client | 4.2.0 | Oozie-Befehlszeilen-Client. |
| oozie-server | 4.2.0 | Service für die Annahme von Oozie Workflow-Anforderungen. |
| presto-coordinator | 0.136 | Service zur Annahme von Abfragen und die Verwaltung der Abfrageausführung der Presto-Worker. |
| presto-worker | 0.136 | Service für das Ausführen von Teilen einer Abfrage. |
| pig-client | 0.14.0-amzn-0 | Pig-Befehlszeilen-Client. |
| spark-client | 1.6.0 | Spark-Befehlszeilen-Clients. |
| spark-history-server | 1.6.0 | Web-Benutzeroberfläche zum Anzeigen von protokollierten Ereignissen für die gesamte Lebensdauer einer abgeschlossenen Spark-Anwendung. |
| spark-on-yarn | 1.6.0 | In-memory Ausführungsengine für YARN. |
| spark-yarn-slave | 1.6.0 | Apache Spark-Bibliotheken, die von YARN-Slaves benötigt werden. |
| sqoop-client | 1.4.6 | Apache Sqoop-Befehlszeilen-Client. |
| webserver | 2.4 | Apache HTTP-Server. |
| zeppelin-server | 0.5.6-incubating | Web-based Notizbuch, das interaktive Datenanalysen ermöglicht. |
4.4.0-Konfigurationsklassifizierungen
Mithilfe von Konfigurationsklassifizierungen können Sie Anwendungen anpassen. Diese entsprechen häufig einer XML-Konfigurationsdatei für die Anwendung, z. B. hive-site.xml Weitere Informationen finden Sie unter Anwendungen konfigurieren.
| Klassifizierungen | Description |
|---|---|
capacity-scheduler | Ändert die Werte in der capacity-scheduler.xml-Datei in Hadoop. |
core-site | Ändert die Werte in der core-site.xml-Datei in Hadoop. |
emrfs-site | Ändert die EMRFS-Einstellungen. |
hadoop-env | Ändert die Werte in der Hadoop-Umgebung für alle Hadoop-Komponenten. |
hadoop-log4j | Ändert die Werte in der log4j.properties-Datei in Hadoop. |
hdfs-encryption-zones | Konfiguriert die HDFS-Verschlüsselungszonen. |
hdfs-site | Ändert die Werte in der hdfs-site.xml-Datei in HDFS. |
hcatalog-env | Ändert die Werte in der HCatalog-Umgebung. |
hcatalog-server-jndi | Ändert die Werte in der jndi.properties-Datei von HCatalog. |
hcatalog-server-proto-hive-site | Ändert die Werte in der proto-hive-site.xml-Datei von HCatalog. |
hcatalog-webhcat-env | Ändert die Werte in der WebHCat-Umgebung von HCatalog. |
hcatalog-webhcat-log4j | Ändert die Werte in der log4j.properties-Datei von WebHCat in HCatalog. |
hcatalog-webhcat-site | Ändert die Werte in der webhcat-site.xml-Datei von WebHCat in HCatalog. |
hive-env | Ändert die Werte in der Hive-Umgebung. |
hive-exec-log4j | Ändert die Werte in der hive-exec-log4j.properties-Datei in Hive. |
hive-log4j | Ändert die Werte in der hive-log4j.properties-Datei in Hive. |
hive-site | Ändert die Werte in der hive-site.xml-Datei in Hive. |
hue-ini | Ändert die Werte in der INI-Datei in Hue. |
httpfs-env | Ändert die Werte in der HTTPFS-Umgebung. |
httpfs-site | Ändert die Werte in der httpfs-site.xml-Datei in Hadoop. |
hadoop-kms-acls | Ändert die Werte in der kms-acls.xml-Datei in Hadoop. |
hadoop-kms-env | Ändert die Werte in der KMS-Umgebung in Hadoop. |
hadoop-kms-log4j | Ändert die Werte in der kms-log4j.properties-Datei in Hadoop. |
hadoop-kms-site | Ändert die Werte in der kms-site.xml-Datei in Hadoop. |
mapred-env | Ändern Sie die Werte in der MapReduce Anwendungsumgebung. |
mapred-site | Ändern Sie die Werte in der Datei mapred-site.xml der MapReduce Anwendung. |
oozie-env | Ändert die Werte in der Oozie-Umgebung. |
oozie-log4j | Ändert die Werte in der oozie-log4j.properties-Datei in Oozie. |
oozie-site | Ändert die Werte in der oozie-site.xml-Datei in Oozie. |
pig-properties | Ändert die Werte in der pig.properties-Datei in Pig. |
pig-log4j | Ändert die Werte in der log4j.properties-Datei in Pig. |
presto-log | Ändert die Werte in der log.properties-Datei in Presto. |
presto-config | Ändert die Werte in der config.properties-Datei in Presto. |
presto-connector-hive | Ändert die Werte in der hive.properties-Datei in Presto. |
spark | EMR-curated Amazon-Einstellungen für Apache Spark. |
spark-defaults | Ändert die Werte in der spark-defaults.conf-Datei in Spark. |
spark-env | Ändert die Werte in der Spark-Umgebung. |
spark-log4j | Ändert die Werte in der log4j.properties-Datei in Spark. |
spark-metrics | Ändert die Werte in der metrics.properties-Datei in Spark. |
sqoop-env | Ändert die Werte in der Sqoop-Umgebung. |
sqoop-oraoop-site | Ändern Sie die Werte in der Datei oraoop-site.xml OraOop von Sqoop. |
sqoop-site | Ändert die Werte in der sqoop-site.xml in Sqoop. |
yarn-env | Ändert die Werte in der YARN-Umgebung. |
yarn-site | Ändert die Werte in der yarn-site.xml-Datei in YARN. |
zeppelin-env | Ändert die Werte in der Zeppelin-Umgebung. |
