Amazon EMR versione 6.14.0 - Amazon EMR
Versioni dell'applicazione 6.14.0Note di rilascio 6.14.0Versioni Java predefinite 6.14.0Versioni dei componenti 6.14.0Classificazioni di configurazione 6.14.0Log delle modifiche 6.14.0

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Amazon EMR versione 6.14.0

Versioni dell'applicazione 6.14.0

In questa versione sono supportate le seguenti applicazioni: Delta, Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, Iceberg, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Trino, Zeppelin, e ZooKeeper.

La tabella seguente elenca le versioni delle applicazioni disponibili in questa versione di Amazon EMR e le versioni delle applicazioni nelle tre EMR versioni precedenti di Amazon (se applicabile).

Per una cronologia completa delle versioni delle applicazioni per ogni versione di AmazonEMR, consulta i seguenti argomenti:

Informazioni sulla versione dell'applicazione
emr-6.14.0 emr-6.13.0 emr-6.12.0 emr-6.11.1
AWS SDKper Java 1.12.5431,12,5131,12,4901,12,446
Python 2.7, 3.72,7, 3,72,7, 3,72,7, 3,7
Scala 2,12,152,12,152,12,152,12,15
AmazonCloudWatchAgent - - - -
Delta2.4.02.4.02.4.02.2.0
Flink1,17,11.17.01.17.01.16.0
Ganglia3.7.23.7.23.7.23.7.2
HBase2,4,172,4,172,4,172,4,15
HCatalog3.1.33.1.33.1.33.1.3
Hadoop33,33.3.33.3.33.3.3
Hive3.1.33.1.33.1.33.1.3
Hudi0.13.1-amzn-20.13.1-amzn-10.13.1-amzn-00.13.0-amzn-0
Hue4.11.04.11.04.11.04.11.0
Iceberg1.3.1-amzn-01.3.0-amzn-11.3.0-amzn-01.2.0-amzn-0
JupyterEnterpriseGateway2.6.02.6.02.6.02.6.0
JupyterHub1.5.01.5.01.4.11.4.1
Livy0.7.10.7.10.7.10.7.1
MXNet1.9.11.9.11.9.11.9.1
Mahout - - - -
Oozie5.2.15.2.15.2.15.2.1
Phoenix5.1.35.1.35.1.35.1.2
Pig0.17.00.17.00.17.00.17.0
Presto0,2810,2810,2810,2799
Spark3.4.13.4.13.4.03.3.2
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow2.11.02.11.02.11.02.11.0
Tez0,10,20,10,20,10,20,10,2
Torino (Presto) SQL422414414410
Zeppelin0.10.10,10,10,10,10,10,1
ZooKeeper3.5.103.5.103.5.103.5.10

Note di rilascio 6.14.0

Le seguenti note di rilascio includono informazioni per la EMR versione 6.14.0 di Amazon. Le modifiche sono relative alla versione 6.13.0. Per ulteriori informazioni sulla tempistica di pubblicazione, consulta il Log delle modifiche 6.14.0.

Nuove funzionalità

  • Amazon EMR 6.14.0 supports Apache Spark 3.4.1, Apache Spark RAPIDS 23.06.0-amzn-2, Flink 1.17.1, Iceberg 1.3.1, and Trino 422.

  • Amazon EMR managed scaling è ora disponibile nella regione ap-southeast-3 Asia Pacifico (Giacarta) per i cluster creati con Amazon EMR 6.14.0 e versioni successive.

Modifiche, miglioramenti e problemi risolti

  • La versione 6.14.0 ottimizza la gestione dei log con Amazon in esecuzione EMR su Amazon. EC2 Di conseguenza, potresti notare una leggera riduzione dei costi di archiviazione per i log del cluster.

  • La versione 6.14.0 migliora il flusso di lavoro di scalabilità per tenere conto di diverse istanze core che presentano una variazione sostanziale nelle dimensioni dei rispettivi volumi Amazon. EBS Questo miglioramento si applica solo ai nodi principali; le operazioni di riduzione delle dimensioni per i nodi di attività non sono influenzate.

  • La versione 6.14.0 migliora il modo in cui Amazon EMR interagisce con applicazioni open source come Apache Hadoop YARN ResourceManager and HDFS NameNode. Questo miglioramento riduce il rischio di ritardi operativi dovuti alla scalabilità del cluster e mitiga gli errori di avvio dovuti a problemi di connettività con le applicazioni open source.

  • La versione 6.14.0 ottimizza l'installazione delle applicazioni all'avvio del cluster. Ciò migliora i tempi di avvio del cluster per determinate combinazioni di EMR applicazioni Amazon.

  • La versione 6.14.0 corregge un problema a causa del quale le operazioni di scalabilità verso il basso del cluster potrebbero bloccarsi quando un cluster in esecuzione in un dominio personalizzato rileva un VPC riavvio del nodo principale o del task node.

  • Quando avvii un cluster con l'ultima versione di patch di Amazon EMR 5.36 o successiva, 6.6 o successiva, o 7.0 o successiva, Amazon EMR utilizza l'ultima versione di Amazon Linux 2023 o Amazon Linux 2 per Amazon Linux 2 come Amazon predefinito. EMR AMI Per ulteriori informazioni, consulta Using the default Amazon Linux AMI for Amazon EMR.

    OsReleaseLabel (versione Amazon Linux) Versione del kernel di Amazon Linux Data di disponibilità Regioni supportate
    2.0.20240709,1 4,14,348 23 luglio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Francoforte), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrein), Canada (Centrale), (Stati Uniti occidentali), (Stati Uniti orientali), Cina AWS GovCloud (Pechino), Cina AWS GovCloud (Ningxia), Asia Pacifico (Hyderabad), Medio Oriente (UAE), Europa (Spagna), Europa (Zurigo), Asia Pacifico (Melbourne), Israele (Tel Aviv), Canada occidentale (Calgary)
    20.20240223.0 4,14,336 8 marzo 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia), Canada occidentale (Calgary)
    20,20240131,0 4,14,336 14 febbraio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia), Canada occidentale (Calgary)
    2.0.20240124.0 4,14,336 7 febbraio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia), Canada occidentale (Calgary)
    2,020240109,0 4,1,334 24 gennaio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia), Canada occidentale (Calgary)
    2,020231218,0 4,14,330 2 gennaio 2024 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2.0.20231206,0 4,14,330 22 dicembre 2023 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2.0.20231116.0 4,14,328 11 dicembre 2023 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2.0.20231101,0 4,14,327 17 novembre 2023 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Centrale), Israele (Tel Aviv), AWS GovCloud (Stati Uniti occidentali), AWS GovCloud (Stati Uniti orientali), Cina (Pechino), Cina (Ningxia)
    2.0.20230906,0 4,14,322 11 settembre 2023 Stati Uniti orientali (Virginia settentrionale), Stati Uniti orientali (Ohio), Stati Uniti occidentali (California settentrionale), Stati Uniti occidentali (Oregon), Europa (Stoccolma), Europa (Milano), Europa (Spagna), Europa (Francoforte), Europa (Zurigo), Europa (Irlanda), Europa (Londra), Europa (Parigi), Asia Pacifico (Hong Kong), Asia Pacifico (Mumbai), Asia Pacifico (Hyderabad), Asia Pacifico (Hyderabad), Asia Pacifico (Tokyo), Asia Pacifico (Seoul), Asia Pacifico (Osaka), Asia Pacifico (Singapore), Asia Pacifico (Sydney), Asia Pacifico (Giacarta), Asia Pacifico (Melbourne), Africa (Città del Capo), Sud America (San Paolo), Medio Oriente (Bahrain), Medio Oriente (), Canada (UAE Central), Israele (Tel Aviv)

Versioni Java predefinite 6.14.0

EMRLe versioni 6.12.0 e successive di Amazon supportano tutte le applicazioni con Amazon Corretto 8 per impostazione predefinita, ad eccezione di Trino. Per Trino, Amazon EMR supporta Amazon Corretto 17 per impostazione predefinita a partire dalla EMR versione 6.9.0 di Amazon. Amazon supporta EMR anche alcune applicazioni con Amazon Corretto 11 e 17. Queste applicazioni sono elencate nella seguente tabella. Se desideri modificare l'impostazione predefinita JVM sul cluster, segui le istruzioni riportate Configurazione delle applicazioni per l'uso di una macchina virtuale Java specifica per ogni applicazione in esecuzione sul cluster. Puoi utilizzare solo una delle versioni di runtime Java per cluster. Amazon EMR non supporta l'esecuzione di nodi o applicazioni diversi su versioni di runtime diverse sullo stesso cluster.

Sebbene Amazon EMR supporti Amazon Corretto 11 e 17 su Apache Spark, Apache Hadoop e Apache Hive, le prestazioni potrebbero peggiorare per alcuni carichi di lavoro quando utilizzi queste versioni di Corretto. Consigliamo di testare i carichi di lavoro prima di modificare i valori predefiniti.

La tabella seguente mostra le versioni Java predefinite per le applicazioni in Amazon EMR 6.14.0:

Applicazione Versione Java/Amazon Corretto (l'impostazione predefinita è in grassetto)
Delta 17, 11, 8
Flink 11, 8
Ganglia 8
HBase 11, 8
HCatalog 17, 11, 8
Hadoop 17, 11, 8
Hive 17, 11, 8
Hudi 17, 11, 8
Iceberg 17, 11, 8
Livy 17, 11, 8
Oozie 17, 11, 8
Phoenix 8
PrestoDB 8
Spark 17, 11, 8
Scintilla RAPIDS 17, 11, 8
Sqoop 8
Tez 17, 11, 8
Trino 17
Zeppelin 8
Pig 8
Zookeeper 8

Versioni dei componenti 6.14.0

I componenti che Amazon EMR installa con questa versione sono elencati di seguito. Alcuni sono installati come parte di pacchetti di applicazione dei big data. Altri sono esclusivi di Amazon EMR e installati per processi e funzionalità di sistema. Questi solitamente iniziano con emr o aws. I pacchetti di applicazioni Big Data nella EMR versione più recente di Amazon sono in genere l'ultima versione disponibile nella community. Rendiamo disponibili le versioni per la community su Amazon EMR il più rapidamente possibile.

Alcuni componenti di Amazon EMR differiscono dalle versioni della community. Tali componenti hanno un'etichetta che indica la versione nel modulo CommunityVersion-amzn-EmrVersion. EmrVersion inizia da 0. Ad esempio, se il componente della community open source denominato myapp-component con la versione 2.2 è stato modificato tre volte per essere incluso in diverse EMR versioni di Amazon, la sua versione di rilascio è elencata come2.2-amzn-2.

Componente Versione Descrizione
aws-sagemaker-spark-sdk1.4.2Amazon SageMaker Spark SDK
delta2.4.0Delta Lake è un formato a tabella aperta per set di dati analitici di grandissime dimensioni
delta-standalone-connectors0.6.0I connettori Delta offrono runtime diversi per integrare Delta Lake con motori come Flink, Hive e Presto.
emr-ddb5.1.0Connettore di Amazon DynamoDB per le applicazioni dell'ecosistema Hadoop.
emr-goodies3.7.0Librerie utili per l'ecosistema Hadoop.
emr-kinesis3.11.0Connettore di Amazon Kinesis per le applicazioni dell'ecosistema Hadoop.
emr-notebook-env1.7.0Ambiente Conda per EMR Notebooks che include il gateway aziendale Jupyter
emr-s3-dist-cp2.28.0Applicazione di copia distribuita ottimizzata per Amazon S3.
emr-s3-select2.7.0EMRConnettore S3Select
emr-wal-cli1.1.0Interfaccia della linea di comando utilizzata per l'elenco o la cancellazione di emrwal.
emrfs2.59.0Connettore di Amazon S3 per le applicazioni dell'ecosistema Hadoop.
flink-client1.17.1-amzn-0Applicazioni e script client a riga di comando Apache Flink.
flink-jobmanager-config1,17.1-amzn-0Gestione delle risorse sui EMR nodi per Apache Flink. JobManager
ganglia-monitor3.7.2Agente Ganglia integrato per le applicazioni dell'ecosistema Hadoop con l'agente di monitoraggio Ganglia.
ganglia-metadata-collector3.7.2Raccoglitore di metadati Ganglia per l'aggregazione di parametri degli agenti di monitoraggio Ganglia.
ganglia-web3.7.1Applicazione Web per la visualizzazione di parametri raccolti dal raccoglitore di metadati Ganglia.
hadoop-client3.3.3-amzn-6Client di riga di comando Hadoop, ad esempio "hdfs", "hadoop" o "yarn".
hadoop-hdfs-datanode3.3.3-amzn-6HDFSservizio a livello di nodo per l'archiviazione dei blocchi.
hadoop-hdfs-library3.3.3-amzn-6HDFSclient e libreria da riga di comando
hadoop-hdfs-namenode3.3.3-amzn-6HDFSservizio per tracciare i nomi dei file e le posizioni dei blocchi.
hadoop-hdfs-journalnode3.3.3-amzn-6HDFSservizio per la gestione del diario del file system Hadoop su cluster HA.
hadoop-httpfs-server3.3.3-amzn-6HTTPHDFSendpoint per le operazioni.
hadoop-kms-server3.3.3-amzn-6Server di gestione delle chiavi crittografiche basato su Hadoop. KeyProvider API
hadoop-mapred3.3.3-amzn-6MapReduce librerie di motori di esecuzione per l'esecuzione di un'applicazione. MapReduce
hadoop-yarn-nodemanager3.3.3-amzn-6YARNservizio per la gestione dei contenitori su un singolo nodo.
hadoop-yarn-resourcemanager3.3.3-amzn-6YARNservizio per l'allocazione e la gestione delle risorse del cluster e delle applicazioni distribuite.
hadoop-yarn-timeline-server3.3.3-amzn-6Servizio per il recupero di informazioni correnti e storiche per le applicazioni. YARN
hbase-hmaster2.4.17-amzn-2Servizio per un HBase cluster responsabile del coordinamento delle regioni e dell'esecuzione dei comandi amministrativi.
hbase-region-server2.4.17-amzn-2Servizio per servire una o più HBase regioni.
hbase-client2.4.17-amzn-2HBaseclient da riga di comando.
hbase-rest-server2.4.17-amzn-2Servizio che fornisce un RESTful HTTP endpoint per. HBase
hbase-thrift-server2.4.17-amzn-2Servizio che fornisce un endpoint Thrift a. HBase
hbase-operator-tools2.4.17-amzn-2Strumento di riparazione per cluster ApacheHBase.
hcatalog-client3.1.3-amzn-7Client a riga di comando "hcat" per la manipolazione del server hcatalog.
hcatalog-server3.1.3-amzn-7Fornitura di serviziHCatalog, un livello di gestione delle tabelle e dello storage per applicazioni distribuite.
hcatalog-webhcat-server3.1.3-amzn-7HTTPendpoint che fornisce un'RESTinterfaccia a. HCatalog
hive-client3.1.3-amzn-7Client a riga di comando Hive.
hive-hbase3.1.3-amzn-7Client Hive-hbase.
hive-metastore-server3.1.3-amzn-7Servizio per l'accesso al metastore Hive, un archivio semantico che archivia i metadati per le operazioni su Hadoop. SQL
hive-server23.1.3-amzn-7Servizio per l'accettazione di query Hive come richieste Web.
hudi0.13.1-amzn-2Framework di elaborazione incrementale per alimentare la Data Pipeline a bassa latenza e alta efficienza.
hudi-presto0.13.1-amzn-2Libreria bundle per eseguire Presto con Hudi.
hudi-trino0.13.1-amzn-2Libreria bundle per eseguire Trino con Hudi.
hudi-spark0.13.1-amzn-2Libreria bundle per eseguire Spark con Hudi.
hue-server4.11.0Applicazione Web per l'analisi di dati mediante le applicazioni dell'ecosistema Hadoop
iceberg1.3.1-amzn-0Apache Iceberg è un formato a tabella aperta per enormi set di dati analitici
jupyterhub1.5.0Server multi-utente per notebook Jupyter
livy-server0.7.1-incubatingRESTinterfaccia per interagire con Apache Spark
nginx1.12.1nginx [engine x] è HTTP un server proxy e inverso
mxnet1.9.1Una libreria flessibile, scalabile ed efficiente per il deep learning.
mariadb-server5.5.68+Server di database MariaDB.
nvidia-cuda11.8.0Driver Nvidia e kit di strumenti Cuda
oozie-client5.2.1Client a riga di comando Oozie.
oozie-server5.2.1Servizio per l'accettazione delle richieste di flusso di lavoro Oozie.
opencv4.7.0Open Source Computer Vision Library.
phoenix-library5.1.3Le librerie Phoenix per server e client
phoenix-connectors5.1.3Connettori Apache Phoenix per Spark-3
phoenix-query-server5.1.3Un server leggero che fornisce JDBC l'accesso, i buffer di protocollo e l'accesso ai JSON formati ad Avatica API
presto-coordinator0.281-amzn-2Servizio per l'accettazione di query e la gestione dell'esecuzione di query di componenti presto-worker.
presto-worker0.281-amzn-2Servizio per l'esecuzione di parti di una query.
presto-client0.281-amzn-2Presto client della riga di comando che viene installato su master di standby di un cluster HA dove server Presto non viene avviato.
trino-coordinator422-amzn-0Servizio per l'accettazione di query e la gestione dell'esecuzione di query tra componenti trino-workers.
trino-worker422-amzn-0Servizio per l'esecuzione di parti di una query.
trino-client422-amzn-0Trino client della riga di comando che viene installato su master di standby di un cluster HA dove server Trino non viene avviato.
pig-client0.17.0Client a riga di comando Pig.
r4.0.2The R Project for Statistical Computing
ranger-kms-server2.0.0Sistema di gestione delle chiavi Apache Ranger
spark-client3.4.1-amzn-1Client a riga di comando Spark.
spark-history-server3.4.1-amzn-1Interfaccia utente Web per la visualizzazione di eventi registrati per la durata di un'applicazione Spark completata.
spark-on-yarn3.4.1-amzn-1Motore di esecuzione in memoria per. YARN
spark-yarn-slave3.4.1-amzn-1Librerie Apache Spark necessarie agli slave. YARN
spark-rapids23.06.0-amzn-2RAPIDSPlugin Nvidia Spark che accelera Apache Spark con. GPUs
sqoop-client1.4.7Client a riga di comando Apache Sqoop.
tensorflow2.11.0TensorFlow libreria software open source per il calcolo numerico ad alte prestazioni.
tez-on-yarn0.10.2-amzn-5L'YARNapplicazione e le librerie tez.
tez-on-worker0.10.2-amzn-5L'YARNapplicazione tez e le librerie per i nodi di lavoro.
webserver2.4.41+Server ApacheHTTP.
zeppelin-server0.10.1Notebook basato sul Web che consente l'analisi di dati interattiva.
zookeeper-server3.5.10Servizio centralizzato per la manutenzione delle informazioni di configurazione, i servizi di denominazione, la sincronizzazione distribuita e l'erogazione di servizi di gruppo.
zookeeper-client3.5.10ZooKeeper client a riga di comando.

Classificazioni di configurazione 6.14.0

Le classificazioni di configurazione consentono di personalizzare le applicazioni. Questi spesso corrispondono a un XML file di configurazione per l'applicazione, ad esempiohive-site.xml. Per ulteriori informazioni, consulta Configurazione delle applicazioni.

Le azioni di riconfigurazione vengono eseguite quando si specifica una configurazione per gruppi di istanze in un cluster in esecuzione. Amazon avvia EMR solo azioni di riconfigurazione per le classificazioni che modifichi. Per ulteriori informazioni, consulta Riconfigurazione di un gruppo di istanze in un cluster in esecuzione.

Classificazioni emr-6.14.0
Classificazioni Descrizione Operazioni di riconfigurazione

capacity-scheduler

Modifica i valori nel file capacity-scheduler.xml di Hadoop.

Restarts the ResourceManager service.

container-executor

Modifica i valori nel file container-executor.cfg di HadoopYARN.

Not available.

container-log4j

Modifica i valori nel file container-log4j.properties di Hadoop. YARN

Not available.

core-site

Modifica i valori nel file core-site.xml di Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

docker-conf

Modifica le impostazioni relative a docker.

Not available.

emrfs-site

EMRFSModificare le impostazioni.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

flink-conf

Modifica le impostazione flink-conf.yaml.

Restarts Flink history server.

flink-log4j

Modifica le impostazioni Flink log4j.properties.

Restarts Flink history server.

flink-log4j-session

Modifica le impostazioni Flink log4j-session.properties per la sessione Kubernetes/Yarn.

Restarts Flink history server.

flink-log4j-cli

Modifica le impostazioni Flink log4j-cli.properties.

Restarts Flink history server.

hadoop-env

Modifica i valori nell'ambiente Hadoop per tutti i componenti Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.

hadoop-log4j

Modifica i valori nel file log4j.properties di Hadoop.

Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.

hadoop-ssl-server

Modifica la configurazione server ssl hadoop

Not available.

hadoop-ssl-client

Modifica la configurazione client ssl hadoop

Not available.

hbase

Impostazioni EMR curate da Amazon per Apache. HBase

Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.

hbase-env

Modifica i valori nell'ambienteHBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-log4j

Modifica i valori nel file HBase hbase-log4j.properties.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-metrics

Cambia i valori nel file hadoop-metrics2-hbase.properties. HBase

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-policy

Cambia i valori nel HBase file hbase-policy.xml.

Not available.

hbase-site

Modifica i valori nel HBase file hbase-site.xml.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.

hdfs-encryption-zones

Configura le zone di HDFS crittografia.

This classification should not be reconfigured.

hdfs-env

Modifica i valori nell'HDFSambiente.

Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC.

hdfs-site

Cambia i valori in HDFS's hdfs-site.xml.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.

hcatalog-env

Cambia i valori nell'HCatalogambiente.

Restarts Hive HCatalog Server.

hcatalog-server-jndi

Cambia i valori in HCatalog jndi.properties.

Restarts Hive HCatalog Server.

hcatalog-server-proto-hive-site

Cambia i valori nel file .xmlHCatalog. proto-hive-site

Restarts Hive HCatalog Server.

hcatalog-webhcat-env

Cambia i valori nell'ambiente ebHCat di HCatalog W.

Restarts Hive WebHCat server.

hcatalog-webhcat-log4j2

Modifica i valori in HCatalog ebHCat log4j2.properties di W.

Restarts Hive WebHCat server.

hcatalog-webhcat-site

Modifica i valori nel file webhcat-site.xml di HCatalog W. ebHCat

Restarts Hive WebHCat server.

hive

Impostazioni EMR curate da Amazon per Apache Hive.

Sets configurations to launch Hive LLAP service.

hive-beeline-log4j2

Modifica i valori nel file beeline-log4j2.properties di Hive.

Not available.

hive-parquet-logging

Modifica i valori nel file parquet-logging.properties di Hive.

Not available.

hive-env

Modifica i valori nell'ambiente Hive.

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore.

hive-exec-log4j2

Modifica i valori nel file 4j2.properties di Hive. hive-exec-log

Not available.

hive-llap-daemon-log4j2

Modifica i valori nel file 4j2.properties di Hive. llap-daemon-log

Not available.

hive-log4j2

Modifica i valori nel file hive-log4j2.properties di Hive.

Not available.

hive-site

Modifica i valori nel file hive-site.xml di Hive

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.

hiveserver2-site

Modifica i valori nel file hiveserver2-site.xml di Hive Server2

Not available.

hue-ini

Modifica i valori nel file ini di Hue

Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.

httpfs-env

Cambia i valori nell'ambiente. HTTPFS

Restarts Hadoop Httpfs service.

httpfs-site

Modifica i valori nel file httpfs-site.xml di Hadoop.

Restarts Hadoop Httpfs service.

hadoop-kms-acls

Modifica i valori nel file kms-acls.xml di Hadoop.

Not available.

hadoop-kms-env

Modifica i valori nell'ambiente Hadoop. KMS

Restarts Hadoop-KMS service.

hadoop-kms-java-home

Cambia la home java di Hadoop KMS

Not available.

hadoop-kms-log4j

Modifica i valori nel file kms-log4j.properties di Hadoop.

Not available.

hadoop-kms-site

Modifica i valori nel file kms-site.xml di Hadoop.

Restarts Hadoop-KMS and Ranger-KMS service.

hudi-env

Modifica i valori nell'ambiente Hudi.

Not available.

hudi-defaults

Modifica i valori nel file hudi-defaults.conf di Hudi.

Not available.

iceberg-defaults

Modifica i valori nel file iceberg-defaults.conf di Iceberg.

Not available.

delta-defaults

Modifica i valori nel file delta-defaults.conf di Delta.

Not available.

jupyter-notebook-conf

Modifica i valori nel file jupyter_notebook_config.py di Jupyter Notebook.

Not available.

jupyter-hub-conf

Modifica i valori nel JupyterHubs file jupyterhub_config.py.

Not available.

jupyter-s3-conf

Configura la persistenza di S3 del notebook Jupyter.

Not available.

jupyter-sparkmagic-conf

Modifica i valori nel file config.json di Sparkmagic.

Not available.

livy-conf

Modifica i valori nel file livy.conf di Livy.

Restarts Livy Server.

livy-env

Modifica i valori nell'ambiente Livy.

Restarts Livy Server.

livy-log4j2

Modifica le impostazioni di log4j2.properties di Livy.

Restarts Livy Server.

mapred-env

Modifica i valori nell'ambiente dell' MapReduce applicazione.

Restarts Hadoop MapReduce-HistoryServer.

mapred-site

Modificate i valori nel file mapred-site.xml dell' MapReduce applicazione.

Restarts Hadoop MapReduce-HistoryServer.

oozie-env

Modifica i valori nell'ambiente di Oozie.

Restarts Oozie.

oozie-log4j

Modifica i valori nel file oozie-log4j.properties di Oozie.

Restarts Oozie.

oozie-site

Modifica i valori nel file oozie-site.xml di Oozie.

Restarts Oozie.

phoenix-hbase-metrics

Modifica i valori nel file hadoop-metrics2-hbase.properties di Phoenix.

Not available.

phoenix-hbase-site

Modifica i valori nel file hbase-site.xml di Phoenix.

Not available.

phoenix-log4j

Modifica i valori nel file log4j.properties di Phoenix.

Restarts Phoenix-QueryServer.

phoenix-metrics

Modifica i valori nel file hadoop-metrics2-phoenix.properties di Phoenix.

Not available.

pig-env

Change values in the Pig environment.

Not available.

pig-properties

Modifica i valori nel file pig.properties di Pig.

Restarts Oozie.

pig-log4j

Modifica i valori nel file log4j.properties di Pig.

Not available.

presto-log

Modifica i valori nel file log.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-config

Modifica i valori nel file config.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-password-authenticator

Modifica i valori nel file password-authenticator.properties di Presto.

Not available.

presto-env

Modifica i valori nel file presto-env.sh di Presto.

Restarts Presto-Server (for PrestoDB)

presto-node

Modifica i valori nel file node.properties di Presto.

Not available.

presto-connector-blackhole

Modifica i valori nel file blackhole.properties di Presto.

Not available.

presto-connector-cassandra

Modifica i valori nel file cassandra.properties di Presto.

Not available.

presto-connector-hive

Modifica i valori nel file hive.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-connector-jmx

Modifica i valori nel file jmx.properties di Presto.

Not available.

presto-connector-kafka

Modifica i valori nel file kafka.properties di Presto.

Not available.

presto-connector-lakeformation

Modifica i valori nel file lakeformation.properties di Presto.

Restarts Presto-Server (for PrestoDB)

presto-connector-localfile

Modifica i valori nel file localfile.properties di Presto.

Not available.

presto-connector-memory

Modifica i valori nel file memory.properties di Presto.

Not available.

presto-connector-mongodb

Modifica i valori nel file mongodb.properties di Presto.

Not available.

presto-connector-mysql

Modifica i valori nel file mysql.properties di Presto.

Not available.

presto-connector-postgresql

Modifica i valori nel file postgresql.properties di Presto.

Not available.

presto-connector-raptor

Modifica i valori nel file raptor.properties di Presto.

Not available.

presto-connector-redis

Modifica i valori nel file redis.properties di Presto.

Not available.

presto-connector-redshift

Modifica i valori nel file redshift.properties di Presto.

Not available.

presto-connector-tpch

Modifica i valori nel file tpch.properties di Presto.

Not available.

presto-connector-tpcds

Modifica i valori nel file tpcds.properties di Presto.

Not available.

trino-log

Modifica i valori nel file log.properties di Trino.

Restarts Trino-Server (for Trino)

trino-config

Modifica i valori nel file config.properties di Trino.

Restarts Trino-Server (for Trino)

trino-password-authenticator

Modifica i valori nel file password-authenticator.properties di Trino.

Restarts Trino-Server (for Trino)

trino-env

Modifica i valori nel file trino-env.sh di Trino.

Restarts Trino-Server (for Trino)

trino-node

Modifica i valori nel file node.properties di Trino.

Not available.

trino-connector-blackhole

Modifica i valori nel file blackhole.properties di Trino.

Not available.

trino-connector-cassandra

Modifica i valori nel file cassandra.properties di Trino.

Not available.

trino-connector-delta

Modifica i valori nel file delta.properties di Trino.

Restarts Trino-Server (for Trino)

trino-connector-hive

Modifica i valori nel file hive.properties di Trino.

Restarts Trino-Server (for Trino)

trino-exchange-manager

Modifica i valori nel file exchange-manager.properties di Trino.

Restarts Trino-Server (for Trino)

trino-connector-iceberg

Modifica i valori nel file iceberg.properties di Trino.

Restarts Trino-Server (for Trino)

trino-connector-hudi

Modifica i valori nel file hudi.properties di Trino.

Restarts Trino-Server (for Trino)

trino-connector-jmx

Modifica i valori nel file jmx.properties di Trino.

Not available.

trino-connector-kafka

Modifica i valori nel file kafka.properties di Trino.

Not available.

trino-connector-localfile

Modifica i valori nel file localfile.properties di Trino.

Not available.

trino-connector-memory

Modifica i valori nel file memory.properties di Trino.

Not available.

trino-connector-mongodb

Modifica i valori nel file mongodb.properties di Trino.

Not available.

trino-connector-mysql

Modifica i valori nel file mysql.properties di Trino.

Not available.

trino-connector-postgresql

Modifica i valori nel file postgresql.properties di Trino.

Not available.

trino-connector-raptor

Modifica i valori nel file raptor.properties di Trino.

Not available.

trino-connector-redis

Modifica i valori nel file redis.properties di Trino.

Not available.

trino-connector-redshift

Modifica i valori nel file redshift.properties di Trino.

Not available.

trino-connector-tpch

Modifica i valori nel file tpch.properties di Trino.

Not available.

trino-connector-tpcds

Modifica i valori nel file tpcds.properties di Trino.

Not available.

ranger-kms-dbks-site

Modifica i valori nel file dbks-site.xml di Ranger. KMS

Restarts Ranger KMS Server.

ranger-kms-site

Modifica i valori nel ranger-kms-site file.xml di Ranger. KMS

Restarts Ranger KMS Server.

ranger-kms-env

Modifica i valori nell'ambiente RangerKMS.

Restarts Ranger KMS Server.

ranger-kms-logback

Modifica i valori nel file kms-logback.xml di RangerKMS.

Not available.

ranger-kms-db-ca

Modifica i valori per il file CA su S3 per La mia SQL SSL connessione con Ranger. KMS

Not available.

spark

Impostazioni EMR curate da Amazon per Apache Spark.

This property modifies spark-defaults. See actions there.

spark-defaults

Modifica i valori nel file spark-defaults.conf di Spark.

Restarts Spark history server and Spark thrift server.

spark-env

Modifica i valori nell'ambiente Spark.

Restarts Spark history server and Spark thrift server.

spark-hive-site

Modifica i valori nel file hive-site.xml di Spark

Not available.

spark-log4j2

Modifica i valori nel file log4j2.properties di Spark.

Restarts Spark history server and Spark thrift server.

spark-metrics

Modifica i valori nel file metrics.properties di Spark.

Restarts Spark history server and Spark thrift server.

sqoop-env

Modifica i valori nell'ambiente di Sqoop.

Not available.

sqoop-oraoop-site

Modifica i valori nel file oraoop-site.xml di Sqoop OraOop.

Not available.

sqoop-site

Modifica i valori nel file sqoop-site.xml di Sqoop.

Not available.

tez-site

Modifica i valori nel file tez-site.xml file di Tez.

Restart Oozie and HiveServer2.

yarn-env

Cambia i valori nell'ambiente. YARN

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.

yarn-site

Modifica i valori nel YARN file yarn-site.xml.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.

zeppelin-env

Modifica i valori nell'ambiente Zeppelin.

Restarts Zeppelin.

zeppelin-site

Modifica le impostazioni di configurazione in zeppelin-site.xml.

Restarts Zeppelin.

zookeeper-config

Modifica i valori nel ZooKeeper file zoo.cfg.

Restarts Zookeeper server.

zookeeper-log4j

Modifica i valori nel file ZooKeeper log4j.properties.

Restarts Zookeeper server.

Log delle modifiche 6.14.0

Log delle modifiche per la versione 6.14.0 e note di rilascio
Data Evento Descrizione

2023-11-02

 Implementazione completata Amazon EMR 6.14.0 completamente distribuito in tutte le regioni supportate
2023-10-10 Pubblicazione dei documenti Le note di rilascio di Amazon EMR 6.14.0 sono state pubblicate per la prima volta
2023-10-04 Rilascio iniziale Amazon EMR 6.14.0 distribuito per la prima volta nelle regioni commerciali iniziali