Versão 6.0.1 do Amazon EMR - Amazon EMR
Versões 6.0.1 da aplicaçãoNotas da versão 6.0.1Versões de componente 6.0.1Classificações de configuração 6.0.1

Versão 6.0.1 do Amazon EMR

Versões 6.0.1 da aplicação

As seguintes aplicações são compatíveis com esta versão: Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, JupyterHub, Livy, MXNet, Oozie, Phoenix, Presto, Spark, TensorFlow, Tez, Zeppelin e ZooKeeper.

A tabela abaixo lista as versões das aplicações disponíveis nesta versão do Amazon EMR e as versões de aplicações nas três versões anteriores do Amazon EMR (quando aplicável).

Para obter um histórico abrangente das versões das aplicações de cada versão do Amazon EMR, consulte os seguintes tópicos:

Informações da versão da aplicação
emr-6.1.1 emr-6.1.0 emr-6.0.1 emr-6.0.0
AWS SDK para Java 1.11.8281.11.8281.11.7111.11.711
Python 2.7, 3.72.7, 3.72.7, 3.72.7, 3.7
Scala 2.12.102.12.102.12.102.11.12
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink1.11.01.11.0 - -
Ganglia3.7.23.7.23.7.23.7.2
HBase2.2.52.2.52.2.32.2.3
HCatalog3.1.23.1.23.1.23.1.2
Hadoop3.2.13.2.13.2.13.2.1
Hive3.1.23.1.23.1.23.1.2
Hudi0.5.2-incubating-amzn-20.5.2-incubating-amzn-20.5.0-incubating-amzn-10.5.0-incubating-amzn-1
Hue4.7.14.7.14.4.04.4.0
Iceberg - - - -
JupyterEnterpriseGateway - - - -
JupyterHub1.1.01.1.01.0.01.0.0
Livy0.7.00.7.00.6.00.6.0
MXNet1.6.01.6.01.5.11.5.1
Mahout - - - -
Oozie5.2.05.2.05.1.05.1.0
Phoenix5.0.05.0.05.0.05.0.0
Pig0.17.00.17.0 - -
Presto0.2320.2320.2300.230
Spark3.0.03.0.02.4.42.4.4
Sqoop1.4.71.4.7 - -
TensorFlow2.1.02.1.01.14.01.14.0
Tez0.9.20.9.20.9.20.9.2
Trino (PrestoSQL)338338 - -
Zeppelin0.9.00.9.00.9.00.9.0
ZooKeeper3.4.143.4.143.4.143.4.14

Notas da versão 6.0.1

Esta é uma versão para corrigir problemas com a escalabilidade do Amazon EMR quando ele não aumenta nem reduz verticalmente a escala de um cluster com êxito ou causa falhas na aplicação.

Alterações, melhorias e problemas resolvidos

  • Corrigido um problema em que as solicitações de escalabilidade falhavam em um cluster grande e altamente utilizado quando os daemons do Amazon EMR no cluster estavam executando atividades de verificação de integridade, como a coleta do estado do nó do YARN e o estado do nó do HDFS. Isso estava acontecendo porque os daemons no cluster não conseguiam comunicar os dados do status de integridade de um nó aos componentes internos do Amazon EMR.

  • Aprimorados os daemons do EMR no cluster para rastrear corretamente os estados dos nós quando são reutilizados endereços IP para melhorar a confiabilidade durante operações de escalabilidade.

  • SPARK-29683. Corrigido um problema em que ocorriam falhas de trabalho durante a redução da escala verticalmente do cluster, pois o Spark presumia que todos os nós disponíveis estavam na lista de negação.

  • YARN-9011. Corrigido um problema em que ocorriam falhas de trabalho devido a uma condição de corrida na desativação do YARN quando o cluster tentava aumentar ou reduzir a escala verticalmente.

  • Corrigido problema com falhas de etapas ou tarefas durante a escalabilidade do cluster ao ser garantido que os estados dos nós fossem sempre consistentes entre os daemons do Amazon EMR no cluster e o YARN/HDFS.

  • Corrigido um problema em que operações de cluster, como redução de escala verticalmente e envio de etapas, falhavam para clusters do Amazon EMR habilitados com a autenticação Kerberos. Isso ocorreu porque o daemon do Amazon EMR no cluster não renovou o tíquete do Kerberos, que é necessário para a comunicação segura com o HDFS/YARN em execução no nó primário.

  • As versões mais recentes do Amazon EMR corrigem o problema com um limite menor de “Máximo de arquivos abertos” no AL2 antigo no Amazon EMR. As versões 5.30.1, 5.30.2, 5.31.1, 5.32.1, 6.0.1, 6.1.1, 6.2.1, 5.33.0, 6.3.0 e posteriores do Amazon EMR agora incluem uma correção permanente com uma configuração mais alta de “Máximo de arquivos abertos”.

  • O HTTPS agora está habilitado por padrão para repositórios do Amazon Linux. Se você estiver usando uma política de VPCE do Amazon S3 para restringir o acesso a buckets específicos, deverá adicionar o novo ARN arn:aws:s3:::amazonlinux-2-repos-$region/* do bucket do Amazon Linux à sua política (substitua $region pela região em que o endpoint está situado). Para obter mais informações, consulte este tópico nos fóruns de discussão da AWS. Anúncio: o Amazon Linux 2 agora oferece suporte à capacidade de usar HTTPS ao se conectar a repositórios de pacotes .

Versões de componente 6.0.1

Os componentes que o Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos do Amazon EMR e instalados para processos e atributos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicações de big data na versão mais recente do Amazon EMR são geralmente a versão mais recente encontrada na comunidade. Disponibilizamos as versões da comunidade no Amazon EMR o mais rapidamente possível.

Alguns componentes no Amazon EMR diferem das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersion. O EmrVersion começa em 0. Por exemplo, se um componente da comunidade de código aberto denominado myapp-component com a versão 2.2 tiver sido alterado três vezes para inclusão em versões diferentes do Amazon EMR, sua versão será listada como 2.2-amzn-2.

Componente Version (Versão) Descrição
aws-sagemaker-spark-sdk1.2.6Spark SDK para o Amazon SageMaker
emr-ddb4.14.0O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop.
emr-goodies3.0.0Bibliotecas convenientes para o ecossistema do Hadoop.
emr-kinesis3.5.0O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop.
emr-s3-dist-cp2.14.0Cópia distribuída otimizada de aplicativos para o Amazon S3.
emr-s3-select1.5.0EMR S3Select Connector
emrfs2.39.0O conector do Amazon S3 para aplicações do ecossistema do Hadoop.
ganglia-monitor3.7.2O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia.
ganglia-metadata-collector3.7.2O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia.
ganglia-web3.7.1O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia.
hadoop-client3.2.1-amzn-0.1Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'.
hadoop-hdfs-datanode3.2.1-amzn-0.1O serviço de nível de nó do HDFS para armazenamento de blocos.
hadoop-hdfs-library3.2.1-amzn-0.1O cliente de linha de comando e biblioteca do HDFS
hadoop-hdfs-namenode3.2.1-amzn-0.1O serviço do HDFS para rastrear nomes de arquivos e locais de blocos.
hadoop-hdfs-journalnode3.2.1-amzn-0.1O serviço do HDFS para gerenciar o lançamento de arquivos do Hadoop em clusters de HA.
hadoop-httpfs-server3.2.1-amzn-0.1O endpoint de HTTP para as operações do HDFS.
hadoop-kms-server3.2.1-amzn-0.1O servidor de gerenciamento de chaves criptográficas baseado na API de KeyProvider do Hadoop.
hadoop-mapred3.2.1-amzn-0.1As bibliotecas do mecanismo de execução do MapReduce para a execução de aplicativos do MapReduce.
hadoop-yarn-nodemanager3.2.1-amzn-0.1O serviço do YARN para o gerenciamento de contêineres em um nó individual.
hadoop-yarn-resourcemanager3.2.1-amzn-0.1O serviço do YARN para alocar e gerenciar recursos de cluster e aplicativos distribuídos.
hadoop-yarn-timeline-server3.2.1-amzn-0.1O serviço para recuperar informações atuais e históricas dos aplicativos do YARN.
hbase-hmaster2.2.3O serviço de um cluster do HBase responsável pela coordenação de regiões e execução de comandos administrativos.
hbase-region-server2.2.3O serviço que abrange uma ou mais regiões do HBase.
hbase-client2.2.3O cliente da linha de comando do HBase.
hbase-rest-server2.2.3O serviço que fornece um endpoint do HTTP RESTful para o HBase.
hbase-thrift-server2.2.3O serviço que fornece um endpoint do Thrift para o HBase.
hcatalog-client3.1.2-amzn-0O cliente da linha de comando 'hcat' para manipular o hcatalog-server.
hcatalog-server3.1.2-amzn-0O serviço que fornece a HCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos.
hcatalog-webhcat-server3.1.2-amzn-0O endpoint do HTTP que fornece uma interface REST para a HCatalog.
hive-client3.1.2-amzn-0O cliente da linha de comando do Hive.
hive-hbase3.1.2-amzn-0Cliente do Hive-hbase.
hive-metastore-server3.1.2-amzn-0O serviço de acesso à metastore do Hive, um repositório de semântica que armazena metadados do SQL nas operações do Hadoop.
hive-server23.1.2-amzn-0O serviço que aceita as consultas do Hive como solicitações da web.
hudi0.5.0-incubating-amzn-1Estrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência.
hudi-presto0.5.0-incubating-amzn-1Biblioteca de pacotes para executar o Presto com o Hudi.
hue-server4.4.0O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop
jupyterhub1.0.0Servidor de vários usuários para blocos de anotações Jupyter
livy-server0.6.0-incubatingInterface REST para interagir com o Apache Spark
nginx1.12.1nginx [mecanismo x] é um servidor de proxy reverso e HTTP
mxnet1.5.1Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado.
mariadb-server5.5.64+Servidor de banco de dados MariaDB.
nvidia-cuda9.2.88Drivers NVIDIA e toolkit CUDA
oozie-client5.1.0O cliente da linha de comando do Oozie.
oozie-server5.1.0O serviço que aceita solicitações de fluxo de trabalho do Oozie.
opencv3.4.0Biblioteca de Visão Computacional de Código Aberto.
phoenix-library5.0.0-HBase-2.0As bibliotecas do phoenix para servidor e cliente
phoenix-query-server5.0.0-HBase-2.0Um servidor leve que fornece acesso à JDBC, bem como buffers de protocolo e acesso no formato JSON à API do Avatica
presto-coordinator0.230O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers.
presto-worker0.230O serviço que executa partes de uma consulta.
presto-client0.230Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado.
r3.4.3O projeto R para computação estatística
spark-client2.4.4Os clientes da linha de comando do Spark.
spark-history-server2.4.4A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído.
spark-on-yarn2.4.4O mecanismo de execução em memória para o YARN.
spark-yarn-slave2.4.4As bibliotecas do Apache Spark necessárias para subordinados do YARN.
tensorflow1.14.0Biblioteca de software de código aberto TensorFlow para computação numérica de alto desempenho.
tez-on-yarn0.9.2O aplicativo e as bibliotecas do YARN para Tez.
webserver2.4.41+O servidor Apache HTTP.
zeppelin-server0.9.0-SNAPSHOTO notebook baseado na web que permite um data analytics interativo.
zookeeper-server3.4.14O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo.
zookeeper-client3.4.14O cliente da linha de comando do ZooKeeper.

Classificações de configuração 6.0.1

As classificações de configuração permitem que você personalize aplicações. Elas geralmente correspondem a um arquivo XML de configuração da aplicação, como hive-site.xml. Para ter mais informações, consulte Configurar aplicações.

Classificações do emr-6.0.1
Classificações Descrição

capacity-scheduler

Alterar os valores no arquivo capacity-scheduler.xml do Hadoop.

container-executor

Alterar os valores no arquivo container-executor.cfg do YARN do Hadoop.

container-log4j

Altere os valores no arquivo container-log4j.properties do YARN do Hadoop.

core-site

Alterar os valores no arquivo core-site.xml do Hadoop.

emrfs-site

Alterar as configurações do EMRFS.

hadoop-env

Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop.

hadoop-log4j

Alterar os valores no arquivo log4j.properties do Hadoop.

hadoop-ssl-server

Alterar a configuração do servidor SSL no Hadoop

hadoop-ssl-client

Alterar a configuração do cliente SSL no Hadoop

hbase

As configurações administradas pelo Amazon EMR para o Apache HBase.

hbase-env

Alterar os valores no ambiente do HBase.

hbase-log4j

Alterar os valores no arquivo hbase-log4j.properties do HBase.

hbase-metrics

Altere os valores no arquivo hadoop-metrics2-hbase.properties do HBase.

hbase-policy

Alterar os valores no arquivo hbase-policy.xml do HBase.

hbase-site

Alterar os valores no arquivo hbase-site.xml do HBase.

hdfs-encryption-zones

Configurar as zonas de criptografia do HDFS.

hdfs-env

Alterar os valores no ambiente do HDFS.

hdfs-site

Alterar os valores no arquivo hdfs-site.xml do HDFS.

hcatalog-env

Alterar os valores no ambiente do HCatalog.

hcatalog-server-jndi

Alterar os valores no jndi.properties do HCatalog.

hcatalog-server-proto-hive-site

Alterar os valores no arquivo proto-hive-site.xml do HCatalog.

hcatalog-webhcat-env

Alterar os valores no ambiente do HCatalog WebHCat.

hcatalog-webhcat-log4j2

Alterar os valores no log4j2.properties do HCatalog WebHCat.

hcatalog-webhcat-site

Alterar os valores no arquivo webhcat-site.xml do HCatalog WebHCat.

hive

As configurações administradas pelo Amazon EMR para o Apache Hive.

hive-beeline-log4j2

Alterar os valores no arquivo beeline-log4j2.properties do Hive.

hive-parquet-logging

Alterar os valores no arquivo parquet-logging.properties do Hive.

hive-env

Alterar os valores no ambiente do Hive.

hive-exec-log4j2

Alterar os valores no arquivo hive-exec-log4j2.properties do Hive.

hive-llap-daemon-log4j2

Alterar os valores no arquivo llap-daemon-log4j2.properties do Hive.

hive-log4j2

Alterar os valores no arquivo hive-log4j2.properties do Hive.

hive-site

Alterar os valores no arquivo hive-site.xml do Hive.

hiveserver2-site

Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2.

hue-ini

Alterar os valores no arquivo ini do Hue

httpfs-env

Alterar os valores no ambiente do HTTPFS.

httpfs-site

Alterar os valores no arquivo httpfs-site.xml do Hadoop.

hadoop-kms-acls

Alterar os valores no arquivo kms-acls.xml do Hadoop.

hadoop-kms-env

Alterar os valores no ambiente do Hadoop KMS.

hadoop-kms-log4j

Alterar os valores no arquivo kms-log4j.properties do Hadoop.

hadoop-kms-site

Alterar os valores no arquivo kms-site.xml do Hadoop.

jupyter-notebook-conf

Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter.

jupyter-hub-conf

Alterar os valores no arquivo jupyterhub_config.py de JupyterHubs.

jupyter-s3-conf

Configurar a persistência do notebook Jupyter S3.

jupyter-sparkmagic-conf

Altere os valores no arquivo config.json do Sparkmagic.

livy-conf

Alterar os valores no arquivo livy.conf do Livy.

livy-env

Alterar os valores no ambiente do Livy.

livy-log4j

Alterar as configurações de log4j.properties no Livy.

mapred-env

Alterar os valores no ambiente do aplicativo MapReduce.

mapred-site

Alterar os valores no arquivo mapred-site.xml do aplicativo MapReduce.

oozie-env

Alterar os valores no ambiente do Oozie.

oozie-log4j

Alterar os valores no arquivo oozie-log4j.properties do Oozie.

oozie-site

Alterar os valores no arquivo oozie-site.xml do Oozie.

phoenix-hbase-metrics

Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix.

phoenix-hbase-site

Alterar os valores no arquivo hbase-site.xml do Phoenix.

phoenix-log4j

Alterar os valores no arquivo log4j.properties do Phoenix.

phoenix-metrics

Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix.

presto-log

Alterar os valores no arquivo log.properties do Presto.

presto-config

Alterar os valores no arquivo config.properties do Presto.

presto-password-authenticator

Altere os valores no arquivo password-authenticator.properties do Presto.

presto-env

Altere os valores no arquivo presto-env.sh do Presto.

presto-node

Altere os valores no arquivo node.properties do Presto.

presto-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Presto.

presto-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Presto.

presto-connector-hive

Alterar os valores no arquivo hive.properties do Presto.

presto-connector-jmx

Alterar os valores no arquivo jmx.properties do Presto.

presto-connector-kafka

Alterar os valores no arquivo kafka.properties do Presto.

presto-connector-localfile

Alterar os valores no arquivo localfile.properties do Presto.

presto-connector-memory

Alterar os valores no arquivo memory.properties do Presto.

presto-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Presto.

presto-connector-mysql

Alterar os valores no arquivo mysql.properties do Presto.

presto-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Presto.

presto-connector-raptor

Alterar os valores no arquivo raptor.properties do Presto.

presto-connector-redis

Alterar os valores no arquivo redis.properties do Presto.

presto-connector-redshift

Alterar os valores no arquivo de propriedades redshift do Presto.

presto-connector-tpch

Alterar os valores no arquivo tpch.properties do Presto.

presto-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Presto.

ranger-kms-dbks-site

Altere os valores no arquivo dbks-site.xml do Ranger KMS.

ranger-kms-site

Altere os valores no arquivo ranger-kms-site.xml do Ranger KMS.

ranger-kms-env

Altere os valores no ambiente do Ranger KMS.

ranger-kms-log4j

Altere os valores no arquivo kms-log4j.properties do Ranger KMS.

ranger-kms-db-ca

Altere os valores do arquivo CA no S3 para conexão SSL do MySQL com o Ranger KMS.

recordserver-env

Alterar os valores no ambiente RecordServer do EMR.

recordserver-conf

Alterar os valores no arquivo server.properties do RecordServer do RMS.

recordserver-log4j

Alterar os valores no arquivo log4j.properties do RecordServer do do EMR.

spark

As configurações administradas pelo Amazon EMR para o Apache Spark.

spark-defaults

Alterar os valores no arquivo spark-defaults.conf do Spark.

spark-env

Alterar os valores no ambiente do Spark.

spark-hive-site

Alterar os valores no arquivo hive-site.xml do Spark.

spark-log4j

Alterar os valores no arquivo log4j.properties do Spark.

spark-metrics

Alterar os valores no arquivo metrics.properties do Spark.

tez-site

Alterar os valores no arquivo tez-site.xml do Tez.

yarn-env

Alterar os valores no ambiente do YARN.

yarn-site

Alterar os valores no arquivo yarn-site.xml do YARN.

zeppelin-env

Alterar os valores no ambiente do Zeppelin.

zookeeper-config

Alterar os valores no arquivo zoo.cfg do ZooKeeper.

zookeeper-log4j

Alterar os valores no arquivo log4j.properties do ZooKeeper.