Amazon EMR versão 7.0.0 - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Amazon EMR versão 7.0.0

Versões 7.0.0 da aplicação

As seguintes aplicações são compatíveis com esta versão: AmazonCloudWatchAgent, Delta, Flink, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, Iceberg, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Trino, Zeppelin e ZooKeeper.

A tabela abaixo lista as versões do aplicativo disponíveis nesta versão da Amazon EMR e as versões do aplicativo nas três EMR versões anteriores da Amazon (quando aplicável).

Para obter um histórico abrangente das versões do aplicativo para cada lançamento da AmazonEMR, consulte os seguintes tópicos:

Informações da versão da aplicação
emr-7.2.0 emr-7.1.0 emr-7.0.0
AWS SDKpara Java 2.23.18, 1.12.7052.23.18, 1.12.6562.20.160-amzn-0, 1.12.569
Python 3.93.93.9
Scala 2.12.172.12.172.12.17
AmazonCloudWatchAgent1.300032.21.300032.21.300031.1
Delta3.1.03.0.03.0.0
Flink1.18.11.18.11.18.0
HBase2.4.172.4.172.4.17
HCatalog3.1.33.1.33.1.3
Hadoop3.3.63.3.63.3.6
Hive3.1.33.1.33.1.3
Hudi0.14.1-amzn-10.14.1-amzn-00.14.0-amzn-1
Hue4.11.04.11.04.11.0
Iceberg1.5.0-aman-01.4.3-amzn-0q1.4.2-amzn-0
JupyterEnterpriseGateway2.6.02.6.02.6.0
JupyterHub1.5.01.5.01.5.0
Livy0.8.00.8.00.7.1
MXNet1.9.11.9.11.9.1
Mahout - - -
Oozie5.2.15.2.15.2.1
Phoenix5.1.35.1.35.1.3
Pig0.17.00.17.00.17.0
Presto0,2850,2840,283
Spark3.5.13.5.03.5.0
Sqoop1.4.71.4.71.4.7
TensorFlow2.11.02.11.02.11.0
Tez0.10.20.10.20.10.2
Trino (PrestoSQL)436435426
Zeppelin0.10.10.10.10.10.1
ZooKeeper3.9.13.9.13.5.10

Notas da versão 7.0.0

As notas de lançamento a seguir incluem informações sobre a EMR versão 7.0.0 da Amazon. As alterações são referentes à versão 6.15.0.

Novos atributos
  • Atualizações da aplicação: Amazon EMR 7.0.0 application upgrades include Python 3.9, Spark 3.5, Flink 1.18, and Delta 3.0. Essa versão também adiciona suporte à aplicação do CloudWatch Agente da Amazon e remove o suporte ao Ganglia.

  • Amazon Corretto 17 — As EMR versões 7.0 e superiores da Amazon são fornecidas com o Amazon Corretto 17 (construído no OpenJDK) por padrão para aplicativos compatíveis com o Corretto 17 (JDK17), com exceção do Apache Livy. Para obter mais informações sobre as JDK versões suportadas dos aplicativos nesta versão, consulteVersões padrão do Java 7.0.0.

  • Amazon Linux 2023 — Com a versão 7.0, os EMR clusters da Amazon agora são executados em AL2 0.23 por padrão. Para obter informações sobre como isso afeta a AMI versão padrão, consulte Considerações sobre atualização de software no Amazon EMR Management Guide. Observe também que AL2 023 removeu o Python 2.7, portanto, qualquer componente que exija Python agora deve ser escrito com o Python 3.

  • S3 on Outposts com s3a — A Amazon agora oferece suporte aos EMR buckets Amazon S3 on Outposts com o sistema de arquivos. s3a Para obter mais informações sobre o S3 no Outposts, consulte O que é o S3 no Outposts? no Guia do usuário do Amazon Simple Storage Service.

Problemas conhecidos
  • Observe que você não pode executar mais de uma linha por vez se estiver usando PySpark as versões 3.10 ou posteriores do Python. Você deve executar cada linha, uma de cada vez.

Alterações, melhorias e problemas resolvidos
  • Para manter o estado de todas as instâncias em um cluster, a Amazon EMR se integra com ApacheYARN, Apache e HDFS Kerberos. Com a versão 7.0, aprimoramos essas integrações para remover de forma confiável o estado das instâncias que são encerradas devido ao ajuste de escala ou a outras operações. Isso é particularmente importante para clusters de longa duração que têm o ajuste de escala gerenciado habilitado, pois eles escalam com frequência e acumulam milhares de instâncias encerradas ao longo da vida útil.

  • Esta versão melhora a configuração do Kerberos para incluir suporte somente para cifras AES baseadas. Kerberos KDC com cifras não AES baseadas não são mais compatíveis com EMR clusters executados nas EMR versões 7.0.0 e superiores da Amazon. AEScifras baseadas oferecem a maior segurança para seus clusters.

  • Como parte da migração AWS SDK 2.x, o Amazon EMR 7.0 inclui uma atualização do conector Spark Kinesis para fins de compatibilidade. Essa atualização não está disponível na versão comunitária do Apache Spark. Se você usa o conector Spark Kinesis de uma versão da EMR Amazon inferior à 7.0, você deve migrar os códigos do seu aplicativo para execução SDK em 2.x antes de poder migrar suas cargas de trabalho para o Amazon 7.0. EMR Para obter mais informações, consulte Migração do conector Spark Kinesis para SDK 2.x para Amazon 7.0 EMR.

  • Quando você inicia um cluster com a versão de patch mais recente do Amazon EMR 5.36 ou superior, 6.6 ou superior ou 7.0 ou superior, a Amazon EMR usa a versão mais recente do Amazon Linux 2023 ou Amazon Linux 2 para a Amazon padrão. EMR AMI Para obter mais informações, consulte Usando o Amazon Linux padrão AMI para a Amazon EMR.

    OsReleaseLabel (Versão Amazon Linux) Versão do kernel do Amazon Linux Data disponível Regiões compatíveis
    2023.5.20240708.0 6.1.96-102.177.amzn2023 23 de julho de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20240304.0 6.1.79-99.164.amzn2023 12 de março de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20240219.0 6.1.77-99.164.amzn2023 1.º de março de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20240205.0 6.1.75-99.163.amzn2023 19 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20240122.0 6.1.72-96.166.amzn2023 5 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20240108.0 6.1.72-96.166.amzn2023 24 de janeiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), Oeste do Canadá (Calgary), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia)
    2023.3.20231211.4 6.1.66-91.160.amzn2023 19 de dezembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Espanha), Europa (Frankfurt), Europa (Zurique), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad), Ásia-Pacífico (Hyderabad) Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Oriente Médio (), Canadá (UAE Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)

Versões padrão do Java 7.0.0

A EMR versão 7.0 e superior da Amazon vem com o Amazon Corretto 17 (construído no JDK Open) por padrão para aplicativos compatíveis com o Corretto 17 JDK (17), com exceção do Apache Livy.

A tabela a seguir mostra as versões padrão do Java para aplicativos na Amazon EMR 7.0.0. Se você quiser alterar o padrão JVM em seu cluster, siga as Configurar aplicações para usar uma Máquina Virtual Java específica instruções em cada aplicativo executado no cluster. Você só pode usar uma versão de runtime do Java para um cluster. A Amazon EMR não oferece suporte à execução de diferentes nós ou aplicativos em diferentes versões de tempo de execução no mesmo cluster.

Aplicativo Versão Java/Amazon Corretto (o padrão é negrito)
Delta 17, 11, 8
Flink 11, 8
HBase 11, 8
HCatalog 17, 11, 8
Hadoop 17, 11, 8
Hive 17, 11, 8
Hudi 17, 11, 8
Iceberg 17, 11, 8
Livy 17, 11, 8
Oozie 17, 11, 8
Phoenix 8
PrestoDB 8
Spark 17, 11, 8
Faísca RAPIDS 17, 11, 8
Sqoop 8
Tez 17, 11, 8
Trino 17
Zeppelin 8
Pig 8
Zookeeper 8

Versões de componente 7.0.0

Os componentes que a Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos da Amazon EMR e são instalados para processos e recursos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicativos de big data na versão mais recente da Amazon EMR geralmente são a versão mais recente encontrada na comunidade. Disponibilizamos lançamentos comunitários na Amazon o mais EMR rápido possível.

Alguns componentes na Amazon EMR são diferentes das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersion. O EmrVersion começa em 0. Por exemplo, se um componente de comunidade de código aberto nomeado myapp-component com a versão 2.2 tiver sido modificado três vezes para inclusão em diferentes EMR versões da Amazon, sua versão de lançamento será listada como2.2-amzn-2.

Componente Version (Versão) Descrição
adot-java-agent1.31.0Um Java Agent que coleta métricas de daemons de aplicações.
delta3.0.0O Delta Lake é um formato de tabela aberto para grandes conjuntos de dados analíticos
delta-standalone-connectors0.6.0Os conectores do Delta oferecem runtimes diferentes para integrar o Delta Lake a mecanismos, como Flink, Hive e Presto.
emr-amazon-cloudwatch-agent1.300031.1-amzn-0Um aplicativo que coleta métricas internas em nível de sistema e métricas de aplicativos personalizadas de instâncias da Amazon. EC2
emr-ddb5.2.0O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop.
emr-goodies3.9.0Bibliotecas convenientes para o ecossistema do Hadoop.
emr-kinesis3.13.0O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop.
emr-notebook-env1.7.0Ambiente Conda para bloco de anotações do emr, que inclui o jupyter enterprise gateway
emr-s3-dist-cp2.30.0Cópia distribuída otimizada de aplicativos para o Amazon S3.
emr-s3-select2.9.0EMRConector S3Select
emr-wal-cli1.2.1Cli usada para lista/exclusão de emrwal.
emrfs2.61.0O conector do Amazon S3 para aplicações do ecossistema do Hadoop.
flink-client1.18.0-amzn-0Scripts do cliente da linha de comando e aplicativos do Apache Flink.
flink-jobmanager-config1.18.0-amzn-0Gerenciando recursos em EMR nós para o Apache JobManager Flink.
hadoop-client3.3.6-amzn-2Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'.
hadoop-hdfs-datanode3.3.6-amzn-2HDFSserviço em nível de nó para armazenar blocos.
hadoop-hdfs-library3.3.6-amzn-2HDFScliente e biblioteca de linha de comando
hadoop-hdfs-namenode3.3.6-amzn-2HDFSserviço para rastrear nomes de arquivos e localizações de blocos.
hadoop-hdfs-journalnode3.3.6-amzn-2HDFSserviço para gerenciar o diário do sistema de arquivos Hadoop em clusters HA.
hadoop-httpfs-server3.3.6-amzn-2HTTPendpoint para HDFS operações.
hadoop-kms-server3.3.6-amzn-2Servidor de gerenciamento de chaves criptográficas baseado no Hadoop. KeyProvider API
hadoop-mapred3.3.6-amzn-2MapReduce bibliotecas de mecanismos de execução para executar um MapReduce aplicativo.
hadoop-yarn-nodemanager3.3.6-amzn-2YARNserviço para gerenciar contêineres em um nó individual.
hadoop-yarn-resourcemanager3.3.6-amzn-2YARNserviço para alocar e gerenciar recursos de cluster e aplicativos distribuídos.
hadoop-yarn-timeline-server3.3.6-amzn-2Serviço para recuperar informações atuais e históricas para YARN aplicativos.
hbase-hmaster2.4.17-amzn-4Serviço para um HBase cluster responsável pela coordenação das regiões e execução de comandos administrativos.
hbase-region-server2.4.17-amzn-4Serviço para atender uma ou mais HBase regiões.
hbase-client2.4.17-amzn-4HBasecliente de linha de comando.
hbase-rest-server2.4.17-amzn-4Serviço que fornece um RESTful HTTP endpoint paraHBase.
hbase-thrift-server2.4.17-amzn-4Serviço que fornece um endpoint Thrift para. HBase
hbase-operator-tools2.4.17-amzn-4Ferramenta de reparo para HBase clusters Apache.
hcatalog-client3.1.3-amzn-9O cliente da linha de comando 'hcat' para manipular o hcatalog-server.
hcatalog-server3.1.3-amzn-9Fornecimento de serviçosHCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos.
hcatalog-webhcat-server3.1.3-amzn-9HTTPendpoint fornecendo uma REST interface paraHCatalog.
hive-client3.1.3-amzn-9O cliente da linha de comando do Hive.
hive-hbase3.1.3-amzn-9Cliente do Hive-hbase.
hive-metastore-server3.1.3-amzn-9Serviço para acessar o metastore Hive, um repositório semântico que armazena metadados para operações no Hadoop. SQL
hive-server23.1.3-amzn-9O serviço que aceita as consultas do Hive como solicitações da web.
hudi0.14.0-amzn-1Estrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência.
hudi-presto0.14.0-amzn-1Biblioteca de pacotes para executar o Presto com o Hudi.
hudi-trino0.14.0-amzn-1Biblioteca de pacotes para execução do Presto com o Hudi.
hudi-spark0.14.0-amzn-1Biblioteca de pacotes para executar o Spark com o Hudi.
hue-server4.11.0O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop
icebergq1.4.2-amzn-0Apache Iceberg é um formato de tabela aberta para conjuntos de dados analíticos imensos
jupyterhub1.5.0Servidor de vários usuários para blocos de anotações Jupyter
livy-server0.7.1-incubatingRESTinterface para interagir com o Apache Spark
nginx1.12.1nginx [engine x] é HTTP um servidor proxy reverso
mxnet1.9.1Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado.
mariadb-server5.5.68+Servidor de banco de dados MariaDB.
nvidia-cuda11.8.0Drivers NVIDIA e toolkit CUDA
oozie-client5.2.1O cliente da linha de comando do Oozie.
oozie-server5.2.1O serviço que aceita solicitações de fluxo de trabalho do Oozie.
opencv4.7.0Biblioteca de Visão Computacional de Código Aberto.
phoenix-library5.1.3As bibliotecas do phoenix para servidor e cliente
phoenix-connectors5.1.3Conectores do Apache Phoenix para Spark-3
phoenix-query-server5.1.3Um servidor leve que fornece JDBC acesso, buffers de protocolo e acesso ao JSON formato do Avatica API
presto-coordinator0.283-amzn-1O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers.
presto-worker0.283-amzn-1O serviço que executa partes de uma consulta.
presto-client0.283-amzn-1Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado.
trino-coordinator426-amzn-1Serviço que aceita consultas e gerencia a execução de consultas entre trino-workers.
trino-worker426-amzn-1O serviço que executa partes de uma consulta.
trino-client426-amzn-1Cliente de linha de comando do Trino instalado em mestres de espera de um cluster de alta disponibilidade (HA) em que o servidor do Trino não é iniciado.
pig-client0.17.0O cliente da linha de comando do Pig.
r4.1.3O projeto R para computação estatística
ranger-kms-server2.0.0Sistema de gerenciamento de chaves Apache Ranger
spark-client3.5.0-amzn-0Os clientes da linha de comando do Spark.
spark-history-server3.5.0-amzn-0A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído.
spark-on-yarn3.5.0-amzn-0Mecanismo de execução na memória paraYARN.
spark-yarn-slave3.5.0-amzn-0Bibliotecas do Apache Spark necessárias para escravos. YARN
spark-rapids23.10.0-amzn-0RAPIDSPlugin Nvidia Spark que acelera o Apache Spark com o. GPUs
sqoop-client1.4.7O cliente da linha de comando do Apache Sqoop.
tensorflow2.11.0TensorFlow biblioteca de software de código aberto para computação numérica de alto desempenho.
tez-on-yarn0.10.2-amzn-7O YARN aplicativo e as bibliotecas tez.
tez-on-worker0.10.2-amzn-7O YARN aplicativo tez e as bibliotecas para nós de trabalho.
webserver2.4.58HTTPServidor Apache.
zeppelin-server0.10.1O notebook baseado na web que permite a análise de dados interativa.
zookeeper-server3.5.10O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo.
zookeeper-client3.5.10ZooKeeper cliente de linha de comando.

Classificações de configuração 7.0.0

As classificações de configuração permitem que você personalize aplicações. Eles geralmente correspondem a um XML arquivo de configuração do aplicativo, comohive-site.xml. Para obter mais informações, consulte Configurar aplicações.

Classificações do emr-7.0.0
Classificações Descrição

capacity-scheduler

Alterar os valores no arquivo capacity-scheduler.xml do Hadoop.

container-executor

Altere os valores no arquivo container-executor.cfg YARN do Hadoop.

container-log4j

Altere os valores no arquivo container-log4j.properties YARN do Hadoop.

core-site

Alterar os valores no arquivo core-site.xml do Hadoop.

docker-conf

Alterar as configurações relacionadas ao docker.

emrfs-site

Altere EMRFS as configurações.

flink-conf

Alterar as configurações do flink-conf.yaml.

flink-log4j

Alterar as configurações de log4j.properties no Flink.

flink-log4j-session

Alterar as configurações de log4j-yarn-session.properties no Flink para sessão do Kubernetes/Yarn.

flink-log4j-cli

Alterar as configurações de log4j-cli.properties no Flink.

hadoop-env

Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop.

hadoop-log4j

Alterar os valores no arquivo log4j.properties do Hadoop.

hadoop-ssl-server

Alterar a configuração do servidor SSL no Hadoop

hadoop-ssl-client

Alterar a configuração do cliente SSL no Hadoop

hbase

Configurações EMR selecionadas pela Amazon para Apache. HBase

hbase-env

Mude os valores no HBase ambiente.

hbase-log4j

Altere os valores no arquivo HBase hbase-log4j.properties.

hbase-metrics

Altere os valores no arquivo HBase hadoop-metrics2-hbase.properties do.

hbase-policy

Altere os valores no HBase arquivo hbase-policy.xml do.

hbase-site

Altere os valores no HBase arquivo hbase-site.xml do.

hdfs-encryption-zones

Configure zonas de HDFS criptografia.

hdfs-env

Mude os valores no HDFS ambiente.

hdfs-site

Altere os valores no HDFS hdfs-site.xml.

hcatalog-env

Mude os valores no HCatalog ambiente.

hcatalog-server-jndi

Altere os valores em HCatalog jndi.properties.

hcatalog-server-proto-hive-site

Altere os valores em HCatalog proto-hive-site .xml.

hcatalog-webhcat-env

Altere os valores no ambiente ebHCat de HCatalog W.

hcatalog-webhcat-log4j2

Altere os valores nas propriedades ebHCat log4j2.properties de HCatalog W.

hcatalog-webhcat-site

Altere os valores no arquivo webhcat-site.xml de HCatalog W. ebHCat

hive

Configurações EMR selecionadas pela Amazon para o Apache Hive.

hive-beeline-log4j2

Alterar os valores no arquivo beeline-log4j2.properties do Hive.

hive-parquet-logging

Alterar os valores no arquivo parquet-logging.properties do Hive.

hive-env

Alterar os valores no ambiente do Hive.

hive-exec-log4j2

Altere os valores no arquivo hive-exec-log 4j2.properties do Hive.

hive-llap-daemon-log4j2

Altere os valores no arquivo llap-daemon-log 4j2.properties do Hive.

hive-log4j2

Alterar os valores no arquivo hive-log4j2.properties do Hive.

hive-site

Alterar os valores no arquivo hive-site.xml do Hive.

hiveserver2-site

Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2.

hue-ini

Alterar os valores no arquivo ini do Hue

httpfs-env

Mude os valores no HTTPFS ambiente.

httpfs-site

Alterar os valores no arquivo httpfs-site.xml do Hadoop.

hadoop-kms-acls

Alterar os valores no arquivo kms-acls.xml do Hadoop.

hadoop-kms-env

Altere os valores no ambiente HadoopKMS.

hadoop-kms-java-home

Mude a página inicial do Java do KMS Hadoop

hadoop-kms-log4j

Alterar os valores no arquivo kms-log4j.properties do Hadoop.

hadoop-kms-site

Alterar os valores no arquivo kms-site.xml do Hadoop.

hudi-env

Altere os valores no ambiente do Hudi.

hudi-defaults

Alterar os valores no arquivo hudi-defaults.conf do Hudi.

iceberg-defaults

Alterar os valores no arquivo iceberg-defaults.conf do Iceberg.

delta-defaults

Alterar os valores no arquivo delta-defaults.conf do Delta.

jupyter-notebook-conf

Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter.

jupyter-hub-conf

Altere os valores no JupyterHubs arquivo jupyterhub_config.py do.

jupyter-s3-conf

Configurar a persistência do notebook Jupyter S3.

jupyter-sparkmagic-conf

Altere os valores no arquivo config.json do Sparkmagic.

livy-conf

Alterar os valores no arquivo livy.conf do Livy.

livy-env

Alterar os valores no ambiente do Livy.

livy-log4j2

Alterar as configurações de log4j2.properties do Livy.

mapred-env

Altere os valores no ambiente do MapReduce aplicativo.

mapred-site

Altere os valores no arquivo mapred-site.xml do MapReduce aplicativo.

oozie-env

Alterar os valores no ambiente do Oozie.

oozie-log4j

Alterar os valores no arquivo oozie-log4j.properties do Oozie.

oozie-site

Alterar os valores no arquivo oozie-site.xml do Oozie.

phoenix-hbase-metrics

Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix.

phoenix-hbase-site

Alterar os valores no arquivo hbase-site.xml do Phoenix.

phoenix-log4j

Alterar os valores no arquivo log4j.properties do Phoenix.

phoenix-metrics

Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix.

pig-env

Alterar os valores no ambiente do Pig.

pig-properties

Alterar os valores no arquivo pig.properties do Pig.

pig-log4j

Alterar os valores no arquivo log4j.properties do Pig.

presto-log

Alterar os valores no arquivo log.properties do Presto.

presto-config

Alterar os valores no arquivo config.properties do Presto.

presto-password-authenticator

Altere os valores no arquivo password-authenticator.properties do Presto.

presto-env

Altere os valores no arquivo presto-env.sh do Presto.

presto-node

Altere os valores no arquivo node.properties do Presto.

presto-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Presto.

presto-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Presto.

presto-connector-hive

Alterar os valores no arquivo hive.properties do Presto.

presto-connector-jmx

Alterar os valores no arquivo jmx.properties do Presto.

presto-connector-kafka

Alterar os valores no arquivo kafka.properties do Presto.

presto-connector-lakeformation

Alterar os valores no arquivo lakeformation.properties do Presto.

presto-connector-localfile

Alterar os valores no arquivo localfile.properties do Presto.

presto-connector-memory

Alterar os valores no arquivo memory.properties do Presto.

presto-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Presto.

presto-connector-mysql

Alterar os valores no arquivo mysql.properties do Presto.

presto-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Presto.

presto-connector-raptor

Alterar os valores no arquivo raptor.properties do Presto.

presto-connector-redis

Alterar os valores no arquivo redis.properties do Presto.

presto-connector-redshift

Alterar os valores no arquivo de propriedades redshift do Presto.

presto-connector-tpch

Alterar os valores no arquivo tpch.properties do Presto.

presto-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Presto.

trino-log

Alterar os valores no arquivo log.properties do Trino.

trino-config

Alterar os valores no arquivo config.properties do Trino.

trino-password-authenticator

Alterar os valores no arquivo password-authenticator.properties do Trino.

trino-env

Alterar os valores no arquivo trino-env.sh do Trino.

trino-node

Alterar os valores no arquivo node.properties do Trino.

trino-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Trino.

trino-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Trino.

trino-connector-delta

Alterar os valores no arquivo delta.properties do Trino.

trino-connector-hive

Alterar os valores no arquivo hive.properties do Trino.

trino-exchange-manager

Alterar os valores no arquivo exchange-manager.properties do Trino.

trino-connector-iceberg

Alterar os valores no arquivo iceberg.properties do Trino.

trino-connector-hudi

Alterar os valores no arquivo hudi.properties do Trino.

trino-connector-jmx

Alterar os valores no arquivo jmx.properties do Trino.

trino-connector-kafka

Alterar os valores no arquivo kafka.properties do Trino.

trino-connector-localfile

Alterar os valores no arquivo localfile.properties do Trino.

trino-connector-memory

Alterar os valores no arquivo memory.properties do Trino.

trino-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Trino.

trino-connector-mysql

Alterar os valores no arquivo mysql.properties do Trino.

trino-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Trino.

trino-connector-raptor

Alterar os valores no arquivo raptor.properties do Trino.

trino-connector-redis

Alterar os valores no arquivo redis.properties do Trino.

trino-connector-redshift

Alterar os valores no arquivo redshift.properties do Trino.

trino-connector-tpch

Alterar os valores no arquivo tpch.properties do Trino.

trino-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Trino.

ranger-kms-dbks-site

Altere os valores no arquivo dbks-site.xml do Ranger. KMS

ranger-kms-site

Altere os valores no ranger-kms-site arquivo.xml do RangerKMS.

ranger-kms-env

Altere os valores no KMS ambiente Ranger.

ranger-kms-logback

Altere os valores no arquivo kms-logback.xml do Ranger. KMS

ranger-kms-db-ca

Altere os valores do arquivo CA no S3 para Minha SQL SSL conexão com o RangerKMS.

spark

Configurações EMR selecionadas pela Amazon para o Apache Spark.

spark-defaults

Alterar os valores no arquivo spark-defaults.conf do Spark.

spark-env

Alterar os valores no ambiente do Spark.

spark-hive-site

Alterar os valores no arquivo hive-site.xml do Spark.

spark-log4j2

Alterar os valores no arquivo log4j2.properties do Spark.

spark-metrics

Alterar os valores no arquivo metrics.properties do Spark.

sqoop-env

Alterar os valores no ambiente do Sqoop.

sqoop-oraoop-site

Altere os valores no arquivo oraoop-site.xml OraOop do Sqoop.

sqoop-site

Alterar os valores no arquivo sqoop-site.xml do Sqoop.

tez-site

Alterar os valores no arquivo tez-site.xml do Tez.

yarn-env

Mude os valores no YARN ambiente.

yarn-site

Altere os valores no YARN arquivo yarn-site.xml do.

zeppelin-env

Alterar os valores no ambiente do Zeppelin.

zeppelin-site

Alterar as definições da configuração em zeppelin-site.xml.

zookeeper-config

Altere os valores no ZooKeeper arquivo zoo.cfg do.

zookeeper-log4j

Altere os valores no ZooKeeper arquivo log4j.properties.

Log de alterações 7.0.0

Log de alterações da versão 7.0.0 e das notas da versão
Data Evento Descrição

2023-12-29

Implantação concluída Amazon EMR 7.0.0 totalmente implantado em todas as regiões suportadas
2023-12-28 Publicação de documentos Notas de lançamento do Amazon EMR 7.0.0 publicadas pela primeira vez
2023-12-19 Lançamento inicial Amazon EMR 7.0.0 foi implantado pela primeira vez nas regiões comerciais iniciais