Versão 6.8.1 do Amazon EMR - Amazon EMR

Versão 6.8.1 do Amazon EMR

Versões 6.8.1 da aplicação

As seguintes aplicações são compatíveis com esta versão: Flink, Ganglia, HBase, HCatalog, Hadoop, Hive, Hudi, Hue, Iceberg, JupyterEnterpriseGateway, JupyterHub, Livy, MXNet, Oozie, Phoenix, Pig, Presto, Spark, Sqoop, TensorFlow, Tez, Trino, Zeppelin e ZooKeeper.

A tabela abaixo lista as versões das aplicações disponíveis nesta versão do Amazon EMR e as versões de aplicações nas três versões anteriores do Amazon EMR (quando aplicável).

Para obter um histórico abrangente das versões das aplicações de cada versão do Amazon EMR, consulte os seguintes tópicos:

Informações da versão da aplicação
emr-6.8.1 emr-6.8.0 emr-6.7.0 emr-6.6.0
AWS SDK para Java 1.12.1701.12.1701.12.1701.12.170
Python 2.7, 3.72.7, 3.72.7, 3.72.7, 3.7
Scala 2.12.152.12.152.12.152.12.10
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink1.15.11.15.11.14.21.14.2
Ganglia3.7.23.7.23.7.23.7.2
HBase2.4.122.4.122.4.42.4.4
HCatalog3.1.33.1.33.1.33.1.2
Hadoop3.2.13.2.13.2.13.2.1
Hive3.1.33.1.33.1.33.1.2
Hudi0.11.1-amzn-00.11.1-amzn-00.11.0-amzn-00.10.1-amzn-0
Hue4.10.04.10.04.10.04.10.0
Iceberg0.14.0-amzn-00.14.0-amzn-00.13.1-amzn-00.13.1
JupyterEnterpriseGateway2.1.02.1.02.1.02.1.0
JupyterHub1.4.11.4.11.4.11.4.1
Livy0.7.10.7.10.7.10.7.1
MXNet1.9.11.9.11.8.01.8.0
Mahout - - - -
Oozie5.2.15.2.15.2.15.2.1
Phoenix5.1.25.1.25.1.25.1.2
Pig0.17.00.17.00.17.00.17.0
Presto0.2730.2730.2720.267
Spark3.3.03.3.03.2.13.2.0
Sqoop1.4.71.4.71.4.71.4.7
TensorFlow2.9.12.9.12.4.12.4.1
Tez0.9.20.9.20.9.20.9.2
Trino (PrestoSQL)388388378367
Zeppelin0.10.10.10.10.10.00.10.0
ZooKeeper3.5.103.5.103.5.73.5.7

Notas da versão 6.8.1

As notas da versão a seguir incluem informações para a versão 6.8.1 do Amazon EMR. As alterações são referentes à versão 6.8.0. Para obter informações sobre o cronograma da versão, consulte o Log de alterações 6.8.1.

Alterações, melhorias e problemas resolvidos
  • O Hadoop 3.3.3 introduziu uma alteração no YARN (YARN-9608) que mantém os nós em que os contêineres eram executados em um estado de desativação até que a aplicação seja concluída. Essa alteração garante que dados locais, como dados embaralhados, não sejam perdidos e que você não precise executar o trabalho novamente. Essa abordagem também pode levar à subutilização de recursos em clusters com ou sem o ajuste de escala gerenciado habilitado.

    Com as versões 6.11.0 e superiores do Amazon EMR, além das versões 6.8.1, 6.9.1 e 6.10.1, o valor de yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-applications é definido como false em yarn-site.xml para resolver esse problema.

    Embora a correção resolva os problemas introduzidos pelo YARN-9608, ela pode fazer com que os trabalhos do Hive falhem devido à perda de dados embaralhados em clusters com ajuste de escala gerenciado habilitado. Reduzimos esse risco nesta versão também ao configurar yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data para workloads do Hive. Essa configuração só está disponível com as versões 6.11.0 e superiores do Amazon EMR.

  • O coletor de métricas não enviará métricas para o ambiente de gerenciamento após o failover do nó primário em clusters com a configuração de grupos de instâncias.

  • Essa versão elimina novas tentativas de solicitações HTTP com falha nos endpoints do coletor de métricas.

  • Esta versão inclui uma alteração que permite que clusters de alta disponibilidade se recuperem de um estado de falha após a reinicialização.

  • Esta versão corrige um problema em que grandes IDs de usuário (UIDs) criados por usuários causavam exceções de estouro.

  • Esta versão corrige problemas de tempo limite com o processo de reconfiguração do Amazon EMR.

  • Esta versão evita um problema em que a falha na reconfiguração pode interromper outros processos não relacionados.

  • Esta versão inclui correções de segurança.

  • Esta versão corrige um problema em que clusters que estão executando workloads no Spark com o Amazon EMR podem receber silenciosamente resultados incorretos com contains, startsWith, endsWith e like. Esse problema ocorre quando você usa as expressões em campos particionados que têm metadados no Hive3 Metastore Server (HMS) no Amazon EMR.

  • Com o Amazon EMR 6.6.0 a 6.9.x, as consultas INSERT com partição dinâmica e uma cláusula ORDER BY ou SORT BY sempre terá dois redutores. Esse problema é causado pela alteração do OSS HIVE-20703, que coloca a otimização da partição dinâmica de classificação sob uma decisão baseada em custos. Se sua workload não exigir a classificação de partições dinâmicas, recomendamos que você defina a propriedade hive.optimize.sort.dynamic.partition.threshold como -1 para desabilitar o novo atributo e obter o número de redutores calculado corretamente. Esse problema foi corrigido no OSS Hive como parte do HIVE-22269 e foi corrigido no Amazon EMR 6.10.0.

  • O Hive pode sofrer perda de dados quando você usa o HDFS como um diretório temporário e habilitou a mesclagem de arquivos pequenos e a tabela contém caminhos de partição estáticos.

  • Esta versão corrige um problema de performance com o Hive se a mesclagem de arquivos pequenos (desabilitada por padrão) é habilitada no final da tarefa de ETL.

  • Esta versão corrige um problema com controle de utilização no lado do Glue quando não há funções definidas pelo usuário (UDF).

  • Esta versão corrige um problema que exclui logs de contêineres pelo serviço de agregação de logs de nó antes que o pusher de logs possa enviá-los para o S3 em caso de desativação do YARN.

  • Esta versão corrige o manuseio de arquivos compactados/arquivados com rastreamento persistente de arquivos de armazenamento para o HBase.

  • Esta versão corrige um problema que afetou a performance do Spark quando você definiu um valor de true padrão para a configuração spark.yarn.heterogeneousExecutors.enabled no spark-defaults.conf.

  • Esta versão corrige um problema com a falha do Reduce Task em ler dados embaralhados. O problema causou falhas na consulta do Hive com um erro de memória corrompida.

  • Esta versão corrige um problema que fazia com que o provisionador de nós falhasse se o serviço NameNode (NN) do HDFS ficasse preso no modo de segurança durante a substituição do nó.

  • Esta versão adiciona um mecanismo de nova tentativa ao fluxo de trabalho de escalabilidade de clusters para clusters do EMR que executam o Presto ou o Trino. Essa melhoria reduz o risco de que o redimensionamento do cluster fique paralisado indefinidamente devido a uma única falha na operação de redimensionamento. Ela também aprimora a utilização dos clusters, porque seu cluster aumenta e reduz a escala verticalmente com mais rapidez.

  • Esta versão melhora a lógica de redução da escala verticalmente do cluster para que o cluster não tente reduzir a escala verticalmente dos nós centrais abaixo da configuração do fator de replicação do HDFS para o cluster. Isso se alinha aos seus requisitos de redundância de dados e reduz a probabilidade de uma operação de escalabilidade paralisar.

  • O daemon de gerenciamento de logs foi atualizado para identificar todos os logs que estão em uso ativo com identificadores de arquivos abertos no armazenamento da instância local e nos processos associados. Essa atualização garante que o Amazon EMR exclua adequadamente os arquivos e recupere o espaço de armazenamento depois que os logs são arquivados no Amazon S3.

  • Esta versão inclui um aprimoramento do daemon de gerenciamento de logs que exclui diretórios de etapas vazios e não utilizados no sistema de arquivos de cluster local. Um número excessivamente grande de diretórios vazios pode degradar a performance dos daemons do Amazon EMR e resultar na utilização excessiva do disco.

  • Esta versão corrige um problema que pode ocorrer quando você cria um nó de borda ao replicar um dos nós primários de um cluster com vários nós primários. O nó de borda replicado pode causar atrasos nas operações de redução da escala verticalmente ou resultar em alta utilização de memória nos nós primários. Para obter mais informações sobre como criar um nó de borda para comunicação com seu cluster do EMR, consulte Criador de nó de borda no repositório aws-samples no GitHub.

  • Esta versão melhora o processo de automação que o Amazon EMR usa para remontar volumes do Amazon EBS em uma instância após uma reinicialização.

  • Esta versão corrige um problema que resultou em lacunas intermitentes nas métricas do Hadoop que o Amazon EMR publica no Amazon CloudWatch.

  • Esta versão corrige um problema com clusters do EMR em que uma atualização no arquivo de configuração do YARN que contém a lista de exclusão de nós do cluster é interrompida devido à utilização excessiva do disco. A atualização incompleta impede futuras operações de redução da escala verticalmente do cluster. Esta versão garante que o cluster permaneça íntegro e que as operações de escalabilidade funcionem conforme esperado.

  • Esta versão aprimora o daemon de gerenciamento de logs no cluster para monitorar pastas de log adicionais no cluster do EMR. Essa melhoria minimiza os cenários de utilização excessiva do disco.

  • Esta versão reinicia automaticamente o daemon de gerenciamento de logs no cluster quando ele é interrompido. Essa melhoria reduz o risco de os nós parecerem não íntegros devido à utilização excessiva do disco.

  • Esta versão adiciona suporte ao arquivamento de logs no Amazon S3 durante a redução da escala do cluster verticalmente. Anteriormente, só era possível arquivar arquivos de log no Amazon S3 durante o encerramento do cluster. A nova capacidade garante que os arquivos de log gerados no cluster persistam no Amazon S3 mesmo após o encerramento do nó. Para obter mais informações, consulte Configurar registro em log e depuração do cluster.

  • Esta versão corrige um problema que ocorreu quando o URI do Amazon S3 para uma ação de bootstrap terminava com um número de porta, por exemplo: a.b.c.d:4345. O Amazon EMR estava analisando incorretamente esses URIs e, portanto, qualquer ação de bootstrap associada falharia.

  • Esta versão corrige um problema de incompatibilidade de sequência de tempo entre o Apache BigTop e o Amazon EMR na sequência de inicialização do cluster do EC2. Essa incompatibilidade de sequência de tempo ocorre quando um sistema tenta realizar duas ou mais operações ao mesmo tempo em vez de fazê-las na sequência correta. Como resultado, determinadas configurações de cluster apresentaram tempos limite de inicialização da instância e tempos de inicialização do cluster mais lentos.

  • Quando você inicia um cluster com a versão de patch mais recente do Amazon EMR 5.36 ou superior, 6.6 ou superior ou 7.0 ou superior, o Amazon EMR usa a versão mais recente do Amazon Linux 2023 ou do Amazon Linux 2 para a AMI padrão do Amazon EMR. Para obter mais informações, consulte Como usar a AMI padrão do Amazon Linux para Amazon EMR.

    OsReleaseLabel (versão do Amazon Linux) Versão do kernel do Amazon Linux Data disponível Regiões compatíveis
    2.0.20241001.0 4.14.352 4 de outubro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240816.0 4.14.350 21 de agosto de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240809.0 4.14.349 20 de agosto de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240719.0 4.14.348 25 de julho de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240709.1 4.14.348 23 de julho de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (N. da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia), Ásia-Pacífico (Hyderabad), Oriente Médio (EAU), Europa (Espanha), Europa (Zurique), Ásia-Pacífico (Melbourne), Israel (Tel Aviv),
    2.0.20240223.0 4.14.336 8 de março de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240131.0 4.14.336 14 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240124.0 4.14.336 7 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20240109.0 4.14.334 24 de janeiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231218.0 4.14.330 2 de janeiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231206.0 4.14.330 22 de dezembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231116.0 4.14.328 11 de dezembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231101.0 4.14.327 16 de novembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231020.1 4.14.326 7 de novembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20231012.1 4.14.326 26 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20230926.0 4.14.322 19 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), AWS GovCloud (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China (Pequim), China (Ningxia)
    2.0.20230906.0 4.14.322 4 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central)
    2.0.20230822.0 4.14.322 30 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central)
    2.0.20230808.0 4.14.320 24 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central)
    2.0.20230727.0 4.14.320 14 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central)

Versões de componente 6.8.1

Os componentes que o Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos do Amazon EMR e instalados para processos e atributos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicações de big data na versão mais recente do Amazon EMR são geralmente a versão mais recente encontrada na comunidade. Disponibilizamos as versões da comunidade no Amazon EMR o mais rapidamente possível.

Alguns componentes no Amazon EMR diferem das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersion. O EmrVersion começa em 0. Por exemplo, se um componente da comunidade de código aberto denominado myapp-component com a versão 2.2 tiver sido alterado três vezes para inclusão em versões diferentes do Amazon EMR, sua versão será listada como 2.2-amzn-2.

Componente Version (Versão) Descrição
aws-sagemaker-spark-sdk1.4.2Spark SDK para o Amazon SageMaker
emr-ddb4.16.0O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop.
emr-goodies3.2.0Bibliotecas convenientes para o ecossistema do Hadoop.
emr-kinesis3.5.0O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop.
emr-notebook-env1.7.0Ambiente Conda para bloco de anotações do emr, que inclui o jupyter enterprise gateway
emr-s3-dist-cp2.22.0Cópia distribuída otimizada de aplicativos para o Amazon S3.
emr-s3-select2.1.0EMR S3Select Connector
emrfs2.53.0O conector do Amazon S3 para aplicações do ecossistema do Hadoop.
flink-client1.15.1Scripts do cliente da linha de comando e aplicativos do Apache Flink.
flink-jobmanager-config1.15.1Gerenciar recursos em nós do EMR para o Apache Flink JobManager.
ganglia-monitor3.7.2O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia.
ganglia-metadata-collector3.7.2O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia.
ganglia-web3.7.1O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia.
hadoop-client3.2.1-amzn-8.1Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'.
hadoop-hdfs-datanode3.2.1-amzn-8.1O serviço de nível de nó do HDFS para armazenamento de blocos.
hadoop-hdfs-library3.2.1-amzn-8.1O cliente de linha de comando e biblioteca do HDFS
hadoop-hdfs-namenode3.2.1-amzn-8.1O serviço do HDFS para rastrear nomes de arquivos e locais de blocos.
hadoop-hdfs-journalnode3.2.1-amzn-8.1O serviço do HDFS para gerenciar o lançamento de arquivos do Hadoop em clusters de HA.
hadoop-httpfs-server3.2.1-amzn-8.1O endpoint de HTTP para as operações do HDFS.
hadoop-kms-server3.2.1-amzn-8.1O servidor de gerenciamento de chaves criptográficas baseado na API de KeyProvider do Hadoop.
hadoop-mapred3.2.1-amzn-8.1As bibliotecas do mecanismo de execução do MapReduce para a execução de aplicativos do MapReduce.
hadoop-yarn-nodemanager3.2.1-amzn-8.1O serviço do YARN para o gerenciamento de contêineres em um nó individual.
hadoop-yarn-resourcemanager3.2.1-amzn-8.1O serviço do YARN para alocar e gerenciar recursos de cluster e aplicativos distribuídos.
hadoop-yarn-timeline-server3.2.1-amzn-8.1O serviço para recuperar informações atuais e históricas dos aplicativos do YARN.
hbase-hmaster2.4.12-amzn-0.1O serviço de um cluster do HBase responsável pela coordenação de regiões e execução de comandos administrativos.
hbase-region-server2.4.12-amzn-0.1O serviço que abrange uma ou mais regiões do HBase.
hbase-client2.4.12-amzn-0.1O cliente da linha de comando do HBase.
hbase-rest-server2.4.12-amzn-0.1O serviço que fornece um endpoint do HTTP RESTful para o HBase.
hbase-thrift-server2.4.12-amzn-0.1O serviço que fornece um endpoint do Thrift para o HBase.
hbase-operator-tools2.4.12-amzn-0.1Ferramenta de reparo para clusters do Apache HBase.
hcatalog-client3.1.3-amzn-1.1O cliente da linha de comando 'hcat' para manipular o hcatalog-server.
hcatalog-server3.1.3-amzn-1.1O serviço que fornece a HCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos.
hcatalog-webhcat-server3.1.3-amzn-1.1O endpoint do HTTP que fornece uma interface REST para a HCatalog.
hive-client3.1.3-amzn-1.1O cliente da linha de comando do Hive.
hive-hbase3.1.3-amzn-1.1Cliente do Hive-hbase.
hive-metastore-server3.1.3-amzn-1.1O serviço de acesso à metastore do Hive, um repositório de semântica que armazena metadados do SQL nas operações do Hadoop.
hive-server23.1.3-amzn-1.1O serviço que aceita as consultas do Hive como solicitações da web.
hudi0.11.1-amzn-0Estrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência.
hudi-presto0.11.1-amzn-0Biblioteca de pacotes para executar o Presto com o Hudi.
hudi-trino0.11.1-amzn-0Biblioteca de pacotes para execução do Presto com o Hudi.
hudi-spark0.11.1-amzn-0Biblioteca de pacotes para executar o Spark com o Hudi.
hue-server4.10.0O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop
iceberg0.14.0-amzn-0Apache Iceberg é um formato de tabela aberta para conjuntos de dados analíticos imensos
jupyterhub1.4.1Servidor de vários usuários para blocos de anotações Jupyter
livy-server0.7.1-incubatingInterface REST para interagir com o Apache Spark
nginx1.12.1nginx [mecanismo x] é um servidor de proxy reverso e HTTP
mxnet1.9.1Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado.
mariadb-server5.5.68+Servidor de banco de dados MariaDB.
nvidia-cuda11.7.0Drivers NVIDIA e toolkit CUDA
oozie-client5.2.1O cliente da linha de comando do Oozie.
oozie-server5.2.1O serviço que aceita solicitações de fluxo de trabalho do Oozie.
opencv4.5.0Biblioteca de Visão Computacional de Código Aberto.
phoenix-library5.1.2As bibliotecas do phoenix para servidor e cliente
phoenix-connectors5.1.2Conectores do Apache Phoenix para Spark-3
phoenix-query-server5.1.2Um servidor leve que fornece acesso à JDBC, bem como buffers de protocolo e acesso no formato JSON à API do Avatica
presto-coordinator0.273.3-amzn-0O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers.
presto-worker0.273.3-amzn-0O serviço que executa partes de uma consulta.
presto-client0.273.3-amzn-0Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado.
trino-coordinator388-amzn-0Serviço que aceita consultas e gerencia a execução de consultas entre trino-workers.
trino-worker388-amzn-0O serviço que executa partes de uma consulta.
trino-client388-amzn-0Cliente de linha de comando do Trino instalado em mestres de espera de um cluster de alta disponibilidade (HA) em que o servidor do Trino não é iniciado.
pig-client0.17.0O cliente da linha de comando do Pig.
r4.0.2O projeto R para computação estatística
ranger-kms-server2.0.0Sistema de gerenciamento de chaves Apache Ranger
spark-client3.3.0-amzn-0.1Os clientes da linha de comando do Spark.
spark-history-server3.3.0-amzn-0.1A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído.
spark-on-yarn3.3.0-amzn-0.1O mecanismo de execução em memória para o YARN.
spark-yarn-slave3.3.0-amzn-0.1As bibliotecas do Apache Spark necessárias para subordinados do YARN.
spark-rapids22.06.0-amzn-0Plugin do Nvidia Spark RAPIDS que acelera o Apache Spark com GPUs.
sqoop-client1.4.7O cliente da linha de comando do Apache Sqoop.
tensorflow2.9.1Biblioteca de software de código aberto TensorFlow para computação numérica de alto desempenho.
tez-on-yarn0.9.2O aplicativo e as bibliotecas do YARN para Tez.
webserver2.4.41+O servidor Apache HTTP.
zeppelin-server0.10.1O notebook baseado na web que permite um data analytics interativo.
zookeeper-server3.5.10O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo.
zookeeper-client3.5.10O cliente da linha de comando do ZooKeeper.

Classificações de configuração 6.8.1

As classificações de configuração permitem que você personalize aplicações. Elas geralmente correspondem a um arquivo XML de configuração da aplicação, como hive-site.xml. Para ter mais informações, consulte Configurar aplicações.

Ocorrem ações de reconfiguração quando você especifica uma configuração para grupos de instâncias em um cluster em execução. O Amazon EMR só inicia ações de reconfiguração para as classificações que você modifica. Para ter mais informações, consulte Reconfigurar um grupo de instâncias de um cluster em execução.

Classificações do emr-6.8.1
Classificações Descrição Ações de reconfiguração

capacity-scheduler

Alterar os valores no arquivo capacity-scheduler.xml do Hadoop.

Restarts the ResourceManager service.

container-executor

Alterar os valores no arquivo container-executor.cfg do YARN do Hadoop.

Not available.

container-log4j

Altere os valores no arquivo container-log4j.properties do YARN do Hadoop.

Not available.

core-site

Alterar os valores no arquivo core-site.xml do Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

docker-conf

Alterar as configurações relacionadas ao docker.

Not available.

emrfs-site

Alterar as configurações do EMRFS.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer.

flink-conf

Alterar as configurações do flink-conf.yaml.

Restarts Flink history server.

flink-log4j

Alterar as configurações de log4j.properties no Flink.

Restarts Flink history server.

flink-log4j-session

Alterar as configurações de log4j-yarn-session.properties no Flink para sessão do Kubernetes/Yarn.

Restarts Flink history server.

flink-log4j-cli

Alterar as configurações de log4j-cli.properties no Flink.

Restarts Flink history server.

hadoop-env

Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer.

hadoop-log4j

Alterar os valores no arquivo log4j.properties do Hadoop.

Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer.

hadoop-ssl-server

Alterar a configuração do servidor SSL no Hadoop

Not available.

hadoop-ssl-client

Alterar a configuração do cliente SSL no Hadoop

Not available.

hbase

As configurações administradas pelo Amazon EMR para o Apache HBase.

Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts.

hbase-env

Alterar os valores no ambiente do HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-log4j

Alterar os valores no arquivo hbase-log4j.properties do HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-metrics

Altere os valores no arquivo hadoop-metrics2-hbase.properties do HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer.

hbase-policy

Alterar os valores no arquivo hbase-policy.xml do HBase.

Not available.

hbase-site

Alterar os valores no arquivo hbase-site.xml do HBase.

Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer.

hdfs-encryption-zones

Configurar as zonas de criptografia do HDFS.

This classification should not be reconfigured.

hdfs-env

Alterar os valores no ambiente do HDFS.

Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC.

hdfs-site

Alterar os valores no arquivo hdfs-site.xml do HDFS.

Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs.

hcatalog-env

Alterar os valores no ambiente do HCatalog.

Restarts Hive HCatalog Server.

hcatalog-server-jndi

Alterar os valores no jndi.properties do HCatalog.

Restarts Hive HCatalog Server.

hcatalog-server-proto-hive-site

Alterar os valores no arquivo proto-hive-site.xml do HCatalog.

Restarts Hive HCatalog Server.

hcatalog-webhcat-env

Alterar os valores no ambiente do HCatalog WebHCat.

Restarts Hive WebHCat server.

hcatalog-webhcat-log4j2

Alterar os valores no log4j2.properties do HCatalog WebHCat.

Restarts Hive WebHCat server.

hcatalog-webhcat-site

Alterar os valores no arquivo webhcat-site.xml do HCatalog WebHCat.

Restarts Hive WebHCat server.

hive

As configurações administradas pelo Amazon EMR para o Apache Hive.

Sets configurations to launch Hive LLAP service.

hive-beeline-log4j2

Alterar os valores no arquivo beeline-log4j2.properties do Hive.

Not available.

hive-parquet-logging

Alterar os valores no arquivo parquet-logging.properties do Hive.

Not available.

hive-env

Alterar os valores no ambiente do Hive.

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore.

hive-exec-log4j2

Alterar os valores no arquivo hive-exec-log4j2.properties do Hive.

Not available.

hive-llap-daemon-log4j2

Alterar os valores no arquivo llap-daemon-log4j2.properties do Hive.

Not available.

hive-log4j2

Alterar os valores no arquivo hive-log4j2.properties do Hive.

Not available.

hive-site

Alterar os valores no arquivo hive-site.xml do Hive.

Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin.

hiveserver2-site

Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2.

Not available.

hue-ini

Alterar os valores no arquivo ini do Hue

Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations.

httpfs-env

Alterar os valores no ambiente do HTTPFS.

Restarts Hadoop Httpfs service.

httpfs-site

Alterar os valores no arquivo httpfs-site.xml do Hadoop.

Restarts Hadoop Httpfs service.

hadoop-kms-acls

Alterar os valores no arquivo kms-acls.xml do Hadoop.

Not available.

hadoop-kms-env

Alterar os valores no ambiente do Hadoop KMS.

Restarts Hadoop-KMS service.

hadoop-kms-log4j

Alterar os valores no arquivo kms-log4j.properties do Hadoop.

Not available.

hadoop-kms-site

Alterar os valores no arquivo kms-site.xml do Hadoop.

Restarts Hadoop-KMS and Ranger-KMS service.

hudi-env

Altere os valores no ambiente do Hudi.

Not available.

hudi-defaults

Alterar os valores no arquivo hudi-defaults.conf do Hudi.

Not available.

iceberg-defaults

Alterar os valores no arquivo iceberg-defaults.conf do Iceberg.

Not available.

jupyter-notebook-conf

Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter.

Not available.

jupyter-hub-conf

Alterar os valores no arquivo jupyterhub_config.py de JupyterHubs.

Not available.

jupyter-s3-conf

Configurar a persistência do notebook Jupyter S3.

Not available.

jupyter-sparkmagic-conf

Altere os valores no arquivo config.json do Sparkmagic.

Not available.

livy-conf

Alterar os valores no arquivo livy.conf do Livy.

Restarts Livy Server.

livy-env

Alterar os valores no ambiente do Livy.

Restarts Livy Server.

livy-log4j

Alterar as configurações de log4j.properties no Livy.

Restarts Livy Server.

mapred-env

Alterar os valores no ambiente do aplicativo MapReduce.

Restarts Hadoop MapReduce-HistoryServer.

mapred-site

Alterar os valores no arquivo mapred-site.xml do aplicativo MapReduce.

Restarts Hadoop MapReduce-HistoryServer.

oozie-env

Alterar os valores no ambiente do Oozie.

Restarts Oozie.

oozie-log4j

Alterar os valores no arquivo oozie-log4j.properties do Oozie.

Restarts Oozie.

oozie-site

Alterar os valores no arquivo oozie-site.xml do Oozie.

Restarts Oozie.

phoenix-hbase-metrics

Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix.

Not available.

phoenix-hbase-site

Alterar os valores no arquivo hbase-site.xml do Phoenix.

Not available.

phoenix-log4j

Alterar os valores no arquivo log4j.properties do Phoenix.

Restarts Phoenix-QueryServer.

phoenix-metrics

Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix.

Not available.

pig-env

Alterar os valores no ambiente do Pig.

Not available.

pig-properties

Alterar os valores no arquivo pig.properties do Pig.

Restarts Oozie.

pig-log4j

Alterar os valores no arquivo log4j.properties do Pig.

Not available.

presto-log

Alterar os valores no arquivo log.properties do Presto.

Restarts Presto-Server (for PrestoDB)

presto-config

Alterar os valores no arquivo config.properties do Presto.

Restarts Presto-Server (for PrestoDB)

presto-password-authenticator

Altere os valores no arquivo password-authenticator.properties do Presto.

Not available.

presto-env

Altere os valores no arquivo presto-env.sh do Presto.

Restarts Presto-Server (for PrestoDB)

presto-node

Altere os valores no arquivo node.properties do Presto.

Not available.

presto-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Presto.

Not available.

presto-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Presto.

Not available.

presto-connector-hive

Alterar os valores no arquivo hive.properties do Presto.

Restarts Presto-Server (for PrestoDB)

presto-connector-jmx

Alterar os valores no arquivo jmx.properties do Presto.

Not available.

presto-connector-kafka

Alterar os valores no arquivo kafka.properties do Presto.

Not available.

presto-connector-localfile

Alterar os valores no arquivo localfile.properties do Presto.

Not available.

presto-connector-memory

Alterar os valores no arquivo memory.properties do Presto.

Not available.

presto-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Presto.

Not available.

presto-connector-mysql

Alterar os valores no arquivo mysql.properties do Presto.

Not available.

presto-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Presto.

Not available.

presto-connector-raptor

Alterar os valores no arquivo raptor.properties do Presto.

Not available.

presto-connector-redis

Alterar os valores no arquivo redis.properties do Presto.

Not available.

presto-connector-redshift

Alterar os valores no arquivo de propriedades redshift do Presto.

Not available.

presto-connector-tpch

Alterar os valores no arquivo tpch.properties do Presto.

Not available.

presto-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Presto.

Not available.

trino-log

Alterar os valores no arquivo log.properties do Trino.

Restarts Trino-Server (for Trino)

trino-config

Alterar os valores no arquivo config.properties do Trino.

Restarts Trino-Server (for Trino)

trino-password-authenticator

Alterar os valores no arquivo password-authenticator.properties do Trino.

Restarts Trino-Server (for Trino)

trino-env

Alterar os valores no arquivo trino-env.sh do Trino.

Restarts Trino-Server (for Trino)

trino-node

Alterar os valores no arquivo node.properties do Trino.

Not available.

trino-connector-blackhole

Alterar os valores no arquivo blackhole.properties do Trino.

Not available.

trino-connector-cassandra

Alterar os valores no arquivo cassandra.properties do Trino.

Not available.

trino-connector-hive

Alterar os valores no arquivo hive.properties do Trino.

Restarts Trino-Server (for Trino)

trino-connector-iceberg

Alterar os valores no arquivo iceberg.properties do Trino.

Restarts Trino-Server (for Trino)

trino-connector-jmx

Alterar os valores no arquivo jmx.properties do Trino.

Not available.

trino-connector-kafka

Alterar os valores no arquivo kafka.properties do Trino.

Not available.

trino-connector-localfile

Alterar os valores no arquivo localfile.properties do Trino.

Not available.

trino-connector-memory

Alterar os valores no arquivo memory.properties do Trino.

Not available.

trino-connector-mongodb

Alterar os valores no arquivo mongodb.properties do Trino.

Not available.

trino-connector-mysql

Alterar os valores no arquivo mysql.properties do Trino.

Not available.

trino-connector-postgresql

Alterar os valores no arquivo postgresql.properties do Trino.

Not available.

trino-connector-raptor

Alterar os valores no arquivo raptor.properties do Trino.

Not available.

trino-connector-redis

Alterar os valores no arquivo redis.properties do Trino.

Not available.

trino-connector-redshift

Alterar os valores no arquivo redshift.properties do Trino.

Not available.

trino-connector-tpch

Alterar os valores no arquivo tpch.properties do Trino.

Not available.

trino-connector-tpcds

Alterar os valores no arquivo tpcds.properties do Trino.

Not available.

ranger-kms-dbks-site

Altere os valores no arquivo dbks-site.xml do Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-site

Altere os valores no arquivo ranger-kms-site.xml do Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-env

Altere os valores no ambiente do Ranger KMS.

Restarts Ranger KMS Server.

ranger-kms-log4j

Altere os valores no arquivo kms-log4j.properties do Ranger KMS.

Not available.

ranger-kms-db-ca

Altere os valores do arquivo CA no S3 para conexão SSL do MySQL com o Ranger KMS.

Not available.

spark

As configurações administradas pelo Amazon EMR para o Apache Spark.

This property modifies spark-defaults. See actions there.

spark-defaults

Alterar os valores no arquivo spark-defaults.conf do Spark.

Restarts Spark history server and Spark thrift server.

spark-env

Alterar os valores no ambiente do Spark.

Restarts Spark history server and Spark thrift server.

spark-hive-site

Alterar os valores no arquivo hive-site.xml do Spark.

Not available.

spark-log4j2

Alterar os valores no arquivo log4j2.properties do Spark.

Restarts Spark history server and Spark thrift server.

spark-metrics

Alterar os valores no arquivo metrics.properties do Spark.

Restarts Spark history server and Spark thrift server.

sqoop-env

Alterar os valores no ambiente do Sqoop.

Not available.

sqoop-oraoop-site

Alterar os valores no arquivo oraoop-site.xml do Sqoop OraOop.

Not available.

sqoop-site

Alterar os valores no arquivo sqoop-site.xml do Sqoop.

Not available.

tez-site

Alterar os valores no arquivo tez-site.xml do Tez.

Restart Oozie and HiveServer2.

yarn-env

Alterar os valores no ambiente do YARN.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer.

yarn-site

Alterar os valores no arquivo yarn-site.xml do YARN.

Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer.

zeppelin-env

Alterar os valores no ambiente do Zeppelin.

Restarts Zeppelin.

zeppelin-site

Alterar as definições da configuração em zeppelin-site.xml.

Restarts Zeppelin.

zookeeper-config

Alterar os valores no arquivo zoo.cfg do ZooKeeper.

Restarts Zookeeper server.

zookeeper-log4j

Alterar os valores no arquivo log4j.properties do ZooKeeper.

Restarts Zookeeper server.

Log de alterações 6.8.1

Log de alterações da versão 6.8.1 e das notas da versão
Data Evento Descrição
30-08-2023 Atualizar notas da versão Adicionadas várias correções relacionadas ao ambiente de gerenciamento às notas da versão
21-08-2023 Publicação de documentos Notas da versão 6.8.1 do Amazon EMR publicadas pela primeira vez
16-08-2023 Implantação concluída Amazon EMR 6.8.1 totalmente implantado em todas as regiões compatíveis
04-08-2023 Lançamento inicial A versão 6.8.1 do Amazon EMR foi implantada pela primeira vez em regiões comerciais limitadas