As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Amazon EMR versão 6.8.1
Versões 6.8.1 da aplicação
Os seguintes aplicativos são compatíveis com esta versão: Flink
A tabela abaixo lista as versões do aplicativo disponíveis nesta versão da Amazon EMR e as versões do aplicativo nas três EMR versões anteriores da Amazon (quando aplicável).
Para obter um histórico abrangente das versões do aplicativo para cada lançamento da AmazonEMR, consulte os seguintes tópicos:
emr-6.8.1 | emr-6.8.0 | emr-6.7.0 | emr-6.6.0 | |
---|---|---|---|---|
AWS SDKpara Java | 1.12.170 | 1.12.170 | 1.12.170 | 1.12.170 |
Python | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 | 2,7, 3,7 |
Scala | 2.12.15 | 2.12.15 | 2.12.15 | 2.12.10 |
AmazonCloudWatchAgent | - | - | - | - |
Delta | - | - | - | - |
Flink | 1.15.1 | 1.15.1 | 1.14.2 | 1.14.2 |
Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 |
HBase | 2.4.12 | 2.4.12 | 2.4.4 | 2.4.4 |
HCatalog | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.2 |
Hadoop | 3.2.1 | 3.2.1 | 3.2.1 | 3.2.1 |
Hive | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.2 |
Hudi | 0.11.1-amzn-0 | 0.11.1-amzn-0 | 0.11.0-amzn-0 | 0.10.1-amzn-0 |
Hue | 4.10.0 | 4.10.0 | 4.10.0 | 4.10.0 |
Iceberg | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.13.1-amzn-0 | 0.13.1 |
JupyterEnterpriseGateway | 2.1.0 | 2.1.0 | 2.1.0 | 2.1.0 |
JupyterHub | 1.4.1 | 1.4.1 | 1.4.1 | 1.4.1 |
Livy | 0.7.1 | 0.7.1 | 0.7.1 | 0.7.1 |
MXNet | 1.9.1 | 1.9.1 | 1.8.0 | 1.8.0 |
Mahout | - | - | - | - |
Oozie | 5.2.1 | 5.2.1 | 5.2.1 | 5.2.1 |
Phoenix | 5.1.2 | 5.1.2 | 5.1.2 | 5.1.2 |
Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 |
Presto | 0,273 | 0,273 | 0,272 | 0,267 |
Spark | 3.3.0 | 3.3.0 | 3.2.1 | 3.2.0 |
Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 |
TensorFlow | 2.9.1 | 2.9.1 | 2.4.1 | 2.4.1 |
Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 |
Trino (Em breve) SQL | 388 | 388 | 378 | 367 |
Zeppelin | 0.10.1 | 0.10.1 | 0.10.0 | 0.10.0 |
ZooKeeper | 3.5.10 | 3.5.10 | 3.5.7 | 3.5.7 |
Notas da versão 6.8.1
As notas de lançamento a seguir incluem informações sobre a EMR versão 6.8.1 da Amazon. As alterações são referentes à versão 6.8.0. Para obter informações sobre o cronograma da versão, consulte o Log de alterações 6.8.1.
Alterações, melhorias e problemas resolvidos
-
O Hadoop 3.3.3 introduziu uma alteração em YARN (YARN-9608
) que mantém os nós em que os contêineres eram executados em um estado de descomissionamento até que o aplicativo seja concluído. Essa alteração garante que dados locais, como dados embaralhados, não sejam perdidos e que você não precise executar o trabalho novamente. Essa abordagem também pode levar à subutilização de recursos em clusters com ou sem o ajuste de escala gerenciado habilitado. Com as EMR versões 6.11.0 e superiores da Amazon, bem como 6.8.1, 6.9.1 e 6.10.1, o valor de
yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-applications
é definido como in para resolver esse problema.false
yarn-site.xml
Embora a correção resolva os problemas introduzidos pelo YARN -9608, ela pode fazer com que as tarefas do Hive falhem devido à perda aleatória de dados em clusters com escalabilidade gerenciada habilitada. Reduzimos esse risco nesta versão também ao configurar
yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data
para workloads do Hive. Essa configuração só está disponível nas EMR versões 6.11.0 e superiores da Amazon. -
O coletor de métricas não enviará métricas para o ambiente de gerenciamento após o failover do nó primário em clusters com a configuração de grupos de instâncias.
-
Essa versão elimina novas tentativas de HTTP solicitações malsucedidas para endpoints do coletor de métricas.
-
Esta versão inclui uma alteração que permite que clusters de alta disponibilidade se recuperem de um estado de falha após a reinicialização.
-
Esta versão corrige um problema em que grandes exceções de estouro criadas UIDs por usuários causavam exceções de estouro.
-
Esta versão corrige problemas de tempo limite com o processo de EMR reconfiguração da Amazon.
-
Esta versão evita um problema em que a falha na reconfiguração pode interromper outros processos não relacionados.
-
Esta versão inclui correções de segurança.
-
Esta versão corrige um problema em que clusters que estão executando cargas de trabalho no Spark com a Amazon EMR podem receber silenciosamente resultados incorretos com
contains
,startsWith
, e.endsWith
like
Esse problema ocorre quando você usa as expressões em campos particionados que têm metadados no Amazon EMR Hive3 Metastore Server (). HMS Com o Amazon EMR 6.6.0 a 6.9.x, INSERT as consultas com partição dinâmica e uma cláusula ORDER BY ou SORT BY sempre terão dois redutores. Esse problema é causado pela OSS alteração HIVE-20703
, que coloca a otimização dinâmica da partição de classificação sob decisão baseada em custos. Se sua workload não exigir a classificação de partições dinâmicas, recomendamos que você defina a propriedade hive.optimize.sort.dynamic.partition.threshold
como-1
para desabilitar o novo atributo e obter o número de redutores calculado corretamente. Esse problema foi corrigido no OSS Hive como parte do HIVE-22269e foi corrigido no Amazon 6.10.0. EMR -
O Hive pode sofrer perda de dados quando você o usa HDFS como um diretório temporário e habilita a mesclagem de arquivos pequenos, e a tabela contém caminhos de partição estáticos.
-
Esta versão corrige um problema de desempenho com o Hive se a mesclagem de arquivos pequenos (desativada por padrão) estiver ativada no final do ETL trabalho.
-
Esta versão corrige um problema de limitação no lado do Glue quando não há funções definidas pelo usuário (). UDF
-
Esta versão corrige um problema que exclui registros de contêineres pelo serviço de agregação de registros de nós antes que o carregador de registros possa enviá-los para o S3 em caso de descomissionamento. YARN
-
Esta versão corrige o manuseio de arquivos compactados/arquivados com rastreamento persistente de arquivos de armazenamento para. HBase
-
Esta versão corrige um problema que afetou a performance do Spark quando você definiu um valor de
true
padrão para a configuraçãospark.yarn.heterogeneousExecutors.enabled
nospark-defaults.conf
. -
Esta versão corrige um problema com a falha do Reduce Task em ler dados embaralhados. O problema causou falhas na consulta do Hive com um erro de memória corrompida.
-
Esta versão corrige um problema que fazia com que o provisionador de nós falhasse se o serviço HDFS NameNode (NN) ficasse preso no modo de segurança durante a substituição do nó.
-
Esta versão adiciona um novo mecanismo de repetição ao fluxo de trabalho de escalabilidade de EMR clusters para clusters que executam o Presto ou o Trino. Essa melhoria reduz o risco de que o redimensionamento do cluster fique paralisado indefinidamente devido a uma única falha na operação de redimensionamento. Ela também aprimora a utilização dos clusters, porque seu cluster aumenta e reduz a escala verticalmente com mais rapidez.
-
Esta versão melhora a lógica de redução do cluster para que seu cluster não tente reduzir os nós principais abaixo da configuração do fator de HDFS replicação do cluster. Isso se alinha aos seus requisitos de redundância de dados e reduz a probabilidade de uma operação de escalabilidade paralisar.
-
O daemon de gerenciamento de logs foi atualizado para identificar todos os logs que estão em uso ativo com identificadores de arquivos abertos no armazenamento da instância local e nos processos associados. Essa atualização garante que a Amazon exclua EMR adequadamente os arquivos e recupere o espaço de armazenamento depois que os registros forem arquivados no Amazon S3.
-
Esta versão inclui um aprimoramento do daemon de gerenciamento de logs que exclui diretórios de etapas vazios e não utilizados no sistema de arquivos de cluster local. Um número excessivamente grande de diretórios vazios pode degradar o desempenho dos EMR daemons da Amazon e resultar na sobreutilização do disco.
-
Esta versão corrige um problema que pode ocorrer quando você cria um nó de borda ao replicar um dos nós primários de um cluster com vários nós primários. O nó de borda replicado pode causar atrasos nas operações de redução da escala verticalmente ou resultar em alta utilização de memória nos nós primários. Para obter mais informações sobre como criar um nó de borda para se comunicar com seu EMR cluster, consulte Edge Node Creator
no aws-samples
repositório em GitHub. -
Esta versão melhora o processo de automação que a Amazon EMR usa para remontar EBS volumes da Amazon em uma instância após uma reinicialização.
-
Esta versão corrige um problema que resultou em lacunas intermitentes nas métricas do Hadoop que a Amazon publica EMR na Amazon. CloudWatch
-
Esta versão corrige um problema com EMR clusters em que uma atualização no arquivo de YARN configuração que contém a lista de exclusão de nós do cluster é interrompida devido à utilização excessiva do disco. A atualização incompleta impede futuras operações de redução da escala verticalmente do cluster. Esta versão garante que o cluster permaneça íntegro e que as operações de escalabilidade funcionem conforme esperado.
-
Esta versão aprimora o daemon de gerenciamento de logs no cluster para monitorar pastas de log adicionais em seu cluster. EMR Essa melhoria minimiza os cenários de utilização excessiva do disco.
-
Esta versão reinicia automaticamente o daemon de gerenciamento de logs no cluster quando ele é interrompido. Essa melhoria reduz o risco de os nós parecerem não íntegros devido à utilização excessiva do disco.
Esta versão adiciona suporte ao arquivamento de logs no Amazon S3 durante a redução da escala do cluster verticalmente. Anteriormente, só era possível arquivar arquivos de log no Amazon S3 durante o encerramento do cluster. A nova capacidade garante que os arquivos de log gerados no cluster persistam no Amazon S3 mesmo após o encerramento do nó. Para obter mais informações, consulte Configurar registro em log e depuração do cluster.
Esta versão corrige um problema que ocorria quando o Amazon S3 URI para uma ação de bootstrap terminava com um número de porta, por exemplo:.
a.b.c.d:4345
A Amazon os EMR estava analisando incorretamenteURIs, então qualquer ação de bootstrap associada falharia.Esta versão corrige um problema de incompatibilidade de sequência de tempo entre o Apache BigTop e a Amazon EMR na sequência de inicialização EC2 do cluster. Essa incompatibilidade de sequência de tempo ocorre quando um sistema tenta realizar duas ou mais operações ao mesmo tempo em vez de fazê-las na sequência correta. Como resultado, determinadas configurações de cluster apresentaram tempos limite de inicialização da instância e tempos de inicialização do cluster mais lentos.
Quando você inicia um cluster com a versão de patch mais recente do Amazon EMR 5.36 ou superior, 6.6 ou superior ou 7.0 ou superior, a Amazon EMR usa a versão mais recente do Amazon Linux 2023 ou Amazon Linux 2 para a Amazon padrão. EMR AMI Para obter mais informações, consulte Usando o Amazon Linux padrão AMI para a Amazon EMR.
OsReleaseLabel (Versão Amazon Linux) Versão do kernel do Amazon Linux Data disponível Regiões compatíveis 2.0.20241001.0 4.14.352 4 de outubro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), (Oeste dos EUA), (Leste dos EUA), China AWS GovCloud (Pequim), China AWS GovCloud (Ningxia) 2.0.20240816.0 4.14.350 21 de agosto de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), (Oeste dos EUA), (Leste dos EUA), China AWS GovCloud (Pequim), China AWS GovCloud (Ningxia) 2.0.20240809.0 4.14.349 20 de agosto de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), (Oeste dos EUA), (Leste dos EUA), China AWS GovCloud (Pequim), China AWS GovCloud (Ningxia) 2.0.20240719.0 4.14.348 25 de julho de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), (Oeste dos EUA), (Leste dos EUA), China AWS GovCloud (Pequim), China AWS GovCloud (Ningxia) 2.0.20240709.1 4.14.348 23 de julho de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central), (Oeste dos EUA), (Leste dos EUA), AWS GovCloud China (Pequim), China AWS GovCloud (Ningxia), Ásia Pacífico (Hyderabad), Oriente Médio (), Europa (EspanhaUAE), Europa (Zurique), Ásia-Pacífico (Melbourne), Israel (Tel Aviv), 2.0.20240223.0 4.14.336 8 de março de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20240131.0 4.14.336 14 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20240124.0 4.14.336 7 de fevereiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20240109.0 4.14.334 24 de janeiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231218.0 4.14.330 2 de janeiro de 2024 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231206.0 4.14.330 22 de dezembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231116.0 4.14.328 11 de dezembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231101.0 4.14.327 16 de novembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231020.1 4.14.326 7 de novembro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20231012.1 4.14.326 26 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20230926.0 4.14.322 19 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka), Ásia-Pacífico (Osaka) Cingapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central), Israel (Tel Aviv), (Oeste dos EUA), AWS GovCloud (Leste dos EUA), China AWS GovCloud (Pequim), China (Ningxia) 2.0.20230906.0 4.14.322 4 de outubro de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central) 2.0.20230822.0 4.14.322 30 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central) 2.0.20230808.0 4.14.320 24 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), Ásia-Pacífico (Melbourne), África (Cidade do Cabo), América do Sul (São Paulo), Canadá (Central) 2.0.20230727.0 4.14.320 14 de agosto de 2023 Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Norte da Califórnia), Oeste dos EUA (Oregon), Europa (Estocolmo), Europa (Milão), Europa (Frankfurt), Europa (Irlanda), Europa (Londres), Europa (Paris), Ásia-Pacífico (Hong Kong), Ásia-Pacífico (Mumbai), Ásia-Pacífico (Tóquio), Ásia-Pacífico (Seul), Asia Pacific (Osaka), Ásia-Pacífico (Singapura), Ásia-Pacífico (Sydney), Ásia-Pacífico (Jacarta), África (Cidade do Cabo), América do Sul (São Paulo), Oriente Médio (Bahrein), Canadá (Central)
Versões de componente 6.8.1
Os componentes que a Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos da Amazon EMR e são instalados para processos e recursos do sistema. Eles normalmente começam com emr
ou aws
. Os pacotes de aplicativos de big data na versão mais recente da Amazon EMR geralmente são a versão mais recente encontrada na comunidade. Disponibilizamos lançamentos comunitários na Amazon o mais EMR rápido possível.
Alguns componentes na Amazon EMR são diferentes das versões da comunidade. Esses componentes tem um rótulo de versão no formulário
. O CommunityVersion
-amzn-EmrVersion
começa em 0. Por exemplo, se um componente de comunidade de código aberto nomeado EmrVersion
myapp-component
com a versão 2.2 tiver sido modificado três vezes para inclusão em diferentes EMR versões da Amazon, sua versão de lançamento será listada como2.2-amzn-2
.
Componente | Version (Versão) | Descrição |
---|---|---|
aws-sagemaker-spark-sdk | 1.4.2 | Amazon SageMaker Spark SDK |
emr-ddb | 4.16.0 | O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop. |
emr-goodies | 3.2.0 | Bibliotecas convenientes para o ecossistema do Hadoop. |
emr-kinesis | 3.5.0 | O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop. |
emr-notebook-env | 1.7.0 | Ambiente Conda para bloco de anotações do emr, que inclui o jupyter enterprise gateway |
emr-s3-dist-cp | 2.22.0 | Cópia distribuída otimizada de aplicativos para o Amazon S3. |
emr-s3-select | 2.1.0 | EMRConector S3Select |
emrfs | 2.53.0 | O conector do Amazon S3 para aplicações do ecossistema do Hadoop. |
flink-client | 1.15.1 | Scripts do cliente da linha de comando e aplicativos do Apache Flink. |
flink-jobmanager-config | 1.15.1 | Gerenciando recursos em EMR nós para o Apache JobManager Flink. |
ganglia-monitor | 3.7.2 | O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia. |
ganglia-metadata-collector | 3.7.2 | O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia. |
ganglia-web | 3.7.1 | O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia. |
hadoop-client | 3.2.1-amzn-8.1 | Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'. |
hadoop-hdfs-datanode | 3.2.1-amzn-8.1 | HDFSserviço em nível de nó para armazenar blocos. |
hadoop-hdfs-library | 3.2.1-amzn-8.1 | HDFScliente e biblioteca de linha de comando |
hadoop-hdfs-namenode | 3.2.1-amzn-8.1 | HDFSserviço para rastrear nomes de arquivos e localizações de blocos. |
hadoop-hdfs-journalnode | 3.2.1-amzn-8.1 | HDFSserviço para gerenciar o diário do sistema de arquivos Hadoop em clusters HA. |
hadoop-httpfs-server | 3.2.1-amzn-8.1 | HTTPendpoint para HDFS operações. |
hadoop-kms-server | 3.2.1-amzn-8.1 | Servidor de gerenciamento de chaves criptográficas baseado no Hadoop. KeyProvider API |
hadoop-mapred | 3.2.1-amzn-8.1 | MapReduce bibliotecas de mecanismos de execução para executar um MapReduce aplicativo. |
hadoop-yarn-nodemanager | 3.2.1-amzn-8.1 | YARNserviço para gerenciar contêineres em um nó individual. |
hadoop-yarn-resourcemanager | 3.2.1-amzn-8.1 | YARNserviço para alocar e gerenciar recursos de cluster e aplicativos distribuídos. |
hadoop-yarn-timeline-server | 3.2.1-amzn-8.1 | Serviço para recuperar informações atuais e históricas para YARN aplicativos. |
hbase-hmaster | 2.4.12-amzn-0.1 | Serviço para um HBase cluster responsável pela coordenação das regiões e execução de comandos administrativos. |
hbase-region-server | 2.4.12-amzn-0.1 | Serviço para atender a uma ou mais HBase regiões. |
hbase-client | 2.4.12-amzn-0.1 | HBasecliente de linha de comando. |
hbase-rest-server | 2.4.12-amzn-0.1 | Serviço que fornece um RESTful HTTP endpoint paraHBase. |
hbase-thrift-server | 2.4.12-amzn-0.1 | Serviço que fornece um endpoint Thrift para. HBase |
hbase-operator-tools | 2.4.12-amzn-0.1 | Ferramenta de reparo para HBase clusters Apache. |
hcatalog-client | 3.1.3-amzn-1.1 | O cliente da linha de comando 'hcat' para manipular o hcatalog-server. |
hcatalog-server | 3.1.3-amzn-1.1 | Fornecimento de serviçosHCatalog, uma camada de gerenciamento de tabelas e armazenamento para aplicativos distribuídos. |
hcatalog-webhcat-server | 3.1.3-amzn-1.1 | HTTPendpoint fornecendo uma REST interface paraHCatalog. |
hive-client | 3.1.3-amzn-1.1 | O cliente da linha de comando do Hive. |
hive-hbase | 3.1.3-amzn-1.1 | Cliente do Hive-hbase. |
hive-metastore-server | 3.1.3-amzn-1.1 | Serviço para acessar o metastore Hive, um repositório semântico que armazena metadados para operações no Hadoop. SQL |
hive-server2 | 3.1.3-amzn-1.1 | O serviço que aceita as consultas do Hive como solicitações da web. |
hudi | 0.11.1-amzn-0 | Estrutura de processamento incremental para alimentar o pipeline de dados com baixa latência e alta eficiência. |
hudi-presto | 0.11.1-amzn-0 | Biblioteca de pacotes para executar o Presto com o Hudi. |
hudi-trino | 0.11.1-amzn-0 | Biblioteca de pacotes para execução do Presto com o Hudi. |
hudi-spark | 0.11.1-amzn-0 | Biblioteca de pacotes para executar o Spark com o Hudi. |
hue-server | 4.10.0 | O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop |
iceberg | 0.14.0-amzn-0 | Apache Iceberg é um formato de tabela aberta para conjuntos de dados analíticos imensos |
jupyterhub | 1.4.1 | Servidor de vários usuários para blocos de anotações Jupyter |
livy-server | 0.7.1-incubating | RESTinterface para interagir com o Apache Spark |
nginx | 1.12.1 | nginx [engine x] é HTTP um servidor proxy reverso |
mxnet | 1.9.1 | Uma biblioteca flexível, escalável e eficiente para aprendizado aprofundado. |
mariadb-server | 5.5.68+ | Servidor de banco de dados MariaDB. |
nvidia-cuda | 11.7.0 | Drivers NVIDIA e toolkit CUDA |
oozie-client | 5.2.1 | O cliente da linha de comando do Oozie. |
oozie-server | 5.2.1 | O serviço que aceita solicitações de fluxo de trabalho do Oozie. |
opencv | 4.5.0 | Biblioteca de Visão Computacional de Código Aberto. |
phoenix-library | 5.1.2 | As bibliotecas do phoenix para servidor e cliente |
phoenix-connectors | 5.1.2 | Conectores do Apache Phoenix para Spark-3 |
phoenix-query-server | 5.1.2 | Um servidor leve que fornece JDBC acesso, buffers de protocolo e acesso ao JSON formato do Avatica API |
presto-coordinator | 0.273.3-amzn-0 | O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers. |
presto-worker | 0.273.3-amzn-0 | O serviço que executa partes de uma consulta. |
presto-client | 0.273.3-amzn-0 | Cliente de linha de comando do Presto instalado em mestres de espera de um cluster de alta disponibilidade em que o servidor do Presto não é iniciado. |
trino-coordinator | 388-amzn-0 | Serviço que aceita consultas e gerencia a execução de consultas entre trino-workers. |
trino-worker | 388-amzn-0 | O serviço que executa partes de uma consulta. |
trino-client | 388-amzn-0 | Cliente de linha de comando do Trino instalado em mestres de espera de um cluster de alta disponibilidade (HA) em que o servidor do Trino não é iniciado. |
pig-client | 0.17.0 | O cliente da linha de comando do Pig. |
r | 4.0.2 | O projeto R para computação estatística |
ranger-kms-server | 2.0.0 | Sistema de gerenciamento de chaves Apache Ranger |
spark-client | 3.3.0-amzn-0.1 | Os clientes da linha de comando do Spark. |
spark-history-server | 3.3.0-amzn-0.1 | A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído. |
spark-on-yarn | 3.3.0-amzn-0.1 | Mecanismo de execução na memória paraYARN. |
spark-yarn-slave | 3.3.0-amzn-0.1 | Bibliotecas do Apache Spark necessárias para escravos. YARN |
spark-rapids | 22.06.0-amzn-0 | RAPIDSPlugin Nvidia Spark que acelera o Apache Spark com o. GPUs |
sqoop-client | 1.4.7 | O cliente da linha de comando do Apache Sqoop. |
tensorflow | 2.9.1 | TensorFlow biblioteca de software de código aberto para computação numérica de alto desempenho. |
tez-on-yarn | 0.9.2 | O YARN aplicativo e as bibliotecas tez. |
webserver | 2.4.41+ | HTTPServidor Apache. |
zeppelin-server | 0.10.1 | O notebook baseado na web que permite a análise de dados interativa. |
zookeeper-server | 3.5.10 | O serviço centralizado de manutenção de informações de configuração, nomenclatura, fornecimento de sincronização distribuída, e fornecimento de serviços de grupo. |
zookeeper-client | 3.5.10 | ZooKeeper cliente de linha de comando. |
Classificações de configuração 6.8.1
As classificações de configuração permitem que você personalize aplicações. Eles geralmente correspondem a um XML arquivo de configuração do aplicativo, comohive-site.xml
. Para obter mais informações, consulte Configurar aplicações.
Ocorrem ações de reconfiguração quando você especifica uma configuração para grupos de instâncias em um cluster em execução. A Amazon EMR só inicia ações de reconfiguração para as classificações que você modifica. Para obter mais informações, consulte Reconfigurar um grupo de instâncias de um cluster em execução.
Classificações | Descrição | Ações de reconfiguração |
---|---|---|
capacity-scheduler | Alterar os valores no arquivo capacity-scheduler.xml do Hadoop. | Restarts the ResourceManager service. |
container-executor | Altere os valores no arquivo container-executor.cfg YARN do Hadoop. | Not available. |
container-log4j | Altere os valores no arquivo container-log4j.properties YARN do Hadoop. | Not available. |
core-site | Alterar os valores no arquivo core-site.xml do Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
docker-conf | Alterar as configurações relacionadas ao docker. | Not available. |
emrfs-site | Altere EMRFS as configurações. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
flink-conf | Alterar as configurações do flink-conf.yaml. | Restarts Flink history server. |
flink-log4j | Alterar as configurações de log4j.properties no Flink. | Restarts Flink history server. |
flink-log4j-session | Alterar as configurações de log4j-yarn-session.properties no Flink para sessão do Kubernetes/Yarn. | Restarts Flink history server. |
flink-log4j-cli | Alterar as configurações de log4j-cli.properties no Flink. | Restarts Flink history server. |
hadoop-env | Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer. |
hadoop-log4j | Alterar os valores no arquivo log4j.properties do Hadoop. | Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer. |
hadoop-ssl-server | Alterar a configuração do servidor SSL no Hadoop | Not available. |
hadoop-ssl-client | Alterar a configuração do cliente SSL no Hadoop | Not available. |
hbase | Configurações EMR selecionadas pela Amazon para Apache. HBase | Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts. |
hbase-env | Mude os valores no HBase ambiente. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-log4j | Altere os valores no arquivo HBase hbase-log4j.properties. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-metrics | Altere os valores no arquivo HBase hadoop-metrics2-hbase.properties do. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-policy | Altere os valores no HBase arquivo hbase-policy.xml do. | Not available. |
hbase-site | Altere os valores no HBase arquivo hbase-site.xml do. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer. |
hdfs-encryption-zones | Configure zonas de HDFS criptografia. | This classification should not be reconfigured. |
hdfs-env | Mude os valores no HDFS ambiente. | Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC. |
hdfs-site | Altere os valores no HDFS hdfs-site.xml. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs. |
hcatalog-env | Mude os valores no HCatalog ambiente. | Restarts Hive HCatalog Server. |
hcatalog-server-jndi | Altere os valores em HCatalog jndi.properties. | Restarts Hive HCatalog Server. |
hcatalog-server-proto-hive-site | Altere os valores em HCatalog proto-hive-site .xml. | Restarts Hive HCatalog Server. |
hcatalog-webhcat-env | Altere os valores no ambiente ebHCat de HCatalog W. | Restarts Hive WebHCat server. |
hcatalog-webhcat-log4j2 | Altere os valores nas propriedades ebHCat log4j2.properties de HCatalog W. | Restarts Hive WebHCat server. |
hcatalog-webhcat-site | Altere os valores no arquivo webhcat-site.xml de HCatalog W. ebHCat | Restarts Hive WebHCat server. |
hive | Configurações EMR selecionadas pela Amazon para o Apache Hive. | Sets configurations to launch Hive LLAP service. |
hive-beeline-log4j2 | Alterar os valores no arquivo beeline-log4j2.properties do Hive. | Not available. |
hive-parquet-logging | Alterar os valores no arquivo parquet-logging.properties do Hive. | Not available. |
hive-env | Alterar os valores no ambiente do Hive. | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. |
hive-exec-log4j2 | Altere os valores no arquivo hive-exec-log 4j2.properties do Hive. | Not available. |
hive-llap-daemon-log4j2 | Altere os valores no arquivo llap-daemon-log 4j2.properties do Hive. | Not available. |
hive-log4j2 | Alterar os valores no arquivo hive-log4j2.properties do Hive. | Not available. |
hive-site | Alterar os valores no arquivo hive-site.xml do Hive. | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin. |
hiveserver2-site | Alterar os valores no arquivo hiveserver2-site.xml do Hive Server2. | Not available. |
hue-ini | Alterar os valores no arquivo ini do Hue | Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations. |
httpfs-env | Mude os valores no HTTPFS ambiente. | Restarts Hadoop Httpfs service. |
httpfs-site | Alterar os valores no arquivo httpfs-site.xml do Hadoop. | Restarts Hadoop Httpfs service. |
hadoop-kms-acls | Alterar os valores no arquivo kms-acls.xml do Hadoop. | Not available. |
hadoop-kms-env | Altere os valores no ambiente HadoopKMS. | Restarts Hadoop-KMS service. |
hadoop-kms-log4j | Alterar os valores no arquivo kms-log4j.properties do Hadoop. | Not available. |
hadoop-kms-site | Alterar os valores no arquivo kms-site.xml do Hadoop. | Restarts Hadoop-KMS and Ranger-KMS service. |
hudi-env | Altere os valores no ambiente do Hudi. | Not available. |
hudi-defaults | Alterar os valores no arquivo hudi-defaults.conf do Hudi. | Not available. |
iceberg-defaults | Alterar os valores no arquivo iceberg-defaults.conf do Iceberg. | Not available. |
jupyter-notebook-conf | Alterar os valores no arquivo jupyter_notebook_config.py do Notebook Jupyter. | Not available. |
jupyter-hub-conf | Altere os valores no JupyterHubs arquivo jupyterhub_config.py do. | Not available. |
jupyter-s3-conf | Configurar a persistência do notebook Jupyter S3. | Not available. |
jupyter-sparkmagic-conf | Altere os valores no arquivo config.json do Sparkmagic. | Not available. |
livy-conf | Alterar os valores no arquivo livy.conf do Livy. | Restarts Livy Server. |
livy-env | Alterar os valores no ambiente do Livy. | Restarts Livy Server. |
livy-log4j | Alterar as configurações de log4j.properties no Livy. | Restarts Livy Server. |
mapred-env | Altere os valores no ambiente do MapReduce aplicativo. | Restarts Hadoop MapReduce-HistoryServer. |
mapred-site | Altere os valores no arquivo mapred-site.xml do MapReduce aplicativo. | Restarts Hadoop MapReduce-HistoryServer. |
oozie-env | Alterar os valores no ambiente do Oozie. | Restarts Oozie. |
oozie-log4j | Alterar os valores no arquivo oozie-log4j.properties do Oozie. | Restarts Oozie. |
oozie-site | Alterar os valores no arquivo oozie-site.xml do Oozie. | Restarts Oozie. |
phoenix-hbase-metrics | Alterar os valores no arquivo hadoop-metrics2-hbase.properties do Phoenix. | Not available. |
phoenix-hbase-site | Alterar os valores no arquivo hbase-site.xml do Phoenix. | Not available. |
phoenix-log4j | Alterar os valores no arquivo log4j.properties do Phoenix. | Restarts Phoenix-QueryServer. |
phoenix-metrics | Alterar os valores no arquivo hadoop-metrics2-phoenix.properties do Phoenix. | Not available. |
pig-env | Alterar os valores no ambiente do Pig. | Not available. |
pig-properties | Alterar os valores no arquivo pig.properties do Pig. | Restarts Oozie. |
pig-log4j | Alterar os valores no arquivo log4j.properties do Pig. | Not available. |
presto-log | Alterar os valores no arquivo log.properties do Presto. | Restarts Presto-Server (for PrestoDB) |
presto-config | Alterar os valores no arquivo config.properties do Presto. | Restarts Presto-Server (for PrestoDB) |
presto-password-authenticator | Altere os valores no arquivo password-authenticator.properties do Presto. | Not available. |
presto-env | Altere os valores no arquivo presto-env.sh do Presto. | Restarts Presto-Server (for PrestoDB) |
presto-node | Altere os valores no arquivo node.properties do Presto. | Not available. |
presto-connector-blackhole | Alterar os valores no arquivo blackhole.properties do Presto. | Not available. |
presto-connector-cassandra | Alterar os valores no arquivo cassandra.properties do Presto. | Not available. |
presto-connector-hive | Alterar os valores no arquivo hive.properties do Presto. | Restarts Presto-Server (for PrestoDB) |
presto-connector-jmx | Alterar os valores no arquivo jmx.properties do Presto. | Not available. |
presto-connector-kafka | Alterar os valores no arquivo kafka.properties do Presto. | Not available. |
presto-connector-localfile | Alterar os valores no arquivo localfile.properties do Presto. | Not available. |
presto-connector-memory | Alterar os valores no arquivo memory.properties do Presto. | Not available. |
presto-connector-mongodb | Alterar os valores no arquivo mongodb.properties do Presto. | Not available. |
presto-connector-mysql | Alterar os valores no arquivo mysql.properties do Presto. | Not available. |
presto-connector-postgresql | Alterar os valores no arquivo postgresql.properties do Presto. | Not available. |
presto-connector-raptor | Alterar os valores no arquivo raptor.properties do Presto. | Not available. |
presto-connector-redis | Alterar os valores no arquivo redis.properties do Presto. | Not available. |
presto-connector-redshift | Alterar os valores no arquivo de propriedades redshift do Presto. | Not available. |
presto-connector-tpch | Alterar os valores no arquivo tpch.properties do Presto. | Not available. |
presto-connector-tpcds | Alterar os valores no arquivo tpcds.properties do Presto. | Not available. |
trino-log | Alterar os valores no arquivo log.properties do Trino. | Restarts Trino-Server (for Trino) |
trino-config | Alterar os valores no arquivo config.properties do Trino. | Restarts Trino-Server (for Trino) |
trino-password-authenticator | Alterar os valores no arquivo password-authenticator.properties do Trino. | Restarts Trino-Server (for Trino) |
trino-env | Alterar os valores no arquivo trino-env.sh do Trino. | Restarts Trino-Server (for Trino) |
trino-node | Alterar os valores no arquivo node.properties do Trino. | Not available. |
trino-connector-blackhole | Alterar os valores no arquivo blackhole.properties do Trino. | Not available. |
trino-connector-cassandra | Alterar os valores no arquivo cassandra.properties do Trino. | Not available. |
trino-connector-hive | Alterar os valores no arquivo hive.properties do Trino. | Restarts Trino-Server (for Trino) |
trino-connector-iceberg | Alterar os valores no arquivo iceberg.properties do Trino. | Restarts Trino-Server (for Trino) |
trino-connector-jmx | Alterar os valores no arquivo jmx.properties do Trino. | Not available. |
trino-connector-kafka | Alterar os valores no arquivo kafka.properties do Trino. | Not available. |
trino-connector-localfile | Alterar os valores no arquivo localfile.properties do Trino. | Not available. |
trino-connector-memory | Alterar os valores no arquivo memory.properties do Trino. | Not available. |
trino-connector-mongodb | Alterar os valores no arquivo mongodb.properties do Trino. | Not available. |
trino-connector-mysql | Alterar os valores no arquivo mysql.properties do Trino. | Not available. |
trino-connector-postgresql | Alterar os valores no arquivo postgresql.properties do Trino. | Not available. |
trino-connector-raptor | Alterar os valores no arquivo raptor.properties do Trino. | Not available. |
trino-connector-redis | Alterar os valores no arquivo redis.properties do Trino. | Not available. |
trino-connector-redshift | Alterar os valores no arquivo redshift.properties do Trino. | Not available. |
trino-connector-tpch | Alterar os valores no arquivo tpch.properties do Trino. | Not available. |
trino-connector-tpcds | Alterar os valores no arquivo tpcds.properties do Trino. | Not available. |
ranger-kms-dbks-site | Altere os valores no arquivo dbks-site.xml do Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-site | Altere os valores no ranger-kms-site arquivo.xml do RangerKMS. | Restarts Ranger KMS Server. |
ranger-kms-env | Altere os valores no KMS ambiente Ranger. | Restarts Ranger KMS Server. |
ranger-kms-log4j | Altere os valores no arquivo kms-log4j.properties do Ranger. KMS | Not available. |
ranger-kms-db-ca | Altere os valores do arquivo CA no S3 para Minha SQL SSL conexão com o RangerKMS. | Not available. |
spark | Configurações EMR selecionadas pela Amazon para o Apache Spark. | This property modifies spark-defaults. See actions there. |
spark-defaults | Alterar os valores no arquivo spark-defaults.conf do Spark. | Restarts Spark history server and Spark thrift server. |
spark-env | Alterar os valores no ambiente do Spark. | Restarts Spark history server and Spark thrift server. |
spark-hive-site | Alterar os valores no arquivo hive-site.xml do Spark. | Not available. |
spark-log4j2 | Alterar os valores no arquivo log4j2.properties do Spark. | Restarts Spark history server and Spark thrift server. |
spark-metrics | Alterar os valores no arquivo metrics.properties do Spark. | Restarts Spark history server and Spark thrift server. |
sqoop-env | Alterar os valores no ambiente do Sqoop. | Not available. |
sqoop-oraoop-site | Altere os valores no arquivo oraoop-site.xml OraOop do Sqoop. | Not available. |
sqoop-site | Alterar os valores no arquivo sqoop-site.xml do Sqoop. | Not available. |
tez-site | Alterar os valores no arquivo tez-site.xml do Tez. | Restart Oozie and HiveServer2. |
yarn-env | Mude os valores no YARN ambiente. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer. |
yarn-site | Altere os valores no YARN arquivo yarn-site.xml do. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer. |
zeppelin-env | Alterar os valores no ambiente do Zeppelin. | Restarts Zeppelin. |
zeppelin-site | Alterar as definições da configuração em zeppelin-site.xml. | Restarts Zeppelin. |
zookeeper-config | Altere os valores no ZooKeeper arquivo zoo.cfg do. | Restarts Zookeeper server. |
zookeeper-log4j | Altere os valores no ZooKeeper arquivo log4j.properties. | Restarts Zookeeper server. |
Log de alterações 6.8.1
Data | Evento | Descrição |
---|---|---|
2023-08-30 | Atualizar notas da versão | Adicionadas várias correções relacionadas ao ambiente de gerenciamento às notas da versão |
2023-08-21 | Publicação de documentos | Notas de lançamento do Amazon EMR 6.8.1 publicadas pela primeira vez |
2023-08-16 | Implantação concluída | Amazon EMR 6.8.1 totalmente implantado em todas as regiões suportadas |
2023-08-04 | Lançamento inicial | Amazon EMR 6.8.1 foi implantado pela primeira vez em regiões comerciais limitadas |