Versão 4.3.0 do Amazon EMR
Versões 4.3.0 da aplicação
As seguintes aplicações são compatíveis com esta versão: Ganglia
A tabela abaixo lista as versões das aplicações disponíveis nesta versão do Amazon EMR e as versões de aplicações nas três versões anteriores do Amazon EMR (quando aplicável).
Para obter um histórico abrangente das versões das aplicações de cada versão do Amazon EMR, consulte os seguintes tópicos:
| emr-4.3.0 | emr-4.2.0 | emr-4.1.0 | emr-4.0.0 | |
|---|---|---|---|---|
| AWS SDK para Java | 1.10.27 | 1.10.27 | Não rastreadas | Não rastreadas |
| Python | Não rastreadas | Não rastreadas | Não rastreadas | Não rastreadas |
| Scala | Não rastreadas | Não rastreadas | Não rastreadas | Não rastreadas |
| AmazonCloudWatchAgent | - | - | - | - |
| Delta | - | - | - | - |
| Flink | - | - | - | - |
| Ganglia | 3.7.2 | 3.6.0 | - | - |
| HBase | - | - | - | - |
| HCatalog | - | - | - | - |
| Hadoop | 2.7.1 | 2.6.0 | 2.6.0 | 2.6.0 |
| Hive | 1.0.0 | 1.0.0 | 1.0.0 | 1.0.0 |
| Hudi | - | - | - | - |
| Hue | 3.7.1 | 3.7.1 | 3.7.1 | - |
| Iceberg | - | - | - | - |
| JupyterEnterpriseGateway | - | - | - | - |
| JupyterHub | - | - | - | - |
| Livy | - | - | - | - |
| MXNet | - | - | - | - |
| Mahout | 0.11.0 | 0.11.0 | 0.11.0 | 0.10.0 |
| Oozie | - | - | - | - |
| Oozie-Sandbox | 4.2.0 | 4.2.0 | 4.0.1 | - |
| Phoenix | - | - | - | - |
| Pig | 0.14.0 | 0.14.0 | 0.14.0 | 0.14.0 |
| Presto | - | - | - | - |
| Presto-Sandbox | 0.130 | 0.125 | 0.119 | - |
| Spark | 1.6.0 | 1.5.2 | 1.5.0 | 1.4.1 |
| Sqoop | - | - | - | - |
| Sqoop-Sandbox | - | - | - | - |
| TensorFlow | - | - | - | - |
| Tez | - | - | - | - |
| Trino (PrestoSQL) | - | - | - | - |
| Zeppelin | - | - | - | - |
| Zeppelin-Sandbox | 0.5.5 | 0.5.5 | 0.6.0-SNAPSHOT | - |
| ZooKeeper | - | - | - | - |
| ZooKeeper-Sandbox | - | - | - | - |
Notas da versão 4.3.0
As notas da versão a seguir incluem informações para a versão 4.3.0 do Amazon EMR.
Data do release: 19 de janeiro de 2016
Recursos
-
Atualizado para Hadoop 2.7.1
-
Atualizado para Spark 1.6.0
-
Ganglia atualizado para 3.7.2
-
Presto atualizado para 0.130
O Amazon EMR fez algumas alterações na configuração
spark.dynamicAllocation.enabledquando ela estava definida como verdadeiro. Ela é definida como falso por padrão. Quando definida como verdadeiro, isso afeta os padrões definidos pela configuraçãomaximizeResourceAllocation:-
Se
spark.dynamicAllocation.enabledestiver definida como true,spark.executor.instancesnão será definida pormaximizeResourceAllocation. -
A configuração
spark.driver.memoryagora é definida com base nos tipos de instância no cluster de maneira semelhante a comospark.executors.memoryé definida. No entanto, como o aplicativo de driver do Spark pode ser executado na instância principal ou em uma das instâncias core (por exemplo, nos modos de cluster e de cliente do YARN, respectivamente), a configuraçãospark.driver.memoryé definida com base no tipo de instância do menor tipo de instância entre esses dois grupos de instâncias. -
A configuração
spark.default.parallelismagora é definida em duas vezes mais núcleos de CPU disponíveis para contêineres do YARN. Em versões anteriores, era a metade desse valor. -
Os cálculos para a sobrecarga de memória reservada para os processos do Spark YARN foram ajustados para serem mais precisos, resultando em um pequeno aumento na quantidade total de memória disponível para o Spark (ou seja,
spark.executor.memory).
-
Problemas conhecidos das versões anteriores que foram resolvidos
-
A agregação de logs do YARN agora está ativada por padrão.
-
Corrigido um problema em que os logs não eram enviados para um bucket de logs do Amazon S3 do cluster quando a agregação de logs do YARN estava ativada.
-
Os contêineres do YARN agora têm um novo mínimo de 32 em todos os tipos de nós.
-
Corrigido um problema com o Ganglia que causava E/S de disco excessivas no nó primário em clusters grandes.
-
Corrigido um problema que impedia que os logs de aplicações fossem enviados para o Amazon S3 quando um cluster estivesse sendo encerrado.
-
Corrigido um problema na CLI do EMRFS que fazia com que houvesse falha em determinados comandos.
-
Corrigido um problema com o Zeppelin que impedia que dependências fossem carregadas no SparkContext subjacente.
-
Corrigido um problema resultante da emissão de um redimensionamento para tentar adicionar instâncias.
-
Corrigido um problema no Hive, em que CREATE TABLE AS SELECT fazia chamadas de lista excessivas para o Amazon S3.
-
Corrigido um problema em que clusters grandes não provisionavam corretamente quando o Hue, o Oozie e o Ganglia estivessem instalados.
-
Corrigido um problema no s3-dist-cp em que retornava um código de saída zero, mesmo se houvesse falha com um erro.
Versões de componente 4.3.0
Os componentes que o Amazon EMR instala com esta versão estão listados abaixo. Alguns são instalados como parte de pacotes de aplicativos de big data. Outros são exclusivos do Amazon EMR e instalados para processos e atributos do sistema. Eles normalmente começam com emr ou aws. Os pacotes de aplicações de big data na versão mais recente do Amazon EMR são geralmente a versão mais recente encontrada na comunidade. Disponibilizamos as versões da comunidade no Amazon EMR o mais rapidamente possível.
Alguns componentes no Amazon EMR diferem das versões da comunidade. Esses componentes tem um rótulo de versão no formulário CommunityVersion-amzn-EmrVersionEmrVersionmyapp-component com a versão 2.2 tiver sido alterado três vezes para inclusão em versões diferentes do Amazon EMR, sua versão será listada como 2.2-amzn-2.
| Componente | Version (Versão) | Descrição |
|---|---|---|
| emr-ddb | 3.0.0 | O conector do Amazon DynamoDB para aplicativos do ecossistema do Hadoop. |
| emr-goodies | 2.0.0 | Bibliotecas convenientes para o ecossistema do Hadoop. |
| emr-kinesis | 3.1.0 | O conector do Amazon Kinesis para aplicativos do ecossistema do Hadoop. |
| emr-s3-dist-cp | 2.1.0 | Cópia distribuída otimizada de aplicativos para o Amazon S3. |
| emrfs | 2.3.0 | O conector do Amazon S3 para aplicações do ecossistema do Hadoop. |
| ganglia-monitor | 3.7.2 | O agente incorporado do Ganglia para aplicativos do ecossistema do Hadoop, juntamente com o agente de monitoramento do Ganglia. |
| ganglia-metadata-collector | 3.7.2 | O coletor de metadados do Ganglia para agregar métricas de agentes de monitoramento do Ganglia. |
| ganglia-web | 3.7.1 | O aplicativo web para visualizar as métricas coletadas pelo coletor de metadados do Ganglia. |
| hadoop-client | 2.7.1-amzn-0 | Clientes da linha de comando do Hadoop, como 'hdfs', 'hadoop', ou 'yarn'. |
| hadoop-hdfs-datanode | 2.7.1-amzn-0 | O serviço de nível de nó do HDFS para armazenamento de blocos. |
| hadoop-hdfs-library | 2.7.1-amzn-0 | O cliente de linha de comando e biblioteca do HDFS |
| hadoop-hdfs-namenode | 2.7.1-amzn-0 | O serviço do HDFS para rastrear nomes de arquivos e locais de blocos. |
| hadoop-httpfs-server | 2.7.1-amzn-0 | O endpoint de HTTP para as operações do HDFS. |
| hadoop-kms-server | 2.7.1-amzn-0 | O servidor de gerenciamento de chaves criptográficas baseado na API de KeyProvider do Hadoop. |
| hadoop-mapred | 2.7.1-amzn-0 | As bibliotecas do mecanismo de execução do MapReduce para a execução de aplicativos do MapReduce. |
| hadoop-yarn-nodemanager | 2.7.1-amzn-0 | O serviço do YARN para o gerenciamento de contêineres em um nó individual. |
| hadoop-yarn-resourcemanager | 2.7.1-amzn-0 | O serviço do YARN para alocar e gerenciar recursos de cluster e aplicativos distribuídos. |
| hive-client | 1.0.0-amzn-2 | O cliente da linha de comando do Hive. |
| hive-metastore-server | 1.0.0-amzn-2 | O serviço de acesso à metastore do Hive, um repositório de semântica que armazena metadados do SQL nas operações do Hadoop. |
| hive-server | 1.0.0-amzn-2 | O serviço que aceita as consultas do Hive como solicitações da web. |
| hue-server | 3.7.1-amzn-5 | O aplicativo web para analisar dados usando aplicativos do ecossistema do Hadoop |
| mahout-client | 0.11.0 | A biblioteca de Machine Learning. |
| mysql-server | 5.5 | O servidor de banco de dados MySQL. |
| oozie-client | 4.2.0 | O cliente da linha de comando do Oozie. |
| oozie-server | 4.2.0 | O serviço que aceita solicitações de fluxo de trabalho do Oozie. |
| presto-coordinator | 0.130 | O serviço que aceita consultas e gerencia a execução de consultas entre os presto-workers. |
| presto-worker | 0.130 | O serviço que executa partes de uma consulta. |
| pig-client | 0.14.0-amzn-0 | O cliente da linha de comando do Pig. |
| spark-client | 1.6.0 | Os clientes da linha de comando do Spark. |
| spark-history-server | 1.6.0 | A interface de usuário da web para visualizar os eventos registrados por toda a vida útil de um aplicativo Spark concluído. |
| spark-on-yarn | 1.6.0 | O mecanismo de execução em memória para o YARN. |
| spark-yarn-slave | 1.6.0 | As bibliotecas do Apache Spark necessárias para subordinados do YARN. |
| webserver | 2.4 | O servidor Apache HTTP. |
| zeppelin-server | 0.5.5-incubating-amzn-1 | O notebook baseado na web que permite um data analytics interativo. |
Classificações de configuração 4.3.0
As classificações de configuração permitem que você personalize aplicações. Elas geralmente correspondem a um arquivo XML de configuração da aplicação, como hive-site.xml. Para ter mais informações, consulte Configurar aplicações.
| Classificações | Descrição |
|---|---|
capacity-scheduler | Alterar os valores no arquivo capacity-scheduler.xml do Hadoop. |
core-site | Alterar os valores no arquivo core-site.xml do Hadoop. |
emrfs-site | Alterar as configurações do EMRFS. |
hadoop-env | Alterar os valores no ambiente do Hadoop para todos os componentes do Hadoop. |
hadoop-log4j | Alterar os valores no arquivo log4j.properties do Hadoop. |
hdfs-encryption-zones | Configurar as zonas de criptografia do HDFS. |
hdfs-site | Alterar os valores no arquivo hdfs-site.xml do HDFS. |
hive-env | Alterar os valores no ambiente do Hive. |
hive-exec-log4j | Alterar os valores no arquivo hive-exec-log4j.properties do Hive. |
hive-log4j | Alterar os valores no arquivo hive-log4j.properties do Hive. |
hive-site | Alterar os valores no arquivo hive-site.xml do Hive. |
hue-ini | Alterar os valores no arquivo ini do Hue |
httpfs-env | Alterar os valores no ambiente do HTTPFS. |
httpfs-site | Alterar os valores no arquivo httpfs-site.xml do Hadoop. |
hadoop-kms-acls | Alterar os valores no arquivo kms-acls.xml do Hadoop. |
hadoop-kms-env | Alterar os valores no ambiente do Hadoop KMS. |
hadoop-kms-log4j | Alterar os valores no arquivo kms-log4j.properties do Hadoop. |
hadoop-kms-site | Alterar os valores no arquivo kms-site.xml do Hadoop. |
mapred-env | Alterar os valores no ambiente do aplicativo MapReduce. |
mapred-site | Alterar os valores no arquivo mapred-site.xml do aplicativo MapReduce. |
oozie-env | Alterar os valores no ambiente do Oozie. |
oozie-log4j | Alterar os valores no arquivo oozie-log4j.properties do Oozie. |
oozie-site | Alterar os valores no arquivo oozie-site.xml do Oozie. |
pig-properties | Alterar os valores no arquivo pig.properties do Pig. |
pig-log4j | Alterar os valores no arquivo log4j.properties do Pig. |
presto-log | Alterar os valores no arquivo log.properties do Presto. |
presto-config | Alterar os valores no arquivo config.properties do Presto. |
presto-connector-hive | Alterar os valores no arquivo hive.properties do Presto. |
spark | As configurações administradas pelo Amazon EMR para o Apache Spark. |
spark-defaults | Alterar os valores no arquivo spark-defaults.conf do Spark. |
spark-env | Alterar os valores no ambiente do Spark. |
spark-log4j | Alterar os valores no arquivo log4j.properties do Spark. |
spark-metrics | Alterar os valores no arquivo metrics.properties do Spark. |
yarn-env | Alterar os valores no ambiente do YARN. |
yarn-site | Alterar os valores no arquivo yarn-site.xml do YARN. |
zeppelin-env | Alterar os valores no ambiente do Zeppelin. |
