Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Amazon nelle EMR versioni EKS 7.0.0
Questa pagina descrive le funzionalità nuove e aggiornate per Amazon EMR specifiche per Amazon EMR on EKS deployment. Per dettagli su Amazon EMR in esecuzione su Amazon EC2 e sulla versione Amazon EMR 7.0.0 in generale, consulta Amazon EMR7.0.0 nella Amazon Release Guide. EMR
Amazon EMR nelle versioni EKS 7.0
Le seguenti versioni di Amazon EMR 7.0.0 sono disponibili per Amazon EMR su. EKS Seleziona una XXXX versione specifica di emr-7.0.0- per visualizzare ulteriori dettagli, come il relativo tag di immagine del contenitore.
Note di rilascio
Note di rilascio per Amazon EMR su versione EKS 7.0.0
-
Applicazioni supportate ‐ AWS SDK for Java 2.20.160-amzn-0 and 1.12.595, Apache Spark 3.5.0-amzn-0, Apache Flink 1.18.0-amzn-0, Flink Operator 1.6.1, Apache Hudi 0.14.0-amzn-1, Apache Iceberg 1.4.2-amzn-0, Delta 3.0.0, Apache Spark RAPIDS 23.10.0-amzn-0, Jupyter Enterprise Gateway 2.6.0
-
Componenti supportati:
aws-sagemaker-spark-sdk,emr-ddb,emr-goodies,emr-s3-select,emrfs,hadoop-client,hudi,hudi-spark,iceberg,spark-kubernetes. -
Classificazioni di configurazione supportate
Da usare con StartJobRune CreateManagedEndpointAPIs:
Classificazioni Descrizioni core-siteModifica i valori nel file Hadoop
core-site.xml.emrfs-siteModificare EMRFS le impostazioni.
spark-metricsModifica i valori nel file Spark
metrics.properties.spark-defaultsModifica i valori nel file Spark
spark-defaults.conf.spark-envModifica i valori nell'ambiente Spark.
spark-hive-siteModifica i valori nel file Spark
hive-site.xml.spark-log4jModifica i valori nel file Spark
log4j2.properties.emr-job-submitterConfigurazione per il pod del mittente di processi.
Da utilizzare specificamente con CreateManagedEndpointAPIs:
Classificazioni Descrizioni jeg-configModifica i valori nel file
jupyter_enterprise_gateway_config.pyJupyter Enterprise Gateway.jupyter-kernel-overridesModifica il valore per l'immagine del kernel nel file Jupyter Kernel Spec.
Le classificazioni di configurazione consentono di personalizzare le applicazioni. Spesso corrispondono a un XML file di configurazione per l'applicazione, ad esempio
spark-hive-site.xml. Per ulteriori informazioni, consulta la sezione Configurazione delle applicazioni.
Funzionalità significative
Le seguenti funzionalità sono incluse nella versione 7.0 di Amazon EMR onEKS.
-
Regolazione automatica dei parametri Flink Autoscaler: i parametri predefiniti utilizzati da Flink Autoscaler per i calcoli di dimensionamento potrebbero non essere il valore ottimale per un determinato processo. Amazon EMR su EKS 7.0.0 utilizza le tendenze storiche di metriche specifiche acquisite per calcolare il parametro ottimale personalizzato per il lavoro.
Modifiche
Le seguenti modifiche sono incluse nella versione 7.0 di Amazon EMR onEKS.
-
Amazon Linux 2023: con Amazon EMR EKS 7.0.0 e versioni successive, tutte le immagini dei container sono basate su Amazon Linux 2023.
-
Spark utilizza Java 17 come runtime predefinito: Amazon EMR su EKS 7.0.0 Spark utilizza Java 17 come runtime predefinito. Se necessario, puoi passare a utilizzare Java 8 o Java 11 con l'etichetta di rilascio corrispondente, come indicato nell'elenco Amazon EMR nelle versioni EKS 7.0.
