本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon EMR on EKS 7.3.0 版本
本頁面描述了針對 Amazon EMR on EKS 部署的 Amazon EMR 新功能和更新功能。如需在 Amazon EC2 上執行的 Amazon EMR 和一般 Amazon EMR 7.3.0 版本的詳細資訊,請參閱《Amazon EMR 版本指南》中的 Amazon EMR 7.3.0。
Amazon EMR on EKS 7.3 版本
下列 Amazon EMR 7.3.0 版本可供 Amazon EMR on EKS 使用。選取特定的 emr-7.3.0-XXXX 版本,以檢視更多詳細資訊,例如相關的容器映像標籤。
版本備註
Amazon EMR on EKS 7.3.0 的版本備註
-
支援的應用程式:AWS SDK for Java 2.25.70 and 1.12.747, Apache Spark 3.5.1-amzn-1, Apache Hudi 0.15.0-amzn-0, Apache Iceberg 1.5.2-amzn-0, Delta 3.2.0-amzn-0, Apache Spark RAPIDS 24.06.1-amzn-0, Jupyter Enterprise Gateway 2.6.0, Apache Flink 1.18.1-amzn-2, Flink Operator 1.9.0-amzn-0
-
支援的元件 ‐
aws-sagemaker-spark-sdk
、emr-ddb
、emr-goodies
、emr-s3-select
、emrfs
、hadoop-client
、hudi
、hudi-spark
、iceberg
、spark-kubernetes
。 -
支援的組態分類
若要與 StartJobRun 和 CreateManagedEndpoint API 搭配使用:
分類 描述 core-site
變更
core-site.xml
Hadoop 檔案中的值。emrfs-site
變更 EMRFS 設定。
spark-metrics
變更
metrics.properties
Spark 檔案中的值。spark-defaults
變更
spark-defaults.conf
Spark 檔案中的值。spark-env
變更 Spark 環境中的值。
spark-hive-site
變更
hive-site.xml
Spark 檔案中的值。spark-log4j2
變更
log4j2.properties
Spark 檔案中的值。emr-job-submitter
作業提交者 Pod 的組態。
專門搭配 CreateManagedEndpoint API 使用:
分類 描述 jeg-config
變更 Jupyter Enterprise Gateway
jupyter_enterprise_gateway_config.py
檔案中的值。jupyter-kernel-overrides
在 Jupyter 核心規格檔案中變更核心映像的值。
組態分類可讓您自訂應用程式。這些檔案通常對應於應用程式的組態 XML 檔案,例如
spark-hive-site.xml
。如需詳細資訊,請參閱設定應用程式。
值得注意的功能
Amazon EMR on EKS 的 7.3.0 版本包含下列功能。
-
應用程式升級 – Amazon EMR on EKS 現在包含 Flink Operator 1.9.0。除了其他功能之外,Flink Kubernetes 現在可讓您設定自動擴展器的 CPU 和記憶體配額。
-
Apache Iceberg 支援 Apache Flink – Apache Iceberg 是一種開放原始碼高效能格式的巨型分析資料表。從 Amazon EMR 7.3.0 開始,您可以在 Amazon EMR on EKS 上執行 Apache Flink 時,使用 Apache Iceberg 資料表。如需詳細資訊,請參閱使用 Apache Iceberg 搭配 Amazon EMR on EKS 的 Amazon EMR on EKS。
-
Delta Lake 對 Apache Flink 的支援 – Delta Lake 是一種儲存層架構,適用於通常建置於 Amazon S3 的湖房架構。使用 Amazon EMR 7.3.0 及更高版本,您可以在 Amazon EMR on EKS 上執行 Apache Flink 時使用 Delta 資料表。如需詳細資訊,請參閱搭配使用 Delta Lake 與 Amazon EMR on EKS。
變更
Amazon EMR on EKS 的 7.3.0 版本包含下列變更。
-
使用 Amazon EMR on EKS 7.3.0 及更新版本時,Apache Flink 現在預設會使用 Java 17 執行時間。