本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon EMR on EKS 6.11.0 版
此頁面說明EMREKS部署中 Amazon EMR 特有的 Amazon 新功能和更新功能。如需在 Amazon EMR上執行的 Amazon EC2和一般 Amazon EMR 6.11.0 版本的詳細資訊,請參閱 Amazon EMR版本指南 中的 Amazon EMR6.11.0。
Amazon EMR on EKS 6.11 版
下列 Amazon EMR 6.11.0 版本可在 EMR上供 Amazon 使用EKS。選取特定 emr-6.11.0 XXXX版本,以檢視更多詳細資料,例如相關的容器映像標籤。
-
emr-6.11.0-spark-rapids-latest
-
emr-6.11.0-spark-rapids-20230509
-
emr-6.11.0-java11-latest
-
emr-6.11.0-java11-20230509
-
notebook-spark/emr-6.11.0-latest
-
notebook-spark/emr-6.11.0-20230509
-
notebook-python/emr-6.11.0-latest
-
notebook-python/emr-6.11.0-20230509
版本備註
Amazon EMR on 6.11.0 EKS 的版本備註
-
支援的應用程式 ‐ AWS SDK for Java 1.12.446、Apache Spark 3.3.2-amzn-0、Apache Hudi 0.13.0-amzn-0、Apache Iceberg 1.2.0-amzn-0、Delta 2.2.0、Apache Spark RAPIDS 23.02.0-amzn-0、Jupyter Enterprise Gateway 2.6.0
-
支援的元件 ‐
aws-sagemaker-spark-sdk
、emr-ddb
、emr-goodies
、emr-s3-select
、emrfs
、hadoop-client
、hudi
、hudi-spark
、iceberg
、spark-kubernetes
。 -
支援的組態分類
搭配 StartJobRun和 CreateManagedEndpoint 使用APIs:
分類 描述 core-site
變更
core-site.xml
Hadoop 檔案中的值。emrfs-site
變更EMRFS設定。
spark-metrics
變更
metrics.properties
Spark 檔案中的值。spark-defaults
變更
spark-defaults.conf
Spark 檔案中的值。spark-env
變更 Spark 環境中的值。
spark-hive-site
變更
hive-site.xml
Spark 檔案中的值。spark-log4j
變更
log4j.properties
Spark 檔案中的值。專門與 CreateManagedEndpoint 搭配使用APIs:
分類 描述 jeg-config
變更 Jupyter Enterprise Gateway
jupyter_enterprise_gateway_config.py
檔案中的值。jupyter-kernel-overrides
在 Jupyter 核心規格檔案中變更核心映像的值。
組態分類可讓您自訂應用程式。這些通常對應於應用程式的組態XML檔案,例如
spark-hive-site.xml
。如需詳細資訊,請參閱設定應用程式。
值得注意的功能
下列功能包含在 Amazon 的 6.11 版EMR中EKS。
-
在 Amazon ECR Public Gallery 的基礎EMREKS映像 – 如果您使用自訂映像功能,我們的基礎映像會提供與 Amazon 在 EMR上互動的必要 jar、組態和程式庫EKS。您現在可以在 Amazon ECR Public Gallery
中找到基本映像。 -
Spark 容器日誌輪換 – Amazon EMR on EKS 6.11 支援 Spark 容器日誌輪換。您可以在
StartJobRun
MonitoringConfiguration
的操作containerLogRotationConfiguration
中啟用 功能API。您可以設定rotationSize
和maxFilestoKeep
,以指定您希望 Amazon EMR EKS保留在 Spark 驅動程式和執行器 Pod 中的日誌檔案的數量和大小。如需詳細資訊,請參閱使用 Spark 容器日誌輪換。 -
Spark 運算子和 spark-submit 中的 Volcano 支援 – Amazon EMR on EKS 6.11 支援以 Volcano 作為 Spark 運算子中的 Kubernetes 自訂排程器和 spark-submit 執行 Spark 任務。 可以使用群排程、佇列管理、先佔和公平共用排程等功能,以達到高排程輸送量和優化容量。如需詳細資訊,請參閱使用 Volcano 作為 Amazon EMR on EKS 上 Apache Spark 的自訂排程器。