Amazon EMR on EKS 6.13.0 릴리스
이 페이지에서는 Amazon EMR on EKS 배포에 특정한 Amazon EMR의 신규 기능 및 업데이트된 기능을 설명합니다. Amazon EC2에서 실행되는 Amazon EMR 및 Amazon EMR 6.13.0 릴리스에 대한 일반적인 세부 정보는 Amazon EMR 릴리스 안내서에서 Amazon EMR 6.13.0을 참조하세요.
Amazon EMR on EKS 6.13 릴리스
Amazon EMR on EKS에 대해 다음 Amazon EMR 6.13.0 릴리스를 사용할 수 있습니다. 특정 emr-6.13.0-XXXX 릴리스를 선택하여 관련 컨테이너 이미지 태그와 같은 세부 정보를 확인합니다.
-
emr-6.13.0-spark-rapids-latest
-
emr-6.13.0-spark-rapids-20230814
-
emr-6.13.0-java11-latest
-
emr-6.13.0-java11-20230814
-
emr-6.13.0-java17-latest
-
emr-6.13.0-java17-20230814
-
emr-6.13.0-java17-al2023-latest
-
emr-6.13.0-java17-al2023-20230814
-
emr-6.13.0-spark-rapids-java17-latest
-
emr-6.13.0-spark-rapids-java17-20230814
-
emr-6.13.0-spark-rapids-java17-al2023-latest
-
emr-6.13.0-spark-rapids-java17-al2023-20230814
-
notebook-spark/emr-6.13.0-latest
-
notebook-spark/emr-6.13.0-20230814
-
notebook-spark/emr-6.13.0-spark-rapids-latest
-
notebook-spark/emr-6.13.0-spark-rapids-20230814
-
notebook-spark/emr-6.13.0-java11-latest
-
notebook-spark/emr-6.13.0-java11-20230814
-
notebook-spark/emr-6.13.0-java17-latest
-
notebook-spark/emr-6.13.0-java17-20230814
-
notebook-spark/emr-6.13.0-java17-al2023-latest
-
notebook-spark/emr-6.13.0-java17-al2023-20230814
-
notebook-python/emr-6.13.0-latest
-
notebook-python/emr-6.13.0-20230814
-
notebook-python/emr-6.13.0-spark-rapids-latest
-
notebook-python/emr-6.13.0-spark-rapids-20230814
-
notebook-python/emr-6.13.0-java11-latest
-
notebook-python/emr-6.13.0-java11-20230814
-
notebook-python/emr-6.13.0-java17-latest
-
notebook-python/emr-6.13.0-java17-20230814
-
notebook-python/emr-6.13.0-java17-al2023-latest
-
notebook-python/emr-6.13.0-java17-al2023-20230814
릴리스 정보
Amazon EMR on EKS 6.13.0 릴리스 정보
-
지원되는 애플리케이션 ‐ AWS SDK for Java 1.12.513, Apache Spark 3.4.1-amzn-0, Apache Hudi 0.13.1-amzn-0, Apache Iceberg 1.3.0-amzn-0, Delta 2.4.0, Apache Spark RAPIDS 23.06.0-amzn-1, Jupyter Enterprise Gateway 2.6.0.amzn
-
지원되는 구성 요소 ‐
aws-sagemaker-spark-sdk
,emr-ddb
,emr-goodies
,emr-s3-select
,emrfs
,hadoop-client
,hudi
,hudi-spark
,iceberg
,spark-kubernetes
. -
지원되는 구성 분류
StartJobRun 및 CreateManagedEndpoint API와 함께 사용하는 경우:
분류 설명 core-site
Hadoop의
core-site.xml
파일에서 값을 변경합니다.emrfs-site
EMRFS 설정을 변경합니다.
spark-metrics
Spark의
metrics.properties
파일에서 값을 변경합니다.spark-defaults
Spark의
spark-defaults.conf
파일에서 값을 변경합니다.spark-env
the Spark 환경의 값을 변경합니다.
spark-hive-site
Spark의
hive-site.xml
파일에서 값을 변경합니다.spark-log4j
Spark의
log4j2.properties
파일에서 값을 변경합니다.emr-job-submitter
작업 제출자 포드 구성.
특별히 CreateManagedEndpoint API와 함께 사용하는 경우:
분류 설명 jeg-config
Jupyter Enterprise Gateway의
jupyter_enterprise_gateway_config.py
파일에서 값을 변경합니다.jupyter-kernel-overrides
Jupyter 커널 사양 파일에서 커널 이미지 값을 변경합니다.
구성 분류를 사용하면 애플리케이션을 사용자 지정할 수 있습니다. 이는 종종
spark-hive-site.xml
과 같이 애플리케이션의 구성 XML 파일에 해당합니다. 자세한 내용은 애플리케이션 구성을 참조하세요.
주목할 만한 기능
Amazon EMR on EKS 6.13 릴리스에 다음과 같은 기능이 포함되어 있습니다.
-
Amazon Linux 2023 - Amazon EMR on EKS 6.13 이상에서 Java 17 런타임과 함께 AL2023 운영 체제로 Spark(AL2023 포함)를 실행할 수 있습니다. 이를 위해 이름에
al2023
을 포함하는 릴리스 레이블을 사용합니다. 예:emr-6.13.0-java17-al2023-latest
. 프로덕션 워크로드를 AL2023 및 Java 17로 이동하기 전에 성능 테스트를 검증하고 실행하는 것이 좋습니다. -
Apache Flink를 포함하는 Amazon EMR on EKS(퍼블릭 평가판) - Amazon EMR on EKS 릴리스 6.13 이상에서는 Apache Flink를 지원합니다(퍼블릭 평가판에서 사용 가능). 이번 출시를 통해 동일한 Amazon EKS 클러스터에서 다른 유형의 애플리케이션과 함께 Apache Flink 기반 애플리케이션을 실행할 수 있습니다. 이를 통해 리소스 활용도를 높이고 인프라 관리를 간소화할 수 있습니다. 이미 Amazon EKS에서 빅 데이터 프레임워크를 실행하는 경우 이제 Amazon EMR에서 프로비저닝 및 관리를 자동화할 수 있습니다.