本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon EMR 版本 5.30.0
5.30.0 應用程式版本
此版本支援下列應用程式:Flink
下表列出此 Amazon 發行版本中可用的應用程式版本,以EMR及前三個 Amazon 版本中的應用程式EMR版本 (如果適用)。
如需 Amazon 每個版本之應用程式版本的完整歷史記錄EMR,請參閱下列主題:
應用程式版本資訊 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
emr-5.30.0 | emr-5.29.0 | emr-5.28.1 | emr-5.28.0 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
AWS SDK對於爪哇 | 1.11.759 | 1.11.682 | 1.11.659 | 1.11.659 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Python | 2.7、3.7 | 2.7、3.6 | 2.7、3.6 | 2.7、3.6 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Scala | 2.11.12 | 2.11.12 | 2.11.12 | 2.11.12 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
AmazonCloudWatchAgent | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Delta | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Flink | 1.10.0 | 1.9.1 | 1.9.0 | 1.9.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
HBase | 1.4.13 | 1.4.10 | 1.4.10 | 1.4.10 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
HCatalog | 2.3.6 | 2.3.6 | 2.3.6 | 2.3.6 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Hadoop | 2.8.5 | 2.8.5 | 2.8.5 | 2.8.5 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Hive | 2.3.6 | 2.3.6 | 2.3.6 | 2.3.6 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Hudi | 0.5.2-incubating | 0.5.0-incubating | 0.5.0-incubating | 0.5.0-incubating | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Hue | 4.6.0 | 4.4.0 | 4.4.0 | 4.4.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Iceberg | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
JupyterEnterpriseGateway | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
JupyterHub | 1.1.0 | 1.0.0 | 1.0.0 | 1.0.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Livy | 0.7.0 | 0.6.0 | 0.6.0 | 0.6.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
MXNet | 1.5.1 | 1.5.1 | 1.5.1 | 1.5.1 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Mahout | 0.13.0 | 0.13.0 | 0.13.0 | 0.13.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Oozie | 5.2.0 | 5.1.0 | 5.1.0 | 5.1.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Phoenix | 4.14.3 | 4.14.3 | 4.14.3 | 4.14.3 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Presto | 0.232 | 0.227 | 0.227 | 0.227 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Spark | 2.4.5 | 2.4.4 | 2.4.4 | 2.4.4 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
TensorFlow | 1.14.0 | 1.14.0 | 1.14.0 | 1.14.0 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
特里诺 (普雷斯托SQL) | - | - | - | - | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Zeppelin | 0.8.2 | 0.8.2 | 0.8.2 | 0.8.2 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ZooKeeper | 3.4.14 | 3.4.14 | 3.4.14 | 3.4.14 |
5.30.0 版本備註
下列版本說明包含 Amazon EMR 版本 5.30.0 的相關資訊。變更是相對於 5.29.0 版而言。
初始版本日期:2020 年 5 月 13 日
上次更新日期:2020 年 6 月 25 日
升級
升級 AWS SDK for Java 至第一版
升級 Amazon SageMaker 星火SDK到 1.3.0 版本
升級EMR記錄伺服器至 1.6.0 版
升級 Flink 至 1.10.0 版
升級 Ganglia 至 3.7.2 版
已升級HBase至 13 版
升級 Hudi 至 0.5.2-incubating 版
升級 Hue 至 4.6.0 版
已升級 JupyterHub 至 1.1.0 版
升級 Livy 至 0.7.0-incubating 版
升級 Oozie 至 5.2.0 版
升級 Presto 至 0.232 版
升級 Spark 至 2.4.5 版
升級的連接器和驅動程式:Amazon Glue 連接器 1.12.0; Amazon Kinesis 動連接器 3.5.0; DynamoDB 連接器 4.14.0 EMR
新功能
EMR筆記本 — 與使用 5.30.0 建立的EMR叢集搭配使用時,EMR筆記本核心會在叢集上執行。如此可改善筆記型電腦的效能,並可讓您安裝和自訂核心。您也可以在叢集主節點上安裝 Python 程式庫。如需詳細資訊,請參閱《EMR管理指南》中的〈安裝和使用核心和程式庫〉。
受管擴展 — 使用 Amazon 5.30.0 及更新EMR版本,您可以啟用EMR受管擴展功能,根據工作負載自動增加或減少叢集中的執行個體或單位數量。Amazon 會EMR持續評估叢集指標,以做出擴展決策,以便最佳化叢集的成本和速度。如需詳細資訊,請參閱 Amazon EMR 管理指南中的擴展叢集資源。
加密存放在 Amazon S3 中的日誌檔案 — 使用 Amazon 5.30.0 及更新EMR版本,您可以使用 AWS KMS 客戶管理的金鑰。如需詳細資訊,請參閱 Amazon EMR管理指南中的加密存放在 Amazon S3 中的日誌檔。
Amazon Linux 2 支持 — 在 5.30.0 及更高EMR版本中,EMR usesAmazon Linux 2 操作系統。新的自訂 AMIs (Amazon 機器映像檔) 必須以 theAmazon Linux 2 為基礎AMI。如需詳細資訊,請參閱使用自訂AMI。
普雷斯托優雅 auto 擴展 — 使用 5.30.0 的EMR集群可以設置自動擴展超時期限,該時間使 Presto 任務有時間在節點退役之前完成運行。如需詳細資訊,請參閱使用 Presto 自動擴展搭配逐漸除役。
使用新的配置策略選項建立叢集執行個體 — 新的配置策略選項可在 5.12.1 EMR 版及更新版本中使用。它提供更快的叢集佈建、更準確的 Spot 分配,並減少 Spot 執行個體中斷。需要更新非預設EMR服務角色。請參閱設定執行個體機群。
須藤系統信息停止和須藤系統啟動命令 — 在 5.30.0 及更高EMR版本中, useAmazon Linux 2 操作系統使用和命令來重新啟動服務。EMR
sudo systemctl stop
sudo systemctl start
如需詳細資訊,請參閱如何在 Amazon 中重新啟動服務EMR?。
變更、強化功能和已解決的問題
EMR版本 5.30.0 默認情況下不會安裝神經節。建立叢集時,您可明確選擇 Ganglia 來安裝。
Spark 效能最佳化。
Presto 效能最佳化。
Python 3 是 Amazon EMR 版本 5.30.0 及更高版本的默認設置。
私有子網路中用來存取服務的預設受管安全群組,已經以新的規則更新。若您使用自訂安全群組來存取服務,就必須納入與預設受管安全群組相同的規則。如需詳細資訊,請參閱 Amazon EMR 受管服務存取安全群組 (私有子網路)。如果您為 Amazon 使用自訂服務角色EMR,則必須授予權限,EMR以
ec2:describeSecurityGroups
便驗證安全群組是否正確建立。若您使用EMR_DefaultRole
,則預設受管政策已納入此許可。
已知問題
-
降低舊版 [在新版本中修復AL2] 的「最大打開文件」限制。Amazon EMR 版本:emr-5.30.x、emr-5.31.0、emr-5.32.0、EMR-6.0.0、emr-6.1.0 和 emr-6.2.0 是以舊版 ofAmazon Linux 2 (AL2) 為基礎,當使用預設建立 Amazon 叢集時,這些版本的「最大開啟檔案」的上限設定較低。EMR AMIAmazon EMR 發布 5.30.1,5.30.2,5.31.1,5.32.1,6.0.1,6.1.1,6.2.1,5.33.0 和更高版本包括一個具有更高「打開文件數上限」設置的永久修復程序。提交 Spark 作業時,開放檔限制較低的版本會導致「開放檔案過多」錯誤。在受影響的發行版本中,Amazon EMR 默AMI認設置的「最大打開文件數」的 ulimit 設置為 4096,低於 Linux 2 中的 65536 文件限制。 latestAmazon AMI當 Spark 驅動程式和執行器嘗試開啟超過 4096 個檔案時,「最大開放檔案」的 ulimit 設定過低會導致 Spark 作業失敗。為了解決這個問題,Amazon EMR 有一個引導動作(BA)腳本,該腳本在創建集群時調整 ulimit 設置。
如果您使用的舊EMR版 Amazon 版本沒有針對此問題的永久修正程式,下列因應措施可讓您明確地將執行個體控制器 ulimit 設定為最多 65536 個檔案。
從命令列明確設定 ulimit
編輯
/etc/systemd/system/instance-controller.service
以新增下列參數至「服務」區段。LimitNOFILE=65536
LimitNPROC=65536
重啟 InstanceController
$ sudo systemctl daemon-reload
$ sudo systemctl restart instance-controller
使用引導操作 (BA) 設定 ulimit
您還可以使用引導操作 (BA) 指令碼,在建立叢集時將執行個體-控制器 ulimit 設定為 65536 個檔案。
#!/bin/bash for user in hadoop spark hive; do sudo tee /etc/security/limits.d/$user.conf << EOF $user - nofile 65536 $user - nproc 65536 EOF done for proc in instancecontroller logpusher; do sudo mkdir -p /etc/systemd/system/$proc.service.d/ sudo tee /etc/systemd/system/$proc.service.d/override.conf << EOF [Service] LimitNOFILE=65536 LimitNPROC=65536 EOF pid=$(pgrep -f aws157.$proc.Main) sudo prlimit --pid $pid --nofile=65535:65535 --nproc=65535:65535 done sudo systemctl daemon-reload
-
受管擴展
在未安裝 Presto 的情況下,5.30.0 和 5.30.1 叢集上的受管擴展操作可能會導致應用程式失敗,或致使統一執行個體群組或執行個體機群停留在
ARRESTED
狀態,尤其當縮減規模操作緊隨縱向擴展操作之後時。因應措施是在使用 Amazon EMR 版本 5.30.0 和 5.30.1 建立叢集時,選擇 Presto 作為要安裝的應用程式,即使您的任務不需要 Presto 也是如此。
-
使用多個主節點和 Kerberos 身分驗證的叢集中存在的已知問題
如果您在 Amazon 5.20.0 及更EMR新版本中執行具有多個主要節點和 Kerberos 身份驗證的叢集,則在叢集執行一段時間後,可能會遇到叢集操作的問題,例如縮減或步驟提交。時段取決於您定義的 Kerberos 票證有效期。規模調減問題會同時影響自動縮減規模和您提交的明確縮減規模請求。其他叢集操作也可能受影響。
解決方法:
-
SSH
hadoop
作為具有多個主節點的EMR群集的主要節點的用戶。 -
執行以下命令,以更新
hadoop
使用者的 Kerberos 票證。kinit -kt <keytab_file> <principal>
一般而言,Keytab 檔案位於
/etc/hadoop.keytab
,而主體則採用hadoop/<hostname>@<REALM>
的形式。
注意
此解決辦法的有效期間和 Kerberos 票證的有效期間相同。此持續時間預設為 10 個小時,但可以透過您的 Kerberos 設定進行變更。若 Kerberos 票證過期,您必須重新執行上述命令。
-
Hue 4.6.0 的預設資料庫引擎是SQLite,當您嘗試將 Hue 與外部資料庫搭配使用時,會造成問題。若要修正此問題,請將
hue-ini
組態分類中的engine
設定為mysql
。此問題已在 Amazon EMR 版本 5.30.1 中得到修復。當您使用具備 Hive 分割區位置格式的 Spark 來讀取 Amazon S3 中的資料,並在 Amazon EMR 版本 5.30.0 到 5.36.0 和 6.2.0 至 6.9.0 執行 Spark 時,您可能會遇到阻止叢集正確讀取資料的問題。如果您的分割區具有以下所有特性,便會發生此種情形:
-
兩個或更多分割區從同一資料表掃描而來。
-
至少有一個分割區目錄路徑是其他一或多個分割區目錄路徑的字首,例如,
s3://bucket/table/p=a
是s3://bucket/table/p=a b
的字首。 -
在另一個分割區目錄中,前置詞之後的第一個字元的 UTF -8 值小於
/
字元 (U+002F)。例如,s3://bucket/table/p=a b
中 a 和 b 之間有空白字元 (U+0020) 即屬於此類別。請注意還有 14 個其他非控制字元:!"#$%&‘()*+,-
。如需詳細資訊,請參閱 UTF-8 編碼表和 Unicode 字元。
若要避免發生此問題,請在
spark-defaults
分類中將spark.sql.sources.fastS3PartitionDiscovery.enabled
組態設定為false
。-
5.30.0 元件版本
下面列出了 Amazon 與此版本一起EMR安裝的元件。其中有一些屬於大數據應用程式套件。其他則是 Amazon 獨有的,EMR並為系統程序和功能安裝。這些通常會以 emr
或 aws
開頭。最新 Amazon EMR 版本中的大數據應用程式套件通常是社群中的最新版本。我們會EMR盡快在 Amazon 提供社群版本。
Amazon 中的某些元件EMR與社群版本不同。這些元件具有版本標籤,格式為
。CommunityVersion
-amzn-EmrVersion
從 0 開始。例如,如果以 2.2 版命名EmrVersion
myapp-component
的開放原始碼社群元件已經修改三次以包含在不同的 Amazon EMR 版本中,則其發行版本會列為2.2-amzn-2
。
元件 | 版本 | 描述 |
---|---|---|
aws-sagemaker-spark-sdk | 1.3.0 | Amazon SageMaker 星火 SDK |
emr-ddb | 4.14.0 | 適用於 Hadoop 生態系統應用程式的 Amazon DynamoDB 連接器。 |
emr-goodies | 2.13.0 | 適用 Hadoop 生態系統的超便利程式庫。 |
emr-kinesis | 3.5.0 | 適用於 Hadoop 生態系統應用程式的 Amazon Kinesis 連接器。 |
emr-notebook-env | 1.0.0 | 適用於 emr 筆記本的 Conda env |
emr-s3-dist-cp | 2.14.0 | 針對 Amazon S3 最佳化的分散式複製應用程式。 |
emr-s3-select | 1.5.0 | EMRS3 選擇連接器 |
emrfs | 2.40.0 | 適用於 Hadoop 生態系統應用程式的 Amazon S3 連接器。 |
flink-client | 1.10.0 | Apache Flink 命令列用戶端指令碼和應用程式。 |
ganglia-monitor | 3.7.2 | Hadoop 生態系統應用程式內嵌 Ganglia 代理程式以及 Ganglia 監控代理程式。 |
ganglia-metadata-collector | 3.7.2 | Ganglia 監控代理程式的彙總指標 Ganglia 中繼資料收集器。 |
ganglia-web | 3.7.1 | 由 Ganglia 中繼資料收集器收集,以檢視指標的 Web 應用程式。 |
hadoop-client | 2.8.5-amzn-6 | Hadoop 命令列用戶端,例如「hdfs」、「Hadoop」或「yarn」。 |
hadoop-hdfs-datanode | 2.8.5-amzn-6 | HDFS用於存儲塊的節點級服務。 |
hadoop-hdfs-library | 2.8.5-amzn-6 | HDFS命令行客戶端和庫 |
hadoop-hdfs-namenode | 2.8.5-amzn-6 | HDFS用於跟踪文件名和塊位置的服務。 |
hadoop-hdfs-journalnode | 2.8.5-amzn-6 | HDFS用於在 HA 叢集上管理 Hadoop 檔案系統日誌的服務。 |
hadoop-httpfs-server | 2.8.5-amzn-6 | HTTP用於HDFS操作的端點。 |
hadoop-kms-server | 2.8.5-amzn-6 | 基於 Hadoop 的加密密鑰管理服務器。 KeyProvider API |
hadoop-mapred | 2.8.5-amzn-6 | MapReduce 用於執行應用程式的執行引擎 MapReduce 程式庫。 |
hadoop-yarn-nodemanager | 2.8.5-amzn-6 | YARN用於管理個別節點上容器的服務。 |
hadoop-yarn-resourcemanager | 2.8.5-amzn-6 | YARN用於分配和管理叢集資源和分散式應用程式的服務。 |
hadoop-yarn-timeline-server | 2.8.5-amzn-6 | 用於擷取應用程式目前和歷史資訊的YARN服務。 |
hbase-hmaster | 1.4.13 | 負責協調區域和執行管理命令的HBase叢集服務。 |
hbase-region-server | 1.4.13 | 服務於一個或多個HBase地區。 |
hbase-client | 1.4.13 | HBase命令行客戶端。 |
hbase-rest-server | 1.4.13 | 提RESTfulHTTP供HBase. |
hbase-thrift-server | 1.4.13 | 提供節儉端點的HBase服務。 |
hcatalog-client | 2.3.6-amzn-2 | 操作 hcatalog-server 的「hcat」命令列用戶端。 |
hcatalog-server | 2.3.6-amzn-2 | 服務提供HCatalog,分佈式應用程序的表和存儲管理層。 |
hcatalog-webhcat-server | 2.3.6-amzn-2 | HTTP提供REST介面的端點HCatalog。 |
hive-client | 2.3.6-amzn-2 | Hive 命令列用戶端。 |
hive-hbase | 2.3.6-amzn-2 | Hive-hbase 用戶端。 |
hive-metastore-server | 2.3.6-amzn-2 | 服務訪問蜂巢元存儲,語義存儲的 Hadoop 操作元數據存儲庫。SQL |
hive-server2 | 2.3.6-amzn-2 | 依 Web 請求接受 Hive 查詢的服務。 |
hudi | 0.5.2-incubating | 增量處理架構,以低延遲和高效率強化資料管道。 |
hudi-presto | 0.5.2-incubating | 用於使用 Hudi 執行 Presto 的套件程式庫。 |
hue-server | 4.6.0 | 使用 Hadoop 生態系統應用程式分析資料的 Web 應用程式 |
jupyterhub | 1.1.0 | 適用於 Jupyter 筆記本的多使用者伺服器 |
livy-server | 0.7.0-incubating | REST用於與阿帕奇星火交互的接口 |
nginx | 1.12.1 | nginx [引擎 x] 是一個反向代理HTTP服務器 |
mahout-client | 0.13.0 | 機器學習程式庫。 |
mxnet | 1.5.1 | 靈活有效率的程式庫,具可擴展性,適用於深度學習。 |
mariadb-server | 5.5.64 | 我的SQL資料庫伺服器。 |
nvidia-cuda | 9.2.88 | Nvidia 驅動程式和 Cuda 工具組 |
oozie-client | 5.2.0 | Oozie 命令列用戶端。 |
oozie-server | 5.2.0 | 接受 Oozie 工作流程要求的服務。 |
opencv | 3.4.0 | 開放原始碼電腦 Vision 程式庫。 |
phoenix-library | 4.14.3--1.4 HBase | 適用於伺服器和用戶端的 phoenix 程式庫 |
phoenix-query-server | 4.14.3--1.4 HBase | 輕量級服務器,提供對 Avatica 的JDBC訪問以及協議緩衝區和JSON格式訪問 API |
presto-coordinator | 0.232 | 在 presto-workers 之間接受查詢和執行管理查詢的服務。 |
presto-worker | 0.232 | 執行查詢各部分的服務。 |
presto-client | 0.232 | 安裝於 HA 叢集的待命主節點的 Presto 命令列用戶端,該主節點上的 Presto 伺服器未啟動。 |
pig-client | 0.17.0 | Pig 命令列用戶端。 |
r | 3.4.3 | 統計運算 R 專案 |
ranger-kms-server | 1.2.0 | Apache Ranger Key Management System |
spark-client | 2.4.5-amzn-0 | Spark 命令列用戶端。 |
spark-history-server | 2.4.5-amzn-0 | 用於檢視完整 Spark 應用程式生命週期記錄事件的 Web 使用者介面。 |
spark-on-yarn | 2.4.5-amzn-0 | 的記憶體內執行引擎。YARN |
spark-yarn-slave | 2.4.5-amzn-0 | 阿帕奇星火庫所需的YARN奴隸。 |
sqoop-client | 1.4.7 | Apache Sqoop 命令列用戶端。 |
tensorflow | 1.14.0 | TensorFlow 用於高性能數值計算的開源軟件庫。 |
tez-on-yarn | 0.9.2 | Tez YARN 應用程式和程式庫。 |
webserver | 2.4.25+ | 阿帕奇HTTP服務器。 |
zeppelin-server | 0.8.2 | 能進行互動式資料分析,以 Web 為基礎的筆記型電腦。 |
zookeeper-server | 3.4.14 | 用於維護組態資訊、命名、提供分散式同步,並提供群組服務的集中化服務。 |
zookeeper-client | 3.4.14 | ZooKeeper 命令行客戶端。 |
5.30.0 組態類別
組態分類可讓您自訂應用程式。這些通常對應於應用程序的配置XML文件,例如hive-site.xml
。如需詳細資訊,請參閱設定應用程式。
emr-5.30.0 分類 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
分類 | 描述 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
capacity-scheduler | 變更 Hadoop 中 capacity-scheduler.xml 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
container-log4j | 更改 Hadoop YARN 的容器,日誌 4j. 屬性文件中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
core-site | 變更 Hadoop 中 core-site.xml 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
emrfs-site | 變更EMRFS設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
flink-conf | 變更 flink-conf.yaml 設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
flink-log4j | 變更 Flink log4j.properties 設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
flink-log4j-yarn-session | 變更 Flink 記錄 4j-yarn-session. 內容設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
flink-log4j-cli | 變更 Flink log4j-cli.properties 設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-env | 在 Hadoop 環境中變更所有 Hadoop 元件的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-log4j | 變更 Hadoop 中 log4j.properties 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-ssl-server | 變更 hadoop ssl 伺服器組態 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-ssl-client | 變更 hadoop ssl 用戶端組態 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase | Amazon EMR 策劃的阿帕奇HBase設置。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase-env | 變更環境中HBase的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase-log4j | 更改值HBase的 hbase-log4j. 屬性文件。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase-metrics | 更改值中HBase的反向度量 2 hbase.properties 文件。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase-policy | 變更HBase的 hbase-policy.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hbase-site | 變更HBase的 hbase-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hdfs-encryption-zones | 設定HDFS加密區域。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hdfs-site | 變更HDFS的 hdfs-site.xml 中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-env | 變更環境中HCatalog的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-server-jndi | 變更HCatalog的 jndi.properties 中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-server-proto-hive-site | 變更HCatalog的 proto-hive-site .xml 中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-webhcat-env | 更改 HCatalog W 環境中ebHCat的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-webhcat-log4j2 | 更改 HCatalog W ebHCat 的 log4j2. 屬性中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hcatalog-webhcat-site | 更改 HCatalog W 的 webhcat-site.xml 文件中ebHCat的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-beeline-log4j2 | 變更 Hive 的 beeline-log4j2.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-parquet-logging | 變更 Hive 的 parquet-logging.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-env | 變更 Hive 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-exec-log4j2 | 更改蜂巢的 hive-exec-log 4j2. 屬性文件中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-llap-daemon-log4j2 | 更改蜂巢的 llap-daemon-log 4j2. 屬性文件中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-log4j2 | 變更 Hive 的 hive-log4j2.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hive-site | 變更 Hive 的 hive-site.xml 檔案中的值 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hiveserver2-site | 變更 Hive Server2 的 hiveserver2-site.xml 檔案中的值 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hue-ini | 變更 Hue 的 ini 檔案中的值 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
httpfs-env | 變更HTTPFS環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
httpfs-site | 變更 Hadoop 中 httpfs-site.xml 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-acls | 變更 Hadoop 中 kms-acls.xml 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-env | 變更 Hadoop KMS 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-log4j | 變更 Hadoop 的 kms-log4j.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hadoop-kms-site | 變更 Hadoop 中 kms-site.xml 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
hudi-env | 變更 Hudi 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
jupyter-notebook-conf | 變更 Jupyter 筆記本中 jupyter_notebook_config.py 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
jupyter-hub-conf | 變更 JupyterHubs的 jupyterhub_config.py 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
jupyter-s3-conf | 設定 Jupyter 筆記本 S3 持久性。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
jupyter-sparkmagic-conf | 變更 Sparkmagic 中 config.json 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
livy-conf | 變更 Livy 的 livy.conf 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
livy-env | 變更 Livy 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
livy-log4j | 變更 Livy log4j.properties 設定。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
mapred-env | 變更 MapReduce 應用程式環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
mapred-site | 變更 MapReduce 應用程式的 mapred-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-env | 變更 Oozie 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-log4j | 變更 Oozie 的 oozie-log4j.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
oozie-site | 變更 Oozie 的 oozie-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
phoenix-hbase-metrics | 變更 Phoenix 的 hadoop-metrics2-hbase.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
phoenix-hbase-site | 變更 Phoenix 的 hbase-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
phoenix-log4j | 變更 Phoenix 中 log4j.properties 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
phoenix-metrics | 變更 Phoenix 的 hadoop-metrics2-phoenix.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pig-env | 在 Pig 環境中變更值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pig-properties | 變更 Pig 的 pig.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
pig-log4j | 變更 Pig 的 log4j.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-log | 變更 Presto 的 log.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-config | 變更 Presto 的 config.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-password-authenticator | 變更 Presto 的 password-authenticator.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-env | 變更 Presto 的 presto-env.sh 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-node | 變更 Presto 的 node.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-blackhole | 變更 Presto 的 blackhole.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-cassandra | 變更 Presto 的 cassandra.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-hive | 變更 Presto 的 hive.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-jmx | 變更 Presto 的 jmx.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-kafka | 變更 Presto 的 kafka.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-localfile | 變更 Presto 的 localfile.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-memory | 變更 Presto 的 memory.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-mongodb | 變更 Presto 的 mongodb.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-mysql | 變更 Presto 的 mysql.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-postgresql | 變更 Presto 的 postgresql.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-raptor | 變更 Presto 的 raptor.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-redis | 變更 Presto 的 redis.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-redshift | 變更 Presto 的 redshift.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-tpch | 變更 Presto 的 tpch.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
presto-connector-tpcds | 變更 Presto 的 tpcds.properties 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ranger-kms-dbks-site | 改變遊俠的 dbks-site.xml 文件中的值KMS。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ranger-kms-site | 更改遊俠KMS的 ranger-kms-site .xml 文件中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ranger-kms-env | 變更遊俠KMS環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ranger-kms-log4j | 更改遊俠 KMS-日誌 4j. 屬性文件中的值。KMS | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
ranger-kms-db-ca | 為我與遊俠的SQLSSL連接更改 S3 上 CA 文件的值KMS。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
recordserver-env | 變更EMR RecordServer 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
recordserver-conf | 更改EMR RecordServer的錯誤。屬性文件中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
recordserver-log4j | 變更 log4j. 屬性EMR RecordServer檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark | Amazon EMR 策劃的阿帕奇星火設置。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-defaults | 變更 Spark 的 spark-defaults.conf 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-env | 變更 Spark 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-hive-site | 變更 Spark 的 hive-site.xml 檔案中的值 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-log4j | 變更 Spark 中 log4j.properties 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
spark-metrics | 變更 Spark 中 metrics.properties 檔案的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
sqoop-env | 變更 Sqoop 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
sqoop-oraoop-site | 在方向 OraOop的 oraoop-site.xml 文件中更改值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
sqoop-site | 變更 Sqoop 的 sqoop-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
tez-site | 變更 Tez 的 tez-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
yarn-env | 變更YARN環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
yarn-site | 變更YARN的 yarn-site.xml 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
zeppelin-env | 變更 Zeppelin 環境中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
zookeeper-config | 變更 ZooKeeper的 zoo.cfg 檔案中的值。 | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
zookeeper-log4j | 變更 log4j. 屬性 ZooKeeper檔案中的值。 |