Amazon EMR リリース 4.6.0 - Amazon EMR
4.6.0 アプリケーションバージョン4.6.0 リリースノート4.6.0 コンポーネントバージョン4.6.0 設定分類

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon EMR リリース 4.6.0

4.6.0 アプリケーションバージョン

このリリースには、Ganglia、、HBase、、HCatalog、Hadoop、Hive、、HueMahout、Oozie-SandboxPig、、Presto-SandboxSparkSqoop-SandboxZeppelin-Sandbox、、および のアプリケーションが含まれていますZooKeeper-Sandbox。

以下の表は、Amazon EMR のこのリリースで利用可能なアプリケーションバージョンと、前の 3 つの Amazon EMR リリース (該当する場合) で利用可能なアプリケーションバージョンを示しています。

Amazon EMR の各リリースのアプリケーションバージョンの包括的な履歴については、以下のトピックを参照してください。

アプリケーションバージョン情報
emr-4.6.0 emr-4.5.0 emr-4.4.0 emr-4.3.0
AWS SDK for Java 1.10.271.10.271.10.271.10.27
Python 追跡されていません追跡されていません追跡されていません追跡されていません
Scala 追跡されていません追跡されていません追跡されていません追跡されていません
AmazonCloudWatchAgent - - - -
Delta - - - -
Flink - - - -
Ganglia3.7.23.7.23.7.23.7.2
HBase1.2.0 - - -
HCatalog1.0.01.0.01.0.0 -
Hadoop2.7.22.7.22.7.12.7.1
Hive1.0.01.0.01.0.01.0.0
Hudi - - - -
Hue3.7.13.7.13.7.13.7.1
Iceberg - - - -
JupyterEnterpriseGateway - - - -
JupyterHub - - - -
Livy - - - -
MXNet - - - -
Mahout0.11.10.11.10.11.10.11.0
Oozie - - - -
Oozie-Sandbox4.2.04.2.04.2.04.2.0
Phoenix - - - -
Pig0.14.00.14.00.14.00.14.0
Presto - - - -
Presto-Sandbox0.1430.1400.1360.130
Spark1.6.11.6.11.6.01.6.0
Sqoop - - - -
Sqoop-Sandbox1.4.61.4.61.4.6 -
TensorFlow - - - -
Tez - - - -
Trino (PrestoSQL) - - - -
Zeppelin - - - -
Zeppelin-Sandbox0.5.60.5.60.5.60.5.5
ZooKeeper - - - -
ZooKeeper-Sandbox3.4.8 - - -

4.6.0 リリースノート

次のリリースノートには、Amazon EMR 4.6.0 リリースに関する情報が含まれています。

  • HBase 1.2.0 を追加しました

  • Zookeeper-Sandbox 3.4.8 を追加しました

  • Presto-Sandbox 0.143 にアップグレードしました

  • 現在、Amazon EMR リリースは Amazon Linux 2016.03.0 に基づいています。詳細については、「https://aws.amazon.com/amazon-linux-ami/2016.03-release-notes/」を参照してください。

  • スループット最適化 HDD (st1) EBS ボリュームタイプに影響を及ぼす問題

    Linux カーネルバージョン 4.2 以降の問題は、EMR 用のスループット最適化 HDD (st1) EBS ボリュームのパフォーマンスに大きな影響を及ぼします。このリリース (emr-4.6.0) ではカーネルバージョン 4.4.5 を使用するため、影響を受けます。したがって、st1 EBS ボリュームを使用する場合、emr-4.6.0 を使用しないことをお勧めします。emr-4.5.0 以前の Amazon EMR リリースと st1 であれば、影響を受けずに使用できます。これに加えて、将来のリリースで修正が提供されます。

  • Python のデフォルト値

    現在、Python 3.4 がデフォルトでインストールされますが、Python 2.7 はシステムデフォルトのままです。いずれかのブートストラップアクションを使用してシステムデフォルトとして Python 3.4 を設定できます。PySpark で使用される Python のバージョンに影響を与えるため、設定 API を使用して /usr/bin/python3.4 分類で PYSPARK_PYTHON のエクスポート先を spark-env に設定できます。

  • Java 8

    Presto を除き、OpenJDK 1.7 はすべてのアプリケーションに使用されるデフォルトの JDK です。ただし、OpenJDK 1.7 と 1.8 の両方がインストールされています。アプリケーションの JAVA_HOME を設定する方法については、「Java 8 を使用したアプリケーションの設定」を参照してください。

以前のリリースから解決された既知の問題

  • アプリケーションのプロビジョニングが、生成されたパスワードが原因でランダムに失敗する問題を修正しました。

  • 以前は、mysqld がすべてのノードにインストールされました。現在では、選択されたアプリケーションにコンポーネントとして mysql-server が含まれている場合のみ、マスターインスタンスのみにインストールされます。現在、HCatalog、Hive、Hue、Presto-Sandbox、および Sqoop-Sandbox の各アプリケーションに、mysql-server コンポーネントが含まれています。

  • yarn.scheduler.maximum-allocation-vcores をデフォルトの 32 から 80 に変更しました。これにより、コアインスタンスタイプが、YARN vcores が 32 より高く設定されているいくつかのラージインスタンスタイプのいずれかであるクラスターで、maximizeResourceAllocation オプションを使用中に Spark で主に発生する、emr-4.4.0 での問題が修正されました。この問題の影響を受けていたのは、c4.8xlarge、cc2.8xlarge、hs1.8xlarge、i2.8xlarge、m2.4xlarge、r3.8xlarge、d2.8xlarge、または m4.10xlarge です。

  • 現在では s3-dist-cp はすべての Amazon S3 候補に EMRFS を使用し、一時 HDFS ディレクトリにはステージングしません。

  • クライアント側の暗号化のマルチパートアップロードの例外処理に関する問題を修正しました。

  • ユーザーが Amazon S3 ストレージクラスを変更できるようにするオプションを追加しました。デフォルトでは、この設定は STANDARD です。emrfs-site 設定の分類設定は fs.s3.storageClass で、指定できる値は STANDARD、STANDARD_IA、REDUCED_REDUNDANCY です。ストレージクラスの詳細については、「Amazon Simple Storage Service ユーザーガイド」の「ストレージクラス」を参照してください。

4.6.0 コンポーネントバージョン

このリリースで Amazon EMR がインストールするコンポーネントを以下に示します。そのうちいくつかは、ビッグデータアプリケーションパッケージの一部としてインストールされます。その他は Amazon EMR に固有であり、システムプロセスと機能に対してインストールされます。これらは通常、emr または aws で開始されます。通常、最新の Amazon EMR リリースのビッグデータアプリケーションパッケージは、コミュニティにある最新バージョンです。コミュニティリリースは、できるだけ早く Amazon EMR で入手可能になるようにしています。

Amazon EMR の一部のコンポーネントは、コミュニティバージョンとは異なります。これらのコンポーネントには、CommunityVersion-amzn-EmrVersion の形式のバージョンラベルがあります。EmrVersion は 0 から始まります。例えば、バージョン 2.2 の myapp-component というオープンソースコミュニティコンポーネントが、異なる Amazon EMR リリースに組み込むために 3 回変更された場合、そのリリースバージョンは 2.2-amzn-2 として表示されます。

コンポーネント バージョン 説明
emr-ddb3.0.0Hadoop エコシステムアプリケーション用の Amazon DynamoDB コネクター。
emr-goodies2.0.0Hadoop エコシステムに役立つ追加のライブラリ。
emr-kinesis3.1.0Hadoop エコシステムアプリケーション用の Amazon Kinesis コネクター。
emr-s3-dist-cp2.3.0Amazon S3 に最適化された分散コピーアプリケーション。
emrfs2.6.0Hadoop エコシステムアプリケーション用の Amazon S3 コネクタ。
ganglia-monitor3.7.2Ganglia モニタリングエージェントとともに埋め込まれた、Hadoop エコシステムアプリケーション用 Ganglia エージェント。
ganglia-metadata-collector3.7.2Ganglia モニタリングエージェントからメトリクスを集計する Ganglia メタデータコレクター。
ganglia-web3.7.1Ganglia メタデータコレクターによって収集されたメトリクスを表示するウェブアプリケーション。
hadoop-client2.7.2-amzn-1'hdfs'、'hadoop'、'yarn' などの Hadoop コマンドラインクライアント。
hadoop-hdfs-datanode2.7.2-amzn-1ブロックを保存する HDFS ノードレベルのサービス。
hadoop-hdfs-library2.7.2-amzn-1HDFS コマンドラインクライアントとライブラリ
hadoop-hdfs-namenode2.7.2-amzn-1ファイル名を追跡し、場所をブロックする HDFS サービス。
hadoop-httpfs-server2.7.2-amzn-1HDFS オペレーションの HTTP エンドポイント。
hadoop-kms-server2.7.2-amzn-1Hadoop の KeyProvider API に基づく暗号キー管理サーバー。
hadoop-mapred2.7.2-amzn-1MapReduce アプリケーションを実行する MapReduce 実行エンジンライブラリ。
hadoop-yarn-nodemanager2.7.2-amzn-1個別のノードでコンテナを管理する YARN サービス。
hadoop-yarn-resourcemanager2.7.2-amzn-1クラスターリソースおよび分散アプリケーションを割り当て、管理する YARN サービス。
hbase-hmaster1.2.0リージョンの調整および管理コマンドの実行を行う HBase クラスター用のサービス。
hbase-region-server1.2.01 つ以上の HBase リージョンに対応するサービス。
hbase-client1.2.0HBase コマンドラインクライアント。
hbase-rest-server1.2.0HBase の RESTful HTTP エンドポイントを提供するサービス。
hbase-thrift-server1.2.0HBase に Thrift エンドポイントを提供するサービス。
hcatalog-client1.0.0-amzn-4hcatalog-server を操作するための 'hcat' コマンドラインクライアント。
hcatalog-server1.0.0-amzn-4分散アプリケーション用のテーブルおよびストレージ管理レイヤーである HCatalog を提供するサービス。
hcatalog-webhcat-server1.0.0-amzn-4HCatalog に REST インターフェイスを提供する HTTP エンドポイント。
hive-client1.0.0-amzn-4Hive コマンドラインクライアント。
hive-metastore-server1.0.0-amzn-4Hadoop オペレーションの SQL 用のメタデータを保存するセマンティックレポジトリである Hive メタストアにアクセスするためのサービス。
hive-server1.0.0-amzn-4Hive クエリをウェブリクエストとして受け入れるサービス。
hue-server3.7.1-amzn-6Hadoop エコシステムアプリケーションを使用してデータを分析するウェブアプリケーション
mahout-client0.11.1機械学習用のライブラリ。
mysql-server5.5MySQL データベースサーバー。
oozie-client4.2.0Oozie コマンドラインクライアント。
oozie-server4.2.0Oozie ワークフローリクエストを受け入れるサービス。
presto-coordinator0.143presto-worker 間でクエリを受け入れ、クエリの実行を管理するサービス。
presto-worker0.143いくつかのクエリを実行するサービス。
pig-client0.14.0-amzn-0Pig コマンドラインクライアント。
spark-client1.6.1Spark コマンドラインクライアント。
spark-history-server1.6.1完了した Spark アプリケーションの有効期間にログに記録されたイベントを表示するウェブ UI。
spark-on-yarn1.6.1YARN のメモリ内実行エンジン。
spark-yarn-slave1.6.1YARN スレーブで必要な Apache Spark ライブラリ。
sqoop-client1.4.6Apache Sqoop コマンドラインクライアント。
webserver2.4Apache HTTP サーバー。
zeppelin-server0.5.6-incubatingインタラクティブなデータ分析を可能にするウェブベースのノートブック。
zookeeper-server3.4.8設定情報を維持し、名前を付け、分散化された同期を提供し、グループサービスを提供する一元化されたサービス。
zookeeper-client3.4.8ZooKeeper コマンドラインクライアント。

4.6.0 設定分類

設定分類を使用すると、アプリケーションをカスタマイズできます。これらは多くの場合、hive-site.xml などのアプリケーションの構成 XML ファイルに対応します。詳細については、「アプリケーションの設定」を参照してください。

emr-4.6.0 分類
分類 説明

capacity-scheduler

Hadoop の capacity-scheduler.xml ファイルの値を変更します。

core-site

Hadoop の core-site.xml ファイルの値を変更します。

emrfs-site

EMRFS の設定を変更します。

hadoop-env

Hadoop のすべてのコンポーネントに対する Hadoop 環境の値を変更します。

hadoop-log4j

Hadoop の log4j.properties ファイルの値を変更します。

hbase-env

HBase の環境の値を変更します。

hbase-log4j

HBase の hbase-log4j.properties ファイルの値を変更します。

hbase-metrics

HBase の hadoop-metrics2-hbaase.properties ファイルの値を変更します。

hbase-policy

HBase の hbase-policy.xml ファイルの値を変更します。

hbase-site

HBase の hbase-site.xml ファイルの値を変更します。

hdfs-encryption-zones

HDFS 暗号化ゾーンを設定します。

hdfs-site

HDFS の hdfs-site.xml の値を変更します。

hcatalog-env

HCatalog 環境の値を変更します。

hcatalog-server-jndi

HCatalog の jndi.properties の値を変更します。

hcatalog-server-proto-hive-site

HCatalog の proto-hive-site.xml の値を変更します。

hcatalog-webhcat-env

HCatalog WebHCat 環境の値を変更します。

hcatalog-webhcat-log4j

HCatalog WebHCat の log4j.properties の値を変更します。

hcatalog-webhcat-site

HCatalog WebHCat の webhcat-site.xml ファイルの値を変更します。

hive-env

Hive 環境の値を変更します。

hive-exec-log4j

Hive の hive-exec-log4j.properties ファイルの値を変更します。

hive-log4j

Hive の hive-log4j.properties ファイルの値を変更します。

hive-site

Hive の hive-site.xml ファイルの値を変更します

hue-ini

Hue の ini ファイルの値を変更します

httpfs-env

HTTPFS 環境の値を変更します。

httpfs-site

Hadoop の httpfs-site.xml ファイルの値を変更します。

hadoop-kms-acls

Hadoop の kms-acls.xml ファイルの値を変更します。

hadoop-kms-env

Hadoop KMS 環境の値を変更します。

hadoop-kms-log4j

Hadoop の kms-log4j.properties ファイルの値を変更します。

hadoop-kms-site

Hadoop の kms-site.xml ファイルの値を変更します。

mapred-env

MapReduce アプリケーションの環境の値を変更します。

mapred-site

MapReduce アプリケーションの mapred-site.xml ファイルの値を変更します。

oozie-env

Oozie の環境の値を変更します。

oozie-log4j

Oozie の oozie-log4j.properties ファイルの値を変更します。

oozie-site

Oozie の oozie-site.xml ファイルの値を変更します。

pig-properties

Pig の pig.properties ファイルの値を変更します。

pig-log4j

Pig の log4j.properties ファイルの値を変更します。

presto-log

Presto の log.properties ファイルの値を変更します。

presto-config

Presto の config.properties ファイルの値を変更します。

presto-connector-hive

Presto の hive.properties ファイルの値を変更します。

spark

Apache Spark 用の Amazon EMR-curated 設定。

spark-defaults

Spark の spark-defaults.conf ファイルの値を変更します。

spark-env

Spark 環境の値を変更します。

spark-log4j

Spark の log4j.properties ファイルの値を変更します。

spark-metrics

Spark の metrics.properties ファイルの値を変更します。

sqoop-env

Sqoop の環境の値を変更します。

sqoop-oraoop-site

Sqoop OraOop の oraoop-site.xml ファイルの値を変更します。

sqoop-site

Sqoop の sqoop-site.xml ファイルの値を変更します。

yarn-env

YARN 環境の値を変更します。

yarn-site

YARN の yarn-site.xml ファイルの値を変更します。

zeppelin-env

Zeppelin 環境の値を変更します。

zookeeper-config

ZooKeeper の zoo.cfg ファイルの値を変更します。

zookeeper-log4j

ZooKeeper の log4j.properties ファイルの値を変更します。