CloudWatch で Amazon EMR のイベントをモニタリングする
Amazon EMR はイベントを追跡し、最大 7 日間、そのイベントに関する情報を Amazon EMR コンソールで保持します。Amazon EMR は、クラスター、インスタンスグループ、インスタンスフリート、自動スケーリングポリシー、またはステップの状態に変化があった場合にイベントを記録します。イベントは、イベントの発生日時、影響を受けた要素の詳細、その他の重要なデータポイントを取得します。
次の表は、Amazon EMR のイベントを、イベントが示す状態や状態の変化、イベントの重大度、イベントタイプ、イベントコード、およびイベントメッセージと共にリストしたものです。Amazon EMR はイベントを JSON オブジェクトで表し、自動的にイベントストリームに送信します。JSON オブジェクトは、CloudWatch Events を使用してイベント処理のルールを設定する場合に重要です。ルールでは JSON オブジェクトでパターンのマッチングが行われるからです。詳細については、「Amazon CloudWatch Events ユーザーガイド」の「イベントとイベントパターン」および「Amazon EMR イベント」を参照してください。
注記
最も適切な情報を提供できるよう、エラーメッセージは継続的に改善されています。そのため、ワークフローの次のアクションを開始するためにメッセージのテキストを解析しないようにすることをお勧めします。
クラスター起動のイベント
状態や状態の変化 | 緊急度 | イベントタイプ | イベントコード | メッセージ |
---|---|---|---|---|
CREATING |
WARN |
EMR インスタンスフリートのプロビジョニング | EC2 provisioning - Insufficient Instance Capacity | インスタンスフリート InstanceFleetID 用の Amazon EMR クラスター ClusterId
(ClusterName) を作成できません。Amazon EC2 でインスタンスタイプ [Instancetype1, Instancetype2] のスポット容量が不足し、アベイラビリティーゾーン [Instancetype3,
Instancetype4] でインスタンスタイプ [AvailabilityZone1,
AvaliabilityZone2] のオンデマンド容量が不足しています。このイベントへの対応方法の詳細については、こちらのドキュメントを確認してください。 |
CREATING |
WARN |
EMR インスタンスグループのプロビジョニング | EC2 provisioning - Insufficient Instance Capacity | インスタンスグループ InstanceGroupID 用の Amazon EMR クラスター ClusterId
(ClusterName) を作成できません。Amazon EC2 でインスタンスタイプ [Instancetype1, Instancetype2] のスポット容量が不足し、アベイラビリティーゾーン [Instancetype3,
Instancetype4] でインスタンスタイプ [AvailabilityZone1,
AvaliabilityZone2] のオンデマンド容量が不足しています。このイベントへの対応方法の詳細については、こちらのドキュメントを確認してください。 |
CREATING |
WARN |
EMR インスタンスフリートのプロビジョニング | EC2 プロビジョニング - サブネット内の空きアドレスが不十分 | 指定されたサブネット [Subnet1, Subnet2] にリクエストを満たすのに十分な空きプライベート IP アドレスが含まれていないため、インスタンスフリート InstanceFleetID 用にリクエストした Amazon EMR クラスター ClusterId (ClusterName) を作成できません。DescribeSubnets オペレーションを使用して、サブネットで使用可能な (未使用の) IP アドレスの数を確認します。このイベントへの応答方法については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING |
WARN |
EMR インスタンスグループのプロビジョニング | EC2 プロビジョニング - サブネット内の空きアドレスが不十分 | 指定されたサブネット [Subnet1, Subnet2] にリクエストを満たすのに十分な空きプライベート IP アドレスが含まれていないため、インスタンスグループ InstanceGroupID 用にリクエストした Amazon EMR クラスター ClusterId (ClusterName) を作成できません。DescribeSubnets オペレーションを使用して、サブネットで使用可能な (未使用の) IP アドレスの数を確認します。このイベントへの応答方法については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスフリートのプロビジョニング |
EC2 プロビジョニング – vCPU 制限の超過 |
account (accountId) で実行中のインスタンスに割り当てられた vCPU (仮想処理ユニット) の数の制限に達したため、Amazon EMR クラスター ClusterId (ClusterName) での InstanceFleetID のプロビジョニングが遅れます。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスグループのプロビジョニング |
EC2 プロビジョニング – vCPU 制限の超過 |
アカウント (accountId) で実行中のインスタンスに割り当てられた vCPU (仮想処理ユニット) の数の制限に達したため、Amazon EMR クラスター ClusterId でのインスタンスグループ InstanceGroupID のプロビジョニングが遅れます。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスフリートのプロビジョニング |
EC2 プロビジョニング – スポットインスタンス数の制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスフリート InstanceFleetID のプロビジョニングが遅れているのは、account (accountId) で起動できるスポットインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスグループのプロビジョニング |
EC2 プロビジョニング – スポットインスタンス数の制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスグループ InstanceGroupID のプロビジョニングが遅れているのは、account (accountId) で起動できるスポットインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスフリートのプロビジョニング |
EC2 プロビジョニング - インスタンス制限の超過 |
Amazon EMR クラスター ClusterId (ClusterName) でのインスタンスフリート InstanceFleetID のプロビジョニングが遅れているのは、account (accountID) で同時に実行できるインスタンスの数の制限に達したためです。Amazon EC2 サービスの制限の詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING
|
WARN
|
EMR インスタンスグループのプロビジョニング |
EC2 プロビジョニング - インスタンス制限の超過 |
Amazon EMR クラスター ClusterId (ClusterName) でのインスタンスグループ InstanceGroupID のプロビジョニングが遅れているのは、account (accountID) で同時に実行できるインスタンスの数の制限に達したためです。Amazon EC2 サービスの制限の詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
CREATING |
WARN |
EMR インスタンスグループのプロビジョニング |
なし |
Amazon EMR クラスター ~ または ~ Amazon EMR クラスター 注記
|
STARTING
|
INFO
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター |
STARTING
|
INFO
|
EMR クラスターの状態の変更 |
なし |
注記インスタンスフリートが構成されており、Amazon EC2 内で複数のアベイラビリティーゾーンが選択されているクラスターのみに適用されます。 Amazon EMR クラスター |
STARTING
|
INFO
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター |
WAITING
|
INFO
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター ~ または ~ Amazon EMR クラスター 注記
|
注記
イベントコード EC2 provisioning - Insufficient Instance
Capacity
のイベントは、EMR クラスターでクラスターの作成またはサイズ変更操作中に、Amazon EC2 からインスタンスフリートやインスタンスグループの容量不足エラーが発生した場合に定期的に発行されます。これらのイベントへの対応方法の詳細については、「Amazon EMR クラスターのインスタンス容量不足のイベントに対応する」を参照してください。
クラスター終了のイベント
状態や状態の変化 | 緊急度 | イベントタイプ | イベントコード | メッセージ |
---|---|---|---|---|
TERMINATED
|
重大度は次に示す状態変更の理由によって異なります。
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター |
TERMINATED_WITH_ERRORS
|
CRITICAL
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター |
TERMINATED_WITH_ERRORS
|
CRITICAL
|
EMR クラスターの状態の変更 |
なし |
Amazon EMR クラスター |
インスタンスフリートの状態変更イベント
注記
インスタンスフリート設定は、5.0.0 および 5.0.3 を除く Amazon EMR リリース 4.8.0 以降でのみ使用できます。
状態や状態の変化 | 緊急度 | イベントタイプ | イベントコード | メッセージ |
---|---|---|---|---|
|
INFO
|
なし | Amazon EMR クラスター |
|
|
INFO
|
なし | Amazon EMR クラスター |
|
|
INFO
|
なし | Amazon EMR クラスター |
|
|
INFO
|
なし | Amazon EMR クラスター |
|
SUSPENDED
|
ERROR
|
なし | Amazon EMR クラスター |
|
RESIZING
|
WARNING
|
なし | Amazon EMR クラスター |
|
|
INFO
|
なし | Amazon EMR クラスター |
|
|
INFO
|
なし | Amazon EMR クラスター |
インスタンスフリートのサイズ変更のイベント
イベントタイプ | 緊急度 | イベントコード | メッセージ |
---|---|---|---|
EMR インスタンスフリートのサイズ変更 |
ERROR |
Spot Provisioning timeout |
Amazon EMR クラスター |
EMR インスタンスフリートのサイズ変更 |
ERROR |
On-Demand Provisioning timeout |
Amazon EMR クラスター |
EMR インスタンスフリートのサイズ変更 |
WARNING |
EC2 provisioning - Insufficient Instance Capacity | EMR クラスター |
EMR インスタンスフリートのサイズ変更 |
WARNING |
Spot Provisioning Timeout - Continuing Resize |
AZ |
EMR インスタンスフリートのサイズ変更 |
WARNING |
On-Demand Provisioning Timeout - Continuing Resize |
AZ |
EMR インスタンスフリートのサイズ変更 |
WARNING |
EC2 プロビジョニング - サブネット内の空きアドレスが不十分 |
指定されたサブネット [Subnet1、Subnet2] にリクエストを満たすのに十分な空きプライベート IP アドレスが含まれていないため、Amazon EMR クラスター ClusterId (ClusterName) のインスタンスフリート InstanceFleetID のサイズ変更オペレーションを完了できません。DescribeSubnets オペレーションを使用して、サブネットで使用可能な (未使用の) IP アドレスの数を表示します。このイベントへの応答方法については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスフリートのサイズ変更 |
WARNING |
EC2 プロビジョニング – vCPU 制限の超過 |
account (accountId) で実行中のインスタンスに割り当てられた vCPU (仮想処理ユニット) の数の制限に達したため、Amazon EMR クラスター ClusterName でのインスタンスフリート InstanceFleetID のサイズ変更が遅れます。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスフリートのサイズ変更 |
WARNING |
EC2 プロビジョニング - スポットインスタンス数の制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスフリート InstanceFleetID のプロビジョニングが遅れているのは、account (accountId) で起動できるスポットインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスフリートのサイズ変更 |
WARNING |
EC2 プロビジョニング - インスタンス制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスフリート InstanceFleetID のプロビジョニングが遅れているのは、account (accountId) で実行できるオンデマンドインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
注記
プロビジョニングのタイムアウトイベントは、タイムアウト時間が過ぎた後に Amazon EMR がフリートのスポット容量またはオンデマンド容量のプロビジョニングを停止した場合に発生します。これらのイベントへの対応方法の詳細については、「Amazon EMR クラスターのインスタンスフリートのサイズ変更タイムアウトイベントに対応する」を参照してください。
インスタンスグループのイベント
イベントタイプ | 緊急度 | イベントコード | メッセージ |
---|---|---|---|
|
INFO
|
なし | Amazon EMR クラスター |
|
INFO
|
なし | Amazon EMR クラスター |
SUSPENDED
|
ERROR
|
なし | Amazon EMR クラスター |
RESIZING
|
WARNING
|
なし | Amazon EMR クラスター |
EMR インスタンスグループのサイズ変更 |
WARNING |
EC2 provisioning - Insufficient Instance Capacity | Amazon EC2 でアベイラビリティーゾーン |
EMR インスタンスグループのサイズ変更 |
WARNING |
EC2 プロビジョニング - サブネット内の空きアドレスが不十分 |
指定されたサブネット [Subnet1、Subnet2] にリクエストを満たすのに十分な空きプライベート IP アドレスが含まれていないため、Amazon EMR クラスター ClusterId (ClusterName) のインスタンスグループ InstanceGroupID のサイズ変更オペレーションを完了できません。DescribeSubnets オペレーションを使用して、サブネットで使用可能な (未使用の) IP アドレスの数を表示します。このイベントへの応答方法については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスグループのサイズ変更 |
WARNING |
EC2 プロビジョニング – vCPU 制限の超過 |
account (accountId) で実行中のインスタンスに割り当てられた vCPU (仮想処理ユニット) の数の制限に達したため、Amazon EMR クラスター ClusterName でのインスタンスグループ InstanceGroupID のサイズ変更が遅れます。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスグループのサイズ変更 |
WARNING |
EC2 プロビジョニング - スポットインスタンス数の制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスグループ InstanceGroupID のプロビジョニングが遅れているのは、account (accountId) で起動できるスポットインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
EMR インスタンスグループのサイズ変更 |
WARNING |
EC2 プロビジョニング - インスタンス制限の超過 |
Amazon EMR クラスター ClusterID (ClusterName) でのインスタンスグループ InstanceGroupID のプロビジョニングが遅れているのは、account (accountId) で実行できるオンデマンドインスタンスの数の制限に達したためです。詳細については、「Error codes for the Amazon EC2 API」を参照してください。 |
|
INFO
|
なし | Amazon EMR クラスター |
注記
Amazon EMR バージョン 5.21.0 以降では、実行中のクラスター内のインスタンスグループごとに、クラスター設定を上書きして追加の設定分類を指定できます。これを行うには、Amazon EMR コンソール、AWS Command Line Interface (AWS CLI)、または AWS SDK を使用します。詳細については、「実行中のクラスターのインスタンスグループの設定を指定する」を参照してください。
Amazon EMR の再設定オペレーションのイベントを、イベントが示す状態や状態の変化、イベントの重大度、およびイベントメッセージとともに次の表に示します。
状態や状態の変化 | 緊急度 | メッセージ |
---|---|---|
RUNNING
|
INFO
|
Amazon EMR クラスター |
|
INFO
|
Amazon EMR クラスター |
|
INFO
|
Amazon EMR クラスター |
RESIZING
|
INFO
|
Amazon EMR クラスター |
RECONFIGURING
|
INFO
|
Amazon EMR クラスター ClusterId (ClusterName) 内のインスタンスグループ InstanceGroupID のインスタンス数 Num に対するサイズ変更操作は、インスタンスグループが State であるため、Time に一時的にブロックされます。 |
RECONFIGURING
|
WARNING
|
Amazon EMR クラスター |
RECONFIGURING
|
INFO
|
Amazon EMR クラスター |
|
INFO
|
Amazon EMR クラスター |
|
CRITICAL
|
Amazon EMR クラスター |
自動スケーリングポリシーのイベント
状態や状態の変化 | 緊急度 | メッセージ |
---|---|---|
PENDING
|
INFO
|
自動スケーリングポリシーは、Amazon EMR クラスター ~ または ~ Amazon EMR クラスター |
ATTACHED
|
INFO
|
Amazon EMR クラスター |
|
INFO
|
Amazon EMR クラスター |
FAILED
|
ERROR
|
Amazon EMR クラスター ~ または ~ Amazon EMR クラスター |
ステップイベント
状態や状態の変化 | 緊急度 | メッセージ |
---|---|---|
PENDING
|
INFO
|
ステップ |
CANCEL_PENDING
|
WARN
|
Amazon EMR クラスター |
RUNNING
|
INFO
|
Amazon EMR クラスター |
COMPLETED
|
INFO
|
Amazon EMR クラスター |
CANCELLED
|
WARN
|
Amazon EMR クラスター |
FAILED
|
ERROR
|
Amazon EMR クラスター |
異常なノード置換イベント
イベントタイプ | 緊急度 | イベントコード | メッセージ |
---|---|---|---|
Amazon EMR の異常なノード置換 |
INFO |
異常なコアノードの検出 |
Amazon EMR は、Amazon EMR クラスター |
Amazon EMR の異常なノード置換 |
INFO |
コアノードの異常 - 置換が無効 |
Amazon EMR は、Amazon EMR クラスター |
Amazon EMR の異常なノード置換 |
WARN |
異常なコアノードが置き換えられていない |
Amazon EMR は、理由により、Amazon EMR クラスター 注記Amazon EMR がコアノードを置き換えられない理由は、シナリオによって異なります。例えば、Amazon EMR がノードを削除できない理由の 1 つは、クラスターに残りのコアノードがないためです。 |
Amazon EMR の異常なノード置換 |
INFO |
異常なコアノードが復旧 |
Amazon EMR が Amazon EMR クラスター |
異常なノードの交換の詳細については、「Replacing unhealthy nodes」を参照してください。
Amazon EMR コンソールを使用してイベントを表示する
各クラスターについて、イベントの簡単なリストを詳細ペインに表示できます。これは発生の降順にイベントを表示します。また、リージョンでのすべてのクラスターのすべてのイベントを、発生の降順に表示することもできます。
ユーザーにリージョンでのすべてのクラスターのイベントを表示しないようにするには、"Effect": "Deny"
アクションのアクセス権限を拒否するステートメント (elasticmapreduce:ViewEventsFromAllClustersInConsole
) を、ユーザーにアタッチされているポリシーに追加します。
コンソールを使用して、リージョン内のすべてのクラスターのイベントを表示するには
-
AWS Management Consoleにサインインし、Amazon EMR コンソール (https://console.aws.amazon.com/emr
) を開きます。 -
左側のナビゲーションペインの [EMR on EC2] で [イベント] を選択します。
コンソールを使用して特定のクラスターのイベントを表示するには
-
AWS Management Consoleにサインインし、Amazon EMR コンソール (https://console.aws.amazon.com/emr
) を開きます。 -
左側のナビゲーションペインの [EMR on EC2] で、[クラスター] を選択し、クラスターを選択します。
-
すべてのイベントを表示するには、クラスターの詳細ページの [イベント] タブを選択します。