CloudWatch에서 Amazon EMR 이벤트 모니터링
Amazon EMR은 Amazon EMR 콘솔에서 이벤트를 추적하고 이벤트 관련 정보를 최대 7일 동안 보관합니다. Amazon EMR은 클러스터, 인스턴스 그룹, 인스턴스 플릿, 자동 조정 정책 또는 단계의 상태가 변경될 때 이벤트를 기록합니다. 이벤트는 이벤트가 발생한 날짜 및 시간, 영향을 받는 요소에 대한 세부 정보 및 기타 중요한 데이터 포인트를 캡처합니다.
다음 테이블에는 Amazon EMR 이벤트와 함께 이벤트가 나타내는 상태 또는 상태 변경, 이벤트의 심각도, 이벤트 유형, 이벤트 코드 및 이벤트 메시지가 나와 있습니다. Amazon EMR은 이벤트를 JSON 객체로 표현하고 자동으로 이벤트 스트림으로 전송합니다. CloudWatch Events를 사용한 이벤트 처리를 위한 규칙은 JSON 객체의 패턴과 일치하므로 JSON 객체는 이 규칙을 설정할 때 중요합니다. 자세한 내용은 Amazon CloudWatch Events 사용 설명서에서 Events and event patterns 및 Amazon EMR events를 참조하세요.
참고
가장 적절한 정보를 받을 수 있도록 오류 메시지를 지속적으로 구체화하고 있습니다. 이러한 이유로 워크플로의 다음 작업을 시작하기 위해 메시지의 텍스트를 구문 분석하지 않는 것이 좋습니다.
클러스터 시작 이벤트
상태 또는 상태 변경 | 심각도 | 이벤트 유형 | 이벤트 코드 | 메시지 |
---|---|---|---|---|
CREATING |
WARN |
EMR 인스턴스 플릿 프로비저닝 | EC2 프로비저닝 - 인스턴스 용량 부족 | 인스턴스 플릿 InstanceFleetID 에 대해 Amazon EMR ClusterId
(ClusterName) 클러스터를 생성할 수 없습니다. [Instancetype3,
Instancetype4] 가용 영역에서 인스턴스 유형 [Instancetype1, Instancetype2] 에 사용할 Amazon EC2의 스팟 용량이 부족하고 인스턴스 유형 [AvailabilityZone1,
AvaliabilityZone2] 에 사용할 온디맨드 용량이 부족합니다. 이 이벤트에 대응하는 방법에 대한 자세한 내용은 이 설명서를 참조하세요. |
CREATING |
WARN |
EMR 인스턴스 그룹 프로비저닝 | EC2 프로비저닝 - 인스턴스 용량 부족 | 인스턴스 그룹 InstanceGroupID 에 대해 Amazon EMR ClusterId
(ClusterName) 클러스터를 생성할 수 없습니다. [Instancetype3,
Instancetype4] 가용 영역에서 인스턴스 유형 [Instancetype1, Instancetype2] 에 사용할 Amazon EC2의 스팟 용량이 부족하고 인스턴스 유형 [AvailabilityZone1,
AvaliabilityZone2] 에 사용할 온디맨드 용량이 부족합니다. 이 이벤트에 대응하는 방법에 대한 자세한 내용은 이 설명서를 참조하세요. |
CREATING |
WARN |
EMR 인스턴스 플릿 프로비저닝 | EC2 프로비저닝 - 서브넷의 사용 가능한 주소가 부족함 | 지정된 서브넷 [Subnet1, Subnet2] 에 사용 가능한 프라이빗 IP 주소가 부족하여 요청을 이행할 수 없으므로 인스턴스 플릿 InstanceFleetID 에 대해 요청한 Amazon EMR 클러스터 ClusterId (ClusterName) 를 생성할 수 없습니다. DescribeSubnets 작업을 사용하여 서브넷에서 사용 가능한 IP 주소 수(사용되지 않은 주소)를 확인합니다. 이 이벤트에 응답하는 방법에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING |
WARN |
EMR 인스턴스 그룹 프로비저닝 | EC2 프로비저닝 - 서브넷의 사용 가능한 주소가 부족함 | 지정된 서브넷 [Subnet1, Subnet2] 에 사용 가능한 프라이빗 IP 주소가 부족하여 요청을 이행할 수 없으므로 인스턴스 그룹 InstanceGroupID 에 대해 요청한 Amazon EMR 클러스터 ClusterId (ClusterName) 를 생성할 수 없습니다. DescribeSubnets 작업을 사용하여 서브넷에서 사용 가능한 IP 주소 수(사용되지 않은 주소)를 확인합니다. 이 이벤트에 응답하는 방법에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 플릿 프로비저닝 |
EC2 프로비저닝 - vCPU 제한을 초과함 |
account (accountId) 에서 실행 중인 인스턴스에 할당된 vCPU(가상 처리 단위) 수의 제한에 도달했으므로 Amazon EMR 클러스터 ClusterId (ClusterName) 에서 InstanceFleetID 의 프로비전이 지연됩니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 그룹 프로비저닝 |
EC2 프로비저닝 - vCPU 제한을 초과함 |
계정 (accountId) 에서 실행 중인 인스턴스에 할당된 vCPU(가상 처리 단위) 수의 제한에 도달했으므로 Amazon EMR 클러스터 ClusterId 에서 인스턴스 그룹 InstanceGroupID 의 프로비전이 지연됩니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 플릿 프로비저닝 |
EC2 프로비저닝 - 스팟 인스턴스 수 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 플릿 InstanceFleetID 의 프로비전이 지연됩니다. account (accountId) 에서 시작할 수 있는 스팟 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 그룹 프로비저닝 |
EC2 프로비저닝 - 스팟 인스턴스 수 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 그룹 InstanceGroupID 의 프로비전이 지연됩니다. account (accountId) 에서 시작할 수 있는 스팟 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 플릿 프로비저닝 |
EC2 프로비저닝 - 인스턴스 제한을 초과함 |
Amazon EMR 클러스터 ClusterId (ClusterName) 에서 인스턴스 플릿 InstanceFleetID 의 프로비전이 지연됩니다. account (accountID) 에서 동시에 실행할 수 있는 인스턴스 수의 제한에 도달했기 때문입니다. Amazon EC2 서비스 제한에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING
|
WARN
|
EMR 인스턴스 그룹 프로비저닝 |
EC2 프로비저닝 - 인스턴스 제한을 초과함 |
Amazon EMR 클러스터 ClusterId (ClusterName) 에서 인스턴스 그룹 InstanceGroupID 의 프로비전이 지연됩니다. account (accountID) 에서 동시에 실행할 수 있는 인스턴스 수의 제한에 도달했기 때문입니다. Amazon EC2 서비스 제한에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
CREATING |
WARN |
EMR 인스턴스 그룹 프로비저닝 |
none |
Amazon EMR – 또는 - Amazon EMR 클러스터 참고그럼에도 불구하고 |
STARTING
|
INFO
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR |
STARTING
|
INFO
|
EMR 클러스터 상태 변경 |
none |
참고Amazon EC2 내에서 선택된 인스턴스 플릿 구성 및 여러 가용 영역이 있는 클러스터에만 적용됩니다. Amazon EMR |
STARTING
|
INFO
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR |
WAITING
|
INFO
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR – 또는 - Amazon EMR 클러스터 참고그럼에도 불구하고 |
참고
클러스터 생성 또는 크기 조정 작업 중에 EMR 클러스터에서 Amazon EC2의 인스턴스 플릿 또는 인스턴스 그룹에 대한 용량 부족 오류가 발생하면 EC2 provisioning - Insufficient Instance
Capacity
이벤트 코드의 이벤트가 주기적으로 발생합니다. 이러한 이벤트에 대응하는 방법에 대한 자세한 내용은 Amazon EMR 클러스터 인스턴스 용량 부족 이벤트에 대한 대응 섹션을 참조하세요.
클러스터 종료 이벤트
상태 또는 상태 변경 | 심각도 | 이벤트 유형 | 이벤트 코드 | 메시지 |
---|---|---|---|---|
TERMINATED
|
심각도는 다음과 같이 상태가 변경된 이유에 따라 다릅니다.
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR |
TERMINATED_WITH_ERRORS
|
CRITICAL
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR |
TERMINATED_WITH_ERRORS
|
CRITICAL
|
EMR 클러스터 상태 변경 |
none |
Amazon EMR |
인스턴스 플릿 상태 변경 이벤트
참고
인스턴스 플릿 구성은 5.0.0 및 5.0.3을 제외한 Amazon EMR 릴리스 4.8.0 이상에서만 제공됩니다.
상태 또는 상태 변경 | 심각도 | 이벤트 유형 | 이벤트 코드 | 메시지 |
---|---|---|---|---|
|
INFO
|
none | Amazon EMR |
|
|
INFO
|
none | Amazon EMR |
|
|
INFO
|
none | Amazon EMR |
|
|
INFO
|
none | Amazon EMR |
|
SUSPENDED
|
ERROR
|
none | Amazon EMR |
|
RESIZING
|
WARNING
|
none | Amazon EMR |
|
|
INFO
|
none | Amazon EMR이 |
|
|
INFO
|
none | Amazon EMR |
인스턴스 플릿 크기 조정 이벤트
이벤트 유형 | 심각도 | 이벤트 코드 | 메시지 |
---|---|---|---|
EMR 인스턴스 플릿 크기 조정 |
ERROR |
스팟 프로비저닝 제한 시간 |
|
EMR 인스턴스 플릿 크기 조정 |
ERROR |
온디맨드 프로비저닝 제한 시간 |
|
EMR 인스턴스 플릿 크기 조정 |
WARNING |
EC2 프로비저닝 - 인스턴스 용량 부족 | EMR |
EMR 인스턴스 플릿 크기 조정 |
WARNING |
스팟 프로비저닝 제한 시간 - 크기 조정 계속 |
|
EMR 인스턴스 플릿 크기 조정 |
WARNING |
온디맨드 프로비저닝 제한 시간 - 크기 조정 계속 |
|
EMR 인스턴스 플릿 크기 조정 |
WARNING |
EC2 프로비저닝 - 서브넷의 사용 가능한 주소가 부족함 |
지정된 서브넷 [Subnet1, Subnet2]에 사용 가능한 프라이빗 IP 주소가 부족하여 요청을 이행할 수 없으므로 Amazon EMR 클러스터 ClusterId (ClusterName) 에서 인스턴스 플릿 InstanceFleetID 에 대한 크기 조정 작업을 완료할 수 없습니다. DescribeSubnets 작업을 사용하여 서브넷에서 사용 가능한 IP 주소 수(사용되지 않은 주소)를 확인합니다. 이 이벤트에 응답하는 방법에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 플릿 크기 조정 |
WARNING |
EC2 프로비저닝 - vCPU 제한을 초과함 |
account (accountId) 에서 실행 중인 인스턴스에 할당된 vCPU(가상 처리 단위) 수의 제한에 도달했으므로 Amazon EMR 클러스터 ClusterName 에서 인스턴스 플릿 InstanceFleetID 의 크기 조정이 지연됩니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 플릿 크기 조정 |
WARNING |
EC2 프로비저닝 - 스팟 인스턴스 수 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 플릿 InstanceFleetID 의 프로비전이 지연됩니다. account (accountId) 에서 시작할 수 있는 스팟 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 플릿 크기 조정 |
WARNING |
EC2 프로비저닝 - 인스턴스 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 플릿 InstanceFleetID 의 프로비전이 지연됩니다. account (accountId) 에서 실행할 수 있는 온디맨드 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
참고
프로비저닝 제한 시간 이벤트는 제한 시간이 만료된 후 Amazon EMR이 플릿에 대한 스팟 또는 온디맨드 용량 프로비저닝을 중지할 때 발생합니다. 이러한 이벤트에 대응하는 방법에 대한 자세한 내용은 Amazon EMR 클러스터 인스턴스 플릿 크기 조정 제한 시간 이벤트에 대한 대응 섹션을 참조하세요.
인스턴스 그룹 이벤트
이벤트 유형 | 심각도 | 이벤트 코드 | 메시지 |
---|---|---|---|
|
INFO
|
none | Amazon EMR |
|
INFO
|
none | Amazon EMR |
SUSPENDED
|
ERROR
|
none | Amazon EMR |
RESIZING
|
WARNING
|
none | Amazon EMR |
EMR 인스턴스 그룹 크기 조정 |
WARNING |
EC2 프로비저닝 - 인스턴스 용량 부족 | EMR |
EMR 인스턴스 그룹 크기 조정 |
WARNING |
EC2 프로비저닝 - 서브넷의 사용 가능한 주소가 부족함 |
지정된 서브넷 [Subnet1, Subnet2]에 사용 가능한 프라이빗 IP 주소가 부족하여 요청을 이행할 수 없으므로 Amazon EMR 클러스터 ClusterId (ClusterName) 에서 인스턴스 그룹 InstanceGroupID 에 대한 크기 조정 작업을 완료할 수 없습니다. DescribeSubnets 작업을 사용하여 서브넷에서 사용 가능한 IP 주소 수(사용되지 않은 주소)를 확인합니다. 이 이벤트에 응답하는 방법에 대한 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 그룹 크기 조정 |
WARNING |
EC2 프로비저닝 - vCPU 제한을 초과함 |
account (accountId) 에서 실행 중인 인스턴스에 할당된 vCPU(가상 처리 단위) 수의 제한에 도달했으므로 Amazon EMR 클러스터 ClusterName 에서 인스턴스 그룹 InstanceGroupID 의 크기 조정이 지연됩니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 그룹 크기 조정 |
WARNING |
EC2 프로비저닝 - 스팟 인스턴스 수 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 그룹 InstanceGroupID 의 프로비전이 지연됩니다. account (accountId) 에서 시작할 수 있는 스팟 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
EMR 인스턴스 그룹 크기 조정 |
WARNING |
EC2 프로비저닝 - 인스턴스 제한을 초과함 |
Amazon EMR 클러스터 ClusterID (ClusterName) 에서 인스턴스 그룹 InstanceGroupID 의 프로비전이 지연됩니다. account (accountId) 에서 실행할 수 있는 온디맨드 인스턴스 수의 제한에 도달했기 때문입니다. 자세한 내용은 Error codes for the Amazon EC2 API를 참조하세요. |
|
INFO
|
none | Amazon EMR |
참고
Amazon EMR 버전 5.21.0 이상에서는 클러스터 구성을 재정의할 수 있으며, 실행 중인 클러스터의 각 인스턴스 그룹에 대해 추가 구성 분류를 지정할 수 있습니다. Amazon EMR 콘솔, AWS Command Line Interface(AWS CLI) 또는 AWS SDK를 사용하여 이 작업을 수행할 수 있습니다. 자세한 내용은 실행 중 클러스터의 인스턴스 그룹에 대해 구성 제공을 참조하십시오.
다음 테이블에는 재구성 작업의 Amazon EMR 이벤트, 이벤트가 나타내는 상태 또는 상태 변경, 이벤트의 심각도 및 이벤트 메시지가 나와 있습니다.
상태 또는 상태 변경 | 심각도 | 메시지 |
---|---|---|
RUNNING
|
INFO
|
Amazon EMR |
|
INFO
|
Amazon EMR |
|
INFO
|
Amazon EMR |
RESIZING
|
INFO
|
Amazon EMR |
RECONFIGURING
|
INFO
|
Amazon EMR ClusterId (ClusterName) 클러스터의 인스턴스 그룹 InstanceGroupID 에 대한 인스턴스 개수(Num 개)에서의 크기 조정 작업이 Time 에 일시적으로 차단됩니다. 인스턴스 그룹이 State 상태이기 때문입니다. |
RECONFIGURING
|
WARNING
|
Amazon EMR |
RECONFIGURING
|
INFO
|
Amazon EMR |
|
INFO
|
Amazon EMR |
|
CRITICAL
|
Amazon EMR |
자동 조정 정책 이벤트
상태 또는 상태 변경 | 심각도 | 메시지 |
---|---|---|
PENDING
|
INFO
|
– 또는 -
|
ATTACHED
|
INFO
|
|
|
INFO
|
|
FAILED
|
ERROR
|
Amazon EMR – 또는 - Amazon EMR |
단계 이벤트
상태 또는 상태 변경 | 심각도 | 메시지 |
---|---|---|
PENDING
|
INFO
|
|
CANCEL_PENDING
|
WARN
|
|
RUNNING
|
INFO
|
Amazon EMR |
COMPLETED
|
INFO
|
Amazon EMR |
CANCELLED
|
WARN
|
|
FAILED
|
ERROR
|
|
비정상 노드 교체 이벤트
이벤트 유형 | 심각도 | 이벤트 코드 | 메시지 |
---|---|---|---|
Amazon EMR 비정상 노드 교체 |
INFO |
비정상 코어 노드 감지됨 |
Amazon EMR은 Amazon EMR 클러스터 |
Amazon EMR 비정상 노드 교체 |
INFO |
코어 노드 비정상 - 대체 비활성화됨 |
Amazon EMR은 Amazon EMR 클러스터 |
Amazon EMR 비정상 노드 교체 |
WARN |
비정상 코어 노드 교체되지 않음 |
Amazon EMR은 이유 때문에 Amazon EMR 클러스터 참고Amazon EMR이 코어 노드를 교체할 수 없는 이유는 시나리오에 따라 다릅니다. 예를 들어 Amazon EMR이 노드를 삭제할 수 없는 한 가지 이유는 클러스터에 나머지 코어 노드가 없기 때문입니다. |
Amazon EMR 비정상 노드 교체 |
INFO |
비정상 코어 노드 복구됨 |
Amazon EMR이 Amazon EMR 클러스터 |
비정상 노드 교체에 대한 자세한 내용은 비정상 노드 교체를 참조하세요.
Amazon EMR 콘솔을 사용하여 이벤트 보기
각 클러스터마다 이벤트가 내림차순으로 나열되어 있는 세부 정보 창에서 간단한 이벤트 목록을 확인할 수 있습니다. 또한 리전에 속한 모든 클러스터의 이벤트까지 모두 내림차순으로 표시됩니다.
리전의 모든 클러스터 이벤트가 특정 사용자에게 노출되지 않도록 하려면 "Effect": "Deny"
작업 권한을 거부하는 문(elasticmapreduce:ViewEventsFromAllClustersInConsole
)을 해당 사용자와 연결된 정책에 추가합니다.
콘솔을 사용하여 리전의 모든 클러스터 이벤트를 보는 방법
-
AWS Management Console에 로그인한 후 https://console.aws.amazon.com/emr
에서 Amazon EMR 콘솔을 엽니다. -
왼쪽 탐색 창의 EMR on EC2에서 이벤트를 선택합니다.
콘솔을 사용하여 특정 클러스터 이벤트를 보는 방법
-
AWS Management Console에 로그인한 후 https://console.aws.amazon.com/emr
에서 Amazon EMR 콘솔을 엽니다. -
왼쪽 탐색 창의 EMR on EC2에서 클러스터를 선택하고 클러스터를 선택합니다.
-
모든 이벤트를 보려면 클러스터 세부 정보 페이지에서 이벤트 탭을 선택합니다.