Monitoraggio dei processi - Amazon EMR

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Monitoraggio dei processi

Puoi utilizzare Amazon CloudWatch Events per tenere traccia dei lavori eseguiti su un cluster virtuale Amazon EMR su EKS. È possibile utilizzare gli eventi per tenere traccia dell'attività e dell'integrità di un processo eseguito in un cluster virtuale. Gli argomenti che seguono mostrano come configurare il monitoraggio in modo efficace per mantenere l'integrità delle risorse.

Monitora i lavori con Amazon CloudWatch Events

Amazon EMR su EKS emette eventi quando cambia lo stato dell'esecuzione di un processo. Per ogni evento sono disponibili informazioni, ad esempio la data e l'ora in cui si è verificato, nonché ulteriori dettagli, ad esempio l'ID del cluster virtuale e l'ID dell'esecuzione di processo che ha interessato.

È possibile utilizzare gli eventi per tenere traccia dell'attività e dell'integrità di un processo eseguito in un cluster virtuale. Puoi anche utilizzare Amazon CloudWatch Events per definire un'azione da intraprendere quando l'esecuzione di un job genera un evento che corrisponde a uno schema da te specificato. Gli eventi sono utili per monitorare un'occorrenza specifica durante il ciclo di vita dell'esecuzione di un processo. Ad esempio, è possibile monitorare quando l'esecuzione di un processo cambia stato da submitted a running. Per ulteriori informazioni sugli CloudWatch eventi, consulta la Amazon EventBridge User Guide.

La tabella seguente elenca gli eventi di Amazon EMR su EKS, insieme allo stato o alla modifica dello stato che l'evento indica, la gravità dell'evento e messaggi relativi agli eventi. Ogni evento è rappresentato come un oggetto JSON inviato automaticamente a un flusso di eventi. L'oggetto JSON include ulteriori dettagli sull'evento. L'oggetto JSON è particolarmente importante quando si impostano le regole per l'elaborazione CloudWatch degli eventi utilizzando Events, perché le regole cercano di corrispondere ai modelli dell'oggetto JSON. Per ulteriori informazioni, consulta Amazon EventBridge Event Patterns e Amazon EMR on EKS Events nella Amazon EventBridge User Guide.

Eventi di modifica dello stato dell'esecuzione di processo
Stato Gravità Messaggio
SUBMITTED (INVIATO) INFO Job Run JobRunId (JobRunName) è stato inviato correttamente al cluster virtuale VirtualClusterId all'TimeUTC.
RUNNING (ESECUZIONE IN CORSO) INFO Job Run JobRunId (JobRunName) nel cluster virtuale VirtualClusterId è iniziato aTime.
COMPLETED INFO Job Run jobRunId (JobRunName) nel cluster virtuale VirtualClusterId completato inTime. Il Job Run è iniziato a funzionare Time e il completamento ha richiesto alcuni Num minuti.
CANCELLED WARN La richiesta di annullamento è riuscita per Job Run JobRunId (JobRunName) nel cluster virtuale VirtualClusterId all'indirizzo Time e Job Run è ora annullato.
Non riuscito ERRORE Job Run JobRunId (JobRunName) nel cluster virtuale VirtualClusterId non è riuscito aTime.

Automatizza Amazon EMR su EKS con Events CloudWatch

Puoi utilizzare Amazon CloudWatch Events per automatizzare AWS i tuoi servizi e rispondere a eventi di sistema come problemi di disponibilità delle applicazioni o modifiche delle risorse. Gli eventi derivanti dai AWS servizi vengono trasmessi a CloudWatch Events quasi in tempo reale. Puoi compilare regole semplici che indichino quali eventi sono considerati di interesse per te e quali operazioni automatizzate intraprendere quando un evento corrisponde a una regola. Le azioni che possono essere attivate automaticamente includono le seguenti:

  • Invocare una funzione AWS Lambda

  • Richiamo del comando Amazon EC2 Run

  • Inoltro dell'evento a Amazon Kinesis Data Streams

  • Attivazione di una macchina a stati AWS Step Functions

  • Notifica di un argomento Amazon Simple Notification Service (SNS) o di una coda Amazon Simple Queue Service (SQS)

Alcuni esempi di utilizzo di CloudWatch Events with Amazon EMR su EKS includono:

  • Attivazione di una funzione Lambda quando un'esecuzione di processo ha esito positivo

  • Notifica di un argomento Amazon SNS quando un'esecuzione di processo ha esito negativo

CloudWatch Gli eventi per "detail-type:" "EMR Job Run State Change" vengono generati da Amazon EMR su EKS per SUBMITTED RUNNINGCANCELLED, FAILED e modifiche di COMPLETED stato.

Esempio: impostare una regola che richiami Lambda

Utilizza i seguenti passaggi per impostare una regola CloudWatch Events che richiami Lambda quando è presente un evento «EMR Job Run State Change».

aws events put-rule \ --name cwe-test \ --event-pattern '{"detail-type": ["EMR Job Run State Change"]}'

Aggiungi la funzione Lambda di tua proprietà come nuova destinazione e concedi a CloudWatch Events il permesso di richiamare la funzione Lambda come segue. Sostituisci 123456789012 con l'ID del tuo account.

aws events put-targets \ --rule cwe-test \ --targets Id=1,Arn=arn:aws:lambda:us-east-1:123456789012:function:MyFunction
aws lambda add-permission \ --function-name MyFunction \ --statement-id MyId \ --action 'lambda:InvokeFunction' \ --principal events.amazonaws.com
Nota

Non è possibile scrivere un programma che dipenda dall'ordine o dall'esistenza di eventi di notifica, poiché questi ultimi potrebbero essere fuori sequenza o mancanti. Gli eventi vengono emessi secondo il principio del massimo sforzo.

Monitora il driver pod del processo con una politica di riprova utilizzando Amazon Events CloudWatch

Utilizzando CloudWatch gli eventi, puoi monitorare i driver pod che sono stati creati in lavori che prevedono politiche di riprova. Per ulteriori informazioni sul tagging, consulta Monitoraggio di un processo con una policy di ripetizionein questa guida.