View a markdown version of this page

Acquisizione ed elaborazione del data lake di tracciamento - Tracciabilità con Serverless Analytics

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Acquisizione ed elaborazione del data lake di tracciamento

Data di pubblicazione: 15 luglio 2021 () Storia del diagramma

Questa architettura mostra come tracciare l'ingestione e l'elaborazione del data lake utilizzando AWS. X-Ray Puoi emettere tracce dai principali punti di controllo del flusso per diagnosticare i problemi del ciclo di vita dell'elaborazione dei dati del data lake e identificare i colli di bottiglia nelle prestazioni.

Tracciamento dell'acquisizione e dell'elaborazione dei dati tramite AWS X-Ray

Diagramma di architettura che mostra l'acquisizione e la tracciabilità dell'elaborazione dei dati tramite AWS X-Ray, AWS Step Functions AWS Lambda, e Amazon Simple Storage Service.

I passaggi seguenti descrivono l'architettura:

  1. Diversi produttori forniscono dati nel data lake creato su Amazon Simple Storage Service.

  2. I dati arrivano prima in un bucket Amazon S3 per i dati grezzi. Questa è la prima traccia poiché AWS X-Ray consente di tracciare i messaggi per le notifiche di eventi di Amazon S3.

  3. I blocchi di gestione del data lake preparano i dati per l'analisi. AWS Step Functionsattiva questi blocchi di elaborazione. AWS X-Ray si integra con Step Functions per aiutarti a identificare i colli di bottiglia nelle prestazioni e risolvere le richieste che hanno provocato un errore.

  4. X-Ray AWS è in grado di tracciare le funzioni. AWS Lambda Lambda esegue il X-Ray demone e registra un segmento con dettagli sull'invocazione della funzione e sui risultati. Per ulteriore strumentazione, abbina l' X-Ray SDK alla funzione per registrare le chiamate in uscita e aggiungere annotazioni e metadati.

  5. La cura dei dati continua con la macchina a stati Step Functions che attiva il blocco di cura successivo. Come il primo blocco, X-Ray può acquisire funzioni Step e funzioni Lambda.

  6. I dati arrivano in un bucket aggregato pronto per l'analisi. Questa è l'ultima traccia del flusso di ingestione del data lake. Grazie alle tracce emesse da tutti i checkpoint principali, è possibile diagnosticare i problemi relativi al ciclo di vita dell'elaborazione del data lake.

  7. Diversi strumenti di analisi come Amazon Quick Sight, Amazon Redshift e Amazon Athena consentono di visualizzare i dati del data lake creato su Amazon S3.

Approfondimenti

Per ulteriori informazioni, consulta le seguenti risorse:

Storia del diagramma

Per ricevere notifiche sugli aggiornamenti di questo diagramma di architettura di riferimento, iscriviti al feed RSS.

ModificaDescrizioneData

Pubblicazione iniziale

Diagramma dell'architettura di riferimento pubblicato per la prima volta.

15 luglio 2021

Pubblicazione iniziale

Diagramma dell'architettura di riferimento pubblicato per la prima volta.

15 luglio 2021

Nota

Per iscriverti agli aggiornamenti RSS, devi avere un plugin RSS abilitato per il browser che stai utilizzando.