Creazione di indici di partizione - AWS Glue
Informazioni sugli indici delle partizioniCreazione di una tabella con indici delle partizioniAggiunta di un indice di partizione a una tabella esistenteDescrizione degli indici delle partizioni su una tabellaLimitazioni all'utilizzo degli indici delle partizioniUtilizzo degli indici per una chiamata ottimizzata GetPartitions Integrazione con i motori

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Creazione di indici di partizione

Nel corso del tempo, centinaia di migliaia di partizioni vengono aggiunte a una tabella. GetPartitions APIViene utilizzato per recuperare le partizioni nella tabella. Le partizioni API restituite che corrispondono all'espressione fornita nella richiesta.

Prendiamo come esempio una tabella sales_data che è partizionata dalle chiavi Country, Category, Year, Month e. creationDate Se desideri ottenere i dati di vendita per tutti gli articoli venduti per la categoria Libri nell'anno 2020 dopo il 15 agosto 2020, devi effettuare una GetPartitions richiesta con l'espressione «Category = 'Books' e creationDate > '2020-08-15'» al Data Catalog.

Se nella tabella non sono presenti indici delle partizioni, AWS Glue carica tutte le partizioni della tabella e quindi filtra le partizioni caricate utilizzando l'espressione di query fornita dall'utente nella richiesta GetPartitions. L'esecuzione della query richiede più tempo man mano che il numero di partizioni aumenta in una tabella senza indici. Con un indice, la query GetPartitions cercherà di recuperare un sottoinsieme delle partizioni invece di caricare tutte le partizioni nella tabella.

Informazioni sugli indici delle partizioni

Quando crei un indice di partizione, specifichi un elenco di chiavi di partizione già esistenti in una determinata tabella. L'indice delle partizioni è un sottoelenco di chiavi di partizione definite nella tabella. Un indice di partizione può essere creato su qualsiasi permutazione delle chiavi di partizione definite nella tabella. Per la tabella sales_data precedente, gli indici possibili sono (paese, categoria,creationDate), (paese, categoria, anno), (paese, categoria), (paese), (categoria, paese, anno, mese) e così via.

Il catalogo dati concatenerà i valori delle partizioni nell'ordine fornito al momento della creazione dell'indice. L'indice viene creato in modo coerente man mano che le partizioni vengono aggiunte alla tabella. Gli indici possono essere creati per i tipi di colonna String (string, char e varchar), Numeric (int, bigint, long, tinyint e smallint) e Date (yyyy-MM-DD).

Tipi di dati supportati

  • Data: una data in ISO formato, ad esempioYYYY-MM-DD. Ad esempio, data2020-08-15. Il formato utilizza i trattini (‐) per separare l'anno, il mese e il giorno. L'intervallo consentito per le date per l'indicizzazione va da a. 0000-01-01 9999-12-31

  • String: una stringa letterale racchiusa tra virgolette singole o doppie.

  • Char: dati di caratteri a lunghezza fissa, con una lunghezza specificata compresa tra 1 e 255, come char (10).

  • Varchar — Dati di caratteri a lunghezza variabile, con una lunghezza specificata compresa tra 1 e 65535, come varchar (10).

  • Numerico: int, bigint, long, tinyint e smallint

Gli indici sui tipi di dati Numeric, String e Date supportano =, >, >=, <, <= e tra gli operatori. La soluzione di indicizzazione attualmente supporta solo l'operatore logico AND. Le sottoespressioni con gli operatori "LIKE«, «IN», «OR» e "NOT" vengono ignorate nell'espressione per il filtraggio mediante un indice. Il filtraggio per la sottoespressione ignorata viene eseguito sulle partizioni recuperate dopo aver applicato il filtraggio dell'indice.

Per ogni partizione aggiunta a una tabella, viene creato un elemento indice corrispondente. Per una tabella con partizioni "n", l'indice di partizione 1 risulterà come elementi indice di partizione "n". L'indice di partizione "m" sulla stessa tabella risulterà come elementi di indice di partizione "m*n". Ogni elemento dell'indice della partizione verrà addebitato in base alla policy dei prezzi AWS Glue corrente per l'archiviazione del catalogo dati. Per informazioni dettagliate sui prezzi degli oggetti di archiviazione, consulta Prezzi di AWS Glue.

Creazione di una tabella con indici delle partizioni

È possibile creare un indice di partizione durante la creazione di una tabella. La richiesta CreateTable utilizza un elenco di oggetti PartitionIndex come input. È possibile creare un massimo di 3 indici delle partizioni su una determinata tabella. Ogni indice di partizione richiede un nome e un elenco di partitionKeys definite per la tabella. Gli indici creati su una tabella possono essere recuperati utilizzando GetPartitionIndexesAPI

Aggiunta di un indice di partizione a una tabella esistente

Per aggiungere un indice di partizione a una tabella esistente, utilizza l'operazione CreatePartitionIndex. Puoi creare un solo PartitionIndex per ogni operazione CreatePartitionIndex. L'aggiunta di un indice non influisce sulla disponibilità di una tabella, poiché durante la creazione degli indici la tabella continua a essere disponibile.

Lo stato dell'indice per una partizione aggiunta è impostato su CREATING e viene avviata la creazione dei dati dell'indice. Se il processo di creazione degli indici ha esito positivo, indexStatus viene aggiornato a ACTIVE e, in caso di esito negativo, lo stato dell'indice viene aggiornato a. FAILED La creazione dell'indice può avere esito negativo per diversi motivi ed è possibile utilizzare l'operaizione GetPartitionIndexes per recuperare i dettagli dell'errore. I possibili errori sono:

  • ENCRYPTED_ PARTITION _ ERROR — La creazione di indici su una tabella con partizioni crittografate non è supportata.

  • INVALID_ PARTITION _ TYPE _ DATA _ ERROR — Osservato quando il partitionKey valore non è un valore valido per il tipo di partitionKey dati corrispondente. Ad esempio: una partitionKey con il tipo di dati 'int' ha un valore 'foo'.

  • MISSING_ PARTITION _ VALUE _ ERROR — Osservato quando il partitionValue for an non indexedKey è presente. Ciò può accadere quando una tabella non è partizionata in modo coerente.

  • UNSUPPORTED_ PARTITION _ CHARACTER _ ERROR — Osservato quando il valore di una chiave di partizione indicizzata contiene i caratteri\ u0000,\ u0001 o\ u0002

  • INTERNAL_ ERROR — Si è verificato un errore interno durante la creazione degli indici.

Descrizione degli indici delle partizioni su una tabella

Per recuperare gli indici delle partizioni creati su una tabella, utilizza l'operazione GetPartitionIndexes. La parte risposta mostra tutti gli indici della tabella insieme allo stato corrente di ciascun indice (IndexStatus).

L'IndexStatus di un indice può essere uno dei seguenti:

  • CREATING: l'indice è in fase di creazione e non è ancora disponibile per l'uso.

  • ACTIVE: l'indice è pronto per l'uso. Le richieste possono utilizzare l'indice per eseguire una query ottimizzata.

  • DELETING: l'indice è attualmente in fase di eliminazione e non può essere più utilizzato. Un indice nello stato attivo può essere eliminato utilizzando la DeletePartitionIndex richiesta, che sposta lo stato da aACTIVE. DELETING

  • FAILED: la creazione dell'indice su una tabella esistente non è riuscita. Ogni tabella memorizza gli ultimi 10 indici non riusciti.

Le possibili transizioni di stato per gli indici creati su una tabella esistente sono le seguenti:

  • CREATING → ACTIVE → DELETING

  • CREATING → FAILED

Limitazioni all'utilizzo degli indici delle partizioni

Dopo aver creato un indice delle partizioni, prendi nota delle seguenti modifiche alla funzionalità di tabella e partizione:

Creazione di una nuova partizione (dopo l'aggiunta dell'indice)

Dopo aver creato un indice delle partizioni su una tabella, tutte le nuove partizioni aggiunte alla tabella verranno convalidate per i controlli del tipo di dati per le chiavi indicizzate. Il valore di partizione delle chiavi indicizzate verrà convalidato per il formato del tipo di dati. Se il controllo del tipo di dati non riesce, l'operazione di creazione della partizione avrà esito negativo. Per la tabella sales_data, se viene creato un indice per le chiavi (categoria, anno) in cui la categoria è di tipo string e anno di tipoint, la creazione della nuova partizione con un valore pari a «foo» avrà esito YEAR negativo.

Dopo che gli indici sono abilitati, l'aggiunta di partizioni con valori chiave indicizzati aventi i caratteri U+0000, U+00001 e U+0002 inizierà ad avere esito negativo.

Aggiornamenti della tabella

Una volta creato un indice delle partizioni in una tabella, non è possibile modificare i nomi delle chiavi di partizione esistenti né modificare il tipo o l'ordine delle chiavi registrate con l'indice.

Utilizzo degli indici per una chiamata ottimizzata GetPartitions

Quando chiami GetPartitions su una tabella con un indice, puoi includere un'espressione e, se possibile, il catalogo dati utilizzerà un indice. La prima chiave dell'indice deve essere trasmessa nell'espressione per utilizzare gli indici nel filtro. L'ottimizzazione dell'indice nel filtraggio viene applicata come miglior tentativo. Il catalogo dati tenta di utilizzare il più possibile l'ottimizzazione dell'indice, ma in caso di indice mancante o di operatore non supportato, ritorna all'implementazione esistente di caricamento di tutte le partizioni.

Per la tabella sales_data di cui sopra, aggiungiamo l'indice [Country, Category, Year]. Se "Country" non viene trasmesso nell'espressione, l'indice registrato non sarà in grado di filtrare le partizioni utilizzando gli indici. È possibile aggiungere fino a 3 indici per supportare vari modelli di query.

Prendiamo alcune espressioni di esempio e vediamo come funzionano gli indici:

Espressioni Come verrà usato l'indice

Country = 'US'

L'indice verrà utilizzato per filtrare le partizioni.

Country = 'US' and Category = 'Shoes'

L'indice verrà utilizzato per filtrare le partizioni.

Category = 'Shoes'

Gli indici non utilizzati come "country" non verranno specificati nell'espressione. Tutte le partizioni verranno caricate per restituire una risposta.

Country = 'US' and Category = 'Shoes' and Year > '2018'

L'indice verrà utilizzato per filtrare le partizioni.

Country = 'US' and Category = 'Shoes' and Year > '2018' and month = 2

L'indice verrà utilizzato per recuperare tutte le partizioni con country = "US" e category = "shoes" e year > 2018. Quindi, verrà eseguito il filtraggio sull'espressione del mese.

Paese = 'USA' AND Categoria = 'Scarpe' OPPURE Anno > '2018'

Gli indici non verranno utilizzati poiché nell'espressone è presente l'operatore OR.

Paese = «Stati Uniti» AND Categoria = «Scarpe» AND (Anno = 2017 O Anno = «2018»)

L'indice verrà utilizzato per recuperare tutte le partizioni con country = "US" e category = "shoes" e quindi verrà eseguito il filtraggio sull'espressione del mese.

Paese in («Stati Uniti», «Regno Unito») AND Categoria = «Scarpe»

Gli indici non verranno utilizzati per il filtraggio poiché l'operatore IN al momento non è supportato.

Paese = AND categoria «Stati Uniti» in («Scarpe», «Libri»)

L'indice verrà utilizzato per recuperare tutte le partizioni con country = "US", quindi verrà eseguito il filtro sull'espressione Category.

Paese = AND categoria «Stati Uniti» in («Scarpe», «Libri») AND (creationDate > '2023-9-01'

L'indice verrà utilizzato per recuperare tutte le partizioni con country = «US», con creationDate > '2023-9-01', quindi verrà eseguito il filtraggio in base all'espressione Category.

Integrazione con i motori

Redshift Spectrum, Amazon EMR e AWS Glue ETL Spark DataFrames sono in grado di utilizzare gli indici per recuperare le partizioni dopo che gli indici si trovano in uno stato in. ACTIVE AWS Glue I frame Athena e AWS Glue ETL Dynamic richiedono l'esecuzione di passaggi aggiuntivi per utilizzare gli indici per migliorare le query.

Abilita il filtraggio delle partizioni

Per abilitare il filtraggio delle partizioni in Athena, è necessario aggiornare le proprietà della tabella come segue:

  1. Nella AWS Glue console, in Data Catalog, scegli Tabelle.

  2. Scegliere una tabella .

  3. In Azioni, scegli Modifica tabella.

  4. In Proprietà della tabella, aggiungi quanto segue:

    • Chiave — partition_filtering.enabled

    • Valore — true

  5. Scegli Applica.

In alternativa, è possibile impostare questo parametro eseguendo un'ALTERTABLESETPROPERTIESinterrogazione in Athena.

ALTER TABLE partition_index.table_with_index
SET TBLPROPERTIES ('partition_filtering.enabled' = 'true')