Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Connettore Amazon Athena per Cloudera Impala
Il connettore Amazon Athena Cloudera Impala consente ad Athena di eseguire SQL query sulla distribuzione Cloudera Impala.
Questo connettore non utilizza Glue Connections per centralizzare le proprietà di configurazione in Glue. La configurazione della connessione viene effettuata tramite Lambda.
Prerequisiti
Implementa il connettore sul tuo Account AWS utilizzando la console Athena o AWS Serverless Application Repository. Per ulteriori informazioni, consulta Creare una connessione a una fonte di dati o Utilizzare il AWS Serverless Application Repository per distribuire un connettore di origine dati.
Configura un gruppo di sicurezza VPC e un gruppo di sicurezza prima di utilizzare questo connettore. Per ulteriori informazioni, consulta Crea un connettore o una AWS Glue connessione VPC per un'origine dati.
Limitazioni
-
DDLLe operazioni di scrittura non sono supportate.
-
In una configurazione multiplex, il bucket di spill e il prefisso sono condivisi tra tutte le istanze del database.
-
Eventuali limiti Lambda pertinenti. Per ulteriori informazioni, consulta la sezione Quote Lambda nella Guida per gli sviluppatori di AWS Lambda .
Termini
I seguenti termini si riferiscono al connettore Cloudera Impala.
-
Istanza di database: qualsiasi istanza di un database distribuita in locale, su Amazon EC2 o su AmazonRDS.
-
Gestore: un gestore Lambda che accede all'istanza del database. Un gestore può gestire i metadati o i record di dati.
-
Gestore dei metadati: un gestore Lambda che recupera i metadati dall'istanza del database.
-
Gestore dei record: un gestore Lambda che recupera i record di dati dall'istanza del database.
-
Gestore composito: un gestore Lambda che recupera sia i metadati sia i record di dati dall'istanza del database.
-
Proprietà o parametro: una proprietà del database utilizzata dai gestori per estrarre le informazioni del database. Queste proprietà vengono configurate come variabili di ambiente Lambda.
-
Stringa di connessione: una stringa di testo utilizzata per stabilire una connessione a un'istanza del database.
-
Catalogo: un AWS Glue catalogo non registrato con Athena che è un prefisso obbligatorio per la proprietà.
connection_string -
Gestore multiplex: un gestore Lambda in grado di accettare e utilizzare più connessioni al database.
Parametri
Utilizza i parametri di questa sezione per configurare il connettore Cloudera Impala.
Stringa di connessione
Usa una stringa di JDBC connessione nel seguente formato per connetterti a un cluster Impala.
impala://${jdbc_connection_string}
Utilizzo di un gestore multiplex
Puoi utilizzare un gestore multiplex per connetterti a più istanze del database con una singola funzione Lambda. Le richieste vengono indirizzate in base al nome del catalogo. Utilizza le seguenti classi in Lambda.
| Gestore | Classe |
|---|---|
| Gestore composito | ImpalaMuxCompositeHandler |
| Gestore dei metadati | ImpalaMuxMetadataHandler |
| Gestore dei record | ImpalaMuxRecordHandler |
Parametri del gestore multiplex
| Parametro | Descrizione |
|---|---|
$ |
Obbligatorio. Una stringa di connessione al cluster Impala per un catalogo Athena. Appone alla variabile di ambiente un prefisso con il nome del catalogo utilizzato in Athena. Ad esempio, se il catalogo registrato presso Athena è myimpalacatalog, il nome della variabile di ambiente è myimpalacatalog_connection_string. |
default |
Obbligatorio. La stringa di connessione predefinita. Questa stringa viene utilizzata quando il catalogo è lambda:${ AWS_LAMBDA_FUNCTION_NAME}. |
Le seguenti proprietà di esempio riguardano una funzione Impala MUX Lambda che supporta due istanze di databaseimpala1: (impostazione predefinita) e. impala2
| Proprietà | Valore |
|---|---|
default |
impala://jdbc:impala://some.impala.host.name:21050/?${Test/impala1} |
impala_catalog1_connection_string |
impala://jdbc:impala://someother.impala.host.name:21050/?${Test/impala1} |
impala_catalog2_connection_string |
impala://jdbc:impala://another.impala.host.name:21050/?UID=sample&PWD=sample |
Specifica delle credenziali
Per fornire un nome utente e una password per il database nella stringa di JDBC connessione, è possibile utilizzare le proprietà della stringa di connessione o. AWS Secrets Manager
-
Stringa di connessione: è possibile specificare un nome utente e una password come proprietà nella stringa di JDBC connessione.
Importante
Come best practice di sicurezza, non utilizzare credenziali codificate nelle variabili di ambiente o nelle stringhe di connessione. Per informazioni su come trasferire i segreti codificati in AWS Secrets Manager, consulta Move i segreti codificati AWS Secrets Manager nella Guida per l'utente.AWS Secrets Manager
-
AWS Secrets Manager— Per utilizzare la funzionalità Athena Federated Query con AWS Secrets Manager, la persona VPC connessa alla funzione Lambda deve avere accesso a Internet
o un VPCendpoint per connettersi a Secrets Manager. È possibile inserire il nome di un segreto AWS Secrets Manager nella stringa di connessione. JDBC Il connettore sostituisce il nome del segreto con i valori
usernameepassworddi Secrets Manager.Per le istanze di RDS database Amazon, questo supporto è strettamente integrato. Se utilizzi AmazonRDS, ti consigliamo vivamente di utilizzare la rotazione AWS Secrets Manager delle credenziali. Se il tuo database non utilizza AmazonRDS, archivia le credenziali JSON nel seguente formato:
{"username": "${username}", "password": "${password}"}
Esempio di stringa di connessione con nome del segreto
La stringa seguente ha il nome del segreto ${Test/impala1host}.
impala://jdbc:impala://Impala1host:21050/?...&${Test/impala1host}&...
Il connettore utilizza il nome del segreto per recuperare i segreti e fornire il nome utente e la password, come nell'esempio seguente.
impala://jdbc:impala://Impala1host:21050/?...&UID=sample2&PWD=sample2&...
Attualmente, Cloudera Impala riconosce le proprietà and. UID PWD JDBC
Utilizzo di un gestore a singola connessione
Puoi utilizzare i seguenti gestori di metadati e record a singola connessione per connetterti a una singola istanza Cloudera Impala.
| Tipo di gestore | Classe |
|---|---|
| Gestore composito | ImpalaCompositeHandler |
| Gestore dei metadati | ImpalaMetadataHandler |
| Gestore dei record | ImpalaRecordHandler |
Parametri del gestore a singola connessione
| Parametro | Descrizione |
|---|---|
default |
Obbligatorio. La stringa di connessione predefinita. |
I gestori a singola connessione supportano una sola istanza del database e devono fornire un parametro di stringa di connessione del tipo default. Tutte le altre stringhe di connessione vengono ignorate.
La seguente proprietà di esempio si riferisce a una singola istanza Cloudera Impala supportata da una funzione Lambda.
| Proprietà | Valore |
|---|---|
default |
impala://jdbc:impala://Impala1host:21050/?secret=${Test/impala1host} |
Parametri di spill
La Lambda SDK può trasferire dati su Amazon S3. Tutte le istanze del database a cui accede la stessa funzione Lambda riversano i dati nella stessa posizione.
| Parametro | Descrizione |
|---|---|
spill_bucket |
Obbligatorio. Nome del bucket di spill. |
spill_prefix |
Obbligatorio. Prefisso della chiave del bucket di spill. |
spill_put_request_headers |
(Facoltativo) Una mappa JSON codificata delle intestazioni e dei valori delle richieste per la richiesta Amazon putObject S3 utilizzata per lo spilling (ad esempio,). {"x-amz-server-side-encryption" :
"AES256"} Per altre possibili intestazioni, consulta PutObjectAmazon Simple Storage Service API Reference. |
Supporto dei tipi di dati
La tabella seguente mostra i tipi di dati corrispondenti per JDBC Cloudera Impala e Arrow.
| JDBC | Cloudera Impala | Arrow |
|---|---|---|
| Booleano | Booleano | Bit |
| Numero intero | TINYINT | Tiny |
| Breve | SMALLINT | Smallint |
| Numero intero | INT | Int |
| Long | BIGINT | Bigint |
| float | float4 | Float4 |
| Doppio | float8 | Float8 |
| Data | date | DateDay |
| Timestamp | timestamp | DateMilli |
| Stringa | VARCHAR | Varchar |
| Byte | bytes | Varbinary |
| BigDecimal | Decimale | Decimale |
| ARRAY | N/D (vedi nota) | Elenco |
Nota
Attualmente, Cloudera Impala non supporta i tipi di aggregati ARRAY, MAP, STRUCT e UNIONTYPE. Le colonne di tipo aggregato vengono trattate come VARCHAR colonne in. SQL
Partizioni e suddivisioni
Le partizioni vengono utilizzate per determinare come generare suddivisioni per il connettore. Athena costruisce una colonna sintetica di tipo varchar che rappresenta lo schema di partizionamento della tabella per aiutare il connettore a generare suddivisioni. Il connettore non modifica la definizione effettiva della tabella.
Prestazioni
Cloudera Impala supporta le partizioni statiche. Il connettore Cloudera Impala di Athena può recuperare dati da queste partizioni in parallelo. Se desideri interrogare set di dati molto grandi con una distribuzione uniforme delle partizioni, ti consigliamo vivamente il partizionamento statico. Il connettore Cloudera Impala è resiliente alla limitazione della larghezza di banda della rete dovuta alla simultaneità.
Il connettore Athena Cloudera Impala esegue il pushdown dei predicati per ridurre i dati scansionati dalla query. Le clausole LIMIT, i predicati semplici e le espressioni complesse vengono inviati al connettore per ridurre la quantità di dati analizzati e il tempo di esecuzione delle query.
LIMITclausole
Una dichiarazione LIMIT N riduce la quantità di dati analizzati dalla query. Con il pushdown LIMIT N, il connettore restituisce solo le righe N ad Athena.
Predicati
Un predicato è un'espressione nella WHERE clausola di una SQL query che restituisce un valore booleano e filtra le righe in base a più condizioni. Il connettore Athena Cloudera Impala può combinare queste espressioni e inviarle direttamente a Cloudera Impala per funzionalità avanzate e per ridurre la quantità di dati scansionati.
I seguenti operatori del connettore Athena Cloudera Impala supportano il pushdown dei predicati:
-
Booleano:, OR, AND NOT
-
Uguaglianza:EQUAL, NOT _EQUAL, LESS _ LESS _OR_THAN, _EQUAL, THAN _ GREATER _OR_, IS_ GREATER _THAN, THAN _IFEQUAL, IS_ DISTINCT FROM NULL NULL
-
Aritmetica:,,,, ADD SUBTRACT MULTIPLY DIVIDE MODULUS NEGATE
-
Altro: LIKE _, IN PATTERN
Esempio di pushdown combinato
Per le funzionalità di esecuzione di query avanzate, combina i tipi di pushdown, come nell'esempio seguente:
SELECT * FROM my_table WHERE col_a > 10 AND ((col_a + col_b) > (col_c % col_d)) AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') LIMIT 10;
Interrogazioni passthrough
Il connettore Cloudera Impala supporta le query passthrough. Le query passthrough utilizzano una funzione di tabella per inviare l'intera query alla fonte di dati per l'esecuzione.
Per utilizzare le query passthrough con Cloudera Impala, puoi utilizzare la seguente sintassi:
SELECT * FROM TABLE( system.query( query => 'query string' ))
La seguente query di esempio invia una query a un'origine dati in Cloudera Impala. La query seleziona tutte le colonne della customer tabella, limitando i risultati a 10.
SELECT * FROM TABLE( system.query( query => 'SELECT * FROM customer LIMIT 10' ))
Informazioni sulla licenza
Utilizzando questo connettore, l'utente riconosce l'inclusione di componenti di terze parti, un elenco dei quali è disponibile nel file pom.xml
Risorse aggiuntive
Per informazioni sulla versione più recente del JDBC driver, consulta il file pom.xml per il connettore
Per ulteriori informazioni su questo connettore, visita il sito corrispondente su GitHub .com
