Amazon Athena Il mio connettore SQL - Amazon Athena
PrerequisitiLimitazioniTerminiParametriSupporto dei tipi di datiPartizioni e suddivisioniPrestazioniQuery passthroughInformazioni sulla licenzaRisorse aggiuntive

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Amazon Athena Il mio connettore SQL

Il connettore Amazon Athena Lambda My consente SQL ad Amazon Athena di accedere ai miei database. SQL

Questo connettore può essere registrato con Glue Data Catalog come catalogo federato. Supporta i controlli di accesso ai dati definiti in Lake Formation a livello di catalogo, database, tabella, colonna, riga e tag. Questo connettore utilizza Glue Connections per centralizzare le proprietà di configurazione in Glue.

Prerequisiti

Limitazioni

  • DDLLe operazioni di scrittura non sono supportate.

  • In una configurazione multiplex, il bucket di spill e il prefisso sono condivisi tra tutte le istanze del database.

  • Eventuali limiti Lambda pertinenti. Per ulteriori informazioni, consulta la sezione Quote Lambda nella Guida per gli sviluppatori di AWS Lambda .

  • Poiché Athena converte le interrogazioni in lettere minuscole, i nomi delle mie SQL tabelle devono essere in minuscolo. Ad esempio, le query di Athena su una tabella denominata myTable avranno esito negativo.

  • Se migri le tue SQL connessioni a Glue Catalog e Lake Formation, verranno riconosciuti solo i nomi minuscoli di tabelle e colonne.

Termini

I seguenti termini si riferiscono al connettore My. SQL

  • Istanza di database: qualsiasi istanza di un database distribuita in locale, su Amazon EC2 o su AmazonRDS.

  • Gestore: un gestore Lambda che accede all'istanza del database. Un gestore può gestire i metadati o i record di dati.

  • Gestore dei metadati: un gestore Lambda che recupera i metadati dall'istanza del database.

  • Gestore dei record: un gestore Lambda che recupera i record di dati dall'istanza del database.

  • Gestore composito: un gestore Lambda che recupera sia i metadati sia i record di dati dall'istanza del database.

  • Proprietà o parametro: una proprietà del database utilizzata dai gestori per estrarre le informazioni del database. Queste proprietà vengono configurate come variabili di ambiente Lambda.

  • Stringa di connessione: una stringa di testo utilizzata per stabilire una connessione a un'istanza del database.

  • Catalogo: un AWS Glue catalogo non registrato con Athena che è un prefisso obbligatorio per la proprietà. connection_string

  • Gestore multiplex: un gestore Lambda in grado di accettare e utilizzare più connessioni al database.

Parametri

Utilizzate i parametri di questa sezione per configurare il connettore MySQL.

Nota

I connettori di origine dati Athena creati il 3 dicembre 2024 e versioni successive utilizzano connessioni. AWS Glue

I nomi e le definizioni dei parametri elencati di seguito si riferiscono ai connettori di origine dati Athena creati prima del 3 dicembre 2024. Questi possono differire dalle proprietà di AWS Glue connessione corrispondenti. A partire dal 3 dicembre 2024, utilizza i parametri seguenti solo quando distribuisci manualmente una versione precedente di un connettore di origine dati Athena.

Stringa di connessione

Utilizza una stringa di JDBC connessione nel formato seguente per connetterti a un'istanza di database.

mysql://${jdbc_connection_string}
Nota

Se viene visualizzato l'errore java.sql. SQLException: Valore di data zero vietato quando si esegue una SELECT query su una SQL tabella My, aggiungi il seguente parametro alla stringa di connessione:

zeroDateTimeBehavior=convertToNull

Per ulteriori informazioni, vedi Errore «Valore di data zero proibito» durante il tentativo di selezione da La mia SQL tabella su .com. GitHub

Utilizzo di un gestore multiplex

Puoi utilizzare un gestore multiplex per connetterti a più istanze del database con una singola funzione Lambda. Le richieste vengono indirizzate in base al nome del catalogo. Utilizza le seguenti classi in Lambda.

Gestore Classe
Gestore composito MySqlMuxCompositeHandler
Gestore dei metadati MySqlMuxMetadataHandler
Gestore dei record MySqlMuxRecordHandler

Parametri del gestore multiplex

Parametro Descrizione
$catalog_connection_string Obbligatorio. Una stringa di connessione di un'istanza del database. Appone alla variabile di ambiente un prefisso con il nome del catalogo utilizzato in Athena. Ad esempio, se il catalogo registrato presso Athena è mymysqlcatalog, il nome della variabile di ambiente è mymysqlcatalog_connection_string.
default Obbligatorio. La stringa di connessione predefinita. Questa stringa viene utilizzata quando il catalogo è. lambda:${ AWS_LAMBDA_FUNCTION_NAME }

Le seguenti proprietà di esempio riguardano una funzione MySql MUX Lambda che supporta due istanze di database: mysql1 (impostazione predefinita) e. mysql2

Proprietà Valore
default mysql://jdbc:mysql://mysql2.host:3333/default?user=sample2&password=sample2
mysql_catalog1_connection_string mysql://jdbc:mysql://mysql1.host:3306/default?${Test/RDS/MySql1}
mysql_catalog2_connection_string mysql://jdbc:mysql://mysql2.host:3333/default?user=sample2&password=sample2

Specifica delle credenziali

Per fornire un nome utente e una password per il database nella stringa di JDBC connessione, è possibile utilizzare le proprietà della stringa di connessione o. AWS Secrets Manager

  • Stringa di connessione: è possibile specificare un nome utente e una password come proprietà nella stringa di JDBC connessione.

    Importante

    Come best practice di sicurezza, non utilizzare credenziali codificate nelle variabili di ambiente o nelle stringhe di connessione. Per informazioni su come trasferire i segreti codificati in AWS Secrets Manager, consulta Move i segreti codificati AWS Secrets Manager nella Guida per l'utente.AWS Secrets Manager

  • AWS Secrets Manager— Per utilizzare la funzionalità Athena Federated Query con AWS Secrets Manager, la persona VPC connessa alla funzione Lambda deve avere accesso a Internet o un VPCendpoint per connettersi a Secrets Manager.

    È possibile inserire il nome di un segreto AWS Secrets Manager nella stringa di connessione. JDBC Il connettore sostituisce il nome del segreto con i valori username e password di Secrets Manager.

    Per le istanze di RDS database Amazon, questo supporto è strettamente integrato. Se utilizzi AmazonRDS, ti consigliamo vivamente di utilizzare la rotazione AWS Secrets Manager delle credenziali. Se il tuo database non utilizza AmazonRDS, archivia le credenziali JSON nel seguente formato:

    {"username": "${username}", "password": "${password}"}
Esempio di stringa di connessione con nome del segreto

La stringa seguente ha il nome del segreto ${Test/RDS/MySql1}.

mysql://jdbc:mysql://mysql1.host:3306/default?...&${Test/RDS/MySql1}&...

Il connettore utilizza il nome del segreto per recuperare i segreti e fornire il nome utente e la password, come nell'esempio seguente.

mysql://jdbc:mysql://mysql1host:3306/default?...&user=sample2&password=sample2&...

Attualmente, il SQL connettore My riconosce le proprietà user and passwordJDBC.

Utilizzo di un gestore a singola connessione

È possibile utilizzare i seguenti metadati a connessione singola e gestori di record per connettersi a una singola istanza My. SQL

Tipo di gestore Classe
Gestore composito MySqlCompositeHandler
Gestore dei metadati MySqlMetadataHandler
Gestore dei record MySqlRecordHandler

Parametri del gestore a singola connessione

Parametro Descrizione
default Obbligatorio. La stringa di connessione predefinita.

I gestori a singola connessione supportano una sola istanza del database e devono fornire un parametro di stringa di connessione del tipo default. Tutte le altre stringhe di connessione vengono ignorate.

La proprietà di esempio seguente si riferisce a una singola SQL istanza My supportata da una funzione Lambda.

Proprietà Valore
default mysql://mysql1.host:3306/default?secret=Test/RDS/MySql1

Parametri di spill

La Lambda SDK può trasferire dati su Amazon S3. Tutte le istanze del database a cui accede la stessa funzione Lambda riversano i dati nella stessa posizione.

Parametro Descrizione
spill_bucket Obbligatorio. Nome del bucket di spill.
spill_prefix Obbligatorio. Prefisso della chiave del bucket di spill.
spill_put_request_headers (Facoltativo) Una mappa JSON codificata delle intestazioni e dei valori delle richieste per la richiesta Amazon putObject S3 utilizzata per lo spilling (ad esempio,). {"x-amz-server-side-encryption" : "AES256"} Per altre possibili intestazioni, consulta PutObjectAmazon Simple Storage Service API Reference.

Supporto dei tipi di dati

La tabella seguente mostra i tipi di dati corrispondenti per JDBC e Arrow.

JDBC Arrow
Booleano Bit
Numero intero Tiny
Breve Smallint
Numero intero Int
Long Bigint
float Float4
Doppio Float8
Data DateDay
Timestamp DateMilli
Stringa Varchar
Byte Varbinary
BigDecimal Decimale
ARRAY Elenco

Partizioni e suddivisioni

Le partizioni vengono utilizzate per determinare come generare suddivisioni per il connettore. Athena costruisce una colonna sintetica di tipo varchar che rappresenta lo schema di partizionamento della tabella per aiutare il connettore a generare suddivisioni. Il connettore non modifica la definizione effettiva della tabella.

Prestazioni

My SQL supporta le partizioni native. Il SQL connettore Athena My può recuperare dati da queste partizioni in parallelo. Se desideri interrogare set di dati molto grandi con una distribuzione uniforme delle partizioni, ti consigliamo vivamente il partizionamento nativo.

Il SQL connettore Athena My esegue il pushdown dei predicati per ridurre i dati scansionati dalla query. LIMITclausole, predicati semplici ed espressioni complesse vengono inserite nel connettore per ridurre la quantità di dati analizzati e ridurre il tempo di esecuzione delle query.

LIMITclausole

Una dichiarazione LIMIT N riduce la quantità di dati analizzati dalla query. Con il pushdown LIMIT N, il connettore restituisce solo le righe N ad Athena.

Predicati

Un predicato è un'espressione nella WHERE clausola di una SQL query che restituisce un valore booleano e filtra le righe in base a più condizioni. Il SQL connettore Athena My può combinare queste espressioni e inviarle direttamente a My SQL per funzionalità avanzate e ridurre la quantità di dati scansionati.

I seguenti operatori del SQL connettore Athena My supportano il pushdown dei predicati:

  • Booleano:, OR, AND NOT

  • Uguaglianza:EQUAL, NOT _EQUAL, LESS _ LESS _OR_THAN, _EQUAL, THAN _ GREATER _OR_, IS_ GREATER _THAN, THAN _IFEQUAL, IS_ DISTINCT FROM NULL NULL

  • Aritmetica:,,,, ADD SUBTRACT MULTIPLY DIVIDE MODULUS NEGATE

  • Altro: LIKE _, IN PATTERN

Esempio di pushdown combinato

Per le funzionalità di esecuzione di query avanzate, combina i tipi di pushdown, come nell'esempio seguente:

SELECT * 
FROM my_table 
WHERE col_a > 10 
    AND ((col_a + col_b) > (col_c % col_d))
    AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') 
LIMIT 10;

Per un articolo sull'utilizzo del predicate pushdown per migliorare le prestazioni nelle query federate, tra cui MySQL, consulta Migliorare le query federate con il predicate pushdown in Amazon Athena nel Big Data Blog.AWS

Query passthrough

Il SQL connettore My supporta le query passthrough. Le query passthrough utilizzano una funzione di tabella per inviare la query completa alla fonte di dati per l'esecuzione.

Per utilizzare le query passthrough con MySQL, puoi utilizzare la seguente sintassi:

SELECT * FROM TABLE(
        system.query(
            query => 'query string'
        ))

La seguente query di esempio invia una query a un'origine dati in My. SQL La query seleziona tutte le colonne della customer tabella, limitando i risultati a 10.

SELECT * FROM TABLE(
        system.query(
            query => 'SELECT * FROM customer LIMIT 10'
        ))

Informazioni sulla licenza

Utilizzando questo connettore, l'utente riconosce l'inclusione di componenti di terze parti, un elenco dei quali è disponibile nel file pom.xml relativo a questo connettore, e accetta i termini delle rispettive licenze di terze parti fornite nel LICENSEfile.txt su .com. GitHub

Risorse aggiuntive

Per informazioni sulla versione più recente del JDBC driver, consulta il file pom.xml per il SQL connettore My su .com. GitHub

Per ulteriori informazioni su questo connettore, visitate il sito corrispondente su GitHub .com.