Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Connecteur Amazon Athena Postgre SQL
Le connecteur Amazon Athena Postgre SQL permet à Athena d'accéder à vos bases de données Postgre. SQL
Prérequis
Déployez le connecteur sur votre Compte AWS à l’aide de la console Athena ou du AWS Serverless Application Repository. Pour plus d’informations, consultez Déployer un connecteur de source de données ou Utilisez le AWS Serverless Application Repository pour déployer un connecteur de source de données.
Limites
-
Les DDL opérations d'écriture ne sont pas prises en charge.
-
Dans une configuration de multiplexeur, le compartiment de déversement et le préfixe sont partagés entre toutes les instances de base de données.
-
Toutes les limites Lambda pertinentes. Pour plus d'informations, consultez la section Quotas Lambda du Guide du développeur AWS Lambda .
-
Comme PostgreSQL, Athena considère les espaces de fin dans les types SQL
CHAR
Postgre comme sémantiquement insignifiants à des fins de longueur et de comparaison. Notez que cela ne s'applique qu'aux typesCHAR
, mais pas auxVARCHAR
types. Athéna ignore les espaces de fin pour leCHAR
type, mais les considère comme significatifs pour le type.VARCHAR
-
Lorsque vous utilisez le type de chaîne de caractères citext
qui ne distingue pas les majuscules et minuscules, Postgre SQL utilise une comparaison de données insensible aux majuscules et minuscules différente de celle d'Athena. Cette différence crée un écart entre les données pendant les SQL JOIN
opérations. Pour contourner ce problème, utilisez la fonctionnalité de requête directe du SQL connecteur Postgre. Pour plus d'informations, consultez la section sur les requêtes directes plus loin dans ce document.
Conditions
Les termes suivants concernent le SQL connecteur Postgre.
-
Instance de base de données : toute instance d'une base de données déployée sur siteEC2, sur Amazon ou sur AmazonRDS.
-
Gestionnaire – Un gestionnaire Lambda qui accède à votre instance de base de données. Un gestionnaire peut être destiné aux métadonnées ou aux enregistrements de données.
-
Gestionnaire de métadonnées – Un gestionnaire Lambda qui extrait les métadonnées de votre instance de base de données.
-
Gestionnaire d’enregistrements – Un gestionnaire Lambda qui extrait les enregistrements de données de votre instance de base de données.
-
Gestionnaire de composites – Un gestionnaire Lambda qui extrait les métadonnées et les enregistrements de données de votre instance de base de données.
-
Propriété ou paramètre – Propriété de base de données utilisée par les gestionnaires pour extraire des informations de base de données. Vous configurez ces propriétés en tant que variables d’environnement Lambda.
-
Chaîne de connexion – Chaîne de texte utilisée pour établir une connexion à une instance de base de données.
-
Catalogue — Un AWS Glue non-catalogue enregistré auprès d'Athena qui est un préfixe obligatoire pour la propriété.
connection_string
-
Gestionnaire de multiplexage – Un gestionnaire Lambda qui peut accepter et utiliser plusieurs connexions de base de données.
Paramètres
Utilisez les variables d'environnement Lambda de cette section pour configurer le connecteur SQL Postgre.
Chaîne de connexion
Utilisez une chaîne de JDBC connexion au format suivant pour vous connecter à une instance de base de données.
postgres://${
jdbc_connection_string
}
Utilisation d'un gestionnaire de multiplexage
Vous pouvez utiliser un multiplexeur pour vous connecter à plusieurs instances de base de données à l’aide d’une seule fonction Lambda. Les demandes sont acheminées par nom de catalogue. Utilisez les classes suivantes dans Lambda.
Handler (Gestionnaire) | Classe |
---|---|
Gestionnaire de composites | PostGreSqlMuxCompositeHandler |
Gestionnaire de métadonnées | PostGreSqlMuxMetadataHandler |
Gestionnaire d’enregistrements | PostGreSqlMuxRecordHandler |
Paramètres du gestionnaire de multiplexage
Paramètre | Description |
---|---|
$ |
Obligatoire. Chaîne de connexion d’instance de base de données. Préfixez la variable d'environnement avec le nom du catalogue utilisé dans Athena. Par exemple, si le catalogue enregistré auprès d’Athena est mypostgrescatalog , le nom de la variable d’environnement est alors mypostgrescatalog_connection_string . |
default |
Obligatoire. Chaîne de connexion par défaut. Cette chaîne est utilisée lorsque le catalogue est lambda:${ AWS_LAMBDA_FUNCTION_NAME } . |
Les exemples de propriétés suivants concernent une fonction PostGreSql MUX Lambda qui prend en charge deux instances de base de données : postgres1
(par défaut) et. postgres2
Propriété | Valeur |
---|---|
default |
postgres://jdbc:postgresql://postgres1.host:5432/default?${Test/RDS/PostGres1} |
postgres_catalog1_connection_string |
postgres://jdbc:postgresql://postgres1.host:5432/default?${Test/RDS/PostGres1} |
postgres_catalog2_connection_string |
postgres://jdbc:postgresql://postgres2.host:5432/default?user=sample&password=sample |
Fourniture des informations d’identification
Pour fournir un nom d'utilisateur et un mot de passe pour votre base de données dans votre chaîne de JDBC connexion, vous pouvez utiliser les propriétés de la chaîne de connexion ou AWS Secrets Manager.
-
Chaîne de connexion — Un nom d'utilisateur et un mot de passe peuvent être spécifiés sous forme de propriétés dans la chaîne de JDBC connexion.
Important
Afin de vous aider à optimiser la sécurité, n'utilisez pas d'informations d'identification codées en dur dans vos variables d'environnement ou vos chaînes de connexion. Pour plus d'informations sur le transfert de vos secrets codés en dur vers AWS Secrets Manager, voir Déplacer les secrets codés en dur vers AWS Secrets Manager dans le Guide de l'AWS Secrets Manager utilisateur.
-
AWS Secrets Manager— Pour utiliser la fonctionnalité Athena Federated Query AWS Secrets Manager, la personne VPC connectée à votre fonction Lambda doit disposer d'un accès Internet
ou d'un VPCpoint de terminaison pour se connecter à Secrets Manager. Vous pouvez insérer le nom d'un secret AWS Secrets Manager dans votre chaîne de JDBC connexion. Le connecteur remplace le nom secret par les valeurs
username
etpassword
de Secrets Manager.Pour les instances RDS de base de données Amazon, cette prise en charge est étroitement intégrée. Si vous utilisez AmazonRDS, nous vous recommandons vivement d'utiliser une rotation AWS Secrets Manager des identifiants. Si votre base de données n'utilise pas AmazonRDS, stockez les JSON informations d'identification au format suivant :
{"username": "${username}", "password": "${password}"}
Exemple de chaîne de connexion avec un nom secret
La chaîne suivante porte le nom secret ${Test/RDS/PostGres1}
.
postgres://jdbc:postgresql://postgres1.host:5432/default?...&${Test/RDS/PostGres1}&...
Le connecteur utilise le nom secret pour récupérer les secrets et fournir le nom d’utilisateur et le mot de passe, comme dans l’exemple suivant.
postgres://jdbc:postgresql://postgres1.host:5432/default?...&user=sample2&password=sample2&...
Actuellement, le SQL connecteur Postgre reconnaît les password
JDBC propriétés user
et.
Activant SSL
Pour faciliter SSL votre SQL connexion Postgre, ajoutez ce qui suit à votre chaîne de connexion :
&sslmode=verify-ca&sslfactory=org.postgresql.ssl.DefaultJavaSSLFactory
Exemple
L'exemple de chaîne de connexion suivant n'est pas utiliséSSL.
postgres://jdbc:postgresql://example-asdf-aurora-postgres-endpoint:5432/asdf?user=someuser&password=somepassword
Pour l'activerSSL, modifiez la chaîne comme suit.
postgres://jdbc:postgresql://example-asdf-aurora-postgres-endpoint:5432/asdf?user=someuser&password=somepassword&sslmode=verify-ca&sslfactory=org.postgresql.ssl.DefaultJavaSSLFactory
Utilisation d'un gestionnaire de connexion unique
Vous pouvez utiliser les métadonnées de connexion unique et les gestionnaires d'enregistrements suivants pour vous connecter à une seule instance PostgreSQL.
Type de gestionnaire | Classe |
---|---|
Gestionnaire de composites | PostGreSqlCompositeHandler |
Gestionnaire de métadonnées | PostGreSqlMetadataHandler |
Gestionnaire d’enregistrements | PostGreSqlRecordHandler |
Paramètres du gestionnaire de connexion unique
Paramètre | Description |
---|---|
default |
Obligatoire. Chaîne de connexion par défaut. |
Les gestionnaires de connexion unique prennent en charge une instance de base de données et doivent fournir un paramètre de connexion default
. Toutes les autres chaînes de connexion sont ignorées.
L'exemple de propriété suivant concerne une seule SQL instance Postgre prise en charge par une fonction Lambda.
Propriété | Valeur |
---|---|
default |
postgres://jdbc:postgresql://postgres1.host:5432/default?secret=${Test/RDS/PostgreSQL1} |
Paramètres de déversement
Le Lambda SDK peut transmettre des données à Amazon S3. Toutes les instances de base de données accessibles par la même fonction Lambda déversent au même emplacement.
Paramètre | Description |
---|---|
spill_bucket |
Obligatoire. Nom du compartiment de déversement. |
spill_prefix |
Obligatoire. Préfixe de la clé du compartiment de déversement. |
spill_put_request_headers |
(Facultatif) Carte JSON codée des en-têtes et des valeurs de la putObject demande Amazon S3 utilisée pour le déversement (par exemple,{"x-amz-server-side-encryption" :
"AES256"} ). Pour les autres en-têtes possibles, consultez PutObjectle Amazon Simple Storage Service API Reference. |
Prise en charge du type de données
Le tableau suivant indique les types de données correspondants pour JDBC PostGreSQL, et Arrow.
JDBC | PostGreSQL | Flèche |
---|---|---|
Booléen | Booléen | Bit |
Entier | N/A | Tiny |
Court | smallint | Smallint |
Entier | entier | Int |
Long | bigint | Bigint |
float | float4 | Float4 |
Double | float8 | Float8 |
Date | date | DateDay |
Horodatage | timestamp | DateMilli |
Chaîne | text | Varchar |
Octets | octets | Varbinary |
BigDecimal | numeric(p,s) | Décimal |
ARRAY | N/A (voir la remarque) | Liste |
Note
Le ARRAY
type est pris en charge pour le SQL connecteur Postgre avec les contraintes suivantes : Les tableaux multidimensionnels (
ou tableaux imbriqués) ne sont pas pris en charge. Les colonnes avec des types de données <data_type>
[][]ARRAY
non pris en charge sont converties en un tableau d’éléments de chaîne (array<varchar>
).
Partitions et déversements
Les partitions sont utilisées pour déterminer comment générer des divisions pour le connecteur. Athena construit une colonne synthétique de type varchar
qui représente le schéma de partitionnement de la table afin d’aider le connecteur à générer des divisions. Le connecteur ne modifie pas la définition réelle de la table.
Performance
Postgre SQL prend en charge les partitions natives. Le SQL connecteur Athena Postgre peut récupérer les données de ces partitions en parallèle. Si vous souhaitez interroger des jeux de données très volumineux avec une distribution de partition uniforme, le partitionnement natif est fortement recommandé.
Le SQL connecteur Athena Postgre effectue le transfert des prédicats vers le bas pour réduire le nombre de données scannées par la requête. LIMIT
les clauses, les prédicats simples et les expressions complexes sont envoyés vers le connecteur afin de réduire la quantité de données numérisées et le temps d'exécution des requêtes. Cependant, la sélection d'un sous-ensemble de colonnes entraîne parfois un délai d'exécution plus long des requêtes.
LIMITclauses
Une instruction LIMIT N
réduit les données analysées par la requête. Grâce à la poussée vers le bas LIMIT N
, le connecteur renvoie uniquement des lignes N
à Athena.
Prédicats
Un prédicat est une expression contenue dans la WHERE
clause d'une SQL requête qui donne une valeur booléenne et filtre les lignes en fonction de plusieurs conditions. Le SQL connecteur Athena Postgre peut combiner ces expressions et les transmettre directement à Postgre SQL pour améliorer les fonctionnalités et réduire la quantité de données numérisées.
Les opérateurs de SQL connecteurs Athena Postgre suivants prennent en charge le pushdown des prédicats :
-
Booléen :AND, OU, NOT
-
Égalité :EQUAL, NOT _EQUAL, _THAN, LESS _ LESS THAN _OR_, _EQUAL, _ GREATER THAN _OR_THAN, GREATER IS_ _, EQUAL _IF, IS_ DISTINCT FROM NULL NULL
-
Arithmétique : ADDSUBTRACT,,MULTIPLY,DIVIDE, MODULUS NEGATE
-
Autres : LIKE _PATTERN, IN
Exemple de poussée combinée vers le bas
Pour améliorer les capacités de requête, combinez les types de poussée vers le bas, comme dans l'exemple suivant :
SELECT * FROM my_table WHERE col_a > 10 AND ((col_a + col_b) > (col_c % col_d)) AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') LIMIT 10;
Requêtes passthrough
Le SQL connecteur Postgre prend en charge les requêtes passthrough. Les requêtes passthrough utilisent une fonction de table pour transférer votre requête complète vers la source de données pour exécution.
Pour utiliser des requêtes passthrough avec PostgreSQL, vous pouvez utiliser la syntaxe suivante :
SELECT * FROM TABLE( system.query( query => '
query string
' ))
L'exemple de requête suivant envoie une requête vers une source de données dans SQL Postgre. La requête sélectionne toutes les colonnes de la customer
table, limitant les résultats à 10.
SELECT * FROM TABLE( system.query( query => 'SELECT * FROM customer LIMIT 10' ))
Ressources supplémentaires
Pour obtenir les informations les plus récentes sur la version du JDBC pilote, consultez le fichier pom.xml
Pour plus d'informations sur ce connecteur, rendez-vous sur le site correspondant