Sélectionner vos préférences de cookies

Nous utilisons des cookies essentiels et des outils similaires qui sont nécessaires au fonctionnement de notre site et à la fourniture de nos services. Nous utilisons des cookies de performance pour collecter des statistiques anonymes afin de comprendre comment les clients utilisent notre site et d’apporter des améliorations. Les cookies essentiels ne peuvent pas être désactivés, mais vous pouvez cliquer sur « Personnaliser » ou « Refuser » pour refuser les cookies de performance.

Si vous êtes d’accord, AWS et les tiers approuvés utiliseront également des cookies pour fournir des fonctionnalités utiles au site, mémoriser vos préférences et afficher du contenu pertinent, y compris des publicités pertinentes. Pour accepter ou refuser tous les cookies non essentiels, cliquez sur « Accepter » ou « Refuser ». Pour effectuer des choix plus détaillés, cliquez sur « Personnaliser ».

Connecteur Amazon Athena pour Vertica

Mode de mise au point
Connecteur Amazon Athena pour Vertica - Amazon Athena

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Vertica est une plateforme de base de données en colonnes qui peut être déployée dans le cloud ou sur site et qui prend en charge les entrepôts de données à l'échelle des exaoctets. Vous pouvez utiliser le connecteur Vertica d'Amazon Athena dans les requêtes fédérées pour interroger les sources de données Vertica depuis Athena. Par exemple, vous pouvez exécuter des requêtes analytiques sur un entrepôt de données sur Vertica et un lac de données sur Simple Storage Service (Amazon S3).

Ce connecteur n'utilise pas Glue Connections pour centraliser les propriétés de configuration dans Glue. La configuration de la connexion s'effectue via Lambda.

Prérequis

Limites

  • Comme le connecteur Athena Vertica lit les fichiers Parquet exportés depuis Amazon S3, les performances du connecteur peuvent être lentes. Lorsque vous interrogez de grandes tables, nous vous recommandons d'utiliser un CREATETABLEAS (SELECT...) requête et SQL prédicats.

  • Actuellement, en raison d’un problème connu dans la requête fédérée d’Athena, le connecteur oblige Vertica à exporter toutes les colonnes de la table interrogée vers Amazon S3, mais seules les colonnes demandées sont visibles dans les résultats sur la console Athena.

  • Les DDL opérations d'écriture ne sont pas prises en charge.

  • Toutes les limites Lambda pertinentes. Pour plus d'informations, consultez la section Quotas Lambda du Guide du développeur AWS Lambda .

Flux de travail

Le diagramme suivant montre le flux de travail d’une requête qui utilise le connecteur Vertica.

Flux de travail d’une requête Vertica depuis Amazon Athena
  1. Une SQL requête est émise sur une ou plusieurs tables dans Vertica.

  2. Le connecteur analyse la SQL requête pour envoyer la partie appropriée à Vertica via la JDBC connexion.

  3. Les chaînes de connexion utilisent le nom d'utilisateur et le mot de passe enregistrés AWS Secrets Manager pour accéder à Vertica.

  4. Le connecteur enveloppe la SQL requête avec une EXPORT commande Vertica, comme dans l'exemple suivant.

    EXPORT TO PARQUET (directory = 's3://amzn-s3-demo-bucket/folder_name, Compression='Snappy', fileSizeMB=64) OVER() as SELECT PATH_ID, ... SOURCE_ITEMIZED, SOURCE_OVERRIDE FROM DELETED_OBJECT_SCHEMA.FORM_USAGE_DATA WHERE PATH_ID <= 5;
  5. Vertica traite la SQL requête et envoie le jeu de résultats à un compartiment Amazon S3. Pour un meilleur débit, Vertica utilise l’option EXPORT pour paralléliser l’opération d’écriture de plusieurs fichiers Parquet.

  6. Athena analyse le compartiment Amazon S3 afin de déterminer le nombre de fichiers à lire pour l’ensemble de résultats.

  7. Athena fait plusieurs appels à la fonction Lambda et utilise un Apache ArrowReader pour lire les fichiers Parquet à partir de l'ensemble de données obtenu. Plusieurs appels permettent à Athena de paralléliser la lecture des fichiers Amazon S3 et d'atteindre un débit allant jusqu'à 100 Go par seconde.

  8. Athena traite les données renvoyées par Vertica avec les données analysées depuis le lac de données et renvoie le résultat.

Conditions

Les termes suivants se rapportent au connecteur Vertica.

  • Instance de base de données : toute instance d'une base de données Vertica déployée sur AmazonEC2.

  • Gestionnaire – Un gestionnaire Lambda qui accède à votre instance de base de données. Un gestionnaire peut être destiné aux métadonnées ou aux enregistrements de données.

  • Gestionnaire de métadonnées – Un gestionnaire Lambda qui extrait les métadonnées de votre instance de base de données.

  • Gestionnaire d’enregistrements – Un gestionnaire Lambda qui extrait les enregistrements de données de votre instance de base de données.

  • Gestionnaire de composites – Un gestionnaire Lambda qui extrait les métadonnées et les enregistrements de données de votre instance de base de données.

  • Propriété ou paramètre – Propriété de base de données utilisée par les gestionnaires pour extraire des informations de base de données. Vous configurez ces propriétés en tant que variables d’environnement Lambda.

  • Chaîne de connexion – Chaîne de texte utilisée pour établir une connexion à une instance de base de données.

  • Catalogue — Un AWS Glue non-catalogue enregistré auprès d'Athena qui est un préfixe obligatoire pour la propriété. connection_string

Paramètres

Le connecteur Vertica d’Amazon Athena expose des options de configuration par le biais de variables d’environnement Lambda. Vous pouvez utiliser les variables d’environnement Lambda suivantes pour configurer le connecteur.

  • AthenaCatalogName— Nom de la fonction Lambda

  • ExportBucket— Le compartiment Amazon S3 dans lequel les résultats des requêtes Vertica sont exportés.

  • SpillBucket— Le nom du compartiment Amazon S3 dans lequel cette fonction peut diffuser des données.

  • SpillPrefix— Le préfixe de l'SpillBucketemplacement où cette fonction peut diffuser des données.

  • SecurityGroupIds— Un ou plusieurs IDs éléments correspondant au groupe de sécurité qui doit être appliqué à la fonction Lambda (par exemple, sg1sg2, ousg3).

  • SubnetIds— Un ou plusieurs sous-réseaux correspondant au sous-réseau IDs que la fonction Lambda peut utiliser pour accéder à votre source de données (par exemple, subnet1 ou). subnet2

  • SecretNameOrPrefix— Le nom ou le préfixe d'un ensemble de noms dans Secrets Manager auquel cette fonction a accès (par exemple,vertica-*)

  • VerticaConnectionString— Les détails de connexion Vertica à utiliser par défaut si aucune connexion spécifique au catalogue n'est définie. La chaîne peut éventuellement utiliser AWS Secrets Manager la syntaxe (par exemple,${secret_name}).

  • VPCID — L'VPCID à associer à la fonction Lambda.

Chaîne de connexion

Utilisez une chaîne de JDBC connexion au format suivant pour vous connecter à une instance de base de données.

vertica://jdbc:vertica://host_name:port/database?user=vertica-username&password=vertica-password

Utilisation d'un gestionnaire de connexion unique

Vous pouvez utiliser les métadonnées de connexion unique et les gestionnaires d’enregistrements suivants pour vous connecter à une seule instance Vertica.

Type de gestionnaire Classe
Gestionnaire de composites VerticaCompositeHandler
Gestionnaire de métadonnées VerticaMetadataHandler
Gestionnaire d’enregistrements VerticaRecordHandler

Paramètres du gestionnaire de connexion unique

Paramètre Description
default Obligatoire. Chaîne de connexion par défaut.

Les gestionnaires de connexion unique prennent en charge une instance de base de données et doivent fournir un paramètre de connexion default. Toutes les autres chaînes de connexion sont ignorées.

Fourniture des informations d’identification

Pour fournir un nom d'utilisateur et un mot de passe pour votre base de données dans votre chaîne de JDBC connexion, vous pouvez utiliser les propriétés de la chaîne de connexion ou AWS Secrets Manager.

  • Chaîne de connexion — Un nom d'utilisateur et un mot de passe peuvent être spécifiés sous forme de propriétés dans la chaîne de JDBC connexion.

    Important

    Afin de vous aider à optimiser la sécurité, n'utilisez pas d'informations d'identification codées en dur dans vos variables d'environnement ou vos chaînes de connexion. Pour plus d'informations sur le transfert de vos secrets codés en dur vers AWS Secrets Manager, voir Déplacer les secrets codés en dur vers AWS Secrets Manager dans le Guide de l'AWS Secrets Manager utilisateur.

  • AWS Secrets Manager— Pour utiliser la fonctionnalité Athena Federated Query AWS Secrets Manager, la personne VPC connectée à votre fonction Lambda doit disposer d'un accès Internet ou d'un VPCpoint de terminaison pour se connecter à Secrets Manager.

    Vous pouvez insérer le nom d'un secret AWS Secrets Manager dans votre chaîne de JDBC connexion. Le connecteur remplace le nom secret par les valeurs username et password de Secrets Manager.

    Pour les instances RDS de base de données Amazon, cette prise en charge est étroitement intégrée. Si vous utilisez AmazonRDS, nous vous recommandons vivement d'utiliser une rotation AWS Secrets Manager des identifiants. Si votre base de données n'utilise pas AmazonRDS, stockez les JSON informations d'identification au format suivant :

    {"username": "${username}", "password": "${password}"}
Exemple de chaîne de connexion avec des noms secrets

La chaîne suivante contient les noms secrets ${vertica-username} et ${vertica-password}.

vertica://jdbc:vertica://host_name:port/database?user=${vertica-username}&password=${vertica-password}

Le connecteur utilise le nom secret pour récupérer les secrets et fournir le nom d’utilisateur et le mot de passe, comme dans l’exemple suivant.

vertica://jdbc:vertica://host_name:port/database?user=sample-user&password=sample-password

Actuellement, le connecteur Vertica reconnaît les vertica-password JDBC propriétés vertica-username et.

Paramètres de déversement

Le Lambda SDK peut transmettre des données à Amazon S3. Toutes les instances de base de données accessibles par la même fonction Lambda déversent au même emplacement.

Paramètre Description
spill_bucket Obligatoire. Nom du compartiment de déversement.
spill_prefix Obligatoire. Préfixe de la clé du compartiment de déversement.
spill_put_request_headers (Facultatif) Carte JSON codée des en-têtes et des valeurs de la putObject demande Amazon S3 utilisée pour le déversement (par exemple,{"x-amz-server-side-encryption" : "AES256"}). Pour les autres en-têtes possibles, consultez PutObjectle Amazon Simple Storage Service API Reference.

Prise en charge du type de données

Le tableau suivant indique les types de données pris en charge pour le connecteur Vertica.

Booléen
BigInt
Court
Entier
Long
Float
Double
Date
Varchar
Octets
BigDecimal
TimeStamp dans le rôle de : Varchar

Performance

La fonction Lambda effectue une poussée vers le bas de projection pour réduire les données analysées par la requête. Les clauses LIMIT réduisent la quantité de données analysées, mais si vous ne fournissez pas de prédicat, vous devez vous attendre à ce que les requêtes SELECT avec une clause LIMIT analysent au moins 16 Mo de données. Le connecteur Vertica résiste à la limitation de à la simultanéité.

Requêtes passthrough

Le connecteur Vertica prend en charge les requêtes directes. Les requêtes passthrough utilisent une fonction de table pour transférer votre requête complète vers la source de données pour exécution.

Pour utiliser des requêtes directes avec Vertica, vous pouvez utiliser la syntaxe suivante :

SELECT * FROM TABLE( system.query( query => 'query string' ))

L'exemple de requête suivant envoie une requête vers une source de données dans Vertica. La requête sélectionne toutes les colonnes de la customer table, limitant les résultats à 10.

SELECT * FROM TABLE( system.query( query => 'SELECT * FROM customer LIMIT 10' ))

Informations de licence

En utilisant ce connecteur, vous reconnaissez l'inclusion de composants tiers, dont la liste se trouve dans le fichier pom.xml de ce connecteur, et vous acceptez les termes des licences tierces respectives fournies dans le fichier LICENSE.txt sur GitHub .com.

Ressources supplémentaires

Pour obtenir les informations les plus récentes sur la version du JDBC pilote, consultez le fichier pom.xml du connecteur Vertica sur GitHub .com.

Pour plus d'informations sur ce connecteur, consultez le site correspondant sur GitHub .com et Interrogation d'une source de données Vertica dans Amazon Athena à l'aide de la requête fédérée SDK Athena sur le blog Big Data.AWS

ConfidentialitéConditions d'utilisation du sitePréférences de cookies
© 2025, Amazon Web Services, Inc. ou ses affiliés. Tous droits réservés.