Connecteur Amazon Athena SAP HANA - Amazon Athena

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Connecteur Amazon Athena SAP HANA

Ce connecteur ne peut pas être enregistré auprès de Glue Data Catalog en tant que catalogue fédéré. Ce connecteur ne prend pas en charge les contrôles d'accès aux données définis dans Lake Formation au niveau du catalogue, de la base de données, de la table, des colonnes, des lignes et des balises. Ce connecteur utilise Glue Connections pour centraliser les propriétés de configuration dans Glue.

Prérequis

Limites

  • Les DDL opérations d'écriture ne sont pas prises en charge.

  • Dans une configuration de multiplexeur, le compartiment de déversement et le préfixe sont partagés entre toutes les instances de base de données.

  • Toutes les limites Lambda pertinentes. Pour plus d'informations, consultez la section Quotas Lambda du Guide du développeur AWS Lambda .

  • Dans SAPHANA, les noms d'objets sont convertis en majuscules lorsqu'ils sont stockés dans la SAP HANA base de données. Toutefois, comme les noms entre guillemets sont sensibles à la casse, il est possible que deux tables portent le même nom en minuscules et en majuscules (par exemple, EMPLOYEE et employee).

    Dans la requête fédérée d’Athena, les noms des tables de schéma sont fournis à la fonction Lambda en minuscules. Pour contourner ce problème, vous pouvez fournir des indicateurs de requête @schemaCase pour récupérer les données des tables dont les noms sont sensibles à la casse. Vous trouverez ci-dessous deux exemples de requêtes avec des indicateurs de requête.

    SELECT * FROM "lambda:saphanaconnector".SYSTEM."MY_TABLE@schemaCase=upper&tableCase=upper"
    SELECT * FROM "lambda:saphanaconnector".SYSTEM."MY_TABLE@schemaCase=upper&tableCase=lower"

Conditions

Les termes suivants concernent le SAP HANA connecteur.

  • Instance de base de données : toute instance de base de données déployée sur siteEC2, sur Amazon ou sur AmazonRDS.

  • Gestionnaire – Un gestionnaire Lambda qui accède à votre instance de base de données. Un gestionnaire peut être destiné aux métadonnées ou aux enregistrements de données.

  • Gestionnaire de métadonnées – Un gestionnaire Lambda qui extrait les métadonnées de votre instance de base de données.

  • Gestionnaire d’enregistrements – Un gestionnaire Lambda qui extrait les enregistrements de données de votre instance de base de données.

  • Gestionnaire de composites – Un gestionnaire Lambda qui extrait les métadonnées et les enregistrements de données de votre instance de base de données.

  • Propriété ou paramètre – Propriété de base de données utilisée par les gestionnaires pour extraire des informations de base de données. Vous configurez ces propriétés en tant que variables d’environnement Lambda.

  • Chaîne de connexion – Chaîne de texte utilisée pour établir une connexion à une instance de base de données.

  • Catalogue — Un AWS Glue non-catalogue enregistré auprès d'Athena qui est un préfixe obligatoire pour la propriété. connection_string

  • Gestionnaire de multiplexage – Un gestionnaire Lambda qui peut accepter et utiliser plusieurs connexions de base de données.

Paramètres

Utilisez les paramètres de cette section pour configurer le SAP HANA connecteur.

Note

Les connecteurs de source de données Athena créés le 3 décembre 2024 et les versions ultérieures utilisent AWS Glue des connexions.

Les noms et définitions des paramètres répertoriés ci-dessous concernent les connecteurs de source de données Athena créés avant le 3 décembre 2024. Elles peuvent être différentes de leurs propriétés de AWS Glue connexion correspondantes. À compter du 3 décembre 2024, utilisez les paramètres ci-dessous uniquement lorsque vous déployez manuellement une version antérieure d'un connecteur de source de données Athena.

Chaîne de connexion

Utilisez une chaîne de JDBC connexion au format suivant pour vous connecter à une instance de base de données.

saphana://${jdbc_connection_string}

Utilisation d'un gestionnaire de multiplexage

Vous pouvez utiliser un multiplexeur pour vous connecter à plusieurs instances de base de données à l’aide d’une seule fonction Lambda. Les demandes sont acheminées par nom de catalogue. Utilisez les classes suivantes dans Lambda.

Handler (Gestionnaire) Classe
Gestionnaire de composites SaphanaMuxCompositeHandler
Gestionnaire de métadonnées SaphanaMuxMetadataHandler
Gestionnaire d’enregistrements SaphanaMuxRecordHandler

Paramètres du gestionnaire de multiplexage

Paramètre Description
$catalog_connection_string Obligatoire. Chaîne de connexion d’instance de base de données. Préfixez la variable d'environnement avec le nom du catalogue utilisé dans Athena. Par exemple, si le catalogue enregistré auprès d’Athena est mysaphanacatalog, le nom de la variable d’environnement est alors mysaphanacatalog_connection_string.
default Obligatoire. Chaîne de connexion par défaut. Cette chaîne est utilisée lorsque le catalogue est lambda:${ AWS_LAMBDA_FUNCTION_NAME}.

Les exemples de propriétés suivants concernent une fonction Saphana MUX Lambda qui prend en charge deux instances de base de données : saphana1 (par défaut) et. saphana2

Propriété Valeur
default saphana://jdbc:sap://saphana1.host:port/?${Test/RDS/ Saphana1}
saphana_catalog1_connection_string saphana://jdbc:sap://saphana1.host:port/?${Test/RDS/ Saphana1}
saphana_catalog2_connection_string saphana://jdbc:sap://saphana2.host:port/?user=sample2&password=sample2

Fourniture des informations d’identification

Pour fournir un nom d'utilisateur et un mot de passe pour votre base de données dans votre chaîne de JDBC connexion, vous pouvez utiliser les propriétés de la chaîne de connexion ou AWS Secrets Manager.

  • Chaîne de connexion — Un nom d'utilisateur et un mot de passe peuvent être spécifiés sous forme de propriétés dans la chaîne de JDBC connexion.

    Important

    Afin de vous aider à optimiser la sécurité, n'utilisez pas d'informations d'identification codées en dur dans vos variables d'environnement ou vos chaînes de connexion. Pour plus d'informations sur le transfert de vos secrets codés en dur vers AWS Secrets Manager, voir Déplacer les secrets codés en dur vers AWS Secrets Manager dans le Guide de l'AWS Secrets Manager utilisateur.

  • AWS Secrets Manager— Pour utiliser la fonctionnalité Athena Federated Query AWS Secrets Manager, la personne VPC connectée à votre fonction Lambda doit disposer d'un accès Internet ou d'un VPCpoint de terminaison pour se connecter à Secrets Manager.

    Vous pouvez insérer le nom d'un secret AWS Secrets Manager dans votre chaîne de JDBC connexion. Le connecteur remplace le nom secret par les valeurs username et password de Secrets Manager.

    Pour les instances RDS de base de données Amazon, cette prise en charge est étroitement intégrée. Si vous utilisez AmazonRDS, nous vous recommandons vivement d'utiliser une rotation AWS Secrets Manager des identifiants. Si votre base de données n'utilise pas AmazonRDS, stockez les JSON informations d'identification au format suivant :

    {"username": "${username}", "password": "${password}"}
Exemple de chaîne de connexion avec un nom secret

La chaîne suivante porte le nom secret ${Test/RDS/Saphana1}.

saphana://jdbc:sap://saphana1.host:port/?${Test/RDS/Saphana1}&...

Le connecteur utilise le nom secret pour récupérer les secrets et fournir le nom d’utilisateur et le mot de passe, comme dans l’exemple suivant.

saphana://jdbc:sap://saphana1.host:port/?user=sample2&password=sample2&...

Actuellement, le SAP HANA connecteur reconnaît les password JDBC propriétés user et.

Utilisation d'un gestionnaire de connexion unique

Vous pouvez utiliser les métadonnées de connexion unique et les gestionnaires d'enregistrements suivants pour vous connecter à une seule SAP HANA instance.

Type de gestionnaire Classe
Gestionnaire de composites SaphanaCompositeHandler
Gestionnaire de métadonnées SaphanaMetadataHandler
Gestionnaire d’enregistrements SaphanaRecordHandler

Paramètres du gestionnaire de connexion unique

Paramètre Description
default Obligatoire. Chaîne de connexion par défaut.

Les gestionnaires de connexion unique prennent en charge une instance de base de données et doivent fournir un paramètre de connexion default. Toutes les autres chaînes de connexion sont ignorées.

L'exemple de propriété suivant concerne une seule SAP HANA instance prise en charge par une fonction Lambda.

Propriété Valeur
default saphana://jdbc:sap://saphana1.host:port/?secret=Test/RDS/Saphana1

Paramètres de déversement

Le Lambda SDK peut transmettre des données à Amazon S3. Toutes les instances de base de données accessibles par la même fonction Lambda déversent au même emplacement.

Paramètre Description
spill_bucket Obligatoire. Nom du compartiment de déversement.
spill_prefix Obligatoire. Préfixe de la clé du compartiment de déversement.
spill_put_request_headers (Facultatif) Carte JSON codée des en-têtes et des valeurs de la putObject demande Amazon S3 utilisée pour le déversement (par exemple,{"x-amz-server-side-encryption" : "AES256"}). Pour les autres en-têtes possibles, consultez PutObjectle Amazon Simple Storage Service API Reference.

Prise en charge du type de données

Le tableau suivant indique les types de données correspondants pour JDBC et Apache Arrow.

JDBC Flèche
Booléen Bit
Entier Tiny
Court Smallint
Entier Int
Long Bigint
float Float4
Double Float8
Date DateDay
Horodatage DateMilli
Chaîne Varchar
Octets Varbinary
BigDecimal Décimal
ARRAY Liste

Conversions du type de données

Outre les conversions JDBC vers Arrow, le connecteur effectue certaines autres conversions pour rendre les types de données SAP HANA source et Athena compatibles. Ces conversions permettent de garantir la réussite de l’exécution des requêtes. Le tableau suivant présente ces conversions.

Type de données source (SAPHANA) Type de données converties (Athena)
DECIMAL BIGINT
INTEGER INT
DATE DATEDAY
TIMESTAMP DATEMILLI

Tous les autres types de données non pris en charge sont convertis en VARCHAR.

Partitions et déversements

Une partition est représentée par une seule colonne de partition de type Integer. La colonne contient les noms des partitions définies sur une SAP HANA table. Pour une table qui ne possède pas de nom de partition, * est renvoyé, ce qui équivaut à une partition unique. Une partition équivaut à une division.

Nom Type Description
PART_ID Entier Partition nommée dans SAPHANA.

Performance

SAPHANAprend en charge les partitions natives. Le SAP HANA connecteur Athena peut récupérer les données de ces partitions en parallèle. Si vous souhaitez interroger des jeux de données très volumineux avec une distribution de partition uniforme, le partitionnement natif est fortement recommandé. La sélection d'un sous-ensemble de colonnes accélère considérablement l'exécution des requêtes et réduit le nombre de données analysées. Le connecteur présente des limitations importantes et parfois des échecs de requêtes, en raison de la simultanéité.

Le SAP HANA connecteur Athena effectue un transfert de prédicat vers le bas pour réduire le nombre de données scannées par la requête. LIMITles clauses, les prédicats simples et les expressions complexes sont envoyés vers le connecteur afin de réduire la quantité de données numérisées et le temps d'exécution des requêtes.

LIMITclauses

Une instruction LIMIT N réduit les données analysées par la requête. Grâce à la poussée vers le bas LIMIT N, le connecteur renvoie uniquement des lignes N à Athena.

Prédicats

Un prédicat est une expression contenue dans la WHERE clause d'une SQL requête qui donne une valeur booléenne et filtre les lignes en fonction de plusieurs conditions. Le SAP HANA connecteur Athena peut combiner ces expressions et les transférer directement vers SAP HANA pour améliorer les fonctionnalités et réduire la quantité de données numérisées.

Les opérateurs de SAP HANA connecteurs Athena suivants prennent en charge le transfert des prédicats :

  • Booléen :AND, OU, NOT

  • Égalité :EQUAL, NOT _EQUAL, _THAN, LESS _ LESS THAN _OR_, _EQUAL, _ GREATER THAN _OR_THAN, GREATER IS_ _, EQUAL _IF, IS_ DISTINCT FROM NULL NULL

  • Arithmétique : ADDSUBTRACT,,MULTIPLY,DIVIDE, MODULUS NEGATE

  • Autres : LIKE _PATTERN, IN

Exemple de poussée combinée vers le bas

Pour améliorer les capacités de requête, combinez les types de poussée vers le bas, comme dans l'exemple suivant :

SELECT * FROM my_table WHERE col_a > 10 AND ((col_a + col_b) > (col_c % col_d)) AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') LIMIT 10;

Requêtes directes

Le SAP HANA connecteur prend en charge les requêtes directes. Les requêtes passthrough utilisent une fonction de table pour transférer votre requête complète vers la source de données pour exécution.

Pour utiliser des requêtes directes avec SAPHANA, vous pouvez utiliser la syntaxe suivante :

SELECT * FROM TABLE( system.query( query => 'query string' ))

L'exemple de requête suivant envoie une requête vers une source de données dans SAPHANA. La requête sélectionne toutes les colonnes de la customer table, limitant les résultats à 10.

SELECT * FROM TABLE( system.query( query => 'SELECT * FROM customer LIMIT 10' ))

Informations de licence

En utilisant ce connecteur, vous reconnaissez l'inclusion de composants tiers, dont la liste se trouve dans le fichier pom.xml de ce connecteur, et vous acceptez les termes des licences tierces respectives fournies dans le fichier LICENSE.txt sur GitHub .com.

Ressources supplémentaires

Pour obtenir les informations les plus récentes sur la version du JDBC pilote, consultez le fichier pom.xml du SAP HANA connecteur sur GitHub .com.

Pour plus d'informations sur ce connecteur, rendez-vous sur le site correspondant sur GitHub .com.