Utiliser les connecteurs et les dépendances - Service géré pour Apache Flink

Le service géré Amazon pour Apache Flink était auparavant connu sous le nom d’Amazon Kinesis Data Analytics pour Apache Flink.

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utiliser les connecteurs et les dépendances

Les connecteurs vous permettent de lire et d’écrire des données à travers différentes technologies. Le service géré pour Apache Flink intègre trois connecteurs par défaut à votre bloc-notes Studio. Vous pouvez également utiliser des connecteurs personnalisés. Pour plus d'informations sur les connecteurs, consultez la section Table & SQL Connectors dans la documentation d'Apache Flink.

Connecteurs par défaut

Si vous utilisez le AWS Management Console pour créer votre bloc-notes Studio, Managed Service for Apache Flink inclut par défaut les connecteurs personnalisés suivants : flink-sql-connector-kinesis flink-connector-kafka_2.12 etaws-msk-iam-auth. Pour créer un bloc-notes Studio via la console sans ces connecteurs personnalisés, choisissez l’option Créer avec des paramètres personnalisés. Ensuite, lorsque vous arrivez sur la page Configurations, décochez les cases à côté des deux connecteurs.

Si vous utilisez le CreateApplicationAPIpour créer votre bloc-notes Studio, les flink-connector-kafka connecteurs flink-sql-connector-flink et ne sont pas inclus par défaut. Pour les ajouter, spécifiez-les en tant que MavenReference dans le type de données CustomArtifactsConfiguration, comme indiqué dans les exemples suivants.

Le aws-msk-iam-auth connecteur est le connecteur à utiliser avec Amazon MSK qui inclut la fonctionnalité permettant de s'authentifier automatiquement. IAM

Note

Les versions de connecteur présentées dans l’exemple suivant sont les seules que nous prenons en charge.

For the Kinesis connector: "CustomArtifactsConfiguration": [{ "ArtifactType": "DEPENDENCY_JAR", "MavenReference": { "GroupId": "org.apache.flink", "ArtifactId": "flink-sql-connector-kinesis", "Version": "1.15.4" } }] For authenticating with AWS MSK through AWS IAM: "CustomArtifactsConfiguration": [{ "ArtifactType": "DEPENDENCY_JAR", "MavenReference": { "GroupId": "software.amazon.msk", "ArtifactId": "aws-msk-iam-auth", "Version": "1.1.6" } }] For the Apache Kafka connector: "CustomArtifactsConfiguration": [{ "ArtifactType": "DEPENDENCY_JAR", "MavenReference": { "GroupId": "org.apache.flink", "ArtifactId": "flink-connector-kafka", "Version": "1.15.4" } }]

Pour ajouter ces connecteurs à un bloc-notes existant, utilisez l'UpdateApplicationAPIopération et spécifiez-les MavenReference en tant que type de CustomArtifactsConfigurationUpdate données.

Note

Vous pouvez failOnError définir la valeur true pour le flink-sql-connector-kinesis connecteur dans le tableauAPI.

Ajoutez des dépendances et des connecteurs personnalisés

Pour utiliser le AWS Management Console pour ajouter une dépendance ou un connecteur personnalisé à votre bloc-notes Studio, procédez comme suit :

  1. Chargez le fichier de votre connecteur personnalisé sur Amazon S3.

  2. Dans le AWS Management Console, choisissez l'option de création personnalisée pour créer votre bloc-notes Studio.

  3. Suivez le processus de création du bloc-notes Studio jusqu’à ce que vous arriviez à l’étape Configurations.

  4. Dans la section Connecteurs personnalisés, choisissez Ajouter un connecteur personnalisé.

  5. Spécifiez l’emplacement Amazon S3 de la dépendance ou du connecteur personnalisé.

  6. Sélectionnez Enregistrer les modifications.

Pour ajouter une dépendance JAR ou un connecteur personnalisé lorsque vous créez un nouveau bloc-notes Studio à l'aide de CreateApplicationAPI, spécifiez l'emplacement Amazon S3 de la dépendance JAR ou du connecteur personnalisé dans le type de CustomArtifactsConfiguration données. Pour ajouter une dépendance ou un connecteur personnalisé à un bloc-notes Studio existant, appelez l'UpdateApplicationAPIopération et spécifiez l'emplacement Amazon S3 de la dépendance JAR ou du connecteur personnalisé dans le type de CustomArtifactsConfigurationUpdate données.

Note

Lorsque vous incluez une dépendance ou un connecteur personnalisé, vous devez également inclure toutes ses dépendances transitives qui ne sont pas regroupées en son sein.