Lancement d'une application Spark avec l'intégration Amazon Redshift pour Apache Spark - Amazon EMR

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Lancement d'une application Spark avec l'intégration Amazon Redshift pour Apache Spark

Pour utiliser l'intégration avec EMR Serverless 6.9.0, vous devez transmettre les dépendances Spark-Redshift requises à votre tâche Spark. --jarsÀ utiliser pour inclure les bibliothèques associées au connecteur Redshift. Pour connaître les autres emplacements de fichiers pris en charge par l'option --jars, consultez la rubrique Gestion avancée des dépendances de la documentation Apache Spark.

  • spark-redshift.jar

  • spark-avro.jar

  • RedshiftJDBC.jar

  • minimal-json.jar

EMRLes versions 6.10.0 et ultérieures d'Amazon ne nécessitent pas cette minimal-json.jar dépendance et installent automatiquement les autres dépendances sur chaque cluster par défaut. Les exemples suivants montrent comment lancer une application Spark avec l'intégration Amazon Redshift pour Apache Spark.

Amazon EMR 6.10.0 +

Lancez une tâche Spark sur Amazon EMR Serverless avec l'intégration Amazon Redshift pour Apache Spark EMR on Serverless version 6.10.0 ou ultérieure.

spark-submit my_script.py
Amazon EMR 6.9.0

Pour lancer une tâche Spark sur Amazon EMR Serverless avec l'intégration Amazon Redshift pour Apache Spark EMR on Serverless version 6.9.0, utilisez --jars l'option illustrée dans l'exemple suivant. Notez que les chemins répertoriés avec l'--jarsoption sont les chemins par défaut pour les JAR fichiers.

--jars /usr/share/aws/redshift/jdbc/RedshiftJDBC.jar, /usr/share/aws/redshift/spark-redshift/lib/spark-redshift.jar, /usr/share/aws/redshift/spark-redshift/lib/spark-avro.jar, /usr/share/aws/redshift/spark-redshift/lib/minimal-json.jar
spark-submit \ --jars /usr/share/aws/redshift/jdbc/RedshiftJDBC.jar,/usr/share/aws/redshift/spark-redshift/lib/spark-redshift.jar,/usr/share/aws/redshift/spark-redshift/lib/spark-avro.jar,/usr/share/aws/redshift/spark-redshift/lib/minimal-json.jar \ my_script.py