View a markdown version of this page

Verwenden Sie den Amazon Kinesis Data Streams-Connector für strukturiertes Streaming von Spark - Amazon EMR

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden Sie den Amazon Kinesis Data Streams-Connector für strukturiertes Streaming von Spark

Amazon EMR-Versionen 7.1.0 und höher enthalten im Release-Image einen Amazon Kinesis Data Streams-Connector für strukturiertes Spark-Streaming. Mit diesem Connector können Sie Spark auf Amazon EMR verwenden, um Daten zu verarbeiten, die in Amazon Kinesis Data Streams gespeichert sind. Der Connector unterstützt beide Verbrauchertypen GetRecords (gemeinsamer Durchsatz) und SubscribeToShard (erweiterter Fan-Out). Diese Integration basiert auf dem spark-sql-kinesis-connector. Einzelheiten zu den ersten Schritten mit dem Connector finden Sie in der README-Datei.

Das folgende Beispiel zeigt, wie Sie den Connector verwenden, um eine Spark-Anwendung mit Amazon EMR zu starten

spark-submit my_kinesis_streaming_script.py