View a markdown version of this page

Amazon Managed Service für Apache Flink 1.15 - Managed Service für Apache Flink

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Amazon Managed Service für Apache Flink 1.15

Managed Service für Apache Flink unterstützt die folgenden neuen Funktionen in Apache 1.15.2:

Feature Description Apache-FLIP-Referenz
Asynchrone Senke Ein AWS unterstütztes Framework für die Erstellung asynchroner Ziele, das es Entwicklern ermöglicht, benutzerdefinierte AWS Konnektoren mit weniger als der Hälfte des bisherigen Aufwands zu erstellen. Weitere Informationen finden Sie unter Die generische asynchrone Basissenke. FLIP-171: Asynchrone Senke.
Kinesis Data Firehose Senke AWS hat mithilfe des Async-Frameworks einen neuen Amazon Kinesis Firehose Sink beigesteuert. Amazon Kinesis Data Firehose Senke.
Anhalten mit Savepoint Anhalten mit Savepoint sorgt für einen sauberen Anhaltevorgang und unterstützt vor allem die Exakt-einmal-Semantik für Kunden, die sich darauf verlassen. FLIP-34: Terminate/Suspend Job bei Savepoint.
Scala-Entkopplung Benutzer können die Java-API jetzt von jeder Scala-Version aus nutzen, einschließlich Scala 3. Kunden müssen die Scala-Standardbibliothek ihrer Wahl in ihren Scala-Anwendungen bündeln. FLIP-28: Long-term Ziel der Erstellung von Flink-Table. Scala-free
Scala Siehe Scala-Entkopplung oben FLIP-28: Long-term Ziel der Herstellung von Flink-Table. Scala-free
Einheitliche Konnektor-Metriken Flink hat Standardmetriken für Aufträge, Aufgaben und Operatoren definiert. Managed Service für Apache Flink wird weiterhin Senken- und Quell-Metriken unterstützen und in 1.15 numRestarts parallel zu fullRestarts für Verfügbarkeitsmetriken einführen. FLIP-33: Standardisieren Sie Connector-Metriken und FLIP-179: Stellen Sie standardisierte Operator-Metriken bereit.
Checkpointing von abgeschlossenen Aufgaben Dieses Feature ist in Flink 1.15 standardmäßig aktiviert und ermöglicht es, weiterhin Checkpoints durchzuführen, auch wenn Teile des Auftragsdiagramms die Verarbeitung aller Daten abgeschlossen haben, was passieren kann, wenn er gebundene (Batch-)Quellen enthält. FLIP-147: Support Sie Checkpoints nach Abschluss von Aufgaben.

Studio-Notebooks

Managed Service für Apache Flink Studio unterstützt jetzt Apache Flink 1.15. Managed Service für Apache Flink Studio nutzt Apache-Zeppelin-Notebooks, um eine zentrale Benutzeroberfläche für die Entwicklung, das Debuggen von Code und die Ausführung von Apache-Flink-Streamverarbeitungsanwendungen bereitzustellen. Weitere Informationen über Managed Service für Apache Flink Studio und die ersten Schritte finden Sie unter Verwenden Sie ein Studio-Notebook mit Managed Service für Apache Flink.

EFO-Konnektor

Stellen Sie beim Upgrade auf Managed Service für Apache Flink Version 1.15 sicher, dass Sie den neuesten EFO-Konnektor verwenden, d. h. eine beliebige Version 1.15.3 oder neuer. Weitere Informationen dazu, warum das so ist, finden Sie unter FLINK-29324.

Scala-Entkopplung

Ab Flink 1.15.2 müssen Sie die Scala-Standardbibliothek Ihrer Wahl in Ihren Scala-Anwendungen bündeln.

Kinesis Data Firehose Senke

Stellen Sie beim Upgrade auf Managed Service für Apache Flink Version 1.15 sicher, dass Sie die neueste Amazon Kinesis Data Firehose Senke verwenden.

Kafka-Konnektoren

Stellen Sie beim Upgrade auf Amazon Managed Service für Apache Flink Version 1.15 sicher, dass Sie die neuesten Kafka-Konnektor-APIs verwenden. Apache Flink ist veraltet FlinkKafkaConsumerund FlinkKafkaProducerdiese APIs für die Kafka-Senke können sich nicht auf Kafka für Flink 1.15 übertragen. Stellen Sie KafkaSinksicher, dass Sie KafkaSourceund verwenden.

Komponente Version
Java 11 (empfohlen)
Scala 2.12
Managed Service for Apache Flink Laufzeit (aws-kinesisanalytics-runtime) 1.2.0
AWS Kinesis-Anschluss (Flink-Connector-Kinesis) 1.15.4
Apache Beam (nur Beam-Anwendungen) 2.33.0, mit Jackson-Version 2.12.2

Kafka Commit beim Checkpointing schlägt nach einem Neustart des Brokers wiederholt fehl

Es gibt ein bekanntes Open-Source-Apache Flink-Problem mit dem Apache Kafka-Konnektor in Flink Version 1.15, das durch einen kritischen Open-Source-Fehler im Kafka-Client 2.8.1 verursacht wurde. Weitere Informationen finden Sie unter Kafka Commit on Checkpointing schlägt nach einem Neustart des Brokers wiederholt fehl und kann die Verbindung zum Gruppenkoordinator nach einer KafkaConsumer Commit-Ausnahme nicht wiederherstellen. OffsetAsync

Um dieses Problem zu vermeiden, empfehlen wir, Apache Flink 1.18 oder höher in Amazon Managed Service für Apache Flink zu verwenden.