View a markdown version of this page

Layanan Terkelola Amazon untuk Apache Flink 1.15 - Layanan Terkelola untuk Apache Flink

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Layanan Terkelola Amazon untuk Apache Flink 1.15

Layanan Terkelola untuk Apache Flink mendukung fitur-fitur baru berikut di Apache 1.15.2:

Fitur Deskripsi Referensi Apache FLIP
Async Wastafel Kerangka AWS kerja yang dikontribusikan untuk membangun tujuan asinkron yang memungkinkan pengembang membangun AWS konektor khusus dengan kurang dari setengah upaya sebelumnya. Untuk informasi selengkapnya, lihat The Generic Asynchronous Base Sink. FLIP-171: Wastafel Async.
Sink Kinesis Data Firehose AWS telah menyumbangkan Amazon Kinesis Firehose Sink baru menggunakan kerangka kerja Async. Wastafel Selang Api Data Amazon Kinesis.
Berhenti dengan Savepoint Stop with Savepoint memastikan operasi penghentian yang bersih, yang paling penting mendukung semantik tepat sekali untuk pelanggan yang mengandalkan mereka. FLIP-34: Terminate/Suspend Pekerjaan dengan Savepoint.
Decoupling Scala Pengguna sekarang dapat memanfaatkan Java API dari versi Scala apa pun, termasuk Scala 3. Pelanggan perlu menggabungkan pustaka standar Scala pilihan mereka dalam aplikasi Scala mereka. FLIP-28: Long-term tujuan membuat flink Scala-free -table.
Skala Lihat decoupling Scala di atas FLIP-28: Long-term tujuan membuat flink Scala-free -table.
Metrik Konektor Terpadu Flink telah menetapkan metrik standar untuk pekerjaan, tugas, dan operator. Layanan Terkelola untuk Apache Flink akan terus mendukung metrik sink dan sumber dan di 1.15 memperkenalkan numRestarts secara paralel dengan fullRestarts Metrik Ketersediaan. FLIP-33: Standarisasi Metrik Konektor dan FLIP-179: Mengekspos Metrik Operator Standar.
Pemeriksaan tugas yang sudah selesai Fitur ini diaktifkan secara default di Flink 1.15 dan memungkinkan untuk terus melakukan pos pemeriksaan meskipun bagian dari grafik pekerjaan telah selesai memproses semua data, yang mungkin terjadi jika berisi sumber terbatas (batch). FLIP-147: Mendukung Pos Pemeriksaan Setelah Tugas Selesai.

Notebook studio

Layanan Terkelola untuk Apache Flink Studio sekarang mendukung Apache Flink 1.15. Layanan Terkelola untuk Apache Flink Studio menggunakan notebook Apache Zeppelin untuk memberikan pengalaman pengembangan antarmuka tunggal untuk mengembangkan, men-debug kode, dan menjalankan aplikasi pemrosesan aliran Apache Flink. Anda dapat mempelajari lebih lanjut tentang Layanan Terkelola untuk Apache Flink Studio dan cara memulainya diMenggunakan notebook Studio dengan Managed Service untuk Apache Flink.

Konektor EFO

Saat memutakhirkan ke Managed Service for Apache Flink versi 1.15, pastikan Anda menggunakan Konektor EFO terbaru, yaitu versi 1.15.3 atau yang lebih baru. Untuk informasi lebih lanjut tentang alasannya, lihat FLINK-29324.

Decoupling Scala

Dimulai dengan Flink 1.15.2, Anda perlu menggabungkan pustaka standar Scala pilihan Anda di aplikasi Scala Anda.

Wastafel Selang Api Data Kinesis

Saat memutakhirkan ke Layanan Terkelola untuk Apache Flink versi 1.15, pastikan Anda menggunakan Amazon Kinesis Data Firehose Sink terbaru.

Konektor Kafka

Saat memutakhirkan ke Amazon Managed Service for Apache Flink untuk Apache Flink versi 1.15, pastikan Anda menggunakan API konektor Kafka terbaru. Apache Flink tidak digunakan lagi FlinkKafkaConsumer dan API untuk Kafka FlinkKafkaProducer sink ini tidak dapat berkomitmen ke Kafka untuk Flink 1.15. Pastikan Anda menggunakan KafkaSource dan KafkaSink

Komponen Versi
Java 11 (direkomendasikan)
Skala 2.12
Layanan Terkelola untuk Apache Flink Flink Runtime (aws-kinesisanalytics-runtime) 1.2.0
AWS Konektor Kinesis (flink-connector-kinesis) 1.15.4
Apache Beam (hanya aplikasi Beam) 2.33.0, dengan Jackson versi 2.12.2

Kafka Commit pada checkpointing gagal berulang kali setelah broker memulai ulang

Ada masalah Apache Flink sumber terbuka yang diketahui dengan konektor Apache Kafka di Flink versi 1.15 yang disebabkan oleh bug Klien Kafka open source yang kritis di Kafka Client 2.8.1. Untuk informasi selengkapnya, lihat Komit Kafka pada checkpointing gagal berulang kali setelah broker memulai ulang dan KafkaConsumer tidak dapat memulihkan koneksi ke koordinator grup setelah pengecualian komit. OffsetAsync

Untuk menghindari masalah ini, kami sarankan Anda menggunakan Apache Flink 1.18 atau yang lebih baru di Amazon Managed Service untuk Apache Flink.