Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Amazon MSK mendukung mode manajemen Apache ZooKeeper atau KRaft metadata.
Dari Apache Kafka versi 3.7.x di Amazon MSK, Anda dapat membuat cluster yang KRaft menggunakan mode alih-alih mode. ZooKeeper KRaftcluster berbasis mengandalkan pengontrol dalam Kafka untuk mengelola metadata.
ZooKeeper modus
Apache ZooKeeper
Jika cluster Anda menggunakan ZooKeeper mode, Anda dapat menggunakan langkah-langkah di bawah ini untuk mendapatkan string ZooKeeper koneksi Apache. Namun, kami menyarankan Anda menggunakan BootstrapServerString
untuk terhubung ke operasi admin cluster dan perfom Anda karena --zookeeper
bendera telah usang di Kafka 2.5 dan dihapus dari Kafka 3.0.
Mendapatkan string ZooKeeper koneksi Apache menggunakan AWS Management Console
Buka konsol MSK Amazon dihttps://console.aws.amazon.com/msk/
. -
Tabel menunjukkan semua cluster untuk wilayah saat ini di bawah akun ini. Pilih nama cluster untuk melihat deskripsinya.
-
Pada halaman ringkasan Cluster, pilih Lihat informasi klien. Ini menunjukkan kepada Anda broker bootstrap, serta string ZooKeeper koneksi Apache.
Mendapatkan string ZooKeeper koneksi Apache menggunakan AWS CLI
Jika Anda tidak mengetahui Nama Sumber Daya Amazon (ARN) klaster Anda, Anda dapat menemukannya dengan mencantumkan semua cluster di akun Anda. Untuk informasi selengkapnya, lihat Daftar kluster MSK Amazon.
-
Untuk mendapatkan string ZooKeeper koneksi Apache, bersama dengan informasi lain tentang cluster Anda, jalankan perintah berikut, ganti
ClusterArn
dengan ARN cluster Anda.aws kafka describe-cluster --cluster-arn
ClusterArn
Output dari
describe-cluster
perintah ini terlihat seperti contoh JSON berikut.{ "ClusterInfo": { "BrokerNodeGroupInfo": { "BrokerAZDistribution": "DEFAULT", "ClientSubnets": [ "subnet-0123456789abcdef0", "subnet-2468013579abcdef1", "subnet-1357902468abcdef2" ], "InstanceType": "kafka.m5.large", "StorageInfo": { "EbsStorageInfo": { "VolumeSize": 1000 } } }, "ClusterArn": "arn:aws:kafka:us-east-1:111122223333:cluster/testcluster/12345678-abcd-4567-2345-abcdef123456-2", "ClusterName": "testcluster", "CreationTime": "2018-12-02T17:38:36.75Z", "CurrentBrokerSoftwareInfo": { "KafkaVersion": "2.2.1" }, "CurrentVersion": "K13V1IB3VIYZZH", "EncryptionInfo": { "EncryptionAtRest": { "DataVolumeKMSKeyId": "arn:aws:kms:us-east-1:555555555555:key/12345678-abcd-2345-ef01-abcdef123456" } }, "EnhancedMonitoring": "DEFAULT", "NumberOfBrokerNodes": 3, "State": "ACTIVE", "ZookeeperConnectString": "10.0.1.101:2018,10.0.2.101:2018,10.0.3.101:2018" } }
Contoh JSON sebelumnya menunjukkan
ZookeeperConnectString
kunci dalam outputdescribe-cluster
perintah. Salin nilai yang sesuai dengan kunci ini dan simpan untuk saat Anda perlu membuat topik di cluster Anda.penting
Cluster MSK Amazon Anda harus dalam
ACTIVE
keadaan agar Anda dapat memperoleh string ZooKeeper koneksi Apache. Ketika sebuah cluster masih dalamCREATING
status, output daridescribe-cluster
perintah tidak termasukZookeeperConnectString
. Jika ini masalahnya, tunggu beberapa menit dan kemudian jalankandescribe-cluster
lagi setelah cluster Anda mencapaiACTIVE
status.
Mendapatkan string ZooKeeper koneksi Apache menggunakan API
Untuk mendapatkan string ZooKeeper koneksi Apache menggunakan API, lihat DescribeCluster.
KRaft modus
Amazon MSK memperkenalkan dukungan untuk KRaft (Apache Kafka Raft) di Kafka versi 3.7.x. Komunitas Apache Kafka dikembangkan KRaft untuk menggantikan Apache ZooKeeper untuk manajemen metadata di cluster Apache Kafka. Dalam KRaft mode, metadata cluster disebarkan dalam sekelompok pengendali Kafka, yang merupakan bagian dari cluster Kafka, bukan di seluruh node. ZooKeeper KRaftpengendali disertakan tanpa biaya tambahan untuk Anda, dan tidak memerlukan pengaturan atau manajemen tambahan dari Anda. Lihat KIP-500
Berikut adalah beberapa poin yang perlu diperhatikan tentang KRaft mode di MSK:
-
KRaft mode hanya tersedia untuk cluster baru. Anda tidak dapat mengganti mode metadata setelah cluster dibuat.
Pada konsol MSK, Anda dapat membuat cluster berbasis Kraft dengan memilih Kafka versi 3.7.x dan memilih kotak centang di KRaft jendela pembuatan cluster.
Untuk membuat cluster dalam KRaft mode menggunakan MSK API
CreateCluster
atauCreateClusterV2
operasi, Anda harus menggunakan3.7.x.kraft
sebagai versi. Gunakan3.7.x
sebagai versi untuk membuat cluster dalam ZooKeeper mode.Jumlah partisi per broker sama pada KRaft dan ZooKeeper berdasarkan cluster. Namun, KRaft memungkinkan Anda untuk meng-host lebih banyak partisi per cluster dengan menyediakan lebih banyak broker dalam sebuah cluster.
Tidak ada perubahan API yang diperlukan untuk menggunakan KRaft mode di Amazon MSK. Namun, jika klien Anda masih menggunakan string
--zookeeper
koneksi hari ini, Anda harus memperbarui klien Anda untuk menggunakan string--bootstrap-server
koneksi untuk terhubung ke cluster Anda.--zookeeper
Bendera tidak digunakan lagi di Apache Kafka versi 2.5 dan dihapus dimulai dengan Kafka versi 3.0. Oleh karena itu kami menyarankan Anda menggunakan versi klien Apache Kafka terbaru dan string--bootstrap-server
koneksi untuk semua koneksi ke cluster Anda.ZooKeeper mode terus tersedia untuk semua versi yang dirilis di mana zookeeper juga didukung oleh Apache Kafka. Lihat Versi Apache Kafka yang didukung detail tentang akhir dukungan untuk versi Apache Kafka dan pembaruan masa depan.
Anda harus memeriksa apakah alat apa pun yang Anda gunakan mampu menggunakan Kafka Admin APIs tanpa ZooKeeper koneksi. Lihat langkah-langkah terbaru Gunakan Cruise LinkedIn Control untuk Apache Kafka dengan Amazon MSK untuk menghubungkan cluster Anda ke Cruise Control. Cruise Control juga memiliki instruksi untuk menjalankan Cruise Control tanpa ZooKeeper
. -
Anda tidak perlu mengakses KRaft pengontrol klaster Anda secara langsung untuk tindakan administratif apa pun. Namun, jika Anda menggunakan pemantauan terbuka untuk mengumpulkan metrik, Anda juga memerlukan titik akhir DNS dari pengontrol Anda untuk mengumpulkan beberapa metrik terkait non-pengontrol tentang klaster Anda. Anda bisa mendapatkan endpoint DNS ini dari MSK Console atau menggunakan operasi API. ListNodes Lihat langkah-langkah terbaru Memantau klaster MSK Provisioned dengan Prometheus untuk menyiapkan pemantauan terbuka untuk cluster KRaft berbasis.
Tidak ada CloudWatch metrik tambahan yang perlu Anda pantau untuk kluster KRaft mode melalui kluster ZooKeeper mode. MSK mengelola KRaft pengontrol yang digunakan dalam cluster Anda.
-
Anda dapat terus mengelola ACLs menggunakan cluster KRaft mode menggunakan string
--bootstrap-server
koneksi. Anda tidak boleh menggunakan string--zookeeper
koneksi untuk mengelola ACLs. Lihat Apache Kafka ACLs. Dalam KRaft mode, metadata cluster Anda disimpan pada KRaft pengontrol dalam Kafka dan bukan node eksternal. ZooKeeper Oleh karena itu, Anda tidak perlu mengontrol akses ke node pengontrol secara terpisah seperti yang Anda lakukan dengan ZooKeeper node.