Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

CloudWatch solusi: Beban kerja Kafka di Amazon EC2

Solusi ini membantu Anda mengonfigurasi pengumpulan out-of-the-box metrik menggunakan CloudWatch agen untuk beban kerja Kafka (broker, produsen, dan konsumen) yang berjalan pada EC2 instance. Selain itu, ini membantu Anda mengatur CloudWatch dasbor yang telah dikonfigurasi sebelumnya. Untuk informasi umum tentang semua solusi CloudWatch observabilitas, lihatCloudWatch solusi observabilitas.

Persyaratan

Solusi ini relevan untuk kondisi berikut:

Manfaat

Solusi ini memberikan pemantauan server Kafka, memberikan wawasan berharga untuk kasus penggunaan berikut:

Di bawah ini adalah keuntungan utama dari solusi ini:

Gambar berikut adalah contoh dasbor untuk solusi ini.

Biaya

Solusi ini membuat dan menggunakan sumber daya di akun Anda. Anda dikenakan biaya untuk penggunaan standar, termasuk yang berikut:

Untuk informasi selengkapnya tentang CloudWatch harga, lihat CloudWatch Harga Amazon.

Kalkulator harga dapat membantu Anda memperkirakan perkiraan biaya bulanan untuk menggunakan solusi ini.

CloudWatch konfigurasi agen untuk solusi ini

CloudWatch Agen adalah perangkat lunak yang berjalan terus menerus dan mandiri di server Anda dan di lingkungan kontainer. Ini mengumpulkan metrik, log, dan jejak dari infrastruktur dan aplikasi Anda dan mengirimkannya ke dan CloudWatch X-Ray.

Untuk informasi lebih lanjut tentang CloudWatch agen, lihatKumpulkan metrik, log, dan jejak dengan agen CloudWatch .

Konfigurasi agen dalam solusi ini mengumpulkan metrik dasar untuk Kafka, JVM, dan. EC2 CloudWatch Agen dapat dikonfigurasi untuk mengumpulkan lebih banyak metrik Kafka dan JVM daripada tampilan dasbor secara default. Untuk daftar semua metrik Kafka yang dapat Anda kumpulkan, lihat. Kumpulkan metrik Kafka Untuk daftar semua metrik JVM yang dapat Anda kumpulkan, lihat. Kumpulkan metrik JVM Untuk daftar EC2 metrik, lihatMetrik yang dikumpulkan oleh CloudWatch agen di instans Linux dan macOS.

Paparkan port JMX untuk peran broker, produsen, dan konsumen Kafka

CloudWatch Agen mengandalkan JMX untuk mengumpulkan metrik yang terkait dengan broker, produsen, dan konsumen Kafka. Untuk memungkinkan ini, Anda harus mengekspos port JMX di server dan aplikasi Anda.

Untuk broker Kafka, Anda harus menggunakan variabel JMX_PORT lingkungan untuk mengatur port. Anda harus me-restart broker setelah Anda mengatur variabel lingkungan ini. Tinjau skrip awal dan file konfigurasi aplikasi Anda untuk menemukan tempat terbaik untuk menambahkan argumen ini.

Misalnya, untuk sistem Linux dan macOS, Anda dapat menggunakan perintah berikut untuk mengatur port JMX. Pastikan untuk menentukan nomor port yang tidak digunakan.

export JMX_PORT=port-number

Untuk produsen dan konsumen Kafka, petunjuk untuk mengekspos port JMX bergantung pada jenis beban kerja yang Anda gunakan untuk aplikasi JVM produsen atau konsumen Anda. Lihat dokumentasi untuk aplikasi Anda untuk menemukan petunjuk ini.

Secara umum, untuk mengaktifkan port JMX untuk pemantauan dan manajemen, Anda akan mengatur properti sistem berikut untuk aplikasi JVM Anda. Contoh berikut mengatur JMX yang tidak diautentikasi. Jika kebijakan/persyaratan keamanan Anda mengharuskan Anda mengaktifkan JMX dengan otentikasi kata sandi atau SSL untuk akses jarak jauh, lihat dokumentasi JMX untuk mengatur properti yang diperlukan.

-Dcom.sun.management.jmxremote
-Dcom.sun.management.jmxremote.port=port-number
-Dcom.sun.management.jmxremote.authenticate=false 
-Dcom.sun.management.jmxremote.ssl=false

Untuk memverifikasi port JMX, jalankan. ps aux | grep jmxremote.port Hasilnya harus menunjukkan bahwa port JMX diatur pada proses JVM.

Konfigurasi agen untuk solusi ini

Metrik yang dikumpulkan oleh agen ditentukan dalam konfigurasi agen. Solusi ini menyediakan konfigurasi agen untuk mengumpulkan metrik yang direkomendasikan dengan dimensi yang sesuai untuk dasbor solusi. Setiap peran Kafka, seperti broker, produsen, atau konsumen, memiliki konfigurasi agennya sendiri yang memungkinkan pengumpulan metrik Kafka dan JVM dan metrik yang mendasarinya. EC2

Langkah-langkah untuk menerapkan solusi dijelaskan nanti diMenyebarkan agen untuk solusi Anda. Informasi berikut dimaksudkan untuk membantu Anda memahami cara menyesuaikan konfigurasi agen untuk lingkungan Anda.

Anda harus menyesuaikan beberapa bagian dari konfigurasi agen berikut untuk lingkungan Anda:

Misalnya, jika Anda memiliki dua cluster Kafka yang berjalan di akun yang sama, satu untuk order-processing aplikasi dan satu lagi untuk inventory-management aplikasi, Anda harus mengatur ProcessGroupName dimensi ClusterName dan sesuai dalam konfigurasi agen dari instance broker.

Ketika Anda mengatur dimensi di atas dengan benar, dasbor solusi akan secara otomatis mengelompokkan metrik berdasarkanClusterName,ProducerGroupName, dan ConsumerGroupName dimensi. Dasbor akan menyertakan opsi dropdown untuk memilih dan melihat metrik untuk cluster dan grup tertentu, memungkinkan Anda memantau kinerja cluster dan grup individu secara terpisah.

Pastikan untuk menerapkan konfigurasi agen yang relevan ke EC2 instance yang benar. Setiap konfigurasi akan disimpan sebagai Parameter terpisah di Penyimpanan Parameter SSM, seperti yang dijelaskan nanti. Langkah 2: Simpan file konfigurasi CloudWatch agen yang direkomendasikan di Systems Manager Parameter Store

Instruksi berikut menjelaskan situasi di mana peran produsen, konsumen, dan broker dikerahkan untuk memisahkan EC2 instance, tanpa tumpang tindih. Jika Anda menjalankan beberapa peran Kafka pada EC2 instance yang sama, lihat Konfigurasikan agen untuk beberapa peran Kafka pada instance yang sama untuk informasi selengkapnya.

Konfigurasi agen untuk agen broker Kafka

Gunakan konfigurasi CloudWatch agen berikut pada EC2 contoh di mana agen broker Kafka dikerahkan. Ganti ClusterName dengan nama cluster yang akan digunakan untuk mengelompokkan metrik ini untuk tampilan terpadu. Nilai yang Anda tentukan ClusterName digunakan sebagai ClusterName dimensi dan ProcessGroupName dimensi. Ganti port-number dengan port JMX server Kafka Anda. Jika JMX diaktifkan dengan otentikasi kata sandi atau SSL untuk akses jarak jauh, lihat Kumpulkan metrik Java Management Extensions (JMX) informasi tentang pengaturan TLS atau otorisasi sesuai kebutuhan.

EC2 Metrik yang ditampilkan dalam konfigurasi ini (konfigurasi ditampilkan di luar blok JMX) hanya berfungsi untuk instance Linux dan macOS. Jika Anda menggunakan instance Windows, Anda dapat memilih untuk menghilangkan metrik ini dalam konfigurasi. Untuk informasi tentang metrik yang dikumpulkan pada instance Windows, lihat. Metrik yang dikumpulkan oleh CloudWatch agen pada instans Windows Server

{
  "metrics": {
    "namespace": "CWAgent",
    "append_dimensions": {
      "InstanceId": "${aws:InstanceId}"
    },
    "metrics_collected": {
      "jmx": [
        {
          "endpoint": "localhost:port-number",
          "kafka": {
            "measurement": [
              "kafka.request.time.avg",
              "kafka.request.failed",
              "kafka.request.count",
              "kafka.purgatory.size",
              "kafka.partition.under_replicated",
              "kafka.partition.offline",
              "kafka.network.io",
              "kafka.leader.election.rate",
              "kafka.isr.operation.count"
            ]
          },
          "append_dimensions": {
            "ClusterName": "ClusterName"
          }
        },
        {
          "endpoint": "localhost:port-number",
          "jvm": {
            "measurement": [
              "jvm.classes.loaded",
              "jvm.gc.collections.count",
              "jvm.gc.collections.elapsed",
              "jvm.memory.heap.committed",
              "jvm.memory.heap.max",
              "jvm.memory.heap.used",
              "jvm.memory.nonheap.committed",
              "jvm.memory.nonheap.max",
              "jvm.memory.nonheap.used",
              "jvm.threads.count"
            ]
          },
          "append_dimensions": {
            "ProcessGroupName": "ClusterName"
          }
        }
      ],
      "disk": {
        "measurement": [
          "used_percent"
        ]
      },
      "mem": {
        "measurement": [
          "used_percent"
        ]
      },
      "swap": {
        "measurement": [
          "used_percent"
        ]
      },
      "netstat": {
        "measurement": [
          "tcp_established",
          "tcp_time_wait"
        ]
      }
    }
  }
}

Konfigurasi agen untuk produsen Kafka

Gunakan konfigurasi CloudWatch agen berikut di EC2 instans Amazon tempat produsen Kafka digunakan. Ganti ProducerGroupName dengan nama aplikasi atau grup yang ingin Anda gunakan untuk mengelompokkan metrik Anda untuk tampilan terpadu. Ganti port-number dengan port JMX aplikasi produsen Kafka Anda.

Solusinya tidak mengaktifkan metrik JVM untuk produsen Kafka karena dasbor solusi tidak menampilkan metrik JVM yang terkait dengan JVM untuk produsen. Anda juga dapat menyesuaikan konfigurasi agen untuk memancarkan metrik JVM, namun metrik JVM yang terkait dengan produsen tidak terlihat di dasbor solusi.

{
  "metrics": {
    "namespace": "CWAgent",
    "append_dimensions": {
      "InstanceId": "${aws:InstanceId}"
    },
    "metrics_collected": {
      "jmx": [
        {
          "endpoint": "localhost:port-number",
          "kafka-producer": {
            "measurement": [
              "kafka.producer.request-rate",
              "kafka.producer.byte-rate",
              "kafka.producer.request-latency-avg",
              "kafka.producer.response-rate",
              "kafka.producer.record-error-rate",
              "kafka.producer.record-send-rate"
            ]
          },
          "append_dimensions": {
            "ProducerGroupName": "ProducerGroupName"
          }
        }
      ]
    }
  }
}

Konfigurasi agen untuk konsumen Kafka

Gunakan konfigurasi CloudWatch agen berikut pada EC2 instance di mana konsumen Kafka berjalan. Ganti ConsumerGroupName dengan nama aplikasi atau grup yang akan digunakan untuk mengelompokkan metrik ini untuk tampilan terpadu. Ganti port-number dengan port JMX aplikasi konsumen Kafka Anda.

Solusinya tidak mengaktifkan metrik JVM untuk konsumen Kafka karena dasbor solusi tidak menampilkan metrik JVM yang terkait dengan JVM untuk konsumen. Anda dapat menyesuaikan konfigurasi agen untuk memancarkan metrik JVM juga, namun metrik JVM yang terkait dengan konsumen tidak terlihat di dasbor solusi.

{
  "metrics": {
    "append_dimensions": {
      "InstanceId": "${aws:InstanceId}"
    },
    "metrics_collected": {
      "jmx": [
        {
          "endpoint": "localhost:port-number",
          "kafka-consumer": {
            "measurement": [
              "kafka.consumer.fetch-rate",
              "kafka.consumer.total.bytes-consumed-rate",
              "kafka.consumer.records-consumed-rate",
              "kafka.consumer.bytes-consumed-rate",
              "kafka.consumer.records-lag-max"
            ]
          },
          "append_dimensions": {
            "ConsumerGroupName": "ConsumerGroupName"
          }
        }
      ]
    }
  }
}

Menyebarkan agen untuk solusi Anda

Ada beberapa pendekatan untuk menginstal CloudWatch agen, tergantung pada kasus penggunaan. Sebaiknya gunakan Systems Manager untuk solusi ini. Ini memberikan pengalaman konsol dan membuatnya lebih mudah untuk mengelola armada server yang dikelola dalam satu AWS akun. Petunjuk di bagian ini menggunakan Systems Manager dan ditujukan untuk saat Anda tidak menjalankan CloudWatch agen dengan konfigurasi yang ada. Anda dapat memeriksa apakah CloudWatch agen berjalan dengan mengikuti langkah-langkah diVerifikasi bahwa CloudWatch agen sedang berjalan.

Jika Anda sudah menjalankan CloudWatch agen di EC2 host tempat beban kerja diterapkan dan mengelola konfigurasi agen, Anda dapat melewati instruksi di bagian ini dan mengikuti mekanisme penerapan yang ada untuk memperbarui konfigurasi. Pastikan untuk menggabungkan konfigurasi agen sesuai dengan peran (broker, produsen, atau konsumen) dengan konfigurasi agen Anda yang ada, dan kemudian menerapkan konfigurasi gabungan. Jika Anda menggunakan Systems Manager untuk menyimpan dan mengelola konfigurasi CloudWatch agen, Anda dapat menggabungkan konfigurasi ke nilai parameter yang ada. Untuk informasi selengkapnya, lihat Mengelola file konfigurasi CloudWatch agen.

Proses penyebaran mencakup langkah-langkah berikut:

Anda harus mengulangi langkah-langkah ini berdasarkan apakah broker, produsen, dan konsumen Anda dikerahkan pada contoh yang sama atau EC2 contoh yang berbeda. Misalnya, jika broker, produsen, dan konsumen Kafka ditempatkan pada instance terpisah tanpa tumpang tindih, Anda harus mengulangi langkah-langkah ini tiga kali dengan konfigurasi agen yang sesuai untuk contoh broker, produsen, dan konsumen. EC2

Langkah 1: Pastikan EC2 instance target memiliki izin IAM yang diperlukan

Anda harus memberikan izin kepada Systems Manager untuk menginstal dan mengkonfigurasi CloudWatch agen. Anda juga harus memberikan izin kepada CloudWatch agen untuk mempublikasikan telemetri dari EC2 instans Anda ke. CloudWatch Pastikan bahwa peran IAM yang dilampirkan pada instance memiliki kebijakan SSMManaged InstanceCore IAM CloudWatchAgentServerPolicydan Amazon yang dilampirkan.

Langkah 2: Simpan file konfigurasi CloudWatch agen yang direkomendasikan di Systems Manager Parameter Store

Parameter Store menyederhanakan pemasangan CloudWatch agen pada EC2 instance dengan menyimpan dan mengelola parameter konfigurasi dengan aman, menghilangkan kebutuhan akan nilai hard-code. Ini memastikan proses penyebaran yang lebih aman dan fleksibel, memungkinkan manajemen terpusat dan pembaruan konfigurasi yang lebih mudah di beberapa instance.

Gunakan langkah-langkah berikut untuk menyimpan file konfigurasi CloudWatch agen yang direkomendasikan sebagai parameter di Parameter Store.

Langkah 3: Instal CloudWatch agen dan terapkan konfigurasi menggunakan AWS CloudFormation templat

Anda dapat menggunakan AWS CloudFormation untuk menginstal agen dan mengonfigurasinya untuk menggunakan konfigurasi CloudWatch agen yang Anda buat di langkah sebelumnya.

Jika Anda ingin mengedit file templat terlebih dahulu untuk menyesuaikannya, pilih opsi Unggah file templat di bawah Buat Wisaya Tumpukan untuk mengunggah templat yang diedit. Untuk informasi selengkapnya, lihat Membuat tumpukan di AWS CloudFormation konsol. Anda dapat menggunakan tautan berikut untuk mengunduh templat: https://aws-observability-solutions.s3.amazonaws.com/CloudWatchAgent/CFN/v1.0.0/cw- agent-installation-template -1.0.0.json.

Langkah 4: Verifikasi pengaturan agen dikonfigurasi dengan benar

Anda dapat memverifikasi apakah CloudWatch agen diinstal dengan mengikuti langkah-langkah diVerifikasi bahwa CloudWatch agen sedang berjalan. Jika CloudWatch agen tidak diinstal dan berjalan, pastikan Anda telah mengatur semuanya dengan benar.

Jika semuanya diatur dengan benar, maka Anda akan melihat metrik Kafka dipublikasikan. CloudWatch Anda dapat memeriksa CloudWatch konsol untuk memverifikasi bahwa mereka sedang dipublikasikan.

Buat dasbor solusi Kafka

Dasbor ini menampilkan metrik yang baru dipancarkan untuk Kafka dan JVM yang mendasarinya. Dasbor ini memberikan tampilan kontributor teratas untuk kesehatan beban kerja Kafka Anda, di seluruh produsen, pialang, dan konsumen. Tampilan kontributor teratas menampilkan 10 teratas per widget metrik. Ini memungkinkan Anda untuk mengidentifikasi outlier secara sekilas.

Dasbor solusi tidak menampilkan EC2 metrik. Untuk melihat EC2 metrik, Anda harus menggunakan dasbor EC2 otomatis untuk melihat metrik EC2 yang dijual dan menggunakan dasbor EC2 konsol untuk melihat EC2 metrik yang dikumpulkan oleh agen. CloudWatch Untuk informasi selengkapnya tentang dasbor otomatis untuk AWS layanan, lihatMelihat CloudWatch dasbor untuk satu AWS layanan.

Untuk membuat dasbor, Anda dapat menggunakan opsi berikut:

Dengan menggunakan CloudWatch konsol untuk membuat dasbor, Anda dapat melihat pratinjau dasbor sebelum benar-benar membuat dan mengisi daya.

Jika Anda ingin mengedit file templat untuk menyesuaikannya untuk tujuan apa pun, Anda dapat menggunakan opsi Unggah file templat di bawah Buat Wisaya Tumpukan untuk mengunggah templat yang diedit. Untuk informasi selengkapnya, lihat Membuat tumpukan di AWS CloudFormation konsol. Anda dapat menggunakan tautan ini untuk mengunduh templat: https://aws-observability-solutions.s3.amazonaws.com/Kafka_EC2/CloudWatch/CFN/v1.0.0/dashboard-template-1.0.0.json.

Mulai dengan dasbor Kafka

Berikut adalah beberapa tugas yang dapat Anda coba dengan dasbor Kafka baru. Tugas-tugas ini memungkinkan Anda untuk memvalidasi bahwa dasbor berfungsi dengan benar dan memberi Anda beberapa pengalaman langsung menggunakannya untuk memantau cluster Kafka. Saat Anda mencobanya, Anda akan terbiasa dengan menavigasi dasbor dan menafsirkan metrik yang divisualisasikan.

Menggunakan daftar dropdown

Dasbor menyediakan daftar dropdown di bagian atas yang dapat Anda gunakan untuk memfilter dan memilih cluster Kafka, produsen, dan grup konsumen tertentu yang ingin Anda pantau.

Verifikasi kesehatan cluster

Dari bagian Cluster Overview, temukan widget Partitions Under Replicated and In-Sync Replicas. Ini idealnya nol atau angka kecil. Nilai besar untuk salah satu metrik ini dapat menunjukkan masalah dengan cluster Kafka yang perlu diselidiki.

Selidiki kinerja broker

Di bagian Broker, temukan widget Failed Fetch Requests dan Failed Producer Requests. Ini menunjukkan jumlah permintaan gagal untuk mengambil dan menghasilkan operasi, masing-masing. Tingkat kegagalan yang tinggi dapat mengindikasikan masalah dengan broker atau konektivitas jaringan yang memerlukan penyelidikan lebih lanjut.

Pantau kinerja produsen

Di bagian Ikhtisar Grup Produsen, temukan widget Rasio Permintaan Rata-Rata, Latensi Permintaan Rata-Rata, dan Rasio Pengiriman/Error Rate Rata-rata. Ini akan memberi Anda gambaran tentang bagaimana kinerja produsen dalam grup yang dipilih. Anda juga dapat menelusuri untuk melihat metrik untuk produsen dan topik tertentu di bagian Produsen.

Pantau kelambatan konsumen

Di bagian Ikhtisar Grup Konsumen, temukan widget Consumer Lag. Ini menunjukkan seberapa jauh di belakang konsumen dalam memproses pesan dari offset terbaru di partisi tempat mereka berlangganan. Idealnya, kelambatan konsumen harus rendah atau nol. Kelambatan konsumen yang tinggi dapat mengindikasikan bahwa konsumen tidak dapat mengikuti laju produksi data, yang menyebabkan potensi kehilangan data atau keterlambatan dalam pemrosesan. Anda juga dapat menelusuri untuk melihat metrik untuk konsumen dan topik tertentu di bagian Konsumen.

Konfigurasikan agen untuk beberapa peran Kafka pada instance yang sama

Konfigurasi individual untuk peran Kafka yang tercantum dalam CloudWatch konfigurasi agen untuk solusi ini berlaku hanya ketika peran produsen, konsumen, dan broker digunakan pada EC2 instance terpisah, tanpa tumpang tindih. Jika Anda menjalankan beberapa peran Kafka pada EC2 instans Amazon yang sama, Anda memiliki dua opsi:

Contoh berikut menunjukkan konfigurasi CloudWatch agen di mana peran produsen dan konsumen berjalan pada satu instance sebagai bagian dari proses JVM yang sama. Dalam hal ini, nomor port harus sama di bagian produsen dan konsumen dari konfigurasi di bawah ini. Jika sebaliknya dua peran berjalan sebagai bagian dari proses JVM yang berbeda, Anda dapat menentukan nomor port yang berbeda untuk masing-masing, sesuai dengan port JMX dari setiap proses JVM individu.

{
  "metrics": {
    "namespace": "CWAgent",
    "append_dimensions": {
      "InstanceId": "${aws:InstanceId}"
    },
    "metrics_collected": {
      "jmx": [
        {
          "endpoint": "localhost:port-number",
          "kafka-producer": {
            "measurement": [
              "kafka.producer.request-rate",
              "kafka.producer.byte-rate",
              "kafka.producer.request-latency-avg",
              "kafka.producer.response-rate",
              "kafka.producer.record-error-rate",
              "kafka.producer.record-send-rate"
            ]
          },
          "append_dimensions": {
            "ProducerGroupName": "ProducerGroupName"
          }
        },
        {
          "endpoint": "localhost:port-number",
          "kafka-consumer": {
            "measurement": [
              "kafka.consumer.fetch-rate",
              "kafka.consumer.total.bytes-consumed-rate",
              "kafka.consumer.records-consumed-rate",
              "kafka.consumer.bytes-consumed-rate",
              "kafka.consumer.records-lag-max"
            ]
          },
          "append_dimensions": {
            "ConsumerGroupName": "ConsumerGroupName"
          }
        }
      ]
    }
  }
}