View a markdown version of this page

Memantau dasbor dan alarm di Amazon MWAA - Amazon Managed Workflows for Apache Airflow

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memantau dasbor dan alarm di Amazon MWAA

Halaman detail lingkungan untuk lingkungan Alur Kerja Terkelola Amazon untuk Apache Airflow menyertakan dasbor CloudWatch metrik bawaan dan tabel alarm Lingkungan. Anda dapat menggunakan fitur-fitur ini untuk memantau kesehatan lingkungan Anda secara langsung di konsol Amazon MWAA, tanpa pengaturan tambahan apa pun.

Apache Airflow memaparkan metrik untuk beberapa proses, termasuk jumlah proses DAG, ukuran bag DAG, tugas yang sedang berjalan, kegagalan tugas, dan keberhasilan. Saat Anda membuat lingkungan, Apache Airflow secara otomatis mengirimkan metrik untuk lingkungan Amazon MWAA Anda ke CloudWatch. Selain dasbor bawaan, Anda dapat membuat dasbor khusus di Amazon CloudWatch dan menambahkan alarm untuk metrik tertentu. Ketika alarm ada di dasbor, itu berubah menjadi merah ketika memasuki ALARM keadaan. Ini membuatnya lebih mudah untuk memantau kesehatan lingkungan Amazon MWAA Anda secara proaktif.

Lihat dasbor metrik

Halaman detail lingkungan menyertakan dasbor CloudWatch metrik bawaan, ditampilkan di konsol di bawah CloudWatch metrik. CloudWatch Dasbor tertanam ini menampilkan bagan untuk lingkungan Anda tanpa pengaturan tambahan.

Panel CloudWatch metrik di halaman detail lingkungan Amazon MWAA, menampilkan sakelar rekomendasi Alarm, filter bagian Metrik, dan bagan contoh di grup Kon tainer.

Untuk membuka kumpulan metrik lengkap di CloudWatch konsol, pilih Lihat semua di CloudWatch.

Dasbor menampilkan metrik dari dua ruang nama CloudWatch berikut:

  • AmazonMWAA— Metrik Aliran Udara Apache.

  • AWS/MWAA— Metrik kontainer, antrian, dan database.

Anda dapat menggunakan kontrol berikut untuk mengubah tampilan dasbor:

  • Aktifkan sak elar Rekom endasi alarm untuk hanya menampilkan metrik yang direkomendasikan. Saat Anda mengaktifkan sakelar ini, setiap bagan menggambar ambang alarmnya sebagai anotasi. Anotasi berbunyi Alarm jika metric di atas atau Alarm jika metric di bawah, tergantung pada metriknya.

  • Gunakan filter bagian metrik untuk hanya menampilkan bagan dalam grup tertentu. Grup yang tersedia adalah Con tainer, Database dan antrean, Pen jadwal, pemrosesan DAG, Tu gas , dan Trig gerer.

catatan

Jika Anda mengonfigurasi lingkungan untuk memfilter metrik Apache Airflow yang diterbitkan dengan menggunakan metrik memungkinkan daftar atau opsi daftar blokir, beberapa bagan mungkin tidak memiliki data.

catatan

Untuk melihat dasbor metrik, identitas IAM Anda harus memiliki izin untuk membaca CloudWatch metrik, termasukcloudwatch:GetMetricData,cloudwatch:GetMetricStatistics, dancloudwatch:ListMetrics. Tanpa izin ini, grafik dirender tanpa data.

Untuk daftar lengkap metrik yang diterbitkan Amazon MWAA, lihatMetrik lingkungan Apache Airflow di CloudWatch.

Metrik yang ditampilkan di dasbor

Dasbor mengatur bagan menjadi enam bagian yang dapat Anda filter dengan bagian Metrik. Ini menunjukkan serangkaian metrik lingkungan yang dikuratori; bagan berasal dari namespace (metrik Apache Airflow) dan AmazonMWAA AWS/MWAA namespace (wadah, antrian, dan metrik database). Tabel berikut mencantumkan bagan di setiap bagian dan CloudWatch metrik yang ditampilkan masing-masing.

Bagan dasbor dan metriknya
Bagian Bagan CloudWatch metrik
Kontainer Pemanfaatan CPU penjadwal CPUUtilization
Kontainer Pemanfaatan memori penjadwal MemoryUtilization
Kontainer Pemanfaatan CPU Pekerja CPUUtilization(BaseWorker dan AdditionalWorker)
Kontainer Pemanfaatan memori pekerja MemoryUtilization(BaseWorker dan AdditionalWorker)
Kontainer Pemanfaatan CPU server web CPUUtilization
Kontainer Pemanfaatan memori server web MemoryUtilization
Kontainer Wadah pekerja berjalan Berasal dari CPUUtilization jumlah sampel
Kontainer Detak jantung pekerja CeleryWorkerHeartbeat
Database dan antrian Memori yang dapat dibebaskan database FreeableMemory
Database dan antrian Pemanfaatan CPU database CPUUtilization
Database dan antrian Koneksi basis data DatabaseConnections
Database dan antrian Latensi penulisan database WriteLatency
Database dan antrian Usia tugas tertua yang mengantri ApproximateAgeOfOldestTask
Penjadwal Penjadwal detak jantung SchedulerHeartbeat
Penjadwal Durasi bagian kritis penjadwal CriticalSectionDuration
Penjadwal Status tugas penjadwal TasksExecutable, TasksStarving, TasksWithoutDagRun
Penjadwal Tugas dibunuh secara eksternal TasksKilledExternally
Penjadwal Slot terbuka pelaksana OpenSlots
Pengolahan DAG Waktu penguraian DAG TotalParseTime
Pengolahan DAG Ukuran tas DAG DagBagSize
Pengolahan DAG Kesalahan impor DAG ImportErrors, DAGFileRefreshError
Pengolahan DAG Kesehatan prosesor DAG ProcessorTimeouts, ManagerStalls
Tugas Antrian tugas QueuedTasks, RunningTasks
Tugas Keberhasilan dan kegagalan tugas TaskInstanceSuccesses, TaskInstanceFailures
Tugas Tugas zombie terbunuh ZombiesKilled
Pemicu Detak jantung pemicu TriggererHeartbeat
Pemicu Hasil pemicu TriggersSucceeded, TriggersFailed
catatan

Grafik Triggerer hanya muncul pada versi Apache Airflow yang lebih baru. Hasil pemicu memerlukan Apache Airflow v2.7.2 atau yang lebih baru, dan Triggerer heartbeat memerlukan v2.8.1 atau yang lebih baru.

Dasbor menunjukkan metrik agregat di seluruh lingkungan. Itu tidak memetakan metrik kardinalitas tinggi yang diterbitkan Apache Airflow per DAG, tugas, kumpulan, operator, atau file DAG, dan memetakan CPU dan memori kontainer tetapi tidak setiap metrik kontainer. Untuk daftar lengkap metrik yang dipublikasikan, lihat Metrik lingkungan Apache Airflow di CloudWatch danMetrik kontainer, antrian, dan database untuk Amazon MWAA.

Membuat dan memantau alarm

Halaman detail lingkungan menyertakan panel Alarm tempat Anda membuat dan mengelola alarm CloudWatch, lalu memantaunya dalam konteks. Panel menampilkan tabel alarm Lingkungan yang mencantumkan CloudWatch alarm yang dikaitkan dengan lingkungan. Amazon MWAA mencocokkan alarm ini berdasarkan CloudWatch namespace dan Environment dimensi, jadi tabel menyertakan alarm yang Anda buat sendiri, bukan hanya alarm yang disarankan.

Panel Alarm di halaman detail lingkungan Amazon MWAA, menampilkan CloudWatch tombol Buat alarm yang direkomendasikan dan Kelola di di atas tabel Alarm Lingkungan.

Header panel menunjukkan jumlah alarm In dari berapa banyak alarm lingkungan yang saat ini berada dalam ALARM status. Tabel alarm lingkungan memiliki kolom berikut.

Nama Status Kondisi Tindakan Terakhir diperbarui
Nama alarm, yang terhubung ke alarm di CloudWatch konsol. Status alarm: Dalam alarm, OK, atau Data tidak cukup. Kondisi alarm, ditampilkan seperti untuk titik n data di dalamnya. duration Tindakan alarm, seperti No tifikasi topik SNS topic, atau - jika alarm tidak memiliki tindakan. Tanggal dan waktu ketika alarm terakhir diperbarui.
catatan

Untuk melihat alarm di tabel ini, Anda harus memiliki cloudwatch:DescribeAlarms izin.

Jika lingkungan tidak memiliki alarm, tabel alarm lingkungan kosong dan memberikan panduan untuk membuat alarm yang disarankan untuk mulai memantau lingkungan Anda.

Panel Alarm menyediakan dua tombol berikut:

  • Buat alarm yang disarankan — Membuka tumpukan pembuatan CloudFormation cepat di tab baru. Tumpukan diberi MWAA-alarms-environment-name nama dan membuat satu set standar alarm yang direkomendasikan untuk lingkungan.

  • Kelola di CloudWatch — Membuka halaman alarm di CloudWatch konsol.

Untuk membuat alarm yang disarankan
  1. Buka konsol Amazon MWAA, lalu pilih lingkungan Anda untuk membuka halaman detailnya.

  2. Di tampilan Monitoring, cari panel Alarm.

  3. Pilih Buat alarm yang disarankan. Tum CloudFormation pukan buatan cepat terbuka di tab browser baru.

  4. Tinjau tumpukan di CloudFormation konsol. Jika diminta, pilih pengakuan yang CloudFormation mungkin membuat sumber daya IAM.

  5. Pilih Buat tumpukan.

Setelah CloudFormation membuat tumpukan, alarm muncul di tabel alarm lingkungan dan di CloudWatch konsol. Untuk informasi lebih lanjut tentang apa arti setiap status alarm, lihatIkhtisar status alarm.

Ketika Anda memilih Buat alarm yang disarankan, CloudFormation template membuat alarm berikut. CloudWatch mengevaluasi semua alarm ini selama periode 5 menit (300 detik).

Ikhtisar status alarm

Sebuah alarm metrik mungkin saja berada dalam status berikut ini:

  • OK – Metrik atau ekspresi berada dalam ambang batas yang telah ditetapkan sebelumnya.

  • ALARM – Metrik atau ekspresi berada di luar ambang batas yang telah ditetapkan sebelumnya.

  • INSUFFICIENT_DATA – Alarm baru saja dimulai, metrik tidak tersedia, atau tidak ada data yang memadai yang tersedia bagi metrik untuk menentukan status alarm.

Contoh dasbor dan alarm kustom

Anda dapat menentukan dasbor dan alarm Anda sendiri sebagai infrastruktur sebagai kode untuk membuat dasbor khusus secara terprogram atau untuk menstandarisasi pemantauan di beberapa lingkungan Amazon MWAA. Sebagai alternatif untuk dasbor bawaan di halaman detail lingkungan, tutorial dan CloudFormation template berikut membuat dasbor pemantauan khusus. Dasbor ini menampilkan bagan metrik yang dipilih untuk lingkungan Amazon MWAA Anda.

Tentang metrik ini

Daftar berikut menjelaskan setiap metrik yang dibuat di dasbor kustom oleh tutorial dan definisi template di bagian ini.

  • QueuedTasks- Jumlah tugas dengan keadaan antrian. Sesuai dengan metrik executor.queued_tasks Apache Airflow.

  • TasksPending- Jumlah tugas yang tertunda di pelaksana. Sesuai dengan metrik scheduler.tasks.pending Apache Airflow.

    catatan

    Tidak berlaku untuk Apache Airflow v2.2 dan yang lebih baru.

  • RunningTasks- Jumlah tugas yang berjalan di eksekutor. Sesuai dengan metrik executor.running_tasks Apache Airflow.

  • SchedulerHeartbeat- Jumlah check-in yang dilakukan Apache Airflow pada pekerjaan penjadwal. Sesuai dengan metrik scheduler_heartbeat Apache Airflow.

  • TotalParseTime- Jumlah detik yang dibutuhkan untuk memindai dan mengimpor semua file DAG sekali. Sesuai dengan metrik dag_processing.total_parse_time Apache Airflow.

Tentang dasbor

Gambar berikut menampilkan dasbor pemantauan yang dibuat oleh tutorial dan definisi template di bagian ini.

Gambar ini menggambarkan di mana menemukan opsi Jaringan pribadi di konsol Amazon MWAA.

Penggunaan AWS tutorial

Anda dapat menggunakan AWS tutorial berikut untuk secara otomatis membuat dasbor status kesehatan untuk lingkungan Amazon MWAA apa pun yang saat ini digunakan. Ini juga menciptakan CloudWatch alarm untuk pekerja yang tidak sehat dan kegagalan detak jantung penjadwal di semua lingkungan Amazon MWAA.

Penggunaan CloudFormation

Anda dapat menggunakan definisi CloudFormation template di bagian ini untuk membuat dasbor pemantauan di CloudWatch, lalu menambahkan alarm di CloudWatch konsol untuk menerima pemberitahuan saat metrik melampaui ambang batas tertentu. Untuk membuat tumpukan menggunakan definisi template ini, lihat Membuat tumpukan di CloudFormation konsol. Untuk menambahkan alarm ke dasbor, lihat Menggunakan alarm.

AWSTemplateFormatVersion: "2010-09-09" Description: Creates MWAA Cloudwatch Dashboard Parameters: DashboardName: Description: Enter the name of the CloudWatch Dashboard Type: String EnvironmentName: Description: Enter the name of the MWAA Environment Type: String Resources: BasicDashboard: Type: AWS::CloudWatch::Dashboard Properties: DashboardName: !Ref DashboardName DashboardBody: Fn::Sub: '{ "widgets": [ { "type": "metric", "x": 0, "y": 0, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "QueuedTasks", "Function", "Executor", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "QueuedTasks ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 0, "y": 6, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "RunningTasks", "Function", "Executor", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "RunningTasks ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 12, "y": 6, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "SchedulerHeartbeat", "Function", "Scheduler", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "SchedulerHeartbeat ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 12, "y": 0, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "TasksPending", "Function", "Scheduler", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "TasksPending ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 0, "y": 12, "width": 24, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "region": "${AWS::Region}", "metrics": [ [ "AmazonMWAA", "TotalParseTime", "Function", "DAG Processing", "Environment", "${EnvironmentName}" ] ], "title": "TotalParseTime ${EnvironmentName}", "period": 300 } } ] }'

Menghapus metrik dan dasbor

Jika Anda menghapus lingkungan Amazon MWAA, dasbor yang sesuai juga dihapus. CloudWatch metrik disimpan selama lima belas (15) bulan dan tidak dapat dihapus. Kon CloudWatch sol membatasi pencarian metrik hingga dua (2) minggu setelah metrik terakhir dicerna untuk memastikan bahwa instance terbaru ditampilkan untuk lingkungan Amazon MWAA Anda. Untuk mempelajari lebih lanjut, lihat CloudWatch FAQ Amazon.

Apa selanjutnya?