Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Memantau dasbor dan alarm di Amazon MWAA
Halaman detail lingkungan untuk lingkungan Alur Kerja Terkelola Amazon untuk Apache Airflow menyertakan dasbor CloudWatch metrik bawaan dan tabel alarm Lingkungan. Anda dapat menggunakan fitur-fitur ini untuk memantau kesehatan lingkungan Anda secara langsung di konsol Amazon MWAA, tanpa pengaturan tambahan apa pun.
Apache Airflow memaparkan metrik untuk beberapa proses, termasuk jumlah proses DAG, ukuran bag DAG, tugas yang sedang berjalan, kegagalan tugas, dan keberhasilan. Saat Anda membuat lingkungan, Apache Airflow secara otomatis mengirimkan metrik untuk lingkungan Amazon MWAA Anda ke CloudWatch. Selain dasbor bawaan, Anda dapat membuat dasbor khusus di Amazon CloudWatch dan menambahkan alarm untuk metrik tertentu. Ketika alarm ada di dasbor, itu berubah menjadi merah ketika memasuki ALARM keadaan. Ini membuatnya lebih mudah untuk memantau kesehatan lingkungan Amazon MWAA Anda secara proaktif.
Daftar Isi
Lihat dasbor metrik
Halaman detail lingkungan menyertakan dasbor CloudWatch metrik bawaan, ditampilkan di konsol di bawah CloudWatch metrik. CloudWatch Dasbor tertanam ini menampilkan bagan untuk lingkungan Anda tanpa pengaturan tambahan.
Untuk membuka kumpulan metrik lengkap di CloudWatch konsol, pilih Lihat semua di CloudWatch.
Dasbor menampilkan metrik dari dua ruang nama CloudWatch berikut:
-
AmazonMWAA— Metrik Aliran Udara Apache. -
AWS/MWAA— Metrik kontainer, antrian, dan database.
Anda dapat menggunakan kontrol berikut untuk mengubah tampilan dasbor:
-
Aktifkan sak elar Rekom endasi alarm untuk hanya menampilkan metrik yang direkomendasikan. Saat Anda mengaktifkan sakelar ini, setiap bagan menggambar ambang alarmnya sebagai anotasi. Anotasi berbunyi Alarm jika
metricdi atas atau Alarm jikametricdi bawah, tergantung pada metriknya. -
Gunakan filter bagian metrik untuk hanya menampilkan bagan dalam grup tertentu. Grup yang tersedia adalah Con tainer, Database dan antrean, Pen jadwal, pemrosesan DAG, Tu gas , dan Trig gerer.
catatan
Jika Anda mengonfigurasi lingkungan untuk memfilter metrik Apache Airflow yang diterbitkan dengan menggunakan metrik memungkinkan daftar atau opsi daftar blokir, beberapa bagan mungkin tidak memiliki data.
catatan
Untuk melihat dasbor metrik, identitas IAM Anda harus memiliki izin untuk membaca CloudWatch metrik, termasukcloudwatch:GetMetricData,cloudwatch:GetMetricStatistics, dancloudwatch:ListMetrics. Tanpa izin ini, grafik dirender tanpa data.
Untuk daftar lengkap metrik yang diterbitkan Amazon MWAA, lihatMetrik lingkungan Apache Airflow di CloudWatch.
Metrik yang ditampilkan di dasbor
Dasbor mengatur bagan menjadi enam bagian yang dapat Anda filter dengan bagian Metrik. Ini menunjukkan serangkaian metrik lingkungan yang dikuratori; bagan berasal dari namespace (metrik Apache Airflow) dan AmazonMWAA AWS/MWAA namespace (wadah, antrian, dan metrik database). Tabel berikut mencantumkan bagan di setiap bagian dan CloudWatch metrik yang ditampilkan masing-masing.
| Bagian | Bagan | CloudWatch metrik |
|---|---|---|
| Kontainer | Pemanfaatan CPU penjadwal | CPUUtilization |
| Kontainer | Pemanfaatan memori penjadwal | MemoryUtilization |
| Kontainer | Pemanfaatan CPU Pekerja | CPUUtilization(BaseWorker dan AdditionalWorker) |
| Kontainer | Pemanfaatan memori pekerja | MemoryUtilization(BaseWorker dan AdditionalWorker) |
| Kontainer | Pemanfaatan CPU server web | CPUUtilization |
| Kontainer | Pemanfaatan memori server web | MemoryUtilization |
| Kontainer | Wadah pekerja berjalan | Berasal dari CPUUtilization jumlah sampel |
| Kontainer | Detak jantung pekerja | CeleryWorkerHeartbeat |
| Database dan antrian | Memori yang dapat dibebaskan database | FreeableMemory |
| Database dan antrian | Pemanfaatan CPU database | CPUUtilization |
| Database dan antrian | Koneksi basis data | DatabaseConnections |
| Database dan antrian | Latensi penulisan database | WriteLatency |
| Database dan antrian | Usia tugas tertua yang mengantri | ApproximateAgeOfOldestTask |
| Penjadwal | Penjadwal detak jantung | SchedulerHeartbeat |
| Penjadwal | Durasi bagian kritis penjadwal | CriticalSectionDuration |
| Penjadwal | Status tugas penjadwal | TasksExecutable, TasksStarving, TasksWithoutDagRun |
| Penjadwal | Tugas dibunuh secara eksternal | TasksKilledExternally |
| Penjadwal | Slot terbuka pelaksana | OpenSlots |
| Pengolahan DAG | Waktu penguraian DAG | TotalParseTime |
| Pengolahan DAG | Ukuran tas DAG | DagBagSize |
| Pengolahan DAG | Kesalahan impor DAG | ImportErrors, DAGFileRefreshError |
| Pengolahan DAG | Kesehatan prosesor DAG | ProcessorTimeouts, ManagerStalls |
| Tugas | Antrian tugas | QueuedTasks, RunningTasks |
| Tugas | Keberhasilan dan kegagalan tugas | TaskInstanceSuccesses, TaskInstanceFailures |
| Tugas | Tugas zombie terbunuh | ZombiesKilled |
| Pemicu | Detak jantung pemicu | TriggererHeartbeat |
| Pemicu | Hasil pemicu | TriggersSucceeded, TriggersFailed |
catatan
Grafik Triggerer hanya muncul pada versi Apache Airflow yang lebih baru. Hasil pemicu memerlukan Apache Airflow v2.7.2 atau yang lebih baru, dan Triggerer heartbeat memerlukan v2.8.1 atau yang lebih baru.
Dasbor menunjukkan metrik agregat di seluruh lingkungan. Itu tidak memetakan metrik kardinalitas tinggi yang diterbitkan Apache Airflow per DAG, tugas, kumpulan, operator, atau file DAG, dan memetakan CPU dan memori kontainer tetapi tidak setiap metrik kontainer. Untuk daftar lengkap metrik yang dipublikasikan, lihat Metrik lingkungan Apache Airflow di CloudWatch danMetrik kontainer, antrian, dan database untuk Amazon MWAA.
Membuat dan memantau alarm
Halaman detail lingkungan menyertakan panel Alarm tempat Anda membuat dan mengelola alarm CloudWatch, lalu memantaunya dalam konteks. Panel menampilkan tabel alarm Lingkungan yang mencantumkan CloudWatch alarm yang dikaitkan dengan lingkungan. Amazon MWAA mencocokkan alarm ini berdasarkan CloudWatch namespace dan Environment dimensi, jadi tabel menyertakan alarm yang Anda buat sendiri, bukan hanya alarm yang disarankan.
Header panel menunjukkan jumlah alarm In dari berapa banyak alarm lingkungan yang saat ini berada dalam ALARM status. Tabel alarm lingkungan memiliki kolom berikut.
| Nama | Status | Kondisi | Tindakan | Terakhir diperbarui |
|---|---|---|---|---|
| Nama alarm, yang terhubung ke alarm di CloudWatch konsol. | Status alarm: Dalam alarm, OK, atau Data tidak cukup. | Kondisi alarm, ditampilkan seperti untuk titik n data di dalamnya. duration |
Tindakan alarm, seperti No tifikasi topik SNS topic, atau - jika alarm tidak memiliki tindakan. |
Tanggal dan waktu ketika alarm terakhir diperbarui. |
catatan
Untuk melihat alarm di tabel ini, Anda harus memiliki cloudwatch:DescribeAlarms izin.
Jika lingkungan tidak memiliki alarm, tabel alarm lingkungan kosong dan memberikan panduan untuk membuat alarm yang disarankan untuk mulai memantau lingkungan Anda.
Panel Alarm menyediakan dua tombol berikut:
-
Buat alarm yang disarankan — Membuka tumpukan pembuatan CloudFormation cepat di tab baru. Tumpukan diberi
MWAA-alarms-nama dan membuat satu set standar alarm yang direkomendasikan untuk lingkungan.environment-name -
Kelola di CloudWatch — Membuka halaman alarm di CloudWatch konsol.
Untuk membuat alarm yang disarankan
-
Buka konsol Amazon MWAA
, lalu pilih lingkungan Anda untuk membuka halaman detailnya. -
Di tampilan Monitoring, cari panel Alarm.
-
Pilih Buat alarm yang disarankan. Tum CloudFormation pukan buatan cepat terbuka di tab browser baru.
-
Tinjau tumpukan di CloudFormation konsol. Jika diminta, pilih pengakuan yang CloudFormation mungkin membuat sumber daya IAM.
-
Pilih Buat tumpukan.
Setelah CloudFormation membuat tumpukan, alarm muncul di tabel alarm lingkungan dan di CloudWatch konsol. Untuk informasi lebih lanjut tentang apa arti setiap status alarm, lihatIkhtisar status alarm.
Alarm-alarm yang direkomendasikan
Ketika Anda memilih Buat alarm yang disarankan, CloudFormation template membuat alarm berikut. CloudWatch mengevaluasi semua alarm ini selama periode 5 menit (300 detik).
| Alarm | Metrik | Kondisi ambang batas |
|---|---|---|
| Penjadwal detak jantung | SchedulerHeartbeat |
Jumlahkan < 1 untuk 2 dari 2 titik data; data yang hilang diperlakukan seperti dalam alarm. |
| Usia tugas tertua yang mengantri | ApproximateAgeOfOldestTask |
Maksimal > 1800 detik untuk 3 dari 3 titik data. |
| Pemanfaatan CPU penjadwal | CPUUtilization(Penjadwal) |
Rata-rata > 95% untuk 3 dari 3 titik data. |
| Pemanfaatan memori penjadwal | MemoryUtilization(Penjadwal) |
Rata-rata > 95% untuk 3 dari 3 titik data. |
| Pemanfaatan CPU pekerja | CPUUtilization (BaseWorker) |
Rata-rata > 95% untuk 6 dari 6 titik data. |
| Pemanfaatan memori pekerja | MemoryUtilization (BaseWorker) |
Rata-rata > 95% untuk 6 dari 6 titik data. |
| Pemanfaatan CPU server web | CPUUtilization (WebServer) |
Rata-rata > 95% untuk 3 dari 3 titik data. |
| Pemanfaatan memori server web | MemoryUtilization (WebServer) |
Rata-rata > 95% untuk 3 dari 3 titik data. |
| Pemanfaatan CPU database | CPUUtilization(PENULIS) |
Rata-rata > 95% untuk 3 dari 3 titik data. |
| Memori yang dapat dibebaskan database | FreeableMemory(PENULIS) |
Rata-rata < 512 MiB untuk 3 dari 3 titik data. |
Ikhtisar status alarm
Sebuah alarm metrik mungkin saja berada dalam status berikut ini:
-
OK– Metrik atau ekspresi berada dalam ambang batas yang telah ditetapkan sebelumnya. -
ALARM– Metrik atau ekspresi berada di luar ambang batas yang telah ditetapkan sebelumnya. -
INSUFFICIENT_DATA– Alarm baru saja dimulai, metrik tidak tersedia, atau tidak ada data yang memadai yang tersedia bagi metrik untuk menentukan status alarm.
Contoh dasbor dan alarm kustom
Anda dapat menentukan dasbor dan alarm Anda sendiri sebagai infrastruktur sebagai kode untuk membuat dasbor khusus secara terprogram atau untuk menstandarisasi pemantauan di beberapa lingkungan Amazon MWAA. Sebagai alternatif untuk dasbor bawaan di halaman detail lingkungan, tutorial dan CloudFormation template berikut membuat dasbor pemantauan khusus. Dasbor ini menampilkan bagan metrik yang dipilih untuk lingkungan Amazon MWAA Anda.
Tentang metrik ini
Daftar berikut menjelaskan setiap metrik yang dibuat di dasbor kustom oleh tutorial dan definisi template di bagian ini.
-
QueuedTasks- Jumlah tugas dengan keadaan antrian. Sesuai dengan metrik
executor.queued_tasksApache Airflow. -
TasksPending- Jumlah tugas yang tertunda di pelaksana. Sesuai dengan metrik
scheduler.tasks.pendingApache Airflow.catatan
Tidak berlaku untuk Apache Airflow v2.2 dan yang lebih baru.
-
RunningTasks- Jumlah tugas yang berjalan di eksekutor. Sesuai dengan metrik
executor.running_tasksApache Airflow. -
SchedulerHeartbeat- Jumlah check-in yang dilakukan Apache Airflow pada pekerjaan penjadwal. Sesuai dengan metrik
scheduler_heartbeatApache Airflow. -
TotalParseTime- Jumlah detik yang dibutuhkan untuk memindai dan mengimpor semua file DAG sekali. Sesuai dengan metrik
dag_processing.total_parse_timeApache Airflow.
Tentang dasbor
Gambar berikut menampilkan dasbor pemantauan yang dibuat oleh tutorial dan definisi template di bagian ini.
Penggunaan AWS tutorial
Anda dapat menggunakan AWS tutorial berikut untuk secara otomatis membuat dasbor status kesehatan untuk lingkungan Amazon MWAA apa pun yang saat ini digunakan. Ini juga menciptakan CloudWatch alarm untuk pekerja yang tidak sehat dan kegagalan detak jantung penjadwal di semua lingkungan Amazon MWAA.
Penggunaan CloudFormation
Anda dapat menggunakan definisi CloudFormation template di bagian ini untuk membuat dasbor pemantauan di CloudWatch, lalu menambahkan alarm di CloudWatch konsol untuk menerima pemberitahuan saat metrik melampaui ambang batas tertentu. Untuk membuat tumpukan menggunakan definisi template ini, lihat Membuat tumpukan di CloudFormation konsol. Untuk menambahkan alarm ke dasbor, lihat Menggunakan alarm.
AWSTemplateFormatVersion: "2010-09-09" Description: Creates MWAA Cloudwatch Dashboard Parameters: DashboardName: Description: Enter the name of the CloudWatch Dashboard Type: String EnvironmentName: Description: Enter the name of the MWAA Environment Type: String Resources: BasicDashboard: Type: AWS::CloudWatch::Dashboard Properties: DashboardName: !Ref DashboardName DashboardBody: Fn::Sub: '{ "widgets": [ { "type": "metric", "x": 0, "y": 0, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "QueuedTasks", "Function", "Executor", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "QueuedTasks ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 0, "y": 6, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "RunningTasks", "Function", "Executor", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "RunningTasks ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 12, "y": 6, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "SchedulerHeartbeat", "Function", "Scheduler", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "SchedulerHeartbeat ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 12, "y": 0, "width": 12, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "metrics": [ [ "AmazonMWAA", "TasksPending", "Function", "Scheduler", "Environment", "${EnvironmentName}" ] ], "region": "${AWS::Region}", "title": "TasksPending ${EnvironmentName}", "period": 300 } }, { "type": "metric", "x": 0, "y": 12, "width": 24, "height": 6, "properties": { "view": "timeSeries", "stacked": true, "region": "${AWS::Region}", "metrics": [ [ "AmazonMWAA", "TotalParseTime", "Function", "DAG Processing", "Environment", "${EnvironmentName}" ] ], "title": "TotalParseTime ${EnvironmentName}", "period": 300 } } ] }'
Menghapus metrik dan dasbor
Jika Anda menghapus lingkungan Amazon MWAA, dasbor yang sesuai juga dihapus. CloudWatch metrik disimpan selama lima belas (15) bulan dan tidak dapat dihapus. Kon CloudWatch sol membatasi pencarian metrik hingga dua (2) minggu setelah metrik terakhir dicerna untuk memastikan bahwa instance terbaru ditampilkan untuk lingkungan Amazon MWAA Anda. Untuk mempelajari lebih lanjut, lihat CloudWatch FAQ Amazon
Apa selanjutnya?
-
Pelajari cara membuat DAG yang menanyakan database metadata Amazon Aurora PostgreSQL untuk lingkungan Anda dan menerbitkan metrik khusus ke CloudWatch in. Menggunakan DAG untuk menulis metrik khusus CloudWatch