Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Menangani masalah pelambatan Amazon ECS
Kesalahan throttling dibagi menjadi dua kategori utama: pelambatan sinkron dan pelambatan asinkron.
Pelambatan sinkron
Saat pelambatan sinkron terjadi, Anda segera menerima respons kesalahan dari Amazon ECS. Kategori ini biasanya terjadi ketika Anda memanggil API Amazon ECS saat menjalankan tugas atau membuat layanan. Untuk informasi selengkapnya tentang throttling yang terlibat dan batas throttle yang relevan, lihat Meminta pel ambatan untuk Amazon ECS API.
Saat aplikasi Anda memulai permintaan API, misalnya, dengan menggunakan AWS CLI atau AWS SDK, Anda dapat memperbaiki pembatasan API. Anda dapat melakukan ini dengan merancang aplikasi Anda untuk menangani kesalahan atau dengan menerapkan strategi backoff dan jitter eksponensial dengan logika coba ulang untuk panggilan API. Untuk informasi selengkapnya, lihat Waktu habis, percobaan ulang, dan mundur dengan jitter.
Jika Anda menggunakan AWS SDK, logika coba ulang otomatis sudah terpasang dan dapat dikonfigurasi.
Pelambatan asinkron
Pelambatan asinkron terjadi karena alur kerja asinkron di mana Amazon ECS atau CloudFormation mungkin memanggil API atas nama Anda untuk menyediakan sumber daya. Penting untuk mengetahui AWS API mana yang dipanggil Amazon ECS atas nama Anda. Misalnya, CreateNetworkInterface API dipanggil untuk tugas yang menggunakan mode awsvpc jaringan, dan DescribeTargetHealth API dipanggil saat melakukan pemeriksaan kesehatan untuk tugas yang terdaftar ke penyeimbang beban.
Ketika beban kerja Anda mencapai skala yang cukup besar, operasi API ini mungkin terhambat. Artinya, mereka mungkin cukup dibatasi untuk melanggar batas yang diberlakukan oleh Amazon ECS atau Layanan AWS yang sedang dipanggil. Misalnya, jika Anda menerapkan ratusan layanan, masing-masing memiliki ratusan tugas secara bersamaan yang menggunakan mode awsvpc jaringan, Amazon ECS memanggil operasi API Amazon EC2 seperti CreateNetworkInterface dan operasi API Elastic Load Balancing seperti RegisterTarget atau DescribeTargetHealth untuk mendaftarkan antarmuka jaringan elastis dan penyeimbang beban, masing-masing. Panggilan API ini dapat melebihi batas API, mengakibatkan kesalahan pembatasan. Berikut ini adalah contoh kesalahan pelambatan Elastic Load Balancing yang disertakan dalam pesan acara layanan.
{ "userIdentity":{ "arn":"arn:aws:sts::111122223333:assumed-role/AWSServiceRoleForECS/ecs-service-scheduler", "eventTime":"2022-03-21T08:11:24Z", "eventSource":"elasticloadbalancing.amazonaws.com", "eventName":" DescribeTargetHealth ", "awsRegion":"us-east-1", "sourceIPAddress":"ecs.amazonaws.com", "userAgent":"ecs.amazonaws.com", "errorCode":"ThrottlingException", "errorMessage":"Rate exceeded", "eventID":"0aeb38fc-229b-4912-8b0d-2e8315193e9c" } }
Ketika panggilan API ini berbagi batas dengan lalu lintas API lain di akun Anda, mereka mungkin sulit dipantau meskipun dipancarkan sebagai peristiwa layanan.
Memantau pelambatan
Penting untuk mengidentifikasi permintaan API mana yang dibatasi dan siapa yang mengeluarkan permintaan ini. Anda dapat menggunakan monitor AWS CloudTrail mana yang melambatkan, dan terintegrasi dengan CloudWatch, Amazon Athena, dan Amazon. EventBridge Anda dapat mengonfigurasi CloudTrail untuk mengirim peristiwa tertentu ke CloudWatch Log. CloudWatch Log log wawasan mengurai dan menganalisis peristiwa. Ini mengidentifikasi detail dalam peristiwa pembatasan seperti peran pengguna atau IAM yang melakukan panggilan dan jumlah panggilan API yang dilakukan. Untuk informasi selengkapnya, lihat Mem CloudTrail antau file CloudWatch log dengan Log.
Untuk informasi selengkapnya tentang wawasan CloudWatch Log dan petunjuk tentang cara menanyakan file log, lihat Meng analisis data log dengan Logs CloudWatch Insights.
Dengan Amazon Athena, Anda dapat membuat kueri dan menganalisis data menggunakan SQL standar. Misalnya, Anda dapat membuat tabel Athena untuk mengurai peristiwa CloudTrail . Untuk informasi selengkapnya, lihat Menggunakan CloudTrail konsol untuk membuat tabel Athena untuk CloudTrail log.
Setelah membuat tabel Athena, Anda dapat menggunakan kueri SQL seperti yang berikut untuk menyelidiki ThrottlingException kesalahan.
Ganti user-input dengan nilai-nilai Anda.
select eventname, errorcode,eventsource,awsregion, useragent,COUNT(*) count FROM cloudtrail_table-namewhere errorcode = 'ThrottlingException' AND eventtime between '2024-09-24T00:00:08Z' and '2024-09-23T23:15:08Z' group by errorcode, awsregion, eventsource, useragent, eventname order by count desc;
Amazon ECS juga mengirimkan pemberitahuan acara ke Amazon EventBridge. Ada peristiwa perubahan status sumber daya dan peristiwa tindakan layanan. Mereka termasuk peristiwa pelambatan API seperti ECS_OPERATION_THROTTLED danSERVICE_DISCOVERY_OPERATION_THROTTLED. Untuk informasi selengkapnya, lihat Acara tindakan layanan Amazon ECS.
Peristiwa ini dapat dikonsumsi oleh layanan seperti AWS Lambda untuk melakukan tindakan sebagai respons. Untuk informasi selengkapnya, lihat Menangani acara Amazon ECS.
Jika Anda menjalankan tugas mandiri, beberapa operasi API seperti RunTask tidak sinkron, dan operasi coba ulang tidak dilakukan secara otomatis. Dalam kasus seperti itu, Anda dapat menggunakan layanan seperti AWS Step Functions dengan EventBridge integrasi untuk mencoba lagi operasi yang dibatasi atau gagal. Untuk informasi selengkapnya, lihat Mengelola tugas kontainer (Amazon ECS, Amazon SNS).
Gunakan CloudWatch untuk memantau pelambatan
CloudWatch menawarkan pemantauan penggunaan API pada Usage namespace di bawah Berdasarkan Sumber AWS Daya. Metrik ini dicatat dengan jenis API dan nama metrik CallCount. Anda dapat membuat alarm untuk memulai setiap kali metrik ini mencapai ambang batas tertentu. Untuk informasi selengkapnya, lihat Mem visualisasikan kuota layanan Anda dan menyetel alarm.
CloudWatch juga menawarkan deteksi anomali. Fitur ini menggunakan pembelajaran mesin untuk menganalisis dan menetapkan garis dasar berdasarkan perilaku tertentu dari metrik yang Anda aktifkan. Jika ada aktivitas API yang tidak biasa, Anda dapat menggunakan fitur ini bersama dengan CloudWatch alarm. Untuk informasi selengkapnya, lihat Menggunakan deteksi CloudWatch anomali.
Dengan secara proaktif memantau kesalahan pelambatan, Anda dapat menghubungi Dukungan untuk meningkatkan batas pelambatan yang relevan dan juga menerima panduan untuk kebutuhan aplikasi unik Anda.