View a markdown version of this page

Pesawat Kontrol Tersediakan Amazon EKS - Amazon EKS

Bantu meningkatkan halaman ini

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Untuk berkontribusi pada panduan pengguna ini, pilih GitHub tautan Edit halaman ini di yang terletak di panel kanan setiap halaman.

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pesawat Kontrol Tersediakan Amazon EKS

Gambaran umum

Amazon EKS Provisioned Control Plane adalah fitur yang memungkinkan administrator cluster memilih dari serangkaian tingkatan penskalaan dan menetapkan tingkat pilihan mereka untuk kinerja yang sangat tinggi dan dapat diprediksi dari bidang kontrol cluster. Hal ini memungkinkan administrator cluster untuk memastikan bahwa bidang kontrol selalu disediakan dengan kapasitas yang ditentukan.

Amazon EKS menawarkan dua mode operasi untuk bidang kontrol cluster Anda. Secara default, cluster Amazon EKS menggunakan mode Standar, di mana bidang kontrol secara otomatis menskalakan naik dan turun berdasarkan tuntutan beban kerja Anda. Mode standar secara dinamis mengalokasikan kapasitas bidang kontrol yang cukup untuk memenuhi kebutuhan beban kerja Anda dan merupakan solusi yang disarankan untuk sebagian besar kasus penggunaan. Namun, untuk beban kerja khusus yang tidak dapat mentolerir variabilitas kinerja apa pun karena penskalaan bidang kontrol atau yang membutuhkan kapasitas bidang kontrol dalam jumlah yang sangat tinggi, Anda dapat menggunakan mode Penye diaan secara opsional. Mode yang disediakan memungkinkan Anda untuk mengalokasikan kapasitas bidang kontrol yang selalu siap untuk menangani persyaratan beban kerja yang menuntut.

catatan

Mode yang disediakan adalah mode operasi bidang kontrol tambahan di samping mode standar default. Pengenalan mode Penyediaan tidak mengubah perilaku mode Standar.

Dengan EKS Provisioned Control Plane, administrator cluster dapat melakukan pra-penyediaan kapasitas bidang kontrol yang diinginkan sebelumnya, memberikan kinerja yang dapat diprediksi dan tinggi dari bidang kontrol cluster yang selalu tersedia. EKS Provisioned Control Plane juga memungkinkan administrator cluster untuk menyediakan kapasitas bidang kontrol yang sama di seluruh lingkungan, mulai dari pementasan hingga lokasi produksi dan pemulihan bencana. Hal ini penting untuk memastikan bahwa kinerja bidang kontrol yang diperoleh di seluruh lingkungan konsisten dan dapat diprediksi. Terakhir, EKS Provisioned Control Plane memberi Anda akses ke tingkat kinerja bidang kontrol yang sangat tinggi, memungkinkan menjalankan beban kerja AI yang dapat diskalakan secara besar-besaran, komputasi kinerja tinggi, dan beban kerja pemrosesan data skala besar di Kubernetes.

Semua cluster Amazon EKS yang ada dan baru beroperasi dalam mode Standar secara default. Untuk cluster yang membutuhkan kinerja tinggi dan dapat diprediksi dari bidang kontrol, Anda dapat memilih untuk menggunakan fitur EKS Provisioned Control Plane. Anda akan ditagih dengan tarif per jam untuk tingkat penskalaan bidang kontrol tertentu selain biaya per jam EKS dukungan standar atau diperpanjang. Untuk informasi selengkapnya tentang harga, lihat harga Amazon EKS.

Mode Pesawat Kontrol Amazon EKS

Kasus penggunaan

EKS Provisioned Control Plane dirancang untuk mengatasi skenario tertentu di mana kinerja pesawat kontrol yang tinggi dan dapat diprediksi sangat penting untuk operasi Anda. Memahami kasus penggunaan ini dapat membantu Anda menentukan apakah EKS Provisioned Control Plane adalah solusi yang tepat untuk beban kerja Anda.

Performance-critical beban kerja — Untuk beban kerja yang menuntut latensi minimal dan kinerja maksimum dari bidang kontrol Kubernetes, EKS Provisioned Control Plane menyediakan kapasitas yang menghilangkan variabilitas kinerja dengan penskalaan bidang kontrol.

Beban kerja yang dapat diskalakan secara besar-besaran — Jika Anda menjalankan beban kerja yang sangat skalabel seperti pelatihan dan inferensi AI, komputasi kinerja tinggi, atau pemrosesan data skala besar yang memerlukan sejumlah besar node yang berjalan di cluster, Provisioned Control Plane menyediakan kapasitas bidang kontrol yang diperlukan untuk mendukung beban kerja yang menuntut ini.

Acara permintaan tinggi yang diantisipasi — Ketika Anda mengharapkan lonjakan tiba-tiba dalam permintaan pesawat kontrol karena acara mendatang seperti penjualan atau promosi e-commerce, peluncuran produk, musim belanja liburan, atau acara olahraga atau hiburan utama, Provisioned Control Plane memungkinkan Anda untuk meningkatkan kapasitas pesawat kontrol Anda terlebih dahulu. Pendekatan proaktif ini memastikan bidang kontrol Anda siap menangani beban yang meningkat tanpa menunggu penskalaan otomatis untuk merespons permintaan.

Mission-critical ketersediaan tinggi - Untuk beban kerja yang menuntut tingkat ketersediaan tertinggi, Provisioned Control Plane menawarkan Perjanjian Tingkat Layanan (SLA) 99,99%, diukur dalam interval 1 menit. SLA yang ditingkatkan ini memberikan komitmen ketersediaan yang lebih ketat dibandingkan dengan SLA 99,95% dari mode pesawat kontrol Standar, diukur dalam interval 5 menit.

Konsistensi lingkungan — Provisioned Control Plane memungkinkan Anda untuk mencocokkan kapasitas dan kinerja bidang kontrol di seluruh lingkungan pementasan dan produksi, membantu Anda mengidentifikasi masalah potensial lebih awal sebelum penerapan ke produksi. Dengan mempertahankan tingkat bidang kontrol yang sama di seluruh lingkungan, Anda dapat memastikan bahwa hasil pengujian secara akurat mencerminkan perilaku produksi, mengurangi risiko kejutan terkait kinerja selama peluncuran.

Pemulihan bencana dan kelang sungan bisnis — Untuk skenario pemulihan bencana, Provisioned Control Plane memungkinkan Anda menyediakan lingkungan failover dengan tingkat kapasitas yang sama dengan lingkungan utama Anda. Ini memastikan gangguan minimal dan pemulihan cepat selama peristiwa failover, karena cluster pemulihan bencana Anda akan memiliki karakteristik kinerja bidang kontrol yang identik dengan cluster produksi Anda sejak diaktifkan.

Kontrol Tingkat Penskalaan Pesawat

EKS Provisioned Control Plane menawarkan tingkatan penskalaan yang dinamai menggunakan ukuran kaos (XL, 2XL, 4XL, dan 8XL). Setiap tingkat mendefinisikan kemampuannya melalui empat atribut utama yang menentukan karakteristik kinerja bidang kontrol cluster Anda. Memahami atribut ini membantu Anda memilih tingkat yang sesuai untuk persyaratan beban kerja Anda.

Konkurensi permintaan API mengukur jumlah permintaan yang dapat diproses oleh server API bidang kontrol Kubernetes secara bersamaan, yang sangat penting untuk beban kerja throughput tinggi.

Tingkat penjadwalan pod menunjukkan seberapa cepat penjadwal Kubernetes default dapat menjadwalkan pod pada node, diukur dalam pod per detik.

Ukuran database cluster menunjukkan ruang penyimpanan yang dialokasikan ke etcd, database yang menyimpan cluster state/metadata.

SLA (Service Level Agreement) menunjukkan komitmen waktu aktif bulanan dari titik akhir Kubernetes dari cluster EKS

Saat Anda menyediakan bidang kontrol cluster Anda pada tingkat penskalaan tertentu menggunakan Provisioned Control Plane, EKS memastikan bidang kontrol cluster Anda mempertahankan batas yang sesuai dengan tingkat tersebut. Batas tingkatan penskalaan bidang kontrol bervariasi menurut versi Kubernetes, seperti yang ditunjukkan pada tabel berikut.

EKS v1.30 ke v1.33

Tingkat Penskalaan Pesawat Kontrol yang Disediakan Konkurensi permintaan API (kursi) Tingkat penjadwalan pod (pods/sec) Ukuran database cluster (GB) SLA (diukur dalam interval 1 menit)

XL

1700

167

16

99,99%

2XL

3400

283

16

99,99%

4XL

6800

400

16

99,99%

8XL

13600

400

16

99,99%

EKS v1.34 dan yang lebih baru

Tingkat Penskalaan Pesawat Kontrol yang Disediakan Konkurensi permintaan API (kursi) Tingkat penjadwalan pod (pods/sec) Ukuran database cluster (GB) SLA (diukur dalam interval 1 menit)

XL

2000

167

16

99,99%

2XL

4000

283

16

99,99%

4XL

8000

400

16

99,99%

8XL

16000

400

16

99,99%

Memantau pemanfaatan tingkat penskalaan bidang kontrol

Amazon EKS menyediakan beberapa metrik untuk membantu Anda memantau pemanfaatan tingkat pesawat kontrol Anda. Metrik ini dipublikasikan sebagai CloudWatch metrik Amazon dan dapat diakses melalui konsol CloudWatch dan EKS. Selain itu, metrik ini dapat dikikis dari titik akhir Prometheus cluster EKS Anda (lihat di sini). Pantau metrik klaster Anda dengan Prometheus

Metrik Prometheus CloudWatch Metrik

Konkurensi permintaan API

apiserver_flowcontrol_current_executing_seat

apiserver_flowcontrol_current_executing_seat

Tingkat penjadwalan pod

penjadwal_jadwal_upaya_total

Scheduler_Schedule_Attempts_Total, Scheduler_Schedule_Attempts_Terjadwal, Scheduler_Schedule_Attempts_Unschedulable

Ukuran database cluster

apiserver_storage_size_bytes (CATATAN: etcd_mvcc_db_total_size_in_use_in_bytes akan diluncurkan sebagai metrik prometheus ke semua cluster EKS pada paruh kedua tahun 2026)

etcd_mvcc_db_total_size_dalam_penggunaan_dalam_byte

Anda dapat melihat pemanfaatan pesawat kontrol di konsol Amazon EKS. Dari halaman ikhtisar cluster Anda, pilih Monitor cluster untuk mengakses dasbor pengamatan, lalu pilih tab Pemantauan bidang kontrol untuk melihat pemanfaatan bidang kontrol di bawah bagian Penskalaan bidang kontrol.

Memantau kluster EKS
Pemantauan Pesawat Kontrol EKS

Memahami kapasitas Tier versus kinerja aktual

Saat Anda memilih tingkat penskalaan Pesawat Kontrol Tersediakan, atribut tier mewakili konfigurasi dasar yang diterapkan Amazon EKS ke bidang kontrol Anda. Namun, kinerja aktual yang Anda capai tergantung pada pola beban kerja spesifik Anda, konfigurasi, dan kepatuhan terhadap praktik terbaik Kubernetes. Misalnya, sementara tingkat 4XL mengonfigurasi API Priority and Fairness (APF) dengan 6.800 kursi permintaan bersamaan, throughput permintaan aktual yang Anda peroleh dari bidang kontrol bergantung pada jenis operasi yang dilakukan. Misalnya, Kubernetes menghukum permintaan daftar lebih dari get, dan karenanya jumlah permintaan daftar efektif yang diproses secara bersamaan oleh bidang kontrol lebih rendah daripada permintaan get. Untuk informasi selengkapnya, lihat Prioritas dan Keadilan API di Panduan Praktik Terbaik EKS. Demikian pula, meskipun penjadwal default QPS diatur ke 400 untuk tingkat 4XL, tingkat penjadwalan pod aktual bergantung pada faktor-faktor seperti node yang siap dan sehat untuk penjadwalan. Untuk mencapai kinerja optimal, pastikan aplikasi Anda mengikuti praktik terbaik Kubernetes dan dikonfigurasi dengan benar untuk karakteristik beban kerja Anda. Untuk informasi selengkapnya, lihat Praktik terbaik Skalabilitas di Panduan Praktik Terbaik EKS.

Konkurensi sinkronisasi Horizontal Pod Autoscaler

Selain atribut tier Control Plane Scaling, cluster EKS Provisioned Control Plane disetel dengan konkurensi sinkronisasi Horizontal Pod Autoscaler (HPA) yang lebih tinggi. Konkurensi sinkronisasi HPA adalah jumlah objek HPA yang diproses oleh manajer pengontrol Kubernetes secara paralel. Default upstream Kubernetes adalah 5. Konkurensi yang lebih tinggi memungkinkan bidang kontrol untuk merekonsiliasi lebih banyak objek HPA secara bersamaan, yang mengurangi waktu antara perubahan beban dan tindakan penskalaan yang sesuai. Ini bermanfaat untuk cluster yang menjalankan sejumlah besar objek HPA, di mana memprosesnya secara serial dapat menunda penskalaan otomatis.

Setiap tingkat penskalaan Pesawat Kontrol Tersediakan dikonfigurasi dengan konkurensi sinkronisasi HPA berikut.

Tingkat Penskalaan Pesawat Kontrol yang Disediakan Konkurensi sinkronisasi HPA

XL

50

2XL

100

4XL

200

8XL

200

Anda dapat mengamati efek konkurensi sinkronisasi HPA yang lebih tinggi melalui metrik antrean kerja manajer pengontrol Kubernetes untuk pengontrol HPA:

  • workqueue_depth{name="horizontalpodautoscaler"}— jumlah objek HPA yang menunggu untuk diproses oleh pengontrol HPA. Dengan konkurensi yang lebih tinggi, lebih banyak pekerja menguras antrian ini secara paralel, sehingga kedalamannya tetap rendah dan stabil (idealnya mencapai nol dalam setiap periode rekonsiliasi). Kedalaman antrean kerja yang tetap pada atau mendekati nol menunjukkan bidang kontrol mengikuti objek HPA di cluster Anda dan bahwa keputusan penskalaan otomatis tidak tertunda oleh backlog.

Respons penskalaan otomatis aktual yang Anda amati juga bergantung pada faktor-faktor di luar bidang kontrol. Setiap rekonsiliasi HPA mengambil metrik yang mendorong keputusan penskalaannya, biasanya dari Kubernetes Metrics Server untuk pemanfaatan CPU dan memori, atau dari adaptor metrik khusus atau eksternal. Jumlah objek HPA di cluster Anda dan latensi pencarian metrik ini memengaruhi seberapa cepat pengontrol dapat bekerja melalui antrian. Jika sumber metrik Anda tidak dapat melayani permintaan dengan cukup cepat, rekonsiliasi akan melambat terlepas dari berapa banyak yang diproses secara paralel. Menjalankan replika Metrics Server yang cukup untuk melayani volume permintaan dan cakupan kueri metrik secara efisien membantu Anda mendapatkan manfaat penuh dari konkurensi sinkronisasi HPA yang lebih tinggi. Untuk informasi selengkapnya tentang cara kerja Horizontal Pod Autoscaler dan di mana ia mengambil metrik, lihat Penskalaan Otomatis Pod Horizontal di situs web Kubernetes.

Pertimbangan-pertimbangan

  • Kapasitas bidang kontrol standar — EKS Mode pesawat kontrol standar menawarkan rasio harga terhadap kinerja terbaik, dan merupakan opsi yang disarankan untuk sebagian besar kasus penggunaan. Namun, untuk beban kerja khusus yang tidak dapat mentolerir variabilitas kinerja apa pun karena penskalaan bidang kontrol atau yang membutuhkan jumlah kapasitas bidang kontrol yang sangat tinggi, Anda dapat mempertimbangkan secara opsional menggunakan mode Penyediaan.

  • Opt-in wajib — Cluster yang ada tidak akan secara otomatis meningkatkan skala dari bidang kontrol Standar ke tingkat EKS Provisioned Control Plane dengan harga lebih tinggi. Anda harus secara eksplisit memilih masuk ke salah satu tingkatan penskalaan EKS Provisioned Control Plane baru.

  • Pembatasan keluar — Mode bidang kontrol standar mendukung hingga 8 GB ukuran database cluster (etcd). Jika ukuran database cluster melebihi 8 GB saat menggunakan mode Penyediaan, Anda tidak dapat beralih kembali ke mode Standar sampai Anda mengurangi ukuran database menjadi di bawah 8 GB. Misalnya, jika Anda menggunakan penyimpanan database 14 GB dalam mode Penyediaan, Anda harus terlebih dahulu mengurangi pemanfaatan database menjadi kurang dari 8GB sebelum kembali ke mode Standar.

  • Tidak ada penskalaan tingkat otomatis — EKS Provisioned Control Plane tidak secara otomatis menskalakan antar tingkatan. Setelah Anda memilih tingkat penskalaan, bidang kontrol cluster Anda tetap disematkan ke tingkat tersebut, memastikan kinerja yang konsisten dan dapat diprediksi. Namun, Anda memiliki fleksibilitas untuk menerapkan solusi penskalaan otomatis Anda sendiri dengan memantau metrik pemanfaatan tingkat dan menggunakan API Pesawat Kontrol Provisioned EKS untuk meningkatkan atau menurunkan skala saat metrik ini melewati ambang batas yang Anda tentukan, memberi Anda kontrol penuh atas strategi penskalaan dan pengoptimalan biaya Anda.

  • Melihat tingkat saat ini — Anda dapat menggunakan konsol Amazon EKS, Amazon Web Services CLI, atau API untuk melihat tingkat penskalaan bidang kontrol saat ini. Di CLI, Anda dapat menjalankan describe-cluster perintah: aws eks describe-cluster --name cluster-name

  • Waktu transisi tingkat — Anda dapat menggunakan konsol Amazon EKS, API Amazon EKS, atau CLI untuk keluar atau berpindah antar tingkatan penskalaan. Amazon EKS telah memperkenalkan jenis pembaruan cluster baru yang disebutScalingTierConfigUpdate, yang dapat Anda periksa untuk memantau kemajuan transisi. Setelah Anda menjalankan perintah perubahan tingkat, Anda dapat membuat daftar pembaruan pada cluster untuk melihat pembaruan baru jenis ScalingTierConfigUpdate dengan statusUpdating. Status berubah Successful setelah pembaruan selesai, atau Failed jika terjadi kesalahan. Bidang kesalahan dalam pembaruan menunjukkan alasan kegagalan. Tidak ada batasan seberapa sering Anda dapat beralih antar tingkatan. Mengubah tingkat pesawat kontrol membutuhkan beberapa menit untuk menyelesaikannya. Tidak ada downtime server API selama proses ini, karena EKS memunculkan server API baru sebelum menghentikan yang lama.

  • Memilih tingkat optimal — Untuk menentukan tingkat penskalaan Pesawat Kontrol Provisioned yang optimal untuk cluster Anda, Anda dapat melakukan pengujian beban dengan menyediakan cluster pada tingkat tertinggi (8XL). Kemudian lakukan uji beban untuk mensimulasikan permintaan puncak pada bidang kontrol cluster Anda. Amati metrik pemanfaatan tingkat bidang kontrol pada beban puncak, dan gunakan pengamatan ini sebagai faktor panduan untuk memilih tingkat yang sesuai untuk mode Penyediaan.

  • Harga Pesawat Kontrol Tersediakan — Anda akan ditagih dengan tarif per jam untuk tingkat penskalaan Pesawat Kontrol Tersediakan yang digunakan cluster Anda. Ini adalah tambahan untuk biaya per jam dukungan standar atau diperpanjang. Lihat halaman Harga Amazon EKS untuk detailnya.

  • Tingkat penskalaan yang lebih besar — Jika Anda berniat menjalankan cluster pada tingkat penskalaan yang lebih besar dari 8XL, hubungi tim akun Amazon Web Services Anda untuk informasi harga tambahan.

  • Versi Kubernetes dan dukungan wilayah — EKS Provisioned Control Plane didukung di semua wilayah komersial Amazon Web Services GovCloud, dan China. Provisioned Control Plane berfungsi pada EKS v1.28 dan yang lebih tinggi.

  • SLA yang lebih tinggi - EKS Provisioned Control Plane menawarkan SLA EKS yang lebih tinggi daripada Pesawat Kontrol Standar. Pelajari lebih lanjut di halaman SLA EKS.