Buat node yang dikelola sendiri dengan Blok Kapasitas untuk ML

Buat template peluncuran yang berlaku untuk beban kerja Anda. Untuk informasi selengkapnya, lihat Menggunakan Blok Kapasitas untuk beban kerja pembelajaran mesin di Panduan Pengguna Amazon EC2 Auto Scaling.

Pastikan yang LaunchTemplateData termasuk yang berikut:

Gunakan template peluncuran untuk membuat grup node yang dikelola sendiri. Jika Anda melakukan ini sebelum reservasi kapasitas menjadi aktif, maka atur kapasitas yang diinginkan0. Saat membuat grup node, pastikan bahwa Anda hanya menentukan subnet masing-masing untuk Availability Zone di mana kapasitas dicadangkan.

Berikut ini adalah contoh CloudFormation template yang dapat Anda referensi saat membuat satu yang berlaku untuk beban kerja Anda. Contoh ini mendapatkan LaunchTemplateId dan Version dari AWS::Amazon EC2::LaunchTemplate sumber daya yang ditunjukkan pada langkah sebelumnya. Itu juga mendapatkan nilai untukDesiredCapacity,, MaxSizeMinSize, dan VPCZoneIdentifier yang dideklarasikan di tempat lain dalam template yang sama.

NodeGroup:
  Type: "AWS::AutoScaling::AutoScalingGroup"
  Properties:
    DesiredCapacity: !Ref NodeAutoScalingGroupDesiredCapacity
    LaunchTemplate:
      LaunchTemplateId: !Ref NodeLaunchTemplate
      Version: !GetAtt NodeLaunchTemplate.LatestVersionNumber
    MaxSize: !Ref NodeAutoScalingGroupMaxSize
    MinSize: !Ref NodeAutoScalingGroupMinSize
    VPCZoneIdentifier: !Ref Subnets
    Tags:
      - Key: Name
        PropagateAtLaunch: true
        Value: !Sub ${ClusterName}-${NodeGroupName}-Node
      - Key: !Sub kubernetes.io/cluster/${ClusterName}
        PropagateAtLaunch: true
        Value: owned

Setelah grup node berhasil dibuat, pastikan untuk merekam NodeInstanceRole untuk grup node yang dibuat. Anda memerlukan ini untuk memastikan bahwa ketika grup node diskalakan, node baru bergabung dengan cluster dan Kubernetes dapat mengenali node. Untuk informasi selengkapnya, lihat AWS Management Console petunjuk di Membuat node Amazon Linux yang dikelola sendiri.

Kami menyarankan Anda membuat kebijakan penskalaan terjadwal untuk grup Auto Scaling yang sejajar dengan waktu reservasi Blok Kapasitas. Untuk informasi selengkapnya, lihat Penskalaan terjadwal untuk EC2 Auto Scaling Amazon di Panduan Pengguna Amazon Auto EC2 Scaling.

Anda dapat menggunakan semua instans yang Anda pesan hingga 30 menit sebelum waktu akhir Blok Kapasitas. Contoh yang masih berjalan pada saat itu akan mulai berakhir. Untuk memberikan waktu yang cukup untuk menguras node dengan baik, kami sarankan Anda menjadwalkan penskalaan ke skala nol lebih dari 30 menit sebelum waktu akhir reservasi Blok Kapasitas.

Jika Anda ingin meningkatkan secara manual setiap kali reservasi kapasitas terjadiActive, maka Anda perlu memperbarui kapasitas yang diinginkan grup Auto Scaling pada waktu mulai reservasi Blok Kapasitas. Kemudian Anda juga perlu menurunkan skala secara manual lebih dari 30 menit sebelum waktu akhir reservasi Blok Kapasitas.

Grup node sekarang siap untuk beban kerja dan Pod yang akan dijadwalkan.

Agar Pod Anda terkuras dengan baik, kami sarankan Anda menyiapkan AWS Node Termination Handler. Handler ini akan dapat mengawasi peristiwa siklus hidup “ASG Scale-in” dari Amazon Auto EC2 Scaling EventBridge menggunakan dan memungkinkan bidang kontrol Kubernetes untuk mengambil tindakan yang diperlukan sebelum instance menjadi tidak tersedia. Jika tidak, objek Pod dan Kubernetes Anda akan macet dalam status tertunda. Untuk informasi selengkapnya, lihat AWS Node Termination Handler di GitHub.

Jika Anda tidak menyiapkan Node Termination Handler, sebaiknya Anda mulai menguras Pod secara manual sebelum menekan jendela 30 menit sehingga mereka memiliki cukup waktu untuk terkuras dengan baik.