Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Mengonfigurasi pengaturan GRES khusus di AWS PCS

Slurm digunakan gres.conf untuk mengelola Sumber Daya Umum (GRES), seperti GPU, Multi-Process Layanan (MPS), dan perangkat Multi-Instance GPU (MIG), pada node komputasi. AWS PCS memungkinkan Anda menyesuaikan gres.conf melalui gresCustomSettings properti slurmConfiguration selama pembuatan atau pembaruan grup simpul komputasi.

Tidak seperti pengaturan kustom lainnya, yang merupakan daftar datar pasangan parameter dan nilai, gresCustomSettings adalah daftar catatan. Setiap catatan adalah sekumpulan gres.conf atribut yang menggambarkan satu perangkat atau sumber daya GRES. Misalnya, catatan tersebut Name=gpu Type=a100 File=/dev/nvidia[0-7] menyatakan delapan GPU A100.

Di Slurm, gres.conf catatan berlaku untuk setiap node di cluster kecuali jika itu menentukan awalan. NodeName= AWS PCS selalu menambahkan NodeName= awalan untuk grup simpul komputasi, jadi Anda tidak menentukannya, dan setiap catatan yang Anda berikan hanya berlaku untuk grup simpul komputasi itu. AWS PCS tidak mendukung catatan seluruh cluster. gres.conf

Mengkonfigurasi pengaturan gres.conf

gres.confpengaturan kustom dapat dikonfigurasi melalui Kon AWS sol, CLI, atau SDK selama pembuatan grup simpul komputasi atau dimodifikasi nanti melalui operasi pembaruan.

Konsol Manajemen AWS

Arahkan ke pengaturan penjadwal tambahan di halaman buat atau edit untuk sumber daya grup simpul komputasi. Masukkan satu gres.conf catatan per baris, dalam gres.conf bentuk asli (misalnya,Name=gpu Type=a100 File=/dev/nvidia[0-7]).

AWS CLI

Untuk pengelolaan gres.conf pengaturan terprogram, gunakan gresCustomSettings bidang dalam membuat atau memperbarui operasi grup simpul komputasi. Setiap elemen daftar adalah satu gres.conf catatan.

contoh- Mendeklarasikan perangkat GPU pada grup simpul komputasi

aws pcs update-compute-node-group \
    --cluster-identifier my-cluster \
    --compute-node-group-identifier my-cng-1 \
    --slurm-configuration \
    'gresCustomSettings=[{Name=gpu,Type=a100,File=/dev/nvidia[0-7]}]'

Pengaturan gres.conf yang didukung untuk grup simpul komputasi

gres.confAtribut berikut didukung di setiap catatan di tingkat grup simpul komputasi:

Untuk makna dan nilai yang diterima dari setiap atribut, lihat dokumentasi Slurm gres .conf. AWS PCS memvalidasi catatan Anda terhadap aturan yang sama yang diterapkan Slurm. Secara khusus, setiap catatan harus mendeklarasikan nilai a Name atau AutoDetect nilai aktif, dan catatan GPU (Name=gpu) harus menentukan File atau MultipleFiles kecuali AutoDetect nilai aktif menemukan perangkat.

Nilai aktif adalah AutoDetect nilai apa pun yang mengaktifkan deteksi, seperti nvml ataufull. AutoDetect=offmematikan deteksi, jadi ini bukan nilai aktif dan tidak dapat berdiri sendiri dalam catatan.

Bagaimana AWS PCS menerapkan catatan gres.conf Anda

Konfigurasi GRES muncul di dua tempat dalam konfigurasi Slurm, dan AWS PCS menulis keduanya:

AWS PCS merender catatan Anda ke dalam gres.conf dan mendamaikannya dengan konfigurasi GRES yang dikelolanya:

Pada Slurm versi 26.05 dan yang lebih baru, AWS PCS menyetel secara AutoDetect=full default pada grup simpul komputasi GPU ketika tata letak soket node diketahui, baik karena Anda mengatur Sockets grup simpul komput slurmCustomSettings asi, atau karena AWS PCS mendeteksi topologi CPU secara otomatis. Ketika tata letak soket tidak tersedia, AWS PCS memancarkan catatan GPU-nya tanpa AutoDetect sebaliknya.

Kendala antara gres.conf dan pengaturan Gres

Slurm membutuhkan kedua sisi konfigurasi GRES untuk menjadwalkan sumber daya, dan sumber daya yang muncul hanya di salah satunya tidak berfungsi. Entri dalam Gres pengaturan tanpa gres.conf catatan di slurm.conf belakangnya membuat node melaporkan lebih sedikit sumber daya daripada yang dikonfigurasi, dan node terkuras. Catatan tanpa Gres entri membuat perangkat ada di node tetapi tidak dapat dijadwalkan.

AWS PCS memvalidasi keduanya terhadap satu sama lain saat Anda membuat atau memperbarui grup simpul komputasi, dan menolak permintaan dalam kasus berikut:

Dua pemeriksaan terakhir tergantung pada apa yang dinyatakan catatan Anda. AWS PCS tidak dapat menghitung perangkat yang ditemukan Slurm saat node melakukan booting, jadi catatan yang hanya memungkinkan AutoDetect menerima gpu hitungan dan ketik apa pun dalam entriGres. Ini adalah bagaimana profil MIG lulus validasi. AWS PCS juga melewatkan pemeriksaan hitungan untuk GRES bersama (mpsdanshard), dan melewatkan pemeriksaan tipe ketika catatan GPU menyatakan tidak. Type

AWS PCS menerima catatan yang tidak memiliki Gres entri yang cocok. Sumber daya ada di node, tetapi pekerjaan tidak dapat memintanya. Tambahkan Gres entri untuk membuatnya dapat dijadwalkan.