Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Kerangka kerja yang didukung dan Wilayah AWS
Sebelum menggunakan perpustakaan paralelisme SageMaker model v2 (SMP v2), periksa kerangka kerja dan jenis instans yang didukung dan tentukan apakah ada cukup kuota di akun Anda AWS dan. Wilayah AWS
catatan
Untuk memeriksa pembaruan terbaru dan catatan rilis perpustakaan, lihatCatatan rilis untuk pustaka paralelisme SageMaker model.
Kerangka kerja yang didukung
SMP v2 mendukung kerangka kerja pembelajaran mendalam berikut dan tersedia melalui wadah SMP Docker dan saluran SMP Conda. Saat Anda menggunakan ModelTrainer kelas di SageMaker Python SDK dan menentukan konfigurasi distribusi untuk menggunakan SMP v2, SageMaker AI secara otomatis mengambil wadah SMP Docker. Untuk menggunakan SMP v2, kami sarankan Anda selalu SageMaker memperbarui Python SDK di lingkungan pengembangan Anda.
PyTorch versi yang didukung per SageMaker pustakaan paralelisme model
| PyTorch versi | SageMaker versi perpustakaan paralelisme model | URI gambar SMP Docker | URI gambar SMP Enroot |
|---|---|---|---|
| v2.5.1 | smdistributed-modelparallel==v2.8.0 |
658645717510.dkr.ecr. |
https://sagemaker-distributed-model-parallel.s3. |
| v2.4.1 | smdistributed-modelparallel==v2.7.0 |
658645717510.dkr.ecr. |
https://sagemaker-distributed-model-parallel.s3. |
smdistributed-modelparallel==v2.6.1 |
N/A | ||
smdistributed-modelparallel==v2.6.0 |
N/A | ||
| v2.3.1 | smdistributed-modelparallel==v2.5.0 |
658645717510.dkr.ecr. |
N/A |
smdistributed-modelparallel==v2.4.0 |
|||
| v2.2.0 | smdistributed-modelparallel==v2.3.0 |
658645717510.dkr.ecr. |
N/A |
smdistributed-modelparallel==v2.2.0 |
|||
| v2.1.2 | smdistributed-modelparallel==v2.1.0 |
658645717510.dkr.ecr. |
N/A |
| v2.0.1 | smdistributed-modelparallel==v2.0.0 |
658645717510.dkr.ecr. |
N/A |
Saluran SMP Conda
Bucket Amazon S3 berikut adalah saluran Conda publik yang dihosting oleh tim layanan SMP. Jika Anda ingin menginstal pustaka SMP v2 di lingkungan seperti SageMaker HyperPod cluster, gunakan saluran Conda ini untuk menginstal pustaka SMP dengan benar.
https://sagemaker-distributed-model-parallel.s3.us-west-2.amazonaws.com/smp-v2/
Untuk informasi selengkapnya tentang saluran Conda secara umum, lihat Sal uran
catatan
Untuk menemukan versi sebelumnya dari pustaka SMP v1.x dan DLC pra-paket, lihat dokumentasi SMP Kerangka Kerja yang Didukung v1.
Gunakan SMP v2 dengan pustaka sumber terbuka
Pustaka SMP v2 bekerja dengan pustaka PyTorch-based open source lainnya seperti PyTorch Lightning, Hugging Face Transformers, dan Hugging Face Accelerate, karena SMP v2 kompatibel dengan API FSDP. PyTorch Jika Anda memiliki pertanyaan lebih lanjut tentang penggunaan pustaka SMP dengan pustaka pihak ketiga lainnya, hubungi tim layanan SMP di. sm-model-parallel-feedback@amazon.com
Wilayah AWS
SMP v2 tersedia sebagai berikut Wilayah AWS. Jika Anda ingin menggunakan URI gambar SMP Docker atau saluran SMP Conda, periksa daftar berikut dan pilih Wilayah AWS yang cocok dengan milik Anda, dan perbarui URI gambar atau URL saluran yang sesuai.
-
ap-northeast-1
-
ap-northeast-2
-
ap-northeast-3
-
ap-south-1
-
ap-southeast-1
-
ap-southeast-2
-
ca-sentral-1
-
eu-central-1
-
eu-north-1
-
eu-west-1
-
eu-west-2
-
eu-west-3
-
sa-east-1
-
us-east-1
-
us-east-2
-
us-west-1
-
us-west-2
Tipe instans yang didukung
SMP v2 memerlukan salah satu jenis instance ML berikut.
| Tipe instans |
|---|
ml.p4d.24xlarge |
ml.p4de.24xlarge |
ml.p5.48xlarge |
ml.p5e.48xlarge |
Tip
Mulai dari SMP v2.2.0 mendukung PyTorch v2.2.0 dan yang lebih baru, Pelatihan presisi campuran dengan FP8 pada instans P5 menggunakan Transformer Engine tersedia.
Untuk spesifikasi jenis instans pembelajaran SageMaker mesin secara umum, lihat bagian Komput asi Dipercepat di halaman Jenis Instans
Jika Anda menemukan pesan kesalahan yang serupa dengan yang berikut ini, ikuti petunjuk di Mem inta peningkatan kuota di Panduan AWS Pengguna Kuota Layanan.
ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge for training job usage' is 0 Instances, with current utilization of 0 Instances and a request delta of 1 Instances. Please contact AWS support to request an increase for this limit.
