SageMaker FAQ Kompiler Pelatihan

Gunakan item FAQ berikut untuk menemukan jawaban atas pertanyaan umum tentang Tra SageMaker ining Compiler.

T. Bagaimana saya tahu Tra SageMaker ining Compiler berfungsi?

Jika Anda berhasil meluncurkan pekerjaan pelatihan dengan Tra SageMaker ining Compiler, Anda menerima pesan log berikut:

T. Model mana yang dipercepat oleh Tra SageMaker ining Compiler?

SageMaker Training Compiler mendukung model pembelajaran mendalam paling populer dari pustaka transformator Hugging Face. Dengan sebagian besar operator yang didukung kompiler, model ini dapat dilatih lebih cepat dengan Tra SageMaker ining Compiler. Model yang dapat dikompilasi termasuk tetapi tidak terbatas pada yang berikut: bert-base-casedbert-base-chinese,bert-base-uncased,distilbert-base-uncased,,distilbert-base-uncased-finetuned-sst-2-english,gpt2,roberta-base, roberta-larget5-base, danxlm-roberta-base. Kompiler bekerja dengan sebagian besar operator DL dan struktur data dan dapat mempercepat banyak model DL lainnya di luar yang telah diuji.

T. Apa yang terjadi jika saya mengaktifkan Tra SageMaker ining Compiler dengan model yang tidak diuji?

Untuk model yang belum diuji, Anda mungkin perlu terlebih dahulu memodifikasi skrip pelatihan agar kompatibel dengan Tra SageMaker ining Compiler. Untuk informasi selengkapnya, lihat Bawa Model Pembelajaran Mendalam Anda Sendiri dan ikuti petunjuk tentang cara menyiapkan skrip pelatihan Anda.

Setelah Anda memperbarui skrip pelatihan Anda, Anda dapat memulai pekerjaan pelatihan. Kompiler melanjutkan untuk mengkompilasi model. Namun, kecepatan pelatihan mungkin tidak meningkat dan bahkan mungkin menurun relatif terhadap baseline dengan model yang belum diuji. Anda mungkin perlu menyetel ulang parameter pelatihan seperti batch_size dan learning_rate untuk mencapai manfaat percepatan apa pun.

Jika kompilasi model yang belum diuji gagal, kompiler mengembalikan kesalahan. Lihat SageMaker Pemecahan Masalah Kompiler Pelatihan untuk informasi terperinci tentang jenis kegagalan dan pesan kesalahan.

T. Apakah saya akan selalu mendapatkan pekerjaan pelatihan yang lebih cepat dengan Tra SageMaker ining Compiler?

Tidak, belum tentu. Pertama, Tra SageMaker ining Compiler menambahkan beberapa overhead kompilasi sebelum proses pelatihan yang sedang berlangsung dapat dipercepat. Pekerjaan pelatihan yang dioptimalkan harus berjalan cukup lama untuk mengamortisasi dan menebus overhead kompilasi tambahan ini di awal pekerjaan pelatihan.

Selain itu, seperti halnya proses pelatihan model apa pun, pelatihan dengan parameter suboptimal dapat meningkatkan waktu pelatihan. SageMaker Training Compiler dapat mengubah karakteristik pekerjaan pelatihan dengan, misalnya, mengubah jejak memori pekerjaan. Karena perbedaan ini, Anda mungkin perlu menyetel ulang parameter pekerjaan pelatihan Anda untuk mempercepat pelatihan. Tabel referensi yang menentukan parameter berkinerja terbaik untuk pekerjaan pelatihan dengan jenis dan model instance yang berbeda dapat ditemukan diModel yang Diuji.

Akhirnya, beberapa kode dalam skrip pelatihan mungkin menambahkan overhead tambahan atau mengganggu grafik komputasi yang dikompilasi dan pelatihan yang lambat. Jika bekerja dengan model yang disesuaikan atau belum diuji, lihat instruksi diPraktik Terbaik untuk Menggunakan Kompiler Pel SageMaker atihan dengan PyTorch/XLA.

T. Dapatkah saya selalu menggunakan ukuran batch yang lebih besar dengan Tra SageMaker ining Compiler?

Ukuran batch meningkat di sebagian besar, tetapi tidak semua, kasus. Pengoptimalan yang dilakukan oleh Tra SageMaker ining Compiler dapat mengubah karakteristik pekerjaan pelatihan Anda, seperti jejak memori. Biasanya, pekerjaan Training Compiler menempati lebih sedikit memori daripada pekerjaan pelatihan yang tidak dikompilasi dengan kerangka kerja asli, yang memungkinkan ukuran batch yang lebih besar selama pelatihan. Ukuran batch yang lebih besar, dan penyesuaian yang sesuai dengan tingkat pembelajaran, meningkatkan throughput pelatihan dan dapat mengurangi total waktu pelatihan.

Namun, mungkin ada kasus di mana Tra SageMaker ining Compiler mungkin benar-benar meningkatkan jejak memori berdasarkan skema pengoptimalannya. Kompiler menggunakan model biaya analitik untuk memprediksi jadwal eksekusi dengan biaya eksekusi terendah untuk setiap operator intensif komputasi. Model ini dapat menemukan jadwal optimal yang meningkatkan penggunaan memori. Dalam hal ini, Anda tidak akan dapat meningkatkan ukuran batch, tetapi throughput sampel Anda masih lebih tinggi.

T. Apakah Tra SageMaker ining Compiler bekerja dengan fitur SageMaker pelatihan lainnya, seperti pustaka pelatihan terdistribusi SageMaker AI dan SageMaker Debugger?

SageMaker Training Compiler saat ini tidak kompatibel dengan pust SageMaker aka pelatihan terdistribusi AI.

SageMaker Training Compiler kompatibel dengan SageMaker Debugger, tetapi Debugger mungkin menurunkan kinerja komputasi dengan menambahkan overhead.

T. Apakah Tra SageMaker ining Compiler mendukung wadah khusus (bawa wadah Anda sendiri)?

SageMaker Training Compiler disediakan melalui AWS Deep Learning Containers, dan Anda dapat memperluas subset wadah untuk menyesuaikan untuk kasus penggunaan Anda. Kontainer yang diperpanjang dari AWS DLC didukung oleh Tra SageMaker ining Compiler. Untuk informasi selengkapnya, lihat Kerangka Kerja yang Didukung danMenggunakan SageMaker AI Python SDK dan Memperluas Kontainer Pem SageMaker belajaran Mendalam Kerangka AI. Jika Anda memerlukan dukungan lebih lanjut, hubungi tim SageMaker AI melalui Forum AWS Dukungan atau AWS Pengembang untuk Amazon SageMaker AI.