Kompilasi Model (Amazon SageMaker AI Console) - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Kompilasi Model (Amazon SageMaker AI Console)

Anda dapat membuat pekerjaan kompilasi Amazon SageMaker Neo di konsol Amazon SageMaker AI.

  1. Di konsol Amazon SageMaker AI, pilih Pekerjaan kompilasi, lalu pilih Buat pekerjaan kompilasi.

    Buat pekerjaan kompilasi.

  2. Pada halaman Create compilation job, di bawah Job name, masukkan nama. Kemudian pilih peran IAM.

    Buat halaman pekerjaan kompilasi.

  3. Jika Anda tidak memiliki peran IAM, pilih Buat peran baru.

    Buat lokasi peran IAM.

  4. Pada halaman Create an IAM role, pilih bucket Any S3, lalu pilih Create role.

    Buat halaman peran IAM.
  5. Non PyTorch Frameworks

    Dalam bagian Konfigurasi input, masukkan path lengkap URI bucket Amazon S3 yang berisi artefak model Anda di bidang input Lokasi artefak model. Artefak model Anda harus dalam format file tarball terkompresi (). .tar.gz

    Untuk bidang konfigurasi input Data, masukkan string JSON yang menentukan bentuk data input.

    Untuk kerangka pembelajaran mesin, pilih kerangka kerja pilihan Anda.

    Halaman konfigurasi masukan.

    Untuk menemukan contoh string JSON dari bentuk data input tergantung pada kerangka kerja, lihat Apa bentuk data input yang diharapkan Neo.

    PyTorch Framework

    Instruksi serupa berlaku untuk menyusun PyTorch model. Namun, jika Anda berlatih dengan PyTorch dan mencoba mengkompilasi model untuk ml_* (kecualiml_inf) target, Anda dapat secara opsional menentukan versi yang PyTorch Anda gunakan.

    Contoh bagian konfigurasi Input menunjukkan di mana untuk memilih versi Framework.

    Untuk menemukan contoh string JSON dari bentuk data input tergantung pada kerangka kerja, lihat Apa bentuk data input yang diharapkan Neo.

    Catatan

    • Jika Anda menyimpan model Anda dengan menggunakan PyTorch versi 2.0 atau yang lebih baru, bidang konfigurasi input data adalah opsional. SageMaker Neo mendapatkan konfigurasi input dari file definisi model yang Anda buat dengan PyTorch. Untuk informasi selengkapnya tentang cara membuat file definisi, lihat PyTorch bagian di bawah Menyimpan Model untuk SageMaker AI Neo.

    • Saat mengompilasi ml_* instance menggunakan PyTorch framework, gunakan bidang opsi Compiler di Output Configuration untuk memberikan tipe data (dtype) yang benar dari input model. Default diatur ke "float32".

    Contoh bagian Konfigurasi Output.
    Awas

    Jika Anda menentukan jalur URI bucket Amazon S3 yang mengarah ke .pth file, Anda akan menerima kesalahan berikut setelah memulai kompilasi: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file

  6. Pergi ke bagian konfigurasi Output. Pilih di mana Anda ingin menerapkan model Anda. Anda dapat menerapkan model Anda ke perangkat Target atau platform Target. Perangkat target termasuk perangkat cloud dan edge. Platform target mengacu pada OS, arsitektur, dan akselerator tertentu yang Anda inginkan agar model Anda berjalan.

    Untuk lokasi Output S3, masukkan path ke bucket S3 tempat Anda ingin menyimpan model. Anda secara opsional dapat menambahkan opsi kompiler dalam format JSON di bawah bagian Opsi kompiler.

    Halaman konfigurasi keluaran.

  7. Periksa status pekerjaan kompilasi saat dimulai. Status pekerjaan ini dapat ditemukan di bagian atas halaman Pekerjaan Kompilasi, seperti yang ditunjukkan pada gambar berikut. Anda juga dapat memeriksa statusnya di kolom Status.

    Status pekerjaan kompilasi.

  8. Periksa status pekerjaan kompilasi setelah selesai. Anda dapat memeriksa status di kolom Status seperti yang ditunjukkan pada gambar berikut.

    Status pekerjaan kompilasi.