Opsional: Mengonfigurasi perangkat Anda untuk kualifikasi ML-nya

SSH ke perangkat Anda.

Jalankan skrip berikut untuk memverifikasi bahwa dependensi diinstal dengan benar.

sudo python3.7 -c "import mxnet; print(mxnet.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

Output mencetak nomor versi dan skrip harus keluar tanpa kesalahan.

Pastikan bahwa device.json dikonfigurasi untuk kualifikasi ML. Untuk informasi selengkapnya, lihat Konfigurasikan device.json untuk kualifikasi ML.

Jalankan tes dependensi untuk kerangka kerja.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id mxnet_dependency_check

Ringkasan tes menampilkan PASSED hasil untuk mldependencies.

SSH ke perangkat Anda.

Menjalankan skrip berikut untuk memverifikasi bahwa depedensi telah diinstal dengan benar.

sudo python3.7 -c "import tensorflow; print(tensorflow.__version__)"

Output mencetak nomor versi dan skrip harus keluar tanpa kesalahan.

Pastikan bahwa device.json dikonfigurasi untuk kualifikasi ML. Untuk informasi selengkapnya, lihat Konfigurasikan device.json untuk kualifikasi ML.

Jalankan tes dependensi untuk kerangka kerja.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id tensorflow_dependency_check

Ringkasan tes menampilkan PASSED hasil untuk mldependencies.

SSH ke perangkat Anda.

Jalankan skrip berikut untuk memverifikasi bahwa dependensi diinstal dengan benar.

sudo python3.7 -c "import dlr; print(dlr.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

Output mencetak nomor versi dan skrip harus keluar tanpa kesalahan.

Pastikan bahwa device.json dikonfigurasi untuk kualifikasi ML. Untuk informasi selengkapnya, lihat Konfigurasikan device.json untuk kualifikasi ML.

Jalankan tes dependensi untuk kerangka kerja.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id dlr_dependency_check

Ringkasan tes menampilkan PASSED hasil untuk mldependencies.

Verifikasi bahwa jenis perangkat Anda didukung oleh SageMaker. Untuk informasi selengkapnya, lihatopsi perangkatsangAmazon SageMaker Referensi API. Jika jenis perangkat Anda saat ini tidak didukung oleh SageMaker, ikuti langkah-langkah di Opsi 2: Gunakan TVM untuk mengompilasi model DLR.

Mengunduh file tarball yang berisi model MXNet yang belum dikompilasi dan telah terlatih untuk DLR:

Dekompresi tarball. Perintah ini menghasilkan struktur direktori berikut.

Pindahkan synset.txt keluar dari resnet18 direktori. Buat catatan tentang lokasi baru. Anda salin file ini ke direktori model dikompilasi yang lebih baru..

Kompres konten resnet18 direktori.

tar cvfz model.tar.gz resnet18v1-symbol.json resnet18v1-0000.params

Unggah file terkompresi ke bucket Amazon S3 di Akun AWS, dan kemudian ikuti langkah-langkah dalam Mengkompilasi Model (Konsol) untuk membuat pekerjaan kompilasi.

1. Untuk Konfigurasi input, gunakan nilai berikut:

   • Untuk Konfigurasi input data, memasukkan {"data": [1, 3, 224, 224]}.

   • Untuk Kerangka kerja machine learning, memilih MXNet.

2. Untuk Konfigurasi output, gunakan nilai berikut:

   • Untuk Lokasi output S3, memasukkan jalur ke bucket atau folder Amazon S3 di mana Anda ingin menyimpan model yang dikompilasi.

   • Untuk Perangkat target, pilih jenis perangkat Anda.

Mengunduh model yang dikompilasi dari lokasi output yang Anda tentukan, dan kemudian unzip file.

Salin synset.txt ke dalam direktori model yang dikompilasi.

Ubah nama direktori model yang dikompilasi menjadi resnet18.

Direktori model terkompilasi Anda harus memiliki struktur direktori berikut.

Mengunduh file tarball yang berisi model MXNet yang belum dikompilasi dan telah terlatih untuk DLR:

Dekompresi tarball. Perintah ini menghasilkan struktur direktori berikut.

Ikuti instruksi di dokumentasi TVM untuk membangun dan menginstal TVM dari sumber untuk platform Anda.

Setelah TVM dibangun, jalankan kompilasi TVM untuk model resnet18. Langkah-langkah berikut didasarkan pada Tutorial Quick Start untuk Mengkompilasi Model Deep Learning dalam dokumentasi TVM.

1. Buka relay_quick_start.py file dari repositori TVM kloning.

2. Update kode yang mendefinisikan jaringan syaraf tiruan dalam relay. Anda dapat menggunakan salah satu opsi berikut:

   • Opsi 1: Gunakanmxnet.gluon.model_zoo.vision.get_modeluntuk mendapatkan modul relay dan parameter:

     from mxnet.gluon.model_zoo.vision import get_model
     block = get_model('resnet18_v1', pretrained=True)
     mod, params = relay.frontend.from_mxnet(block, {"data": data_shape})

   • Opsi 2: Dari model yang tidak dikompilasi yang Anda unduh pada langkah 1, salin file berikut ke direktori yang sama denganrelay_quick_start.pyberkas. File-file ini berisi modul relay dan parameter.

     • resnet18v1-symbol.json

     • resnet18v1-0000.params

3. Update kode yang menyimpan dan memuat modul yang dikompilasi untuk menggunakan kode berikut.

   from tvm.contrib import util
   path_lib = "deploy_lib.so"
   #  Export the model library based on your device architecture
   lib.export_library("deploy_lib.so", cc="aarch64-linux-gnu-g++")
   with open("deploy_graph.json", "w") as fo:
       fo.write(graph)
   with open("deploy_param.params", "wb") as fo:
       fo.write(relay.save_param_dict(params))

4. Bangun model:

   python3 tutorials/relay_quick_start.py --build-dir ./model

   Perintah ini menghasilkan file-file berikut.

   • deploy_graph.json

   • deploy_lib.so

   • deploy_param.params

Salin berkas model yang dihasilkan ke dalam direktori bernama resnet18. Ini adalah direktori model terkompilasi Anda.

Salin direktori model yang dikompilasi ke komputer host Anda. Kemudian salin synset.txt dari model yang tidak dikompilasi yang Anda unduh pada langkah 1 ke dalam direktori model yang dikompilasi.

Direktori model terkompilasi Anda harus memiliki struktur direktori berikut.