Cara mengonfigurasi inferensi machine learning menggunakan AWS Management Console

Menginstal pembaruan untuk Raspbian.

sudo apt-get update
sudo apt-get dist-upgrade

Instal antarmuka picamera untuk modul kamera dan pustaka Python lain yang diperlukan untuk tutorial ini.

sudo apt-get install -y python3-dev python3-setuptools python3-pip python3-picamera

Memvalidasi instalasi:

Reboot Raspberry Pi.

sudo reboot

Buka alat konfigurasi Raspberry Pi.

sudo raspi-config

Gunakan tombol panah untuk membuka Opsi Antarmuka dan mengaktifkan antarmuka kamera. Jika diminta, izinkan perangkat melakukan reboot.

Gunakan perintah berikut untuk menguji pengaturan kamera.

raspistill -v -o test.jpg

Hal ini akan membuka jendela pratinjau pada Raspberry Pi, menyimpan gambar bernama test.jpg ke direktori Anda saat ini, dan menampilkan informasi tentang kamera di terminal Raspberry Pi.

Masuk ke Raspberry Pi Anda dari jarak jauh.

ssh pi@your-device-ip-address

Buka MXNet dokumentasi, buka Instalasi MXNet, dan ikuti instruksi untuk menginstal MXNet pada perangkat.

Setelah Anda menginstal MXNet, validasi konfigurasi berikut:

Di komputer Anda, unduh MXNet sampel untuk Raspberry Pi dariSampel machine learning.

Unzip file mxnet-py3-armv7l.tar.gz yang diunduh.

Buka direktori squeezenet tersebut.

cd path-to-downloaded-sample/mxnet-py3-armv7l/models/squeezenet

File squeezenet.zip dalam direktori ini adalah paket model Anda. Ini berisi artefak model SqueezeNet open source untuk model klasifikasi gambar. Kemudian, Anda mengunggah paket model ini ke Amazon S3.

Di komputer Anda, navigasikan ke direktori examples dalam paket contoh yang Anda unzip di Langkah 3: Buat paket MXNet model.

cd path-to-downloaded-sample/mxnet-py3-armv7l/examples

Direktori examples berisi kode fungsi dan dependensi.

Kompres isi examples ke dalam sebuah file bernama greengrassObjectClassification.zip. Ini paket deployment Anda.

zip -r greengrassObjectClassification.zip .

Selanjutnya, Buat fungsi Lambda.

Dari AWS IoT konsol, pilih Fungsi dan Buat fungsi.

Pilih Tulis dari awal dan gunakan nilaiinilai berikut untuk membuat fungsi Anda:

Untuk Izin, pertahankan pengaturan default. Hal ini menciptakan peran eksekusi yang memberikan izin Lambda basic. Peran ini tidak digunakan oleh AWS IoT Greengrass.

Pilih Buat fungsi.

Sekarang, unggah paket deployment fungsi Lambda Anda dan daftarkan handler.

Pilih fungsi Lambda Anda dan unggah paket penerapan fungsi Lambda Anda.

1. Pada tab Kode ini, di bawah Sumber kode, pilih Unggah dari. Dari dropdown, pilih file .zip.

   

2. Pilih Unggah, lalu pilih paket deployment greengrassObjectClassification.zip Anda. Lalu, pilih Simpan.

3. Pada tab Kode fungsi, di bawah Pengaturan waktu aktif, pilih Edit, dan kemudian masukkan nilai-nilai berikut.

   • Untuk waktu aktif, pilih Python 3.7.

   • Untuk Handler, masukkan greengrassObjectClassification.function_handler.

   Pilih Simpan.

Berikutnya, mempublikasikan versi pertama fungsi Lambda Anda. Kemudian, buat alias untuk versi.

Dari menu Tindakan tersebut, pilih Publikasikan versi baru.

Untuk Versi Deskripsi, masukkan First version, lalu pilih Publikasikan.

Pada halaman konfigurasi greengrassObjectClassification: 1, dari menu Tindakan, pilih Buat alias.

Pada halaman Buat alias baru tersebut, gunakan nilai-nilai berikut:

Pilih Simpan.

Sekarang, tambahkan fungsi Lambda ke grup Greengrass Anda.

Di panel navigasi AWS IoT konsol, di bawah Kelola, perluas perangkat Greengrass, lalu pilih Grup (V1).

Dari halaman konfigurasi grup, pilih tab fungsi Lambda.

Di bawah bagian Fungsi Lambda Saya, pilih Tambah.

Untuk fungsi Lambda, pilih. greengrassObjectClassification

Untuk versi fungsi Lambda, pilih alias:MLTest.

Selanjutnya, konfigurasikan variabel siklus hidup dan lingkungan dari fungsi Lambda.

Pada bagian konfigurasi fungsi Lambda, buat pembaruan berikut.

1. Untuk berjalan tanpa kontainerisasi:

   • Untuk pengguna dan grup Sistem, pilihAnother user ID/group ID. Untuk ID pengguna Sistem, masukkan0. Untuk ID grup Sistem, masukkan0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • Untuk kontainerisasi fungsi Lambda, pilih No container.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Untuk Timeout, masukkan 10 seconds.

   • Untuk Pinned, pilih True.

     Untuk informasi selengkapnya, lihat Konfigurasi siklus hidup untuk fungsi Greengrass Lambda.

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • Untuk pengguna dan grup Sistem, pilih Gunakan grup default.

   • Untuk kontainerisasi fungsi Lambda, pilih Gunakan default grup.

   • Untuk Batas memori, masukkan 96 MB.

   • Untuk Timeout, masukkan 10 seconds.

   • Untuk Pinned, pilih True.

     Untuk informasi selengkapnya, lihat Konfigurasi siklus hidup untuk fungsi Greengrass Lambda.

Di bawah Lingkungan variabel, buat pasangan kunci-nilai. Pasangan kunci-nilai diperlukan oleh fungsi yang berinteraksi dengan MXNet model pada Raspberry Pi.

Untuk kuncinya, gunakan MXNET_ENGINE_TYPE. Untuk nilainya, gunakan NaiveEngine.

Simpan nilai default untuk semua properti lainnya dan pilih Tambahkan fungsi Lambda.

Pada halaman konfigurasi grup, pilih tab Sumber Daya.

Di bagian Sumber daya lokal, pilih Tambahkan sumber daya lokal.

Pada halaman Tambahkan sumber daya lokal, gunakan nilai berikut:

Selanjutnya, Anda menambahkan sumber daya perangkat lokal untuk antarmuka kamera.

Pilih Tambahkan sumber daya lokal.

Pada halaman Tambahkan sumber daya lokal, gunakan nilai berikut:

Di bagian bawah halaman, pilih Tambahkan sumber daya.

Pada tab Sumber Daya untuk grup Anda, di bagian Machine Learning, pilih Tambahkan sumber pembelajaran mesin.

Pada halaman Tambahkan sumber daya pembelajaran mesin, untuk nama Sumber Daya, masukkansqueezenet_model.

Untuk sumber Model, pilih Gunakan model yang disimpan di S3, seperti model yang dioptimalkan melalui Deep Learning Compiler.

Untuk URI S3, masukkan jalur tempat bucket S3 disimpan.

Pilih Jelajahi S3. Ini membuka tab baru ke konsol Amazon S3.

Pada konsol Amazon S3, unggah file squeezenet.zip ke bucket S3. Untuk selengkapnya, lihat Bagaimana cara mengunggah file dan folder ke Bucket S3? di Panduan Pengguna Layanan Penyimpanan Sederhana Amazon.

Pada tab AWS IoT Greengrass konsol, cari dan pilih bucket S3 Anda. Temukan file squeezenet.zip yang Anda unggah, dan pilih Pilihan. Anda mungkin harus memilih Refresh untuk memperbarui daftar bucket dan file yang tersedia.

Untuk Jalur tujuan, masukkan /greengrass-machine-learning/mxnet/squeezenet.

Hal ini adalah tujuan untuk model lokal di Lambda waktu aktif namespace. Saat Anda menyebarkan grup, AWS IoT Greengrass mengambil paket model sumber dan kemudian mengekstrak konten ke direktori yang ditentukan. Contoh fungsi Lambda untuk tutorial ini sudah dikonfigurasi untuk menggunakan jalur ini (dalam variabel model_path tersebut).

Di bawah Pemilik grup sistem dan izin akses file, pilih Tidak ada grup sistem.

Pilih Tambahkan sumber daya.

Pada halaman konfigurasi grup, pilih tab Langganan, lalu pilih Tambah Langganan.

Pada halaman Detail langganan, konfigurasikan sumber dan target, sebagai berikut:

1. Di tipe Sumber, pilih fungsi Lambda, lalu pilih. greengrassObjectClassification

2. Di Jenis target, pilih Layanan, lalu pilih IoT Cloud.

Di Filter topikhello/world, masukkan, lalu pilih Buat langganan.

Pastikan AWS IoT Greengrass inti berjalan. Jalankan perintah berikut di terminal Raspberry Pi Anda, sesuai kebutuhan.

1. Untuk memeriksa apakah daemon sedang berjalan:

   ps aux | grep -E 'greengrass.*daemon'

   Jika outputnya berisi entri root untuk /greengrass/ggc/packages/1.11.6/bin/daemon, maka daemon sedang berjalan.

   catatan

   Versi di jalur tergantung pada versi perangkat lunak AWS IoT Greengrass Core yang diinstal pada perangkat inti Anda.

2. Untuk memulai daemon:

   cd /greengrass/ggc/core/
   sudo ./greengrassd start

Pada halaman konfigurasi grup, pilih Deploy.

Di tab Fungsi Lambda, di bawah bagian Fungsi Lambda Sistem, pilih detektor IP dan pilih Edit.

Dalam kotak dialog Edit pengaturan detektor IP, pilih Secara otomatis mendeteksi dan mengganti titik akhir broker MQTT.

Pilih Simpan.

Hal ini mengaktifkan perangkat untuk secara otomatis memperoleh informasi konektivitas untuk core, seperti alamat IP, DNS, dan nomor port. Deteksi otomatis direkomendasikan, tetapi AWS IoT Greengrass juga mendukung titik akhir yang ditentukan secara manual. Anda hanya diminta untuk metode penemuan pertama kalinya bahwa grup di-deploy.

Halaman Deployment menampilkan timestamp deployment, ID versi, dan status. Setelah selesai, status yang ditampilkan untuk penerapan harus Selesai.

Untuk informasi lebih lanjut tentang deployment, lihat Menyebarkan AWS IoT Greengrass grup ke inti AWS IoT Greengrass. Untuk bantuan penyelesaian masalah, lihat Pemecahan masalah AWS IoT Greengrass.

Di AWS IoT konsol, di bawah Uji, pilih klien pengujian MQTT.

Untuk Berlangganan, gunakan nilai-nilai berikut:

Pilih Langganan.

Jika tes berhasil, pesan dari fungsi Lambda muncul di bagian bawah halaman. Setiap pesan berisi lima hasil prediksi dari citra, menggunakan format: probabilitas, ID kelas diprediksi, dan nama kelas yang sesuai.

Beralih ke pengguna root dan arahkan ke direktori log tersebut. Akses ke AWS IoT Greengrass log memerlukan izin root.

sudo su
cd /greengrass/ggc/var/log

Di direktori system tersebut, periksa runtime.log atau python_runtime.log.

Di direktori user/region/account-id tersebut, periksa greengrassObjectClassification.log.

Untuk informasi selengkapnya, lihat Pemecahan masalah dengan catatan.

Daftar isi dari Lambda di-deploy di direktori /lambda tersebut. Mengganti nilai placeholder sebelum Anda menjalankan perintah.

cd /greengrass/ggc/deployment/lambda/arn:aws:lambda:region:account:function:function-name:function-version
ls -la

Verifikasi bahwa direktori berisi konten yang sama sebagai paket deployment greengrassObjectClassification.zip yang Anda unggah di Langkah 4: Buat dan publikasikan Fungsi Lambda.

Pastikan bahwa file .py dan dependensi berada di root direktori.

Cari nomor identifikasi proses (PID) dari proses waktu aktif Lambda:

ps aux | grep 'lambda-function-name*'

Pada output, PID muncul di kolom kedua baris untuk proses waktu aktif Lambda.

Masukkan namespace waktu aktif Lambda. Pastikan untuk mengganti pid nilai placeholder sebelum Anda menjalankan perintah.

sudo nsenter -t pid -m /bin/bash

Daftar isi dari direktori lokal yang Anda tentukan untuk sumber daya ML.

cd /greengrass-machine-learning/mxnet/squeezenet/
ls -ls

Anda akan melihat file berikut ini:

32 -rw-r--r-- 1 ggc_user ggc_group   31675 Nov 18 15:19 synset.txt
32 -rw-r--r-- 1 ggc_user ggc_group   28707 Nov 18 15:19 squeezenet_v1.1-symbol.json
4832 -rw-r--r-- 1 ggc_user ggc_group 4945062 Nov 18 15:19 squeezenet_v1.1-0000.params

Unduh citra PNG atau JPG statis untuk fungsi Lambda yang akan digunakan untuk klasifikasi citra. Contoh tersebut bekerja paling baik dengan file citra kecil.

Simpan file citra Anda di direktori yang memuat file greengrassObjectClassification.py (atau dalam subdirektori dari direktori ini). Hal ini ada dalam paket deployment fungsi Lambda yang Anda unggah di Langkah 4: Buat dan publikasikan Fungsi Lambda.

Jika anda tidak menggunakan Python 3.7, pastikan untuk membuat symlink dari Python 3.x ke Python 3.7. Ini mengonfigurasi perangkat Anda untuk menggunakan Python 3 dengan. AWS IoT Greengrass Jalankan perintah berikut untuk menemukan instalasi Python Anda:

which python3

Jalankan perintah berikut untuk membuat symlink:

sudo ln -s path-to-python-3.x/python3.x path-to-python-3.7/python3.7

Reboot perangkat.

Edit konfigurasi fungsi Lambda. Ikuti prosedur di Langkah 5: Tambahkan fungsi Lambda ke grup Greengrass.

1. Untuk berjalan tanpa kontainerisasi:

   • Untuk pengguna dan grup Sistem, pilihAnother user ID/group ID. Untuk ID pengguna Sistem, masukkan0. Untuk ID grup Sistem, masukkan0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • Untuk kontainerisasi fungsi Lambda, pilih No container.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Perbarui nilai Timeout menjadi 5 detik. Hal ini memastikan bahwa permintaan tidak timeout terlalu cepat. Dibutuhkan beberapa menit setelah pengaturan untuk menjalankan inferensi.

   • Di bawah Pinned, pilih True.

   • Di bawah Parameter Tambahan, untuk akses Baca ke direktori /sys, pilih Diaktifkan.

   • Untuk Siklus hidup Lambda, pilih Jadikan fungsi ini berumur panjang dan biarkan berjalan tanpa batas.

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • Perbarui nilai Timeout menjadi 5 detik. Hal ini memastikan bahwa permintaan tidak timeout terlalu cepat. Dibutuhkan beberapa menit setelah pengaturan untuk menjalankan inferensi.

   • Untuk Pinned, pilih True.

   • Di bawah Parameter Tambahan, untuk akses Baca ke direktori /sys, pilih Diaktifkan.

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya perangkat lokal yang diperlukan untuk memberikan akses ke GPU perangkat Anda.

1. Pada halaman konfigurasi grup, pilih tab Sumber Daya.

2. Pilih Tambahkan sumber daya lokal.

3. Mendefinisikan sumber daya:

   • Untuk Nama sumber daya, masukkan renderD128.

   • Untuk jenis sumber daya, pilih Perangkat lokal.

   • Untuk Jalur perangkat, masukkan /dev/dri/renderD128.

   • Untuk pemilik grup sistem dan izin akses file, pilih Secara otomatis menambahkan izin sistem file dari grup sistem yang memiliki sumber daya.

   • Untuk Afiliasi fungsi Lambda, berikan Akses baca dan tulis pada fungsi Lambda Anda.

Pastikan perangkat Jetson Anda dikonfigurasi sehingga Anda dapat menginstal perangkat lunak AWS IoT Greengrass Core. Untuk informasi lebih lanjut tentang konfigurasi perangkat Anda, lihat Mengatur perangkat lain.

Buka MXNet dokumentasi, buka Instalasi MXNet di Jetson, dan ikuti petunjuk untuk menginstal MXNet di perangkat Jetson.

Unduh citra PNG atau JPG statis untuk fungsi Lambda yang akan digunakan untuk klasifikasi citra. Aplikasi ini bekerja paling baik dengan file citra kecil. Atau, Anda dapat menyetel kamera melalui forum Jetson untuk menangkap citra sumber.

Simpan file citra Anda di direktori yang memuat file greengrassObjectClassification.py tersebut. Anda juga dapat menyimpannya dalam subdirektori di direktori ini. Direktori ini ada dalam paket deployment fungsi Lambda yang Anda unggah di Langkah 4: Buat dan publikasikan Fungsi Lambda.

Buat symlink dari Python 3.7 ke Python 3.6 untuk menggunakan Python 3 dengan. AWS IoT Greengrass Jalankan perintah berikut untuk menemukan instalasi Python Anda:

which python3

Jalankan perintah berikut untuk membuat symlink:

sudo ln -s path-to-python-3.6/python3.6 path-to-python-3.7/python3.7

Reboot perangkat.

Pastikan akun ggc_user sistem dapat menggunakan MXNet kerangka kerja:

“sudo -u ggc_user bash -c 'python3 -c "import mxnet"'

Edit konfigurasi fungsi Lambda. Ikuti prosedur di Langkah 5: Tambahkan fungsi Lambda ke grup Greengrass.

1. Untuk berjalan tanpa kontainerisasi:

   • Untuk pengguna dan grup Sistem, pilihAnother user ID/group ID. Untuk ID pengguna Sistem, masukkan0. Untuk ID grup Sistem, masukkan0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • Untuk kontainerisasi fungsi Lambda, pilih No container.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Di bawah Parameter Tambahan, untuk akses Baca ke direktori /sys, pilih Diaktifkan.

   • Di bawah Variabel lingkungan, tambahkan pasangan nilai kunci berikut untuk fungsi Lambda Anda. Ini mengkonfigurasi AWS IoT Greengrass untuk menggunakan MXNet kerangka kerja.

     Kunci	Nilai
     PATH	/usr/local/cuda/bin: $ JALAN
     MXNET_HOME	$ rumah/mxnet/
     PYTHONPATH	$mxnet_HOME/Python: $PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$ LD_LIBRARY_PATH: $ {CUDA_HOME} /lib64

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • Meningkatkan nilai Batas memori tersebut. Gunakan 500 MB untuk CPU, atau setidaknya 2000 MB untuk GPU.

   • Di bawah Parameter Tambahan, untuk akses Baca ke direktori /sys, pilih Diaktifkan.

   • Di bawah Variabel lingkungan, tambahkan pasangan nilai kunci berikut untuk fungsi Lambda Anda. Ini mengkonfigurasi AWS IoT Greengrass untuk menggunakan MXNet kerangka kerja.

     Kunci	Nilai
     PATH	/usr/local/cuda/bin: $ JALAN
     MXNET_HOME	$ rumah/mxnet/
     PYTHONPATH	$mxnet_HOME/Python: $PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$ LD_LIBRARY_PATH: $ {CUDA_HOME} /lib64

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya perangkat lokal berikut untuk memberikan akses ke GPU perangkat Anda. Ikuti prosedur di Langkah 6: Tambahkan sumber daya ke grup Greengrass.

Untuk setiap sumber daya:

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya volume lokal berikut untuk memberikan akses ke kamera perangkat Anda. Ikuti prosedur di Langkah 6: Tambahkan sumber daya ke grup Greengrass.