Cara mengonfigurasi inferensi machine learning menggunakan AWS Management Console

Menginstal pembaruan untuk Raspbian.

sudo apt-get update
sudo apt-get dist-upgrade

Instal antarmuka picamera untuk modul kamera dan pustaka Python lain yang diperlukan untuk tutorial ini.

sudo apt-get install -y python3-dev python3-setuptools python3-pip python3-picamera

Memvalidasi instalasi:

Reboot Raspberry Pi.

sudo reboot

Buka alat konfigurasi Raspberry Pi.

sudo raspi-config

Gunakan tombol panah untuk membuka Opsi Antarmuka dan mengaktifkan antarmuka kamera. Jika diminta, izinkan perangkat melakukan reboot.

Gunakan perintah berikut untuk menguji pengaturan kamera.

raspistill -v -o test.jpg

Hal ini akan membuka jendela pratinjau pada Raspberry Pi, menyimpan gambar bernama test.jpg ke direktori Anda saat ini, dan menampilkan informasi tentang kamera di terminal Raspberry Pi.

Masuk ke Raspberry Pi Anda dari jarak jauh.

ssh pi@your-device-ip-address

Buka dokumentasi MXNet, buka Menginstal MXNet, lalu ikuti petunjuk untuk menginstal MXNet di perangkat.

Setelah Anda menginstal MXNet, validasi konfigurasi berikut:

Pada komputer anda, unduh sampel MXNet untuk Raspberry Pi dari Sampel machine learning.

Unzip file mxnet-py3-armv7l.tar.gz yang diunduh.

Buka direktori squeezenet tersebut.

cd path-to-downloaded-sample/mxnet-py3-armv7l/models/squeezenet

File squeezenet.zip dalam direktori ini adalah paket model Anda. Ini berisi SqueezeNet artefak model sumber terbuka untuk model klasifikasi gambar. Kemudian, Anda mengunggah paket model ini ke Amazon S3.

Di komputer Anda, navigasikan ke direktori examples dalam paket contoh yang Anda unzip di Langkah 3: Membuat paket model MXNet.

cd path-to-downloaded-sample/mxnet-py3-armv7l/examples

Direktori examples berisi kode fungsi dan dependensi.

Kompres isi examples ke dalam sebuah file bernama greengrassObjectClassification.zip. Ini paket deployment Anda.

zip -r greengrassObjectClassification.zip .

Selanjutnya, Buat fungsi Lambda.

DariAWS IoTkonsol, pilihFungsidanBuat fungsi.

Pilih Tulis dari awal dan gunakan nilaiinilai berikut untuk membuat fungsi Anda:

Untuk Izin, pertahankan pengaturan default. Hal ini menciptakan peran eksekusi yang memberikan izin Lambda basic. Peran ini tidak digunakan oleh AWS IoT Greengrass.

Pilih Buat fungsi.

Sekarang, unggah paket deployment fungsi Lambda Anda dan daftarkan handler.

Pilih fungsi Lambda Anda dan unggah paket deployment fungsi Lambda Anda.

1. Pada tab Kode ini, di bawah Sumber kode, pilih Unggah dari. Dari dropdown, pilih file .zip.

   

2. Pilih Unggah, lalu pilih paket deployment greengrassObjectClassification.zip Anda. Lalu, pilih Simpan.

3. Pada tab Kode fungsi, di bawah Pengaturan waktu aktif, pilih Edit, dan kemudian masukkan nilai-nilai berikut.

   • Untuk waktu aktif, pilih Python 3.7.

   • Untuk Handler, masukkan greengrassObjectClassification.function_handler.

   Pilih Save (Simpan).

Berikutnya, mempublikasikan versi pertama fungsi Lambda Anda. Kemudian, buat alias untuk versi.

Dari menu Tindakan tersebut, pilih Publikasikan versi baru.

Untuk Versi Deskripsi, masukkan First version, lalu pilih Publikasikan.

PadagreengrassObjectClassification: 1halaman konfigurasi, dariTindakanmenu, pilihMembuat alias.

Pada halaman Buat alias baru tersebut, gunakan nilai-nilai berikut:

Pilih Save (Simpan).

Sekarang, tambahkan fungsi Lambda ke grup Greengrass Anda.

DiAWS IoTpanel navigasi konsol, di bawahKelola, perluasPerangkat Greengrass, dan kemudian pilihGrup (V1).

Dari halaman konfigurasi grup, pilihFungsi LambdaTab.

Di bawahFungsi Lambda sayabagian, pilihTambahkan.

UntukFungsi Lambda, PilihgreengrassObjectClassification.

UntukVersi fungsi Lambda, PilihAlias: MLTest.

Selanjutnya, konfigurasikan variabel siklus hidup dan lingkungan dari fungsi Lambda.

PadaKonfigurasi fungsi Lambdabagian, buat pembaruan berikut.

1. Untuk berjalan tanpa kontainerisasi:

   • UntukPengguna dan grup sistem, PilihAnother user ID/group ID. UntukID pengguna SistemENTER0. UntukID Grup SistemENTER0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • UntukFungsi Lambda kontainerisasi, PilihTanpa kontainer.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Untuk Timeout, masukkan 10 seconds.

   • UntukDipinilih, PilihBenar.

     Untuk informasi selengkapnya, lihat Konfigurasi siklus hidup untuk fungsi Greengrass Lambda.

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • UntukPengguna dan grup sistem, PilihGunakan default grup.

   • UntukFungsi Lambda kontainerisasi, PilihGunakan default grup.

   • Untuk Batas memori, masukkan 96 MB.

   • Untuk Timeout, masukkan 10 seconds.

   • UntukDipinilih, PilihBenar.

     Untuk informasi selengkapnya, lihat Konfigurasi siklus hidup untuk fungsi Greengrass Lambda.

Di bawah Lingkungan variabel, buat pasangan kunci-nilai. Pasangan kunci-nilai diperlukan oleh fungsi yang berinteraksi dengan model MXNet pada Raspberry Pi.

Untuk kuncinya, gunakan MXNET_ENGINE_TYPE. Untuk nilai, gunakanNaiveEngine.

Menjaga nilai default untuk semua properti lain dan memilihMenambahkan fungsi Lambda.

Pada halaman konfigurasi grup, pilihSumber dayaTab.

DiSumber daya lokalbagian, pilihMenambahkan sumber daya lokal.

PadaMenambahkan sumber daya lokalhalaman, gunakan nilai-nilai berikut:

Selanjutnya, Anda menambahkan sumber daya perangkat lokal untuk antarmuka kamera.

PilihMenambahkan sumber daya lokal.

PadaMenambahkan sumber daya lokalhalaman, gunakan nilai-nilai berikut:

Di bagian bawah halaman, pilihTambahkan sumber daya.

PadaSumber dayatab untuk grup Anda, di bawahMachine Learningbagian, pilihMenambahkan sumber daya machine learning.

PadaMenambahkan sumber daya pembelajaran mesinhalamanNama sumber dayaENTERsqueezenet_model.

UntukSumber model, PilihGunakan model yang disimpan di S3, seperti model yang dioptimalkan melalui Deep Learning Compiler.

UntukJENIS S3, masukkan jalur tempat bucket S3 disimpan.

Pilih Jelajahi S3. Ini membuka tab baru ke konsol Amazon S3.

Pada konsol Amazon S3, unggah file squeezenet.zip ke bucket S3. Untuk informasi, lihatBagaimana cara mengunggah file dan folder ke S3 Bucket?di dalamPanduan Pengguna Amazon Simple Storage Service.

Pada tab konsol AWS IoT Greengrass tersebut, cari dan pilih bucket S3 Anda. Temukan file squeezenet.zip yang Anda unggah, dan pilih Pilihan. Anda mungkin harus memilih Refresh untuk memperbarui daftar bucket dan file yang tersedia.

Untuk Jalur tujuan, masukkan /greengrass-machine-learning/mxnet/squeezenet.

Hal ini adalah tujuan untuk model lokal di Lambda waktu aktif namespace. Saat Anda men-deploy grup, AWS IoT Greengrass mengambil paket model sumber dan kemudian ekstrak isinya ke direktori tertentu. Contoh fungsi Lambda untuk tutorial ini sudah dikonfigurasi untuk menggunakan jalur ini (dalam variabel model_path tersebut).

Di bawahPemilik grup sistem dan izin akses file, PilihTidak ada kelompok sistem.

PilihTambahkan sumber daya.

Pada halaman konfigurasi grup, pilihLangganantab, dan kemudian pilihMenambahkan langganan.

PadaDetail langgananhalaman, mengkonfigurasi sumber dan target, sebagai berikut:

1. MasukJenis Sumber, PilihFungsi Lambda, dan kemudian pilihgreengrassObjectClassification.

2. MasukJenis target, PilihLayanan, dan kemudian pilihIoT Cloud.

MasukFilter topikENTERhello/world, dan kemudian pilihBuat langganan.

Pastikan bahwa core AWS IoT Greengrass sedang berjalan. Jalankan perintah berikut di terminal Raspberry Pi Anda, sesuai kebutuhan.

1. Untuk memeriksa apakah daemon sedang berjalan:

   ps aux | grep -E 'greengrass.*daemon'

   Jika outputnya berisi entri root untuk /greengrass/ggc/packages/1.11.6/bin/daemon, maka daemon sedang berjalan.

   catatan

   Versi di jalur tergantung pada versi perangkat lunak AWS IoT Greengrass core yang diinstal pada perangkat core Anda.

2. Untuk memulai daemon:

   cd /greengrass/ggc/core/
   sudo ./greengrassd start

Pada halaman konfigurasi grup, pilihDeploy.

DiFungsi Lambdatab, di bawahFungsi Lambda sistembagian, pilihDetektor IPdan pilihlahedit.

DiEdit pengaturan detektor IPkotak dialog, pilihSecara otomatis mendeteksi dan mengganti titik akhir broker MQTT.

Pilih Save (Simpan).

Hal ini mengaktifkan perangkat untuk secara otomatis memperoleh informasi konektivitas untuk core, seperti alamat IP, DNS, dan nomor port. Deteksi otomatis direkomendasikan, namun AWS IoT Greengrass juga support titik akhir yang ditentukan secara manual. Anda hanya diminta untuk metode penemuan pertama kalinya bahwa grup di-deploy.

Halaman Deployment menampilkan timestamp deployment, ID versi, dan status. Setelah selesai, status yang ditampilkan untuk deployment seharusnyaCompleted (Lengkap).

Untuk informasi lebih lanjut tentang deployment, lihat Men-deploy AWS IoT Greengrass grup ke AWS IoT Greengrass core. Untuk bantuan penyelesaian masalah, lihat Pemecahan Masalah AWS IoT Greengrass.

DiAWS IoTkonsol, di bawahTEST, PilihKlien uji MQTT.

Untuk Berlangganan, gunakan nilai-nilai berikut:

Pilih Langganan.

Jika tes berhasil, pesan dari fungsi Lambda muncul di bagian bawah halaman. Setiap pesan berisi lima hasil prediksi dari citra, menggunakan format: probabilitas, ID kelas diprediksi, dan nama kelas yang sesuai.

Beralih ke pengguna root dan arahkan ke direktori log tersebut. Akses ke catatan AWS IoT Greengrass memerlukan izin root.

sudo su
cd /greengrass/ggc/var/log

Di direktori system tersebut, periksa runtime.log atau python_runtime.log.

Di direktori user/region/account-id tersebut, periksa greengrassObjectClassification.log.

Untuk informasi selengkapnya, lihat Pemecahan masalah dengan catatan.

Daftar isi dari Lambda di-deploy di direktori /lambda tersebut. Mengganti nilai placeholder sebelum Anda menjalankan perintah.

cd /greengrass/ggc/deployment/lambda/arn:aws:lambda:region:account:function:function-name:function-version
ls -la

Verifikasi bahwa direktori berisi konten yang sama sebagai paket deployment greengrassObjectClassification.zip yang Anda unggah di Langkah 4: Buat dan publikasikan fungsi Lambda.

Pastikan bahwa file .py dan dependensi berada di root direktori.

Cari nomor identifikasi proses (PID) dari proses waktu aktif Lambda:

ps aux | grep 'lambda-function-name*'

Pada output, PID muncul di kolom kedua baris untuk proses waktu aktif Lambda.

Masukkan namespace waktu aktif Lambda. Pastikan untuk mengganti nilai placeholder pid sebelum Anda menjalankan perintah.

sudo nsenter -t pid -m /bin/bash

Daftar isi dari direktori lokal yang Anda tentukan untuk sumber daya ML.

cd /greengrass-machine-learning/mxnet/squeezenet/
ls -ls

Anda akan melihat file berikut ini:

32 -rw-r--r-- 1 ggc_user ggc_group   31675 Nov 18 15:19 synset.txt
32 -rw-r--r-- 1 ggc_user ggc_group   28707 Nov 18 15:19 squeezenet_v1.1-symbol.json
4832 -rw-r--r-- 1 ggc_user ggc_group 4945062 Nov 18 15:19 squeezenet_v1.1-0000.params

Unduh citra PNG atau JPG statis untuk fungsi Lambda yang akan digunakan untuk klasifikasi citra. Contoh tersebut bekerja paling baik dengan file citra kecil.

Simpan file citra Anda di direktori yang memuat file greengrassObjectClassification.py (atau dalam subdirektori dari direktori ini). Hal ini ada dalam paket deployment fungsi Lambda yang Anda unggah di Langkah 4: Buat dan publikasikan fungsi Lambda.

Jika anda tidak menggunakan Python 3.7, pastikan untuk membuat symlink dari Python 3.x ke Python 3.7. Ini mengonfigurasi perangkat anda untuk menggunakan Python 3 dengan AWS IoT Greengrass. Jalankan perintah berikut untuk menemukan instalasi Python Anda:

which python3

Jalankan perintah berikut untuk membuat symlink:

sudo ln -s path-to-python-3.x/python3.x path-to-python-3.7/python3.7

Reboot perangkat.

Edit konfigurasi fungsi Lambda. Ikuti prosedur di Langkah 5: Tambahkan fungsi Lambda ke grup Greengrass.

1. Untuk berjalan tanpa kontainerisasi:

   • UntukPengguna dan grup sistem, PilihAnother user ID/group ID. UntukID pengguna SistemENTER0. UntukID Grup SistemENTER0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • UntukFungsi Lambda kontainerisasi, PilihTanpa kontainer.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Perbarui nilai Timeout menjadi 5 detik. Hal ini memastikan bahwa permintaan tidak timeout terlalu cepat. Dibutuhkan beberapa menit setelah pengaturan untuk menjalankan inferensi.

   • Di bawahDipinilih, PilihBenar.

   • Di bawahParameter tambahan, untukBaca akses ke direktori /sys, PilihDiaktifkan.

   • Untuk Siklus hidup Lambda, pilih Jadikan fungsi ini berumur panjang dan biarkan berjalan tanpa batas.

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • Perbarui nilai Timeout menjadi 5 detik. Hal ini memastikan bahwa permintaan tidak timeout terlalu cepat. Dibutuhkan beberapa menit setelah pengaturan untuk menjalankan inferensi.

   • UntukDipinilih, PilihBenar.

   • Di bawahParameter tambahan, untukBaca akses ke direktori /sys, PilihDiaktifkan.

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya perangkat lokal yang diperlukan untuk memberikan akses ke GPU perangkat Anda.

1. Pada halaman konfigurasi grup, pilihSumber dayaTab.

2. PilihMenambahkan sumber daya lokal.

3. Mendefinisikan sumber daya:

   • Untuk Nama sumber daya, masukkan renderD128.

   • UntukJenis sumber daya, PilihPerangkat lokal.

   • Untuk Jalur perangkat, masukkan /dev/dri/renderD128.

   • UntukPemilik grup sistem dan izin akses file, PilihSecara otomatis menambahkan izin sistem file dari grup sistem yang memiliki sumber daya.

   • Untuk Afiliasi fungsi Lambda, berikan Akses baca dan tulis pada fungsi Lambda Anda.

Pastikan perangkat Jetson Anda dikonfigurasi sehingga Anda dapat menginstal perangkat lunak AWS IoT Greengrass core. Untuk informasi lebih lanjut tentang konfigurasi perangkat Anda, lihat Mengatur perangkat lain.

Buka dokumentasi MXNet, pergi ke Menginstal MXNet pada Jetson, lalu ikuti petunjuk untuk menginstal MXNet pada perangkat Jetson.

Unduh citra PNG atau JPG statis untuk fungsi Lambda yang akan digunakan untuk klasifikasi citra. Aplikasi ini bekerja paling baik dengan file citra kecil. Atau, Anda dapat menyetel kamera melalui forum Jetson untuk menangkap citra sumber.

Simpan file citra Anda di direktori yang memuat file greengrassObjectClassification.py tersebut. Anda juga dapat menyimpannya dalam subdirektori di direktori ini. Direktori ini ada dalam paket deployment fungsi Lambda yang Anda unggah di Langkah 4: Buat dan publikasikan fungsi Lambda.

Buat symlink dari Python 3.7 ke Python 3.6 agar menggunakan Python 3 dengan AWS IoT Greengrass. Jalankan perintah berikut untuk menemukan instalasi Python Anda:

which python3

Jalankan perintah berikut untuk membuat symlink:

sudo ln -s path-to-python-3.6/python3.6 path-to-python-3.7/python3.7

Reboot perangkat.

Pastikan akun sistem ggc_user dapat menggunakan kerangka kerja MXNet:

“sudo -u ggc_user bash -c 'python3 -c "import mxnet"'

Edit konfigurasi fungsi Lambda. Ikuti prosedur di Langkah 5: Tambahkan fungsi Lambda ke grup Greengrass.

1. Untuk berjalan tanpa kontainerisasi:

   • UntukPengguna dan grup sistem, PilihAnother user ID/group ID. UntukID pengguna SistemENTER0. UntukID Grup SistemENTER0.

     Hal ini memungkinkan fungsi Lambda Anda untuk berjalan sebagai root. Untuk informasi lebih lanjut untuk menjalankan sebagai root, lihat Mengatur identitas akses default untuk fungsi Lambda dalam grup.

     Tip

     Anda juga harus memperbarui file config.json untuk memberikan akses root ke fungsi Lambda Anda. Untuk prosedur ini, lihat Menjalankan fungsi Lambda sebagai root.

   • UntukFungsi Lambda kontainerisasi, PilihTanpa kontainer.

     Untuk informasi lebih lanjut untuk berjalan tanpa konainerisasi, lihat Pertimbangan ketika memilih fungsi Lambda kontainerisasi.

   • Di bawahParameter tambahan, untukBaca akses ke direktori /sys, PilihDiaktifkan.

   • Di bawah Variabel lingkungan, tambahkan pasangan nilai kunci berikut untuk fungsi Lambda Anda. Ini mengonfigurasi AWS IoT Greengrass untuk menggunakan kerangka kerja MXNet.

     Kunci	Nilai
     PATH	/usr/local/cuda/bin: $PATH
     MXNET_HOME	$ rumah/mxnet/
     PYTHONPATH	$mxnet_HOME/Python: $PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$ LD_LIBRARY_PATH: $ {CUDA_HOME} /lib64

2. Untuk menjalankan dalam mode kontainer sebagai gantinya:

   catatan

   Kami tidak merekomendasikan untuk dijalankan dalam mode kontainer kecuali jika kasus bisnis Anda memerlukannya.

   • Meningkatkan nilai Batas memori tersebut. Gunakan 500 MB untuk CPU, atau setidaknya 2000 MB untuk GPU.

   • Di bawahParameter tambahan, untukBaca akses ke direktori /sys, PilihDiaktifkan.

   • Di bawah Variabel lingkungan, tambahkan pasangan nilai kunci berikut untuk fungsi Lambda Anda. Ini mengonfigurasi AWS IoT Greengrass untuk menggunakan kerangka kerja MXNet.

     Kunci	Nilai
     PATH	/usr/local/cuda/bin: $PATH
     MXNET_HOME	$ rumah/mxnet/
     PYTHONPATH	$mxnet_HOME/Python: $PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$ LD_LIBRARY_PATH: $ {CUDA_HOME} /lib64

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya perangkat lokal berikut untuk memberikan akses ke GPU perangkat Anda. Ikuti prosedur di Langkah 6: Menambahkan sumber daya ke grup Greengrass.

Untuk setiap sumber daya:

Jika berjalan dalam mode kontainerisasi, tambahkan sumber daya volume lokal berikut untuk memberikan akses ke kamera perangkat Anda. Ikuti prosedur di Langkah 6: Menambahkan sumber daya ke grup Greengrass.