Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Penerapan model di tepi dengan SageMaker Edge Manager

Amazon SageMaker Edge Manager menyediakan manajemen model untuk perangkat edge sehingga Anda dapat mengoptimalkan, mengamankan, memantau, dan memelihara model pembelajaran mesin pada armada perangkat edge seperti kamera pintar, robot, komputer pribadi, dan perangkat seluler.

Mengapa Menggunakan Edge Manager?

Banyak kasus penggunaan pembelajaran mesin (ML) memerlukan menjalankan model ML pada armada perangkat edge, yang memungkinkan Anda mendapatkan prediksi secara real-time, menjaga privasi pengguna akhir, dan menurunkan biaya konektivitas jaringan. Dengan meningkatnya ketersediaan perangkat keras tepi berdaya rendah yang dirancang untuk ML, sekarang dimungkinkan untuk menjalankan beberapa model jaringan saraf kompleks pada perangkat tepi.

Namun, mengoperasikan model ML pada perangkat edge menantang, karena perangkat, tidak seperti instans cloud, memiliki komputasi, memori, dan konektivitas yang terbatas. Setelah model digunakan, Anda perlu terus memantau model, karena penyimpangan model dapat menyebabkan kualitas model membusuk seiring waktu. Memantau model di seluruh armada perangkat Anda sulit karena Anda perlu menulis kode khusus untuk mengumpulkan sampel data dari perangkat Anda dan mengenali kemiringan dalam prediksi. Selain itu, model sering di-hardcode ke dalam aplikasi. Untuk memperbarui model, Anda harus membangun kembali dan memperbarui seluruh aplikasi atau firmware perangkat, yang dapat mengganggu operasi Anda.

Dengan SageMaker Edge Manager, Anda dapat mengoptimalkan, menjalankan, memantau, dan memperbarui model pembelajaran mesin di seluruh armada perangkat di tepi.

Bagaimana cara kerjanya?

Pada tingkat tinggi, ada lima komponen utama dalam alur kerja SageMaker Edge Manager: mengkompilasi model dengan SageMaker Neo, mengemas Neo-compiled model, menerapkan model ke perangkat Anda, menjalankan model pada mesin inferensi SageMaker AI (agen Edge Manager), dan memelihara model di perangkat.

SageMaker Edge Manager menggunakan SageMaker Neo untuk mengoptimalkan model Anda untuk perangkat keras target dalam satu klik, kemudian untuk menandatangani model Anda secara kriptografis sebelum penerapan. Menggunakan SageMaker Edge Manager, Anda dapat mengambil sampel data input dan output model dari perangkat edge dan mengirimkannya ke cloud untuk pemantauan dan analisis, dan melihat dasbor yang melacak dan melaporkan secara visual tentang pengoperasian model yang digunakan dalam konsol SageMaker AI.

SageMaker Edge Manager memperluas kemampuan yang sebelumnya hanya tersedia di cloud ke tepi, sehingga pengembang dapat terus meningkatkan kualitas model dengan menggunakan Amazon SageMaker Model Monitor untuk deteksi penyimpangan, kemudian memberi label ulang data dengan SageMaker AI Ground Truth dan melatih kembali model dalam SageMaker AI.

Bagaimana Cara Menggunakan SageMaker Edge Manager?

Jika Anda adalah pengguna SageMaker Edge Manager pertama kali, kami sarankan Anda melakukan hal berikut: