Penerapan Model di SageMaker

Setelah Anda melatih dan menyetujui model untuk produksi, gunakan untuk menyebarkan model Anda SageMaker ke titik akhir untuk inferensi waktu nyata. SageMaker menyediakan beberapa opsi inferensi sehingga Anda dapat memilih opsi yang paling sesuai dengan beban kerja Anda. Anda juga mengonfigurasi titik akhir dengan memilih jenis instans dan jumlah instans yang Anda perlukan untuk kinerja optimal. Untuk detail tentang penerapan model, lihatMenyebarkan model untuk inferensi.

Setelah Anda menerapkan model Anda ke produksi, Anda mungkin ingin mencari cara untuk lebih mengoptimalkan kinerja model sambil mempertahankan ketersediaan model Anda saat ini. Misalnya, Anda dapat menyiapkan tes bayangan untuk mencoba model atau model yang berbeda yang melayani infrastruktur sebelum melakukan perubahan. SageMaker menerapkan model, wadah, atau instance baru dalam mode bayangan dan merutekan salinan permintaan inferensi secara real time dalam titik akhir yang sama. Anda dapat mencatat respons varian bayangan untuk perbandingan. Untuk detail tentang pengujian bayangan, lihatTes bayangan. Jika Anda memutuskan untuk melanjutkan dan mengubah model Anda, pagar pembatas penerapan membantu Anda mengontrol sakelar dari model saat ini ke model baru. Anda dapat memilih metode seperti pengujian biru/hijau atau kenari dari proses pergeseran lalu lintas untuk mempertahankan kontrol granular selama pembaruan. Untuk informasi tentang pagar pembatas penerapan, lihat. Pagar pembatas penyebaran untuk memperbarui model dalam produksi