Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Saluran inferensi di Amazon AI SageMaker
Pipeline inferensi adalah model SageMaker AI Amazon yang terdiri dari urutan linier dua hingga lima belas wadah yang memproses permintaan untuk kesimpulan pada data. Anda menggunakan pipeline inferensi untuk menentukan dan menerapkan kombinasi algoritma bawaan SageMaker AI yang telah dilatih sebelumnya dan algoritme khusus Anda sendiri yang dikemas dalam wadah Docker. Anda dapat menggunakan pipeline inferensi untuk menggabungkan tugas ilmu data pra-pemrosesan, prediksi, dan pasca-pemrosesan. Pipeline inferensi dikelola sepenuhnya.
Anda dapat menambahkan SageMaker AI Spark ML Serving dan wadah scikit-learn yang menggunakan kembali transformer data yang dikembangkan untuk model pelatihan. Seluruh pipeline inferensi yang dirakit dapat dianggap sebagai model SageMaker AI yang dapat Anda gunakan untuk membuat prediksi real-time atau memproses transformasi batch secara langsung tanpa prapemrosesan eksternal.
Dalam model pipeline inferensi, SageMaker AI menangani pemanggilan sebagai urutan permintaan HTTP. Wadah pertama dalam pipa menangani permintaan awal, kemudian respons perantara dikirim sebagai permintaan ke wadah kedua, dan seterusnya, untuk setiap wadah dalam pipa. SageMaker AI mengembalikan respons akhir ke klien.
Saat Anda menerapkan model pipeline, SageMaker AI menginstal dan menjalankan semua container di setiap instans Amazon Elastic Compute Cloud (Amazon EC2) di titik akhir atau pekerjaan transformasi. Pemrosesan fitur dan kesimpulan berjalan dengan latensi rendah karena wadah ditempatkan bersama pada instans EC2 yang sama. Anda menentukan wadah untuk model pipa menggunakan CreateModel operasi atau dari konsol. Alih-alih mengatur satuPrimaryContainer, Anda menggunakan Containers parameter untuk mengatur wadah yang membentuk pipa. Anda juga menentukan urutan di mana wadah dieksekusi.
Model pipeline tidak dapat diubah, tetapi Anda dapat memperbarui pipeline inferensi dengan menerapkan yang baru menggunakan operasi. UpdateEndpoint Modularitas ini mendukung fleksibilitas yang lebih besar selama eksperimen.
Untuk informasi tentang cara membuat pipeline inferensi dengan SageMaker Model Registry, lihatPenerapan Registrasi Model dengan Model Registry.
Tidak ada biaya tambahan untuk menggunakan fitur ini. Anda hanya membayar untuk instans yang berjalan di titik akhir.
Topik
Contoh Notebook untuk Saluran Saluran Inferensi
Untuk contoh yang menunjukkan cara membuat dan menerapkan pipeline inferensi, lihat buku catatan sampel Inferensi Pipeline dengan Scikit-learn dan Linear Learner
Untuk melihat daftar semua sampel SageMaker AI, setelah membuat dan membuka instance notebook, pilih tab Contoh SageMaker AI. Ada tiga notebook pipeline inferensi. Dua buku catatan pipeline inferensi pertama yang baru saja dijelaskan terletak di advanced_functionality folder dan notebook ketiga ada di sagemaker-python-sdk folder. Untuk membuka buku catatan, pilih tab Gunakan, lalu pilih Buat salinan.
