Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Opsi inferensi di Amazon SageMaker
SageMaker menyediakan beberapa opsi inferensi sehingga Anda dapat memilih opsi yang paling sesuai dengan beban kerja Anda:
-
Inferensi Real-Time: Inferensi real-time sangat ideal untuk inferensi online yang memiliki latensi rendah atau persyaratan throughput tinggi. Gunakan inferensi real-time untuk endpoint (RESTAPI) persisten dan terkelola sepenuhnya yang dapat menangani lalu lintas berkelanjutan, didukung oleh jenis instance pilihan Anda. Inferensi waktu nyata dapat mendukung ukuran muatan hingga 6 MB dan waktu pemrosesan 60 detik.
-
Inferensi Tanpa Server: Inferensi tanpa server sangat ideal ketika Anda memiliki pola lalu lintas intermiten atau tidak dapat diprediksi. SageMaker mengelola semua infrastruktur yang mendasarinya, jadi tidak perlu mengelola instance atau kebijakan penskalaan. Anda hanya membayar untuk apa yang Anda gunakan dan bukan untuk waktu idle. Ini dapat mendukung ukuran muatan hingga 4 MB dan waktu pemrosesan hingga 60 detik.
-
Transformasi Batch: Transformasi Batch cocok untuk pemrosesan offline ketika sejumlah besar data tersedia di muka dan Anda tidak memerlukan titik akhir yang persisten. Anda juga dapat menggunakan transformasi batch untuk kumpulan data pra-pemrosesan. Ini dapat mendukung kumpulan data besar yang GBs dalam ukuran dan waktu pemrosesan dalam beberapa hari.
-
Inferensi Asinkron: Inferensi asinkron sangat ideal ketika Anda ingin mengantri permintaan dan memiliki muatan besar dengan waktu pemrosesan yang lama. Inferensi Asinkron dapat mendukung muatan hingga 1 GB dan waktu pemrosesan yang lama hingga satu jam. Anda juga dapat menurunkan titik akhir Anda ke 0 ketika tidak ada permintaan untuk diproses.
Diagram berikut menunjukkan informasi sebelumnya dalam diagram alur dan dapat membantu Anda memilih opsi yang paling sesuai dengan kasus penggunaan Anda.
