Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Menggunakan rencana pelatihan untuk titik akhir SageMaker inferensi
Anda dapat menggunakan rencana SageMaker pelatihan untuk menerapkan titik akhir inferensi dengan akses yang dapat diprediksi ke kapasitas GPU. Saat Anda membuat rencana pelatihan, atur sumber daya target ke “titik akhir”. Ini mengamankan instance komputasi khusus untuk beban kerja inferensi.
catatan
Rencana pelatihan harus dalam Active status yang akan digunakan oleh titik akhir inferensi. Titik akhir hanya berfungsi selama jendela reservasi yang ditentukan dalam rencana pelatihan.
penting
Ketika reservasi rencana pelatihan berakhir, perilaku endpoint tergantung pada pengaturan. CapacityReservationPreference Jika Anda menyetel inicapacity-reservations-only, titik akhir berhenti melayani lalu lintas dan pemanggilan gagal dengan kesalahan kapasitas. Untuk melanjutkan layanan, Anda harus membuat reservasi rencana pelatihan baru dan memperbarui konfigurasi titik akhir, atau memperbarui titik akhir untuk menggunakan kapasitas sesuai permintaan.
