Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Cara membuat Titik Akhir Inferensi Asinkron
Buat titik akhir asinkron dengan cara yang sama seperti Anda membuat titik akhir menggunakan layanan hosting SageMaker AI:
Buat model di SageMaker AI dengan
CreateModel.Buat konfigurasi titik akhir dengan
CreateEndpointConfig.Buat titik akhir HTTPS dengan
CreateEndpoint.
Untuk membuat titik akhir, pertama-tama Anda membuat model dengan CreateModel, di mana Anda menunjuk ke artefak model dan jalur registri Docker (Gambar). Anda kemudian membuat konfigurasi menggunakan CreateEndpointConfig tempat Anda menentukan satu atau lebih model yang dibuat menggunakan CreateModel API untuk diterapkan dan sumber daya yang Anda ingin SageMaker AI sediakan. Buat titik akhir Anda dengan CreateEndpoint menggunakan konfigurasi titik akhir yang ditentukan dalam permintaan. Anda dapat memperbarui titik akhir asinkron dengan API. UpdateEndpoint Kirim dan terima permintaan inferensi dari model yang dihosting di titik akhir denganInvokeEndpointAsync. Anda dapat menghapus titik akhir Anda dengan DeleteEndpoint API.
Untuk daftar lengkap Gambar yang tersedia, lihat SageMaker Gambar Wadah Pem belajaran Mendalam yang Tersedia
