View a markdown version of this page

Memperbarui titik akhir tanpa server - Amazon SageMaker AI
Perbarui titik akhir

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memperbarui titik akhir tanpa server

Sebelum memperbarui titik akhir Anda, buat konfigurasi titik akhir baru atau gunakan konfigurasi titik akhir yang ada. Konfigurasi titik akhir adalah tempat Anda menentukan perubahan untuk pembaruan Anda. Kemudian, Anda dapat memperbarui titik akhir Anda dengan konsol SageMaker AI, UpdateEndpoint API, atau AWS CLI. Proses untuk memperbarui titik akhir tanpa server sama dengan proses untuk memperbarui titik akhir waktu nyata. Perhatikan bahwa saat memperbarui titik akhir Anda, Anda dapat mengalami cold start saat membuat permintaan ke titik akhir karena SageMaker AI harus menginisialisasi ulang wadah dan model Anda.

Anda mungkin ingin memperbarui titik akhir tanpa server sesuai permintaan ke titik akhir tanpa server dengan konkurensi yang disediakan atau menyesuaikan nilai Konkurensi Penyediaan untuk titik akhir tanpa server yang ada dengan konkurensi yang disediakan. Untuk kedua kasus tersebut, Anda harus membuat konfigurasi titik akhir tanpa server baru dengan nilai yang diinginkan untuk Provisioned Concurrency, dan menerapkan UpdateEndpoint ke titik akhir tanpa server yang ada. Untuk informasi selengkapnya tentang membuat konfigurasi titik akhir tanpa server baru dengan Konkurensi Tersediakan, lihat. Membuat konfigurasi titik akhir

Jika Anda ingin menghapus Provisioned Concurrency dari titik akhir tanpa server, Anda harus membuat konfigurasi titik akhir baru tanpa menentukan nilai apa pun untuk Konkurensi Penyediaan, lalu terapkan ke titik akhir. UpdateEndpoint

catatan

Memperbarui titik akhir inferensi real-time ke titik akhir tanpa server sesuai permintaan atau titik akhir tanpa server dengan Konkurensi Tersediakan saat ini tidak didukung.

Perbarui titik akhir

Setelah membuat konfigurasi titik akhir tanpa server baru, Anda dapat menggunakan AWS SDK for Python (Boto3) atau konsol SageMaker AI untuk memperbarui titik akhir tanpa server yang ada. Contoh cara memperbarui titik akhir Anda menggunakan AWS SDK for Python (Boto3) dan konsol SageMaker AI diuraikan di bagian berikut.

Untuk memperbarui titik akhir (menggunakan Boto3)

Contoh berikut menggunakan AWS SDK for Python (Boto3) untuk memanggil metode update_endpoint. Tentukan setidaknya parameter berikut saat memanggil metode:

  • UntukEndpointName, gunakan nama titik akhir yang Anda perbarui.

  • UntukEndpointConfigName, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan untuk pembaruan.

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<new-endpoint-config>",
)

Untuk memperbarui titik akhir (menggunakan konsol)

  1. Masuk ke konsol Amazon SageMaker AI.

  2. Di tab navigasi, pilih Inferensi.

  3. Selanjutnya, pilih Endpoints.

  4. Dari daftar titik akhir, pilih titik akhir yang ingin Anda perbarui.

  5. Pilih Ubah di bagian pengaturan konfigurasi Endpoint.

  6. Untuk Ubah konfigurasi Endpoint, pilih Gunakan konfigurasi titik akhir yang ada.

  7. Dari daftar konfigurasi titik akhir, pilih yang ingin Anda gunakan untuk pembaruan Anda.

  8. Pilih Pilih konfigurasi titik akhir.

  9. Pilih Per barui titik akhir.