Memperbarui titik akhir tanpa server - Amazon SageMaker
Perbarui titik akhir

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memperbarui titik akhir tanpa server

Sebelum memperbarui titik akhir Anda, buat konfigurasi titik akhir baru atau gunakan konfigurasi titik akhir yang ada. Konfigurasi titik akhir adalah tempat Anda menentukan perubahan untuk pembaruan Anda. Kemudian, Anda dapat memperbarui titik akhir Anda dengan SageMaker konsol, konsol UpdateEndpointAPI, atau. AWS CLIProses untuk memperbarui titik akhir tanpa server sama dengan proses untuk memperbarui titik akhir real-time. Perhatikan bahwa saat memperbarui endpoint, Anda dapat mengalami cold start saat membuat permintaan ke endpoint karena SageMaker harus menginisialisasi ulang container dan model Anda.

Anda mungkin ingin memperbarui titik akhir tanpa server sesuai permintaan ke titik akhir tanpa server dengan konkurensi yang disediakan atau menyesuaikan nilai Konkurensi yang Disediakan untuk titik akhir tanpa server yang ada dengan konkurensi yang disediakan. Untuk kedua kasus tersebut, Anda harus membuat konfigurasi endpoint tanpa server baru dengan nilai yang diinginkan untuk Provisioned Concurrency, dan menerapkan UpdateEndpoint ke titik akhir tanpa server yang ada. Untuk informasi selengkapnya tentang membuat konfigurasi endpoint tanpa server baru dengan Provisioned Concurrency, lihat. Buat konfigurasi titik akhir

Jika Anda ingin menghapus Provisioned Concurrency dari titik akhir tanpa server, Anda harus membuat konfigurasi titik akhir baru tanpa menentukan nilai apa pun untuk Provisioned Concurrency, dan kemudian menerapkan ke titik akhir. UpdateEndpoint

catatan

Memperbarui titik akhir inferensi real-time ke titik akhir tanpa server sesuai permintaan atau titik akhir tanpa server dengan Provisioned Concurrency saat ini tidak didukung.

Perbarui titik akhir

Setelah membuat konfigurasi titik akhir tanpa server baru, Anda dapat menggunakan AWS SDK for Python (Boto3)atau SageMaker konsol untuk memperbarui titik akhir tanpa server yang ada. Contoh cara memperbarui titik akhir Anda menggunakan AWS SDK for Python (Boto3) dan SageMaker konsol diuraikan di bagian berikut.

Untuk memperbarui titik akhir (menggunakan Boto3)

Contoh berikut menggunakan AWS SDK for Python (Boto3)untuk memanggil metode update_endpoint. Tentukan setidaknya parameter berikut saat memanggil metode:

  • UntukEndpointName, gunakan nama titik akhir yang Anda perbarui.

  • UntukEndpointConfigName, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan untuk pembaruan.

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<new-endpoint-config>",
)

Untuk memperbarui titik akhir (menggunakan konsol)

  1. Masuk ke SageMakerkonsol Amazon.

  2. Di tab navigasi, pilih Inferensi.

  3. Selanjutnya, pilih Endpoints.

  4. Dari daftar titik akhir, pilih titik akhir yang ingin Anda perbarui.

  5. Pilih Ubah di bagian pengaturan konfigurasi Endpoint.

  6. Untuk Mengubah konfigurasi Endpoint, pilih Gunakan konfigurasi endpoint yang ada.

  7. Dari daftar konfigurasi titik akhir, pilih salah satu yang ingin Anda gunakan untuk pembaruan Anda.

  8. Pilih Pilih konfigurasi titik akhir.

  9. Pilih Perbarui titik akhir.