Gunakan sekaligus perpindahan lalu lintas - Amazon SageMaker

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan sekaligus perpindahan lalu lintas

Dengan pergeseran lalu lintas sekaligus, Anda dapat dengan cepat meluncurkan pembaruan titik akhir menggunakan pagar pengaman dari penerapan biru/hijau. Anda dapat menggunakan opsi perpindahan lalu lintas ini untuk meminimalkan durasi pembaruan sambil tetap memanfaatkan jaminan ketersediaan penerapan biru/hijau. Fitur baking period membantu Anda memantau kinerja dan fungsionalitas instans baru Anda sebelum menghentikan instans lama Anda, memastikan bahwa armada baru Anda beroperasi penuh.

Diagram berikut menunjukkan bagaimana sekaligus pergeseran lalu lintas mengelola armada lama dan baru.

Pergeseran lalu lintas 100% yang sukses dari armada lama ke armada baru.

Saat Anda menggunakan perpindahan lalu lintas sekaligus, SageMaker rute 100% lalu lintas ke armada baru (armada hijau). Setelah armada hijau mulai menerima lalu lintas, periode pemanggangan dimulai. Periode memanggang adalah jumlah waktu yang ditentukan di mana CloudWatch alarm Amazon yang telah ditentukan sebelumnya memantau kinerja armada hijau. Jika tidak ada alarm yang tersandung selama periode pemanggangan, SageMaker hentikan armada lama (armada biru). Jika ada alarm yang tersandung selama periode pemanggangan, maka rollback otomatis dimulai dan 100% lalu lintas bergeser kembali ke armada biru.

Prasyarat

Sebelum menyiapkan penerapan dengan perpindahan lalu lintas sekaligus, Anda harus membuat CloudWatch alarm Amazon untuk menonton metrik dari titik akhir Anda. Jika ada alarm yang tersandung selama periode memanggang, lalu lintas kembali ke armada biru Anda. Untuk mempelajari cara mengatur CloudWatch alarm pada titik akhir, lihat halaman prasyarat. Konfigurasi dan Pemantauan Auto-Rollback Untuk mempelajari lebih lanjut tentang CloudWatch alarm, lihat Menggunakan CloudWatch alarm Amazon di CloudWatch Panduan Pengguna Amazon.

Konfigurasikan Semua Sekaligus Pergeseran Lalu Lintas

Setelah Anda siap untuk penerapan dan telah menyiapkan CloudWatch alarm untuk titik akhir Anda, Anda dapat menggunakan perintah SageMaker UpdateEndpointAPIatau update-endpoint di untuk memulai penerapan. AWS Command Line Interface

Cara memperbarui titik akhir () API

Contoh berikut menunjukkan bagaimana Anda dapat memperbarui titik akhir Anda dengan pergeseran lalu lintas sekaligus menggunakan UpdateEndpointdi Amazon. SageMaker API

import boto3 client = boto3.client("sagemaker") response = client.update_endpoint( EndpointName="<your-endpoint-name>", EndpointConfigName="<your-config-name>", DeploymentConfig={ "BlueGreenUpdatePolicy": { "TrafficRoutingConfiguration": { "Type": "ALL_AT_ONCE" }, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800 }, "AutoRollbackConfiguration": { "Alarms": [ { "AlarmName": "<your-cw-alarm>" }, ] } } )

Untuk mengonfigurasi opsi pemindahan lalu lintas sekaligus, lakukan hal berikut:

  • UntukEndpointName, gunakan nama titik akhir yang ada yang ingin Anda perbarui.

  • UntukEndpointConfigName, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan.

  • Di bawah DeploymentConfig dan BlueGreenUpdatePolicyTrafficRoutingConfiguration, di, atur Type parameter keALL_AT_ONCE. Ini menentukan bahwa penyebaran menggunakan mode perpindahan lalu lintas sekaligus.

  • UntukTerminationWaitInSeconds, gunakan600. Parameter ini memberitahu SageMaker untuk menunggu jumlah waktu yang ditentukan (dalam detik) setelah armada hijau Anda sepenuhnya aktif sebelum menghentikan instance di armada biru. Dalam contoh ini, SageMaker tunggu selama 10 menit setelah periode pemanggangan terakhir sebelum mengakhiri armada biru.

  • UntukMaximumExecutionTimeoutInSeconds, gunakan1800. Parameter ini menetapkan jumlah waktu maksimum yang dapat dijalankan penerapan sebelum waktu habis. Pada contoh sebelumnya, penerapan Anda memiliki batas 30 menit untuk diselesaikan.

  • DiAutoRollbackConfiguration, di dalam Alarms bidang, Anda dapat menambahkan CloudWatch alarm berdasarkan nama. Buat satu AlarmName: <your-cw-alarm> entri untuk setiap alarm yang ingin Anda gunakan.

Cara memperbarui titik akhir dengan kebijakan pembaruan biru/hijau yang ada () API

Bila Anda menggunakan CreateEndpointAPIuntuk membuat titik akhir, Anda dapat secara opsional menentukan konfigurasi penerapan yang akan digunakan kembali untuk pembaruan titik akhir di masa mendatang. Anda dapat menggunakan DeploymentConfig opsi yang sama seperti UpdateEndpoint API contoh sebelumnya. Tidak ada perubahan pada CreateEndpoint API perilaku. Menentukan konfigurasi penerapan tidak secara otomatis melakukan pembaruan biru/hijau di titik akhir Anda.

Opsi untuk menggunakan konfigurasi penerapan sebelumnya terjadi saat menggunakan UpdateEndpointAPIuntuk memperbarui titik akhir Anda. Saat memperbarui titik akhir, Anda dapat menggunakan RetainDeploymentConfig opsi untuk menjaga konfigurasi penerapan yang Anda tentukan saat membuat titik akhir.

Saat memanggil UpdateEndpointAPI, atur RetainDeploymentConfig True untuk menjaga DeploymentConfig opsi dari konfigurasi titik akhir asli Anda.

response = client.update_endpoint( EndpointName="<your-endpoint-name>", EndpointConfigName="<your-config-name>", RetainDeploymentConfig=True )

Cara memperbarui titik akhir () CLI

Jika Anda menggunakan AWS CLI, contoh berikut menunjukkan cara memulai penerapan biru/hijau sekaligus menggunakan perintah update-endpoint.

update-endpoint --endpoint-name <your-endpoint-name> --endpoint-config-name <your-config-name> --deployment-config '"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "ALL_AT_ONCE"}, "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800}, "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": "<your-alarm>"}]}'

Untuk mengonfigurasi opsi pemindahan lalu lintas sekaligus, lakukan hal berikut:

  • Untukendpoint-name, gunakan nama titik akhir yang ingin Anda perbarui.

  • Untukendpoint-config-name, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan.

  • Untukdeployment-config, gunakan BlueGreenUpdatePolicyJSONobjek.

catatan

Jika Anda lebih suka menyimpan JSON objek Anda dalam sebuah file, lihat Menghasilkan AWS CLI kerangka dan parameter input di Panduan AWS CLI Pengguna.