本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用線性流量轉移
線性流量轉移可讓您逐步將舊機群 (藍色機群) 的流量轉移到新機群 (綠色機群)。透過線性流量轉移,您可以透過多個步驟轉移流量,將端點中斷的機會降到最低。此藍/綠部署選項可讓您對流量轉移進行最精細的控制。
您可以選擇執行個體數量,或綠色機群在每個步驟中啟動的容量百分比。每個線性步驟應該只在綠色機群容量的 10-50% 之間。對於每個步驟,都有一段製作中期間,您預先指定的 Amazon CloudWatch 警示會監控綠色機群上的指標。製作中期間結束並且沒有觸發警示後,綠色機群的作用中部分將繼續接收流量,並開始新步驟。如果在任何製作中期間觸發警示,則 100% 的端點流量會回復到藍色機群。
下圖顯示線性流量轉移如何將流量路由至藍色和綠色機群。

一旦 SageMaker AI 佈建新的機群,綠色機群的第一部分會開啟並接收流量。SageMaker AI 會停用藍色機群的相同大小部分,並開始烘焙期間。如果觸發任何警示,則所有端點流量都會回復至藍色機群。如果製作中期間結束,則開始後續步驟。綠色機群的另一部分啟動並接收流量,部分藍色機群停用,另一個製作中期間開始。同樣的過程會重複,直到藍色機群完全停用,綠色機群完全作用中並接收所有流量為止。如果警示在任何時候停止,SageMaker AI 會終止轉移程序,且 100% 的流量會轉返藍色機群。
先決條件
在設定具有線性流量轉移的部署之前,您必須先建立 CloudWatch 警示以監控端點中的指標。警示在製作中期間處於啟動中狀態,如果觸發任何警示,則所有端點流量都會回復到藍色機群。要瞭解如何在終端節點上設置 CloudWatch 警報,請參閱先決條件頁面自動回復組態與監控。如需進一步了解 CloudWatch 警示,請參閱 Amazon CloudWatch 使用者指南中的使用 Amazon CloudWatch 警示。
設定線性流量轉移
準備好部署並為您的端點設定 CloudWatch 警示後,您可以使用 中的 Amazon SageMaker AI UpdateEndpoint API 或 update-endpoint 命令 AWS CLI 來啟動部署。
如何更新端點 (API)
下列 UpdateEndpoint API 範例示範如何透過線性流量轉移來更新端點。
import boto3 client = boto3.client("sagemaker") response = client.update_endpoint( EndpointName="
<your-endpoint-name>
", EndpointConfigName="<your-config-name>
", DeploymentConfig={ "BlueGreenUpdatePolicy": { "TrafficRoutingConfiguration": { "Type": "LINEAR", "LinearStepSize": { "Type": "CAPACITY_PERCENT", "Value": 20 }, "WaitIntervalInSeconds": 300 }, "TerminationWaitInSeconds": 300, "MaximumExecutionTimeoutInSeconds": 3600 }, "AutoRollbackConfiguration": { "Alarms": [ { "AlarmName": "<your-cw-alarm>
" } ] } } )
若要設定線性流量轉移選項,請執行下列動作:
在
EndpointName
中,使用您要更新的現有端點名稱。在
EndpointConfigName
中,使用您要使用的端點組態名稱。在
DeploymentConfig
和BlueGreenUpdatePolicy
下,在TrafficRoutingConfiguration
中,將Type
參數設定為LINEAR
。這會指定使用線性流量轉移的部署。在
LinearStepSize
欄位中,您可以透過修改Type
和Value
參數來變更步驟的大小。在Type
中,使用CAPACITY_PERCENT
,表示您要用作刻度大小的綠色機群的百分比,然後設置Value
為20
。在此範例中,您為每個流量轉移步驟開啟綠色機群容量的 20%。請注意,自訂線性刻度大小時,您應該只使用綠色機群容量 10-50% 的刻度。對於
WaitIntervalInSeconds
,請使用300
。參數會告知 SageMaker AI 在每次流量轉移之間等待指定的時間量 (以秒為單位)。此間隔是每個線性步驟之間製作中期間的持續時間。在上述範例中,SageMaker AI 會在每個流量轉移之間等待 5 分鐘。對於
TerminationWaitInSeconds
,請使用300
。此參數會指示 SageMaker AI 在綠色機群完全作用中後等待指定的時間量 (以秒為單位),然後再終止藍色機群中的執行個體。在此範例中,SageMaker AI 會在最後的烘烤期間後等待 5 分鐘,然後終止藍色機群。對於
MaximumExecutionTimeoutInSeconds
,請使用3600
。此參數設定部署逾時前可以執行的時間上限。在上述範例中,您的部署有 1 小時的限制可完成。在
AutoRollbackConfiguration
中,在Alarms
欄位內,您可以依據名稱新增您的 CloudWatch 警示。為您要使用的每個警示建立一個AlarmName:
項目。<your-cw-alarm>
如何使用現有的藍色/綠色更新政策 (API) 來更新端點
當您使用 CreateEndpoint API 建立端點時,您可以選擇性地指定部署組態,以便在未來的端點更新時重複使用。您可以使用與先前 UpdateEndpoint API 範例相同的 DeploymentConfig
選項。CreateEndpoint API 行為沒有變更。指定部署組態不會自動在端點上執行藍/綠更新。
使用 UpdateEndpoint API 更新您的端點時,會出現使用先前部署組態的選項。更新端點時,您可以使用 RetainDeploymentConfig
選項來保留您在建立端點時指定的部署組態。
呼叫 UpdateEndpoint API 時,請設定 RetainDeploymentConfig
為 True
以保留原始端點組態中的 DeploymentConfig
選項。
response = client.update_endpoint( EndpointName="
<your-endpoint-name>
", EndpointConfigName="<your-config-name>
", RetainDeploymentConfig=True )
如何更新端點 (CLI)
如果您使用的是 AWS CLI,下列範例示範如何使用 update-endpoint 命令啟動藍/綠線性部署。
update-endpoint --endpoint-name
<your-endpoint-name>
--endpoint-config-name<your-config-name>
--deployment-config '{"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "LINEAR", "LinearStepSize": {"Type": "CAPACITY_PERCENT", "Value": 20}, "WaitIntervalInSeconds": 300}, "TerminationWaitInSeconds": 300, "MaximumExecutionTimeoutInSeconds": 3600}, "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": "<your-alarm>
"}]}'
若要設定線性流量轉移選項,請執行下列動作:
在
endpoint-name
中,使用您想更新的端點名稱。在
endpoint-config-name
中,使用您要使用的端點組態名稱。在
deployment-config
中,使用 BlueGreenUpdatePolicy JSON 物件。
注意
如果您寧願將 JSON 物件儲存在檔案中,請參閱AWS CLI 《 使用者指南》中的產生骨 AWS CLI 架和輸入參數。