Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Implementaciones continuas

Cuando actualiza su punto de conexión, puede especificar una implementación continua para cambiar gradualmente el tráfico de su flota anterior a una flota nueva. Puede controlar el tamaño de los pasos del cambio de tráfico, así como especificar un período de evaluación para monitorizar las nuevas instancias en busca de problemas antes de cerrar las instancias de la flota anterior. Con las implementaciones sucesivas, las instancias de la flota anterior se limpian después de cada cambio de tráfico a la nueva flota, lo que reduce la cantidad de instancias adicionales necesarias para actualizar el punto de conexión. Esto resulta especialmente útil para las instancias aceleradas que tienen una gran demanda.

Las implementaciones sucesivas sustituyen gradualmente la implementación anterior de la versión del modelo por la nueva versión mediante la actualización del punto de conexión en tamaños de lote configurables. El comportamiento de cambio de tráfico de las implementaciones continuas es similar al modo de cambio de tráfico lineal de las implementaciones azul/verde, pero las implementaciones continuas ofrecen la ventaja de reducir los requisitos de capacidad en comparación con las implementaciones azul/verde. Con las implementaciones continuas, hay menos instancias activas a la vez y usted tiene un control más detallado sobre el número de instancias que desea actualizar en la nueva flota. Debería considerar utilizar una implementación continua en lugar de una implementación azul/verde si tiene modelos grandes o un punto de conexión grande con muchas instancias.

En la siguiente lista se describen las principales características de las implementaciones sucesivas en Amazon SageMaker:

Funcionamiento

Durante un despliegue continuo, SageMaker proporciona la infraestructura necesaria para transferir el tráfico de la flota antigua a la nueva sin tener que aprovisionar todas las instancias nuevas a la vez. SageMaker sigue los siguientes pasos para transferir el tráfico:

Si se activa una alarma durante uno de los períodos de espera, el tráfico vuelve a la flota anterior en lotes del tamaño que usted especifique. Como alternativa, puede especificar la implementación continua para que el 100 % del tráfico vuelva a la flota anterior en caso de que se active una alarma.

El siguiente diagrama muestra la progresión de una implementación continua correcta, tal y como se describe en los pasos anteriores.

Para crear una implementación continua, solo tiene que especificar la configuración de la implementación que desee. Luego, se SageMaker encarga del aprovisionamiento de nuevas instancias, la cancelación de las antiguas y el traslado del tráfico por usted. Puede crear y administrar su implementación a través de los comandos UpdateEndpointand CreateEndpoint SageMaker APIy AWS Command Line Interface existentes.

Requisitos previos

Antes de configurar una implementación continua, debes crear CloudWatch alarmas de Amazon para ver las métricas desde tu punto de conexión. Si alguna de las alarmas se activa durante el período de cocción, el tráfico empezará a repercutir en su flota anterior. Para obtener información sobre cómo configurar CloudWatch las alarmas en un punto final, consulte la página de requisitos previos: configuración y supervisión de la reversión automática. Para obtener más información sobre CloudWatch las alarmas, consulta Uso de CloudWatch las alarmas de Amazon en la Guía del CloudWatch usuario de Amazon.

Además, consulte la página Exclusiones para asegurarse de que su punto de conexión cumple con los requisitos para una implementación continua.

Determine el tamaño del lote continuo

Antes de actualizar el punto de conexión, determine el tamaño del lote que quiera utilizar para transferir el tráfico de forma gradual a la nueva flota.

En las implementaciones continuas, puede especificar un tamaño de lote que represente entre el 5 y el 50 % de la capacidad de su flota. Si elige un tamaño de lote grande, la implementación se completa más rápidamente. Sin embargo, tenga en cuenta que el punto de conexión requiere más capacidad durante la actualización, aproximadamente la sobrecarga del tamaño del lote. Si elige un tamaño de lote más pequeño, la implementación tardará más, pero utilizará menos capacidad durante la implementación.

Configurar una implementación continua

Cuando esté listo para la implementación y haya configurado CloudWatch las alarmas para su terminal, puede utilizar el comando update-endpoint SageMaker UpdateEndpointAPIo el comando update-endpoint del dispositivo AWS Command Line Interface para iniciar la implementación.

¿Cómo actualizar un punto de conexión?

El siguiente ejemplo muestra cómo puede actualizar su terminal con un despliegue continuo mediante el método update_endpoint del cliente Boto3. SageMaker

Para configurar una implementación continua, utilice el ejemplo y los campos siguientes:

import boto3
client = boto3.client("sagemaker")

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<your-config-name>",
    DeploymentConfig={
        "AutoRollbackConfiguration": {
            "Alarms": [
                {
                    "AlarmName": "<your-cw-alarm>"
                },
            ]
        },
        "RollingUpdatePolicy": { 
            "MaximumExecutionTimeoutInSeconds": number,
            "WaitIntervalInSeconds": number,
            "MaximumBatchSize": {
                "Type": "INSTANCE_COUNT" | "CAPACITY_PERCENTAGE" (default),
                "Value": number
            },
            "RollbackMaximumBatchSize": {
                "Type": "INSTANCE_COUNT" | "CAPACITY_PERCENTAGE" (default),
                "Value": number
            },
        }  
    }
)

Tras actualizar el dispositivo, es posible que desee comprobar el estado de su implementación continua y comprobar el estado de su punto de conexión. Puede revisar el estado de su terminal en la SageMaker consola o puede revisar el estado de su punto final utilizando el. DescribeEndpointAPI

En el VariantStatus objeto devuelto por el DescribeEndpointAPI, el Status campo indica el estado actual de despliegue o funcionamiento de su punto final. Para obtener más información sobre los posibles estados y su significado, consulte ProductionVariantStatus.

Si ha intentado realizar una implementación continua y el estado de su punto de conexión es UpdateRollbackFailed, consulte la siguiente sección para obtener ayuda con la solución de problemas.

Administración de errores

Si las implementaciones continuas fallan y la reversión automática también falla, el punto de conexión puede quedarse con el estado de UpdateRollbackFailed. Este estado significa que se han implementado diferentes configuraciones de punto de conexión en las instancias situadas detrás de su punto de conexión y que este está en servicio con una combinación de configuraciones de punto de conexión antiguas y nuevas.

Puede realizar otra llamada al para que su terminal vuelva UpdateEndpointAPIa estar en buen estado. Especifique la configuración del punto de conexión y la configuración de implementación que quiera (ya sea una implementación continua, una implementación azul/verde o ninguna de las dos) para actualizar su punto de conexión.

Puede volver a llamar DescribeEndpointAPIal para comprobar el estado de su punto final, que se devuelve en el VariantStatus objeto como Status campo. Si la actualización se realiza correctamente, el Status del punto de conexión devolverá InService.