Implemente modelos de piloto automático para realizar inferencias en tiempo real - Amazon SageMaker
Inferencia en tiempo real

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Implemente modelos de piloto automático para realizar inferencias en tiempo real

Después de entrenar tus modelos de Amazon SageMaker Autopilot, puedes configurar un punto final y obtener predicciones de forma interactiva. En la siguiente sección se describen los pasos para implementar el modelo SageMaker en un punto final de inferencia en tiempo real a fin de obtener predicciones a partir del modelo.

Inferencia en tiempo real

La inferencia en tiempo real es idónea para cargas de trabajo de inferencia con requisitos en tiempo real, interactivos y de baja latencia. Esta sección le muestra cómo puede usar la inferencia en tiempo real para obtener predicciones de forma interactiva a partir de su modelo.

Puede utilizar SageMaker APIs para implementar manualmente el modelo que produjo la mejor métrica de validación en un experimento de piloto automático de la siguiente manera.

También puede elegir la opción de implementación automática al crear el experimento de Piloto automático. Para obtener más información sobre cómo configurar la implementación automática de modelos, consulte ModelDeployConfig en los parámetros de solicitud de CreateAutoMLJobV2. Esto crea un punto de conexión automáticamente.

nota

Para evitar incurrir en cargos innecesarios, puede eliminar los puntos de conexión y los recursos innecesarios creados a partir de la implementación del modelo. Para obtener información sobre los precios de las instancias por región, consulta Amazon SageMaker Pricing.

  1. Obtener las definiciones del contenedor del candidato

    Obtenga las definiciones de contenedores candidatas en InferenceContainers. Una definición de contenedor para la inferencia se refiere al entorno contenerizado diseñado para implementar y ejecutar el SageMaker modelo entrenado a fin de realizar predicciones.

    El siguiente ejemplo de AWS CLI comando utiliza el DescribeAutoMLJobV2APIpara obtener las definiciones de los candidatos para el mejor modelo candidato.

    aws sagemaker describe-auto-ml-job-v2 --auto-ml-job-name job-name --region region

  2. Enumerar los candidatos

    En el siguiente ejemplo de AWS CLI comando, se utiliza ListCandidatesForAutoMLJobAPIpara enumerar todos los candidatos del modelo.

    aws sagemaker list-candidates-for-auto-ml-job --auto-ml-job-name <job-name> --region <region>

  3. Cree un SageMaker modelo

    Utilice las definiciones de contenedor de los pasos anteriores y un candidato de su elección para crear un SageMaker modelo mediante el CreateModelAPI. Consulte el siguiente AWS CLI comando como ejemplo.

    aws sagemaker create-model --model-name '<your-candidate-name>' \
                    --containers ['<container-definition1>, <container-definition2>, <container-definition3>]' \
                    --execution-role-arn '<execution-role-arn>' --region '<region>

  4. Crear la configuración de un punto de conexión

    El siguiente ejemplo de AWS CLI comando utiliza el CreateEndpointConfigAPIpara crear una configuración de punto final.

    aws sagemaker create-endpoint-config --endpoint-config-name '<your-endpoint-config-name>' \
                    --production-variants '<list-of-production-variants>' \
                    --region '<region>'

  5. Crear el punto de conexión

    En el siguiente AWS CLI ejemplo, se utiliza CreateEndpointAPIpara crear el punto final.

    aws sagemaker create-endpoint --endpoint-name '<your-endpoint-name>' \
                    --endpoint-config-name '<endpoint-config-name-you-just-created>' \
                    --region '<region>'

    Compruebe el progreso de la implementación de su punto final mediante el DescribeEndpointAPI. Consulte el siguiente AWS CLI comando como ejemplo.

    aws sagemaker describe-endpoint —endpoint-name '<endpoint-name>' —region <region>

    Cuando EndpointStatus cambie a InService, el punto de conexión estará listo para usarse en la inferencia en tiempo real.

  6. Invocar al punto de conexión

    La siguiente estructura de comandos invoca el punto de conexión para realizar inferencias en tiempo real.

    aws sagemaker invoke-endpoint --endpoint-name '<endpoint-name>' \ 
                  --region '<region>' --body '<your-data>' [--content-type] '<content-type>' <outfile>