Implemente modelos periféricos con Edge Manager SageMaker - Amazon SageMaker

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Implemente modelos periféricos con Edge Manager SageMaker

aviso

SageMaker Edge Manager dejará de fabricarse el 26 de abril de 2024. Para obtener más información sobre cómo seguir implementando sus modelos en dispositivos periféricos, consulte SageMaker Fin de la vida útil de Edge Manager.

Amazon SageMaker Edge Manager proporciona administración de modelos para dispositivos periféricos para que pueda optimizar, proteger, supervisar y mantener los modelos de aprendizaje automático en flotas de dispositivos periféricos, como cámaras inteligentes, robots, ordenadores personales y dispositivos móviles.

¿Por qué usar Edge Manager?

Muchos casos de uso de machine learning (ML) requieren la ejecución de modelos de ML en una flota de dispositivos periféricos, lo que permite obtener predicciones en tiempo real, preserva la privacidad de los usuarios finales y reduce el coste de conectividad de red. Con la creciente disponibilidad de hardware periférico de bajo consumo diseñado para ML, ahora es posible ejecutar varios modelos de redes neuronales complejos en dispositivos periféricos.

Sin embargo, utilizar modelos de ML en dispositivos periféricos es todo un desafío, ya que los dispositivos, a diferencia de las instancias en la nube, tienen recursos de cálculo, memoria y conectividad limitados. Una vez implementado el modelo, es necesario supervisarlo de forma continua, ya que la desviación del modelo puede provocar que la calidad de éste disminuya con el tiempo. Supervisar los modelos en todas las flotas de dispositivos es difícil porque es necesario escribir un código personalizado para recopilar muestras de datos del dispositivo y reconocer los sesgos en las predicciones. Además, los modelos suelen tener una codificación rígida en la aplicación. Para actualizar el modelo, debe reconstruir y actualizar todo el firmware de la aplicación o dispositivo, lo que puede interrumpir sus operaciones.

Con SageMaker Edge Manager, puede optimizar, ejecutar, supervisar y actualizar los modelos de aprendizaje automático en todas las flotas de dispositivos periféricos.

¿Cómo funciona?

En términos generales, el flujo de trabajo de SageMaker Edge Manager consta de cinco componentes principales: compilar modelos con SageMaker Neo, empaquetar los modelos compilados con Neo, implementar modelos en sus dispositivos, ejecutar modelos en el motor de SageMaker inferencia (agente de Edge Manager) y mantener los modelos en los dispositivos.

Los cinco componentes principales del flujo de trabajo de SageMaker Edge Manager.

SageMaker Edge Manager utiliza SageMaker Neo para optimizar los modelos para el hardware de destino con un solo clic y, a continuación, firmar criptográficamente los modelos antes de su implementación. Con SageMaker Edge Manager, puede muestrear los datos de entrada y salida del modelo de los dispositivos periféricos y enviarlos a la nube para su supervisión y análisis, además de ver un panel de control que rastrea e informa visualmente sobre el funcionamiento de los modelos implementados en la SageMaker consola.

SageMaker Edge Manager extiende las capacidades que antes solo estaban disponibles en la nube a la periferia, de modo que los desarrolladores puedan mejorar continuamente la calidad de los modelos mediante Amazon SageMaker Model Monitor para detectar desviaciones, luego volver a etiquetar los datos con SageMaker Ground Truth y volver a entrenar los modelos. SageMaker

¿Cómo utilizo SageMaker Edge Manager?

Si es la primera vez que utiliza SageMaker Edge Manager, le recomendamos que haga lo siguiente:

  1. Lea la sección Primeros pasos: en esta sección se explica cómo configurar su primer trabajo de empaquetado periférico y cómo crear su primera flota.

  2. Explore los ejemplos de cuadernos Jupyter de Edge Manager: los cuadernos de ejemplo se almacenan en el amazon-sagemaker-examples GitHub repositorio, en la carpeta sagemaker_edge_manager.