Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Modele la implementación en la periferia con Edge Manager SageMaker

Amazon SageMaker Edge Manager proporciona administración de modelos para dispositivos periféricos para que pueda optimizar, proteger, supervisar y mantener los modelos de aprendizaje automático en flotas de dispositivos periféricos, como cámaras inteligentes, robots, ordenadores personales y dispositivos móviles.

¿Por qué usar Edge Manager?

Muchos casos de uso de machine learning (ML) requieren la ejecución de modelos de ML en una flota de dispositivos periféricos, lo que permite obtener predicciones en tiempo real, preserva la privacidad de los usuarios finales y reduce el coste de conectividad de red. Con la creciente disponibilidad de hardware periférico de bajo consumo diseñado para ML, ahora es posible ejecutar varios modelos de redes neuronales complejos en dispositivos periféricos.

Sin embargo, utilizar modelos de ML en dispositivos periféricos es todo un desafío, ya que los dispositivos, a diferencia de las instancias en la nube, tienen recursos de cálculo, memoria y conectividad limitados. Una vez implementado el modelo, es necesario supervisarlo de forma continua, ya que la desviación del modelo puede provocar que la calidad de éste disminuya con el tiempo. Supervisar los modelos en todas las flotas de dispositivos es difícil porque es necesario escribir un código personalizado para recopilar muestras de datos del dispositivo y reconocer los sesgos en las predicciones. Además, los modelos suelen tener una codificación rígida en la aplicación. Para actualizar el modelo, debe reconstruir y actualizar todo el firmware de la aplicación o dispositivo, lo que puede interrumpir sus operaciones.

Con SageMaker Edge Manager, puede optimizar, ejecutar, supervisar y actualizar los modelos de aprendizaje automático en todas las flotas de dispositivos periféricos.

¿Cómo funciona?

En términos generales, el flujo de trabajo de SageMaker Edge Manager consta de cinco componentes principales: compilar modelos con SageMaker Neo, empaquetar los modelos compilados con Neo, implementar modelos en sus dispositivos, ejecutar modelos en el motor de inferencia de SageMaker IA (agente de Edge Manager) y mantener los modelos en los dispositivos.

SageMaker Edge Manager utiliza SageMaker Neo para optimizar los modelos para el hardware de destino con un solo clic y, a continuación, firmar criptográficamente los modelos antes de su implementación. Con SageMaker Edge Manager, puede muestrear los datos de entrada y salida del modelo de los dispositivos periféricos y enviarlos a la nube para su supervisión y análisis, además de ver un panel de control que rastrea e informa visualmente sobre el funcionamiento de los modelos implementados en la consola de SageMaker IA.

SageMaker Edge Manager extiende las capacidades que antes solo estaban disponibles en la nube a la periferia, de modo que los desarrolladores puedan mejorar continuamente la calidad de los modelos mediante Amazon SageMaker Model Monitor para la detección de desviaciones, luego volver a etiquetar los datos con SageMaker AI Ground Truth y volver a entrenar los modelos en SageMaker IA.

¿Cómo utilizo SageMaker Edge Manager?

Si es la primera vez que utiliza SageMaker Edge Manager, le recomendamos que haga lo siguiente: