Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Utilice Amazon SageMaker AI Edge Manager en los dispositivos principales de Greengrass
importante
SageMaker AI Edge Manager dejó de fabricarse el 26 de abril de 2024. Para obtener más información sobre cómo seguir implementando sus modelos en dispositivos periféricos, consulte el final del ciclo de vida de SageMaker AI Edge Manager.
Amazon SageMaker AI Edge Manager es un agente de software que se ejecuta en dispositivos periféricos. SageMaker AI Edge Manager proporciona administración de modelos para dispositivos periféricos para que pueda empaquetar y usar modelos compilados por Amazon SageMaker AI NEO directamente en los dispositivos principales de Greengrass. Con SageMaker AI Edge Manager, también puede muestrear los datos de entrada y salida del modelo de sus dispositivos principales y enviarlos a ellos Nube de AWS para su supervisión y análisis. Como SageMaker AI Edge Manager utiliza SageMaker AI Neo para optimizar tus modelos para el hardware de destino, no necesitas instalar el DLR motor de ejecución directamente en tu dispositivo. En los dispositivos Greengrass, SageMaker AI Edge Manager no carga los AWS IoT certificados locales ni llama directamente al punto final del proveedor de AWS IoT credenciales. En su lugar, SageMaker AI Edge Manager utiliza el servicio de intercambio de fichas para obtener una credencial temporal de un punto final. TES
En esta sección se describe cómo funciona SageMaker AI Edge Manager en los dispositivos principales de Greengrass.
Cómo funciona SageMaker AI Edge Manager en los dispositivos Greengrass
Para implementar el agente SageMaker AI Edge Manager en sus dispositivos principales, cree una implementación que incluya el aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrass gestiona la instalación y el ciclo de vida del agente Edge Manager en sus dispositivos. Cuando haya disponible una nueva versión del binario del agente, implemente la versión actualizada del componente aws.greengrass.SageMakerEdgeManager para actualizar la versión del agente que está instalada en su dispositivo.
Cuando utilizas SageMaker AI Edge Manager con AWS IoT Greengrass, tu flujo de trabajo incluye los siguientes pasos de alto nivel:
-
Compila modelos con SageMaker AI Neo.
-
Empaque sus modelos compilados con SageMaker AI Neo utilizando trabajos de empaquetado periféricos de SageMaker AI. Cuando ejecuta un trabajo de empaquetado de periferia para su modelo, puede optar por crear un componente del modelo con el modelo empaquetado como un artefacto que se puede implementar en su dispositivo principal de Greengrass.
-
Cree un componente de inferencia personalizado. Este componente de inferencia se utiliza para interactuar con el agente del administrador de periféricos y realizar la inferencia en el dispositivo principal. Estas operaciones incluyen cargar modelos, invocar solicitudes de predicción para ejecutar la inferencia y descargar modelos cuando el componente se apaga.
-
Implemente el componente SageMaker AI Edge Manager, el componente de modelo empaquetado y el componente de inferencia para ejecutar el modelo en el motor de inferencia de SageMaker IA (agente Edge Manager) de su dispositivo.
Para obtener más información sobre la creación de trabajos de empaquetado perimetral y componentes de inferencia que funcionen con SageMaker AI Edge Manager, consulte Deploy Model Package y Edge Manager Agent con AWS IoT Greengrass en la Guía para desarrolladores de Amazon SageMaker AI.
El Tutorial: Cómo empezar a SageMaker usar AI Edge Manager tutorial le muestra cómo configurar y usar el agente SageMaker AI Edge Manager en un dispositivo principal de Greengrass existente, utilizando el código de ejemplo AWS proporcionado que puede usar para crear ejemplos de componentes de inferencia y modelo.
Cuando usa SageMaker AI Edge Manager en los dispositivos principales de Greengrass, también puede usar la función de captura de datos para cargar datos de muestra en. Nube de AWS La captura de datos es una función de SageMaker IA que se utiliza para cargar entradas de inferencia, resultados de inferencias y datos de inferencia adicionales a un bucket de S3 o a un directorio local para futuros análisis. Para obtener más información sobre el uso de datos de captura con SageMaker AI Edge Manager, consulte Manage Model en la Guía para desarrolladores de Amazon SageMaker AI.
Requisitos
Debe cumplir los siguientes requisitos para utilizar el agente SageMaker AI Edge Manager en los dispositivos principales de Greengrass.
-
Un dispositivo principal de Greengrass que se ejecuta en Amazon Linux 2, una plataforma de Linux basada en Debian (x86_64 o Armv8) o Windows (x86_64). Si no dispone de una, consulte Tutorial: Cómo empezar con AWS IoT Greengrass V2.
-
Python
3.6 o posterior, incluido pippara la versión de Python, instalado en el dispositivo principal. -
El rol del dispositivo de Greengrass se configuró con lo siguiente:
-
Una relación de confianza que
sagemaker.amazonaws.com.rproxy.goskope.compermitacredentials---iot.amazonaws.com.rproxy.goskope.comy asuma el rol, como se muestra en el siguiente ejemplo IAM de política.{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Principal": { "Service": "credentials.iot.amazonaws.com" }, "Action": "sts:AssumeRole" }, { "Effect": "Allow", "Principal": { "Service": "sagemaker.amazonaws.com" }, "Action": "sts:AssumeRole" } ] } -
La política administrada IAM de AmazonSageMakerEdgeDeviceFleetPolicy
. -
La
s3:PutObjectacción, tal como se muestra en el siguiente ejemplo IAM de política.{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:PutObject" ], "Resource": [ "*" ], "Effect": "Allow" } ] }
-
-
Un bucket de Amazon S3 creado en el mismo dispositivo principal de Greengrass Cuenta de AWS y Región de AWS como él. SageMaker AI Edge Manager requiere un depósito S3 para crear una flota de dispositivos perimetrales y almacenar datos de muestra derivados de la ejecución de inferencias en su dispositivo. Para más información sobre la creación de buckets de S3, consulte Introducción a Amazon S3.
-
Una flota de dispositivos periféricos de SageMaker IA que utiliza el mismo alias de AWS IoT rol que su dispositivo principal de Greengrass. Para obtener más información, consulte Creación de una flota de dispositivos de periferia.
-
Su dispositivo principal Greengrass registrado como dispositivo perimetral en su flota de dispositivos SageMaker AI Edge. El nombre del dispositivo perimetral debe coincidir con el AWS IoT nombre del dispositivo principal. Para obtener más información, consulte Registro del dispositivo principal de Greengrass.
Comience con SageMaker AI Edge Manager
Puedes completar un tutorial para empezar a usar SageMaker AI Edge Manager. El tutorial muestra cómo empezar a utilizar SageMaker AI Edge Manager con los componentes AWS de muestra proporcionados en un dispositivo principal existente. Estos componentes de ejemplo utilizan el componente SageMaker AI Edge Manager como una dependencia para implementar el agente Edge Manager y realizar inferencias utilizando modelos previamente entrenados que se compilaron con SageMaker AI Neo. Para obtener más información, consulte Tutorial: Cómo empezar a SageMaker usar AI Edge Manager.
