SageMaker Administrador AI Edge - AWS IoT Greengrass
VersionesTipoSistema operativoRequisitosDependenciasConfiguraciónArchivo de registro localRegistros de cambios

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

SageMaker Administrador AI Edge

importante

SageMaker AI Edge Manager se suspendió el 26 de abril de 2024. Para obtener más información sobre cómo seguir implementando sus modelos en dispositivos periféricos, consulte el final del ciclo de vida de SageMaker AI Edge Manager.

El componente Amazon SageMaker AI Edge Manager (aws.greengrass.SageMakerEdgeManager) instala el binario del agente SageMaker AI Edge Manager.

SageMaker AI Edge Manager proporciona una gestión de modelos para dispositivos periféricos, de forma que pueda optimizar, proteger, supervisar y mantener los modelos de aprendizaje automático en flotas de dispositivos periféricos. El componente SageMaker AI Edge Manager instala y gestiona el ciclo de vida del agente SageMaker AI Edge Manager en su dispositivo principal. También puede usar SageMaker AI Edge Manager para empaquetar y usar modelos compilados por SageMaker AI NEO como componentes de modelos en los dispositivos principales de Greengrass. Para obtener más información sobre el uso del agente SageMaker AI Edge Manager en su dispositivo principal, consulte. Utilice Amazon SageMaker AI Edge Manager en los dispositivos principales de Greengrass

SageMaker El componente AI Edge Manager v1.3.x instala el agente binario de Edge Manager v1.20220822.836f3023. Para obtener más información sobre las versiones binarias del agente Administrador de periféricos, consulte Agent administrador de periféricos.

nota

El componente AI SageMaker Edge Manager solo está disponible en los siguientes casos Regiones de AWS:

  • Este de EE. UU. (Ohio)

  • Este de EE. UU. (Norte de Virginia)

  • Oeste de EE. UU. (Oregón)

  • UE (Fráncfort)

  • UE (Irlanda)

  • Asia-Pacífico (Tokio)

Versiones

Este componente tiene las siguientes versiones:

  • 1.3.x

  • 1.2.x

  • 1.1.x

  • 1.0.x

Tipo

Este componente es un componente genérico (aws.greengrass.generic). El núcleo de Greengrass ejecuta los scripts del ciclo de vida del componente.

Para obtener más información, consulte Tipos de componentes.

Sistema operativo

Este componente se puede instalar en los dispositivos principales que ejecutan los siguientes sistemas operativos:

  • Linux

  • Windows

Requisitos

Este componente tiene los siguientes requisitos:

  • Un dispositivo principal de Greengrass que se ejecuta en Amazon Linux 2, una plataforma de Linux basada en Debian (x86_64 o Armv8) o Windows (x86_64). Si no dispone de una, consulte Tutorial: Cómo empezar con AWS IoT Greengrass V2.

  • Python 3.6 o posterior, incluido pip para la versión de Python, instalado en el dispositivo principal.

  • El rol del dispositivo de Greengrass se configuró con lo siguiente:

    • Una relación de confianza que sagemaker.amazonaws.com permite credentials.iot.amazonaws.com y asume el rol, como se muestra en el siguiente ejemplo IAM de política.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La política administrada IAM de AmazonSageMakerEdgeDeviceFleetPolicy.

    • La s3:PutObject acción, tal como se muestra en el siguiente ejemplo IAM de política.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket de Amazon S3 creado en el mismo dispositivo principal de Greengrass Cuenta de AWS y Región de AWS en el mismo que él. SageMaker AI Edge Manager requiere un depósito S3 para crear una flota de dispositivos perimetrales y almacenar datos de muestra derivados de la ejecución de inferencias en su dispositivo. Para más información sobre la creación de buckets de S3, consulte Introducción a Amazon S3.

  • Una flota de dispositivos periféricos de SageMaker IA que utiliza el mismo alias de AWS IoT rol que su dispositivo principal de Greengrass. Para obtener más información, consulte Creación de una flota de dispositivos de periferia.

  • Su dispositivo principal de Greengrass registrado como dispositivo perimetral en su flota de dispositivos SageMaker AI Edge. El nombre del dispositivo perimetral debe coincidir con el AWS IoT nombre del dispositivo principal. Para obtener más información, consulte Registro del dispositivo principal de Greengrass.

Puntos de conexión y puertos

Este componente debe poder realizar solicitudes salientes a los siguientes puntos de conexión y puertos, además de a los puntos de conexión y puertos necesarios para el funcionamiento básico. Para obtener más información, consulte Cómo permitir el tráfico del dispositivo a través de un proxy o firewall.

punto de enlace Puerto Obligatorio Descripción

edge.sagemaker.region.amazonaws.com

 443 Sí

Comprueba el estado de registro del dispositivo y envía las métricas a SageMaker AI.

*.s3.amazonaws.com

 443 Sí

Cargue los datos de captura en el bucket de S3 que especifique.

Puede sustituirlos por * con el nombre de cada bucket en el que publique los datos.

Dependencias

Al implementar un componente, AWS IoT Greengrass también despliega versiones compatibles de sus dependencias. Esto significa que debe cumplir los requisitos del componente y de todas sus dependencias para poder implementar el componente correctamente. En esta sección, se enumeran las dependencias de las versiones publicadas de este componente y las restricciones de las versiones semánticas que definen las versiones de los componentes para cada dependencia. También puede ver las dependencias de cada versión del componente en la consola de AWS IoT Greengrass. En la página de detalles del componente, busque la lista de Dependencias.

1.3.5 and 1.3.6

En la siguiente tabla, se muestran las dependencias de las versiones 1.3.5 y 1.3.6 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.13.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.3.4

En la siguiente tabla, se muestran las dependencias de la versión 1.3.4 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.12.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.3.3

En la siguiente tabla, se muestran las dependencias de la versión 1.3.3 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.11.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.3.2

En la siguiente tabla, se muestran las dependencias de la versión 1.3.2 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.10.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.3.1

En la siguiente tabla, se muestran las dependencias de la versión 1.3.1 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.9.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.1.1 - 1.3.0

En la siguiente tabla, se muestran las dependencias de las versiones 1.1.1 a 1.3.0 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.8.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.1.0

En la siguiente tabla, se muestran las dependencias de la versión 1.1.0 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.6.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.0.3

En la siguiente tabla, se muestran las dependencias de la versión 1.0.3 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.5.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.0.1 and 1.0.2

En la siguiente tabla, se muestran las dependencias de las versiones 1.0.1 y 1.0.2 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.4.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido
1.0.0

En la siguiente tabla, se muestran las dependencias de la versión 1.0.0 de este componente.

Dependencia Versiones compatibles Tipo de dependencia
Núcleo de Greengrass >=2.0.0 <2.3.0 Flexible
Servicio de intercambio de token >=0.0.0 Rígido

Para obtener más información sobre las dependencias del componente, consulte la referencia de receta de componentes.

Configuración

Este componente ofrece los siguientes parámetros de configuración que puede personalizar cuando implemente el componente.

nota

En esta sección, se describen los parámetros de configuración que se establecen en el componente. Para obtener más información sobre la configuración de SageMaker AI Edge Manager correspondiente, consulte Edge Manager Agent en la Guía para desarrolladores de Amazon SageMaker AI.

DeviceFleetName

El nombre de la flota de dispositivos SageMaker AI Edge Manager que contiene su dispositivo principal Greengrass.

Al implementar este componente, debe especificar un valor para este parámetro en la actualización de configuración.

BucketName

El nombre del bucket de S3 en donde se cargan los datos de inferencia capturados. El nombre del bucket debe contener la cadena sagemaker.

Si se establece CaptureDataDestination en Cloud, o si se establece CaptureDataPeriodicUpload en true, debe especificar un valor para este parámetro en la actualización de la configuración al implementar este componente.

nota

La captura de datos es una función de SageMaker IA que se utiliza para cargar entradas de inferencia, resultados de inferencias y datos de inferencia adicionales a un bucket de S3 o a un directorio local para futuros análisis. Para obtener más información sobre el uso de datos de captura con SageMaker AI Edge Manager, consulte Manage Model en la Guía para desarrolladores de Amazon SageMaker AI.

CaptureDataBatchSize

(Opcional) El tamaño de un lote de solicitudes de datos de captura que gestiona el agente. Este valor debe ser menor que el tamaño de búfer que especifique en CaptureDataBufferSize. Le recomendamos que no exceda la mitad del tamaño del búfer.

El agente gestiona un lote de solicitudes cuando el número de solicitudes del búfer es igual al CaptureDataBatchSize número o cuando CaptureDataPushPeriodSeconds transcurre el intervalo, lo que ocurra primero.

Valor predeterminado: 10

CaptureDataBufferSize

(Opcional) El número máximo de solicitudes de datos de captura almacenadas en el búfer.

Valor predeterminado: 30

CaptureDataDestination

(Opcional) El destino en el que se almacenan los datos capturados. Este parámetro puede tener uno de los siguientes valores:

  • Cloud: carga los datos capturados en el bucket de S3 que especifique en BucketName.

  • Disk: escribe los datos capturados en el directorio de trabajo del componente.

Si especifica Disk, también puede optar por cargar periódicamente los datos capturados en su bucket de S3 configurando CaptureDataPeriodicUpload en true.

Valor predeterminado: Cloud

CaptureDataPeriodicUpload

(Opcional) Valor de cadena que especifica si se deben cargar periódicamente los datos capturados. Los valores admitidos son true y false.

Establezca este parámetro en true si ha establecido CaptureDataDestination en Disk y si también desea que el agente cargue periódicamente los datos capturados en su bucket de S3.

Valor predeterminado: false

CaptureDataPeriodicUploadPeriodSeconds

(Opcional) El intervalo en segundos en el que el agente de SageMaker AI Edge Manager carga los datos capturados en el depósito de S3. Si usa este parámetro, debe establecer CaptureDataPeriodicUpload en true.

Valor predeterminado: 8

CaptureDataPushPeriodSeconds

(Opcional) El intervalo en segundos en el que el agente de SageMaker AI Edge Manager gestiona un lote de solicitudes de datos de captura desde el búfer.

El agente gestiona un lote de solicitudes cuando el número de solicitudes del búfer es igual al CaptureDataBatchSize número o cuando CaptureDataPushPeriodSeconds transcurre el intervalo, lo que ocurra primero.

Valor predeterminado: 4

CaptureDataBase64EmbedLimit

(Opcional) El tamaño máximo en bytes de los datos capturados que carga el agente de SageMaker AI Edge Manager.

Valor predeterminado: 3072

FolderPrefix

(Opcional) El nombre de la carpeta en la que el agente escribe los datos capturados. Si se establece CaptureDataDestination en Disk, el agente crea la carpeta en el directorio especificado por CaptureDataDiskPath. Si se establece CaptureDataDestination en Cloud, o si se establece CaptureDataPeriodicUpload en true, el agente crea la carpeta en el bucket de S3.

Valor predeterminado: sme-capture

CaptureDataDiskPath

Esta función está disponible en la versión 1.1.0 y en las versiones posteriores del componente SageMaker AI Edge Manager.

(Opcional) La ruta a la carpeta en la que el agente crea la carpeta de datos capturados. Si establece CaptureDataDestination en Disk, el agente crea la carpeta de datos capturados en este directorio. Si no especifica este valor, el agente crea la carpeta de datos capturados en el directorio de trabajo del componente. Utilice el parámetro FolderPrefix para especificar el nombre de la carpeta de datos capturados.

Valor predeterminado: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

Esta función está disponible en la versión 1.2.0 y en las versiones posteriores del componente SageMaker AI Edge Manager.

(Opcional) La ruta en la que este componente almacena los siguientes datos en el dispositivo principal:

  • La base de datos local para los datos de tiempo de ejecución cuando se configura DbEnable en true.

  • SageMaker Modelos compilados por AI NEO que este componente descarga automáticamente cuando se configura. DeploymentEnable true

Valor predeterminado: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(Opcional) Puede habilitar este componente para almacenar los datos de tiempo de ejecución en una base de datos local para conservar los datos en caso de que el componente falle o el dispositivo se quede sin alimentación.

Esta base de datos requiere 5 MB de almacenamiento en el sistema de archivos del dispositivo principal.

Valor predeterminado: false

DeploymentEnable

Esta función está disponible en la versión 1.2.0 y en las versiones posteriores del componente SageMaker AI Edge Manager.

(Opcional) Puede habilitar este componente para recuperar automáticamente los modelos compilados por SageMaker AI NEO que cargue en Amazon S3. Después de cargar un modelo nuevo en Amazon S3, utilice SageMaker AI Studio o la SageMaker IA API para implementar el nuevo modelo en este dispositivo principal. Al habilitar esta característica, puede implementar nuevos modelos en los dispositivos principales sin necesidad de crear una implementación de AWS IoT Greengrass .

importante

Para utilizar esta característica, debe configurar DbEnable en true. Esta característica utiliza la base de datos local para rastrear los modelos que recupera de la Nube de AWS.

Valor predeterminado: false

DeploymentPollInterval

Esta función está disponible en la versión 1.2.0 y en las versiones posteriores del componente SageMaker AI Edge Manager.

(Opcional) El tiempo (en minutos) entre el que este componente comprueba si hay nuevos modelos para descargar. Esta opción se aplica cuando se configura DeploymentEnable en true.

Valor predeterminado: 1440 (un día)

DLRBackendOptions

Esta función está disponible en la versión 1.2.0 y en las versiones posteriores del componente SageMaker AI Edge Manager.

(Opcional) Los indicadores DLR de tiempo de ejecución se configuran en el DLR tiempo de ejecución que utiliza este componente. Puede utilizar la siguiente marca:

  • TVM_TENSORRT_CACHE_DIR: habilita el almacenamiento en caché del modelo TensorRT. Especifique una ruta absoluta a una carpeta existente que tenga permisos de lectura/escritura.

  • TVM_TENSORRT_CACHE_DISK_SIZE_MB: asigna el límite superior de la carpeta de caché del modelo TensorRT. Cuando el tamaño del directorio supera este límite, se eliminan los motores en caché que se utilizan menos. El valor predeterminado es 512 MB.

Por ejemplo, puede establecer este parámetro en el siguiente valor para habilitar el almacenamiento en caché del modelo TensorRT y limitar el tamaño de la caché a 800 MB.

TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800
SagemakerEdgeLogVerbose

(Opcional) Valor de cadena que especifica si se debe habilitar el registro de depuración. Los valores admitidos son true y false.

Valor predeterminado: false

UnixSocketName

(Opcional) La ubicación del descriptor del archivo socket de SageMaker AI Edge Manager en el dispositivo principal.

Valor predeterminado: /tmp/aws.greengrass.SageMakerEdgeManager.sock

ejemplo Ejemplo: actualización de la combinación de configuraciones

El siguiente ejemplo de configuración especifica que el dispositivo principal forma parte del bucket de S3 MyEdgeDeviceFleet y que el agente escribe los datos de captura tanto en el dispositivo como en un bucket de S3. Esta configuración también permite el registro de depuración.

{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

Archivo de registro local

Este componente usa el siguiente archivo de registro.

Linux
/greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
Windows
C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log
Visualización de los registros de este componente

  • Ejecute el siguiente comando en el dispositivo principal para ver el archivo de registro de este componente en tiempo real. Sustituya /greengrass/v2 o C:\greengrass\v2 por la ruta a la carpeta AWS IoT Greengrass raíz.

    Linux
    sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
    Windows (PowerShell)
    Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait

Registros de cambios

En la siguiente tabla, se describen los cambios en cada versión del componente.

Versión

Cambios

1.3.6

Versión actualizada del lanzamiento del núcleo de Greengrass 2.12.5.

1.3.5

 Versión actualizada para el lanzamiento de la versión 2.12.0 del núcleo de Greengrass.

1.3.4

 Versión actualizada para el lanzamiento de la versión 2.11.0 del núcleo de Greengrass.

1.3.3

 Versión actualizada para el lanzamiento de la versión 2.10.0 del núcleo de Greengrass.

1.3.2

 Versión actualizada para el lanzamiento de la versión 2.9.0 del núcleo de Greengrass.

1.3.1

 Versión actualizada para el lanzamiento de la versión 2.8.0 del núcleo de Greengrass.

1.3.0
Nuevas características

  • Suma compatibilidad con la administración del tamaño del disco caché de TensorRT.

    • Añade la TVM_TENSORRT_CACHE_DISK_SIZE_MB marca opcional al DLRBackendOptions parámetro para establecer el límite de tamaño de los modelos almacenados en caché en el disco.

Mejoras

  • Proporciona una simultaneidad de predicciones mejorada. Esto ayuda a aprovechar mejor los motores aceleradores de dispositivos, como. GPUs

1.2.0
Nuevas características

  • Añade compatibilidad con este componente para recuperar automáticamente los modelos compilados por SageMaker AI NEO que usted carga en Amazon S3. Al habilitar esta función, puede implementar nuevos modelos en los dispositivos principales sin necesidad de crear una AWS IoT Greengrass implementación.

  • Suma compatibilidad con una base de datos de respaldo que este componente utiliza para conservar los datos de tiempo de ejecución, en caso de que el componente falle o el dispositivo se quede sin alimentación.

  • Añade compatibilidad para configurar indicadores DLR de tiempo de ejecución al configurar este componente.

1.1.1

Versión actualizada para el lanzamiento de la versión 2.7.0 del núcleo de Greengrass.

1.1.0
Nuevas características

  • Suma compatibilidad con los dispositivos principales de Greengrass que ejecutan Amazon Linux 2.

  • Suma el nuevo parámetro de configuración CaptureDataDiskPath. Puede usar este parámetro para especificar la ruta de la carpeta de datos capturados en su dispositivo.

Mejoras y correcciones de errores

  • Versión actualizada para el lanzamiento de la versión 2.5.0 del núcleo de Greengrass.

1.0.3

Versión actualizada para el lanzamiento de la versión 2.4.0 del núcleo de Greengrass.

1.0.2
Mejoras y correcciones de errores

Actualiza el script de instalación en el ciclo de vida del componente. Sus dispositivos principales ahora deben tener Python 3.6 o posterior, incluida pip para su versión de Python, instalado en el dispositivo antes de implementar este componente.

1.0.1

Versión actualizada para el lanzamiento de la versión 2.3.0 del núcleo de Greengrass.

1.0.0

Versión inicial.