View a markdown version of this page

SageMaker Gestionnaire AI Edge - AWS IoT Greengrass
VersionsTypeSystème d’exploitationExigencesDépendancesConfigurationFichier journal localJournal des modifications

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

SageMaker Gestionnaire AI Edge

Important

SageMaker AI Edge Manager a été abandonné le 26 avril 2024. Pour plus d'informations sur la poursuite du déploiement de vos modèles sur des appareils Edge, consultez la section Fin de vie d'SageMaker AI Edge Manager.

Le composant Amazon SageMaker AI Edge Manager (aws.greengrass.SageMakerEdgeManager) installe le binaire de l'agent SageMaker AI Edge Manager.

SageMaker AI Edge Manager fournit une gestion des modèles pour les appareils de périphérie afin que vous puissiez optimiser, sécuriser, surveiller et gérer les modèles d'apprentissage automatique sur des flottes d'appareils de périphérie. Le composant SageMaker AI Edge Manager installe et gère le cycle de vie de l'agent SageMaker AI Edge Manager sur votre appareil principal. Vous pouvez également utiliser SageMaker AI Edge Manager pour empaqueter et utiliser des Neo-compiled modèles d' SageMaker IA en tant que composants de modèle sur les appareils principaux de Greengrass. Pour plus d'informations sur l'utilisation de l'agent SageMaker AI Edge Manager sur votre appareil principal, consultezUtiliser Amazon SageMaker AI Edge Manager sur les appareils principaux de Greengrass.

SageMaker Le composant AI Edge Manager v1.3.x installe le binaire de l'agent Edge Manager v1.20220822.836f3023. Pour plus d'informations sur les versions binaires de l'agent Edge Manager, consultez la section Agent Edge Manager.

Note

Le composant SageMaker AI Edge Manager n'est disponible que dans les cas suivants Régions AWS :

  • USA Est (Ohio)

  • USA Est (Virginie du Nord)

  • USA Ouest (Oregon)

  • UE (Francfort)

  • UE (Irlande)

  • Asie-Pacifique (Tokyo)

Versions

Les versions de ce composant sont les suivantes :

  • 1.3.x

  • 1.2.x

  • 1.1.x

  • 1.0.x

Type

Ce composant est un composant générique (aws.greengrass.generic). Le noyau Greengrass exécute les scripts de cycle de vie du composant.

Pour de plus amples informations, veuillez consulter Types de composant.

Système d’exploitation

Ce composant peut être installé sur les appareils principaux qui exécutent les systèmes d'exploitation suivants :

  • Linux

  • Windows

Exigences

Ce composant répond aux exigences suivantes :

  • Un périphérique principal Greengrass s'exécutant sur Amazon Linux 2, une plate-forme Debian-based Linux (x86_64 ou Armv8) ou Windows (x86_64). Si vous n'en avez pas, veuillez consulter Tutoriel : Premiers pas avec AWS IoT Greengrass V2.

  • Python 3.6 ou version ultérieure, y compris pip pour votre version de Python, installée sur votre appareil principal.

  • Le rôle de l'appareil Greengrass est configuré comme suit :

    • Une relation de confiance qui autorise credentials.iot.amazonaws.com et sagemaker.amazonaws.com assume le rôle, comme illustré dans l'exemple de politique IAM suivant.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La politique gérée par AmazonSageMakerEdgeDeviceFleetPolicy IAM.

    • L's3:PutObjectaction, comme illustré dans l'exemple de politique IAM suivant.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un compartiment Amazon S3 créé sur le même Compte AWS appareil Région AWS que votre appareil principal Greengrass. SageMaker AI Edge Manager nécessite un compartiment S3 pour créer un parc d'appareils Edge et pour stocker des exemples de données provenant de l'exécution d'inférences sur votre appareil. Pour plus d'informations sur la création de compartiments S3, consultez la section Premiers pas avec Amazon S3.

  • Un parc d'appareils SageMaker IA Edge qui utilise le même alias de AWS IoT rôle que votre appareil principal Greengrass. Pour de plus amples informations, veuillez consulter Créez un parc d'appareils de pointe.

  • Votre appareil principal Greengrass a été enregistré en tant qu'appareil Edge dans votre parc d'appareils SageMaker AI Edge. Le nom de l'appareil périphérique doit correspondre au AWS IoT nom de votre appareil principal. Pour de plus amples informations, veuillez consulter Enregistrez votre appareil principal Greengrass.

Points de terminaison et ports

Ce composant doit être capable d'effectuer des requêtes sortantes vers les terminaux et les ports suivants, en plus des points de terminaison et des ports requis pour le fonctionnement de base. Pour de plus amples informations, veuillez consulter Autoriser le trafic des appareils via un proxy ou un pare-feu.

Endpoint Port Obligatoire Description

edge.sagemaker.region.amazonaws.com

 443 Oui

Vérifiez l'état d'enregistrement de l'appareil et envoyez des statistiques à SageMaker AI.

*.s3.amazonaws.com

 443 Oui

Téléchargez les données de capture dans le compartiment S3 que vous spécifiez.

Vous pouvez le * remplacer par le nom de chaque compartiment dans lequel vous téléchargez des données.

Dépendances

Lorsque vous déployez un composant, déploie AWS IoT Greengrass également des versions compatibles de ses dépendances. Cela signifie que vous devez répondre aux exigences relatives au composant et à toutes ses dépendances pour pouvoir le déployer avec succès. Cette section répertorie les dépendances pour les versions publiées de ce composant et les contraintes de version sémantiques qui définissent les versions des composants pour chaque dépendance. Vous pouvez également consulter les dépendances pour chaque version du composant dans la AWS IoT Greengrass console. Sur la page des détails des composants, recherchez la liste des dépendances.

1.3.5 and 1.3.6

Le tableau suivant répertorie les dépendances pour les versions 1.3.5 et 1.3.6 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,13,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.3.4

Le tableau suivant répertorie les dépendances de la version 1.3.4 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,12,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.3.3

Le tableau suivant répertorie les dépendances pour la version 1.3.3 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,11,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.3.2

Le tableau suivant répertorie les dépendances pour la version 1.3.2 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,10,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.3.1

Le tableau suivant répertorie les dépendances pour la version 1.3.1 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,9,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.1.1 - 1.3.0

Le tableau suivant répertorie les dépendances pour les versions 1.1.1 à 1.3.0 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,8,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.1.0

Le tableau suivant répertorie les dépendances pour la version 1.1.0 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,6,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.0.3

Le tableau suivant répertorie les dépendances pour la version 1.0.3 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,5,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.0.1 and 1.0.2

Le tableau suivant répertorie les dépendances pour les versions 1.0.1 et 1.0.2 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,4,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte
1.0.0

Le tableau suivant répertorie les dépendances pour la version 1.0.0 de ce composant.

Dépendance Versions compatibles Type de dépendance
Noyau Greengrass > = 2,0,0 < 2,3,0 Flexible
Service d'échange de jetons > = 0,0,0 Stricte

Pour plus d'informations sur les dépendances des composants, consultez la référence de la recette des composants.

Configuration

Ce composant fournit les paramètres de configuration suivants que vous pouvez personnaliser lorsque vous déployez le composant.

Note

Cette section décrit les paramètres de configuration que vous définissez dans le composant. Pour plus d'informations sur la configuration correspondante d' SageMaker AI Edge Manager, consultez Edge Manager Agent dans le guide du développeur Amazon SageMaker AI.

DeviceFleetName

Le nom du parc d'appareils SageMaker AI Edge Manager qui contient votre appareil principal Greengrass.

Vous devez spécifier une valeur pour ce paramètre dans la mise à jour de configuration lorsque vous déployez ce composant.

BucketName

Nom du compartiment S3 vers lequel vous téléchargez les données d'inférence capturées. Le nom du compartiment doit contenir la chaînesagemaker.

Si vous le définissez CaptureDataDestination surCloud, ou si vous le définissez CaptureDataPeriodicUpload surtrue, vous devez spécifier une valeur pour ce paramètre dans la mise à jour de configuration lorsque vous déployez ce composant.

Note

Les données de capture sont une fonctionnalité d' SageMaker IA que vous utilisez pour télécharger des entrées d'inférence, des résultats d'inférence et des données d'inférence supplémentaires vers un compartiment S3 ou un répertoire local pour une analyse ultérieure. Pour plus d'informations sur l'utilisation des données de capture avec SageMaker AI Edge Manager, consultez la section Gérer le modèle dans le guide du développeur Amazon SageMaker AI.

CaptureDataBatchSize

(Facultatif) Taille d'un lot de demandes de données de capture que l'agent gère. Cette valeur doit être inférieure à la taille de la mémoire tampon que vous spécifiez dansCaptureDataBufferSize. Nous vous recommandons de ne pas dépasser la moitié de la taille de la mémoire tampon.

L'agent gère un lot de demandes lorsque le nombre de demandes dans la mémoire tampon est égal au CaptureDataBatchSize nombre, ou lorsque l'CaptureDataPushPeriodSecondsintervalle est écoulé, selon la première éventualité.

Valeur par défaut : 10

CaptureDataBufferSize

(Facultatif) Le nombre maximum de demandes de données de capture stockées dans la mémoire tampon.

Valeur par défaut : 30

CaptureDataDestination

(Facultatif) Destination dans laquelle vous stockez les données capturées. Ce paramètre peut présenter les valeurs suivantes :

  • Cloud—Télécharge les données capturées vers le compartiment S3 que vous spécifiez dans. BucketName

  • Disk: écrit les données capturées dans le répertoire de travail du composant.

Si vous le spécifiezDisk, vous pouvez également choisir de télécharger périodiquement les données capturées dans votre compartiment S3 en réglant CaptureDataPeriodicUpload surtrue.

Valeur par défaut : Cloud

CaptureDataPeriodicUpload

(Facultatif) Valeur de chaîne qui spécifie s'il faut télécharger périodiquement les données capturées. Les valeurs prises en charge sont true et false.

Définissez ce paramètre sur true si vous le définissez sur CaptureDataDestination et si vous souhaitez également que l'agent télécharge périodiquement les données capturées dans votre compartiment S3. Disk

Valeur par défaut : false

CaptureDataPeriodicUploadPeriodSeconds

(Facultatif) Intervalle en secondes auquel l'agent SageMaker AI Edge Manager télécharge les données capturées vers le compartiment S3. Utilisez ce paramètre si vous le définissez CaptureDataPeriodicUpload surtrue.

Valeur par défaut : 8

CaptureDataPushPeriodSeconds

(Facultatif) Intervalle en secondes auquel l'agent SageMaker AI Edge Manager gère un lot de demandes de données de capture depuis la mémoire tampon.

L'agent gère un lot de demandes lorsque le nombre de demandes dans la mémoire tampon est égal au CaptureDataBatchSize nombre, ou lorsque l'CaptureDataPushPeriodSecondsintervalle est écoulé, selon la première éventualité.

Valeur par défaut : 4

CaptureDataBase64EmbedLimit

(Facultatif) Taille maximale en octets des données capturées que l'agent SageMaker AI Edge Manager télécharge.

Valeur par défaut : 3072

FolderPrefix

(Facultatif) Le nom du dossier dans lequel l'agent écrit les données capturées. Si vous le définissez CaptureDataDestination surDisk, l'agent crée le dossier dans le répertoire spécifié parCaptureDataDiskPath. Si vous le définissez CaptureDataDestination surCloud, ou si vous le définissez CaptureDataPeriodicUpload surtrue, l'agent crée le dossier dans votre compartiment S3.

Valeur par défaut : sme-capture

CaptureDataDiskPath

Cette fonctionnalité est disponible dans la version 1.1.0 et les versions ultérieures du composant SageMaker AI Edge Manager.

(Facultatif) Le chemin d'accès au dossier dans lequel l'agent crée le dossier de données capturées. Si vous le définissez CaptureDataDestination surDisk, l'agent crée le dossier de données capturées dans ce répertoire. Si vous ne spécifiez pas cette valeur, l'agent crée le dossier de données capturées dans le répertoire de travail du composant. Utilisez le FolderPrefix paramètre pour spécifier le nom du dossier de données capturé.

Valeur par défaut : /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

Cette fonctionnalité est disponible dans la version 1.2.0 et les versions ultérieures du composant SageMaker AI Edge Manager.

(Facultatif) Le chemin par lequel ce composant stocke les données suivantes sur le périphérique principal :

  • La base de données locale pour les données d'exécution lorsque vous définissez DbEnable surtrue.

  • SageMaker Neo-compiled Modèles d'IA que ce composant télécharge automatiquement lorsque vous le configurez DeploymentEnabletrue.

Valeur par défaut : /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(Facultatif) Vous pouvez activer ce composant pour stocker les données d'exécution dans une base de données locale afin de préserver les données, en cas de défaillance du composant ou de panne d'alimentation du périphérique.

Cette base de données nécessite 5 Mo de stockage sur le système de fichiers du périphérique principal.

Valeur par défaut : false

DeploymentEnable

Cette fonctionnalité est disponible dans la version 1.2.0 et les versions ultérieures du composant SageMaker AI Edge Manager.

(Facultatif) Vous pouvez activer ce composant pour récupérer automatiquement les Neo-compiled modèles d' SageMaker IA que vous chargez sur Amazon S3. Après avoir chargé un nouveau modèle sur Amazon S3, utilisez SageMaker AI Studio ou l'API SageMaker AI pour déployer le nouveau modèle sur cet appareil principal. Lorsque vous activez cette fonctionnalité, vous pouvez déployer de nouveaux modèles sur les appareils principaux sans avoir à créer de AWS IoT Greengrass déploiement.

Important

Pour utiliser cette fonctionnalité, vous devez DbEnable définir surtrue. Cette fonctionnalité utilise la base de données locale pour suivre les modèles qu'elle extrait du AWS Cloud.

Valeur par défaut : false

DeploymentPollInterval

Cette fonctionnalité est disponible dans la version 1.2.0 et les versions ultérieures du composant SageMaker AI Edge Manager.

(Facultatif) Durée (en minutes) entre laquelle ce composant recherche les nouveaux modèles à télécharger. Cette option s'applique lorsque vous définissez DeploymentEnable surtrue.

Par défaut : 1440 (1 jour)

DLRBackendOptions

Cette fonctionnalité est disponible dans la version 1.2.0 et les versions ultérieures du composant SageMaker AI Edge Manager.

(Facultatif) Les indicateurs d'exécution DLR à définir dans l'environnement d'exécution DLR utilisé par ce composant. Vous pouvez définir le drapeau suivant :

  • TVM_TENSORRT_CACHE_DIR— Activez la mise en cache du modèle TensorRT. Spécifiez un chemin absolu vers un dossier existant doté read/write d'autorisations.

  • TVM_TENSORRT_CACHE_DISK_SIZE_MB— Assigne la limite supérieure du dossier de cache du modèle TensorRT. Lorsque la taille du répertoire dépasse cette limite, les moteurs mis en cache les moins utilisés sont supprimés. La valeur par défaut est de 512 Mo.

Par exemple, vous pouvez définir ce paramètre sur la valeur suivante pour activer la mise en cache du modèle TensorRT et limiter la taille du cache à 800 Mo.

TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800
SagemakerEdgeLogVerbose

(Facultatif) Valeur de chaîne qui indique s'il faut activer la journalisation du débogage. Les valeurs prises en charge sont true et false.

Valeur par défaut : false

UnixSocketName

(Facultatif) Emplacement du descripteur de fichier de socket SageMaker AI Edge Manager sur le périphérique principal.

Valeur par défaut : /tmp/aws.greengrass.SageMakerEdgeManager.sock

Exemple Exemple : fusion de configuration et mise à jour

L'exemple de configuration suivant indique que le périphérique principal fait partie du MyEdgeDeviceFleet et que l'agent écrit les données de capture à la fois sur le périphérique et dans un compartiment S3. Cette configuration active également la journalisation du débogage.

{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

Fichier journal local

Ce composant utilise le fichier journal suivant.

Linux
/greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
Windows
C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log
Pour afficher les journaux de ce composant

  • Exécutez la commande suivante sur le périphérique principal pour afficher le fichier journal de ce composant en temps réel. Remplacez /greengrass/v2 ou C:\greengrass\v2 par le chemin du dossier AWS IoT Greengrass racine.

    Linux
    sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
    Windows (PowerShell)
    Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait

Journal des modifications

Le tableau suivant décrit les modifications apportées à chaque version du composant.

Version

Modifications

1.3.6

Version mise à jour pour la version 2.12.5 de Greengrass Nucleus.

1.3.5

 Version mise à jour pour la version 2.12.0 de Greengrass Nucleus.

1.3.4

 Version mise à jour pour la version 2.11.0 de Greengrass Nucleus.

1.3.3

 Version mise à jour pour la version 2.10.0 de Greengrass Nucleus.

1.3.2

 Version mise à jour pour la version 2.9.0 de Greengrass Nucleus.

1.3.1

 Version mise à jour pour la version 2.8.0 de Greengrass Nucleus.

1.3.0
Nouvelles fonctionnalités

  • Ajoute la prise en charge de la gestion de la taille des disques de cache TensorRT.

    • Ajoute l'TVM_TENSORRT_CACHE_DISK_SIZE_MBindicateur facultatif au DLRBackendOptions paramètre pour définir la limite de taille pour les modèles mis en cache sur le disque.

Améliorations

  • Améliore la simultanéité des prévisions. Cela permet de mieux utiliser les moteurs d'accélération des appareils, tels que les GPU.

1.2.0
Nouvelles fonctionnalités

  • Ajoute la prise en charge de ce composant afin de récupérer automatiquement Neo-compiled les modèles d' SageMaker IA que vous chargez sur Amazon S3. Lorsque vous activez cette fonctionnalité, vous pouvez déployer de nouveaux modèles sur les appareils principaux sans avoir à créer de AWS IoT Greengrass déploiement.

  • Ajoute la prise en charge d'une base de données de sauvegarde que ce composant utilise pour préserver les données d'exécution, en cas de défaillance du composant ou de panne d'alimentation du périphérique.

  • Ajoute la prise en charge de la configuration des indicateurs d'exécution du DLR lorsque vous configurez ce composant.

1.1.1

Version mise à jour pour la version 2.7.0 de Greengrass Nucleus.

1.1.0
Nouvelles fonctionnalités

  • Ajoute la prise en charge des appareils principaux de Greengrass exécutant Amazon Linux 2.

  • Ajoute le nouveau paramètre CaptureDataDiskPath de configuration. Vous pouvez utiliser ce paramètre pour spécifier le chemin du dossier de données capturé sur votre appareil.

Corrections de bugs et améliorations

  • Version mise à jour pour la version 2.5.0 de Greengrass Nucleus.

1.0.3

Version mise à jour pour la version 2.4.0 de Greengrass Nucleus.

1.0.2
Corrections de bugs et améliorations

Met à jour le script d'installation dans le cycle de vie des composants. Python 3.6 ou version ultérieure, y compris pip pour votre version de Python, doit désormais être installé sur vos appareils principaux avant de déployer ce composant.

1.0.1

Version mise à jour pour la version 2.3.0 de Greengrass Nucleus.

1.0.0

Première version.