Utiliser Amazon SageMaker AI Edge Manager sur les appareils principaux de Greengrass - AWS IoT Greengrass
Comment ça marchePrérequisCommencez avec SageMaker AI Edge Manager

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utiliser Amazon SageMaker AI Edge Manager sur les appareils principaux de Greengrass

Important

SageMaker AI Edge Manager a été abandonné le 26 avril 2024. Pour plus d'informations sur la poursuite du déploiement de vos modèles sur des appareils Edge, consultez SageMaker AI Edge Manager end of life.

Amazon SageMaker AI Edge Manager est un agent logiciel qui s'exécute sur des appareils périphériques. SageMaker AI Edge Manager assure la gestion des modèles pour les appareils de pointe afin que vous puissiez empaqueter et utiliser les modèles compilés par Amazon SageMaker AI Neo directement sur les appareils principaux de Greengrass. En utilisant SageMaker AI Edge Manager, vous pouvez également échantillonner les données d'entrée et de sortie du modèle à partir de vos principaux appareils, et envoyer ces données à des AWS Cloud fins de surveillance et d'analyse. Dans la SageMaker mesure où AI Edge Manager utilise SageMaker AI Neo pour optimiser vos modèles en fonction de votre matériel cible, vous n'avez pas besoin d'installer le DLR moteur d'exécution directement sur votre appareil. Sur les appareils Greengrass, SageMaker AI Edge Manager ne charge pas les AWS IoT certificats locaux et n'appelle pas directement le point de terminaison du fournisseur AWS IoT d'informations d'identification. SageMaker AI Edge Manager utilise plutôt le service d'échange de jetons pour récupérer les informations d'identification temporaires d'un TES point de terminaison.

Cette section décrit le fonctionnement d' SageMaker AI Edge Manager sur les appareils principaux de Greengrass.

Comment fonctionne SageMaker AI Edge Manager sur les appareils Greengrass

Pour déployer l'agent SageMaker AI Edge Manager sur vos appareils principaux, créez un déploiement incluant le aws.greengrass.SageMakerEdgeManager composant. AWS IoT Greengrass gère l'installation et le cycle de vie de l'agent Edge Manager sur vos appareils. Lorsqu'une nouvelle version du binaire de l'agent est disponible, déployez la version mise à jour du aws.greengrass.SageMakerEdgeManager composant pour mettre à niveau la version de l'agent installée sur votre appareil.

Lorsque vous utilisez SageMaker AI Edge Manager avec AWS IoT Greengrass, votre flux de travail inclut les étapes de haut niveau suivantes :

  1. Compilez des modèles avec SageMaker AI Neo.

  2. Packagez vos modèles compilés SageMaker AI Neo à l'aide de tâches d'empaquetage SageMaker AI Edge. Lorsque vous exécutez une tâche d'empaquetage périphérique pour votre modèle, vous pouvez choisir de créer un composant de modèle avec le modèle empaqueté en tant qu'artefact qui peut être déployé sur votre appareil principal Greengrass.

  3. Créez un composant d'inférence personnalisé. Vous utilisez ce composant d'inférence pour interagir avec l'agent Edge Manager afin d'effectuer une inférence sur le périphérique principal. Ces opérations incluent le chargement de modèles, l'appel de demandes de prédiction pour exécuter des inférences et le déchargement de modèles lorsque le composant s'arrête.

  4. Déployez le composant SageMaker AI Edge Manager, le composant de modèle intégré et le composant d'inférence pour exécuter votre modèle sur le moteur d'inférence SageMaker AI (agent Edge Manager) de votre appareil.

Pour plus d'informations sur la création de tâches d'empaquetage Edge et de composants d'inférence compatibles avec SageMaker AI Edge Manager, consultez la section Deploy Model Package et Edge Manager Agent with AWS IoT Greengrass dans le manuel Amazon SageMaker AI Developer Guide.

Le Tutoriel : Démarrez avec SageMaker AI Edge Manager didacticiel explique comment configurer et utiliser l'agent SageMaker AI Edge Manager sur un appareil principal Greengrass existant, à l'aide d'un exemple de code AWS fourni que vous pouvez utiliser pour créer des exemples d'inférence et des composants de modèle.

Lorsque vous utilisez SageMaker AI Edge Manager sur les appareils principaux de Greengrass, vous pouvez également utiliser la fonction de capture de données pour télécharger des exemples de données sur le. AWS Cloud La capture de données est une fonctionnalité d' SageMaker intelligence artificielle que vous utilisez pour télécharger des entrées d'inférence, des résultats d'inférence et des données d'inférence supplémentaires dans un compartiment S3 ou un répertoire local en vue d'une analyse future. Pour plus d'informations sur l'utilisation des données de capture avec SageMaker AI Edge Manager, consultez Manage Model dans le manuel Amazon SageMaker AI Developer Guide.

Prérequis

Vous devez satisfaire aux exigences suivantes pour utiliser l'agent SageMaker AI Edge Manager sur les appareils principaux de Greengrass.

  • Un appareil Greengrass principal fonctionnant sous Amazon Linux 2, une plate-forme Linux basée sur Debian (x86_64 ou Armv8) ou Windows (x86_64). Si vous n'en avez pas, veuillez consulter Tutoriel : Débuter avec AWS IoT Greengrass V2.

  • Python 3.6 ou version ultérieure, y compris pip pour votre version de Python, installé sur votre appareil principal.

  • Le rôle d'appareil Greengrass est configuré comme suit :

    • Une relation de confiance qui permet credentials.iot.amazonaws.com et sagemaker.amazonaws.com permet d'assumer le rôle, comme le montre l'exemple IAM de politique suivant.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La stratégie AmazonSageMakerEdgeDeviceFleetPolicy gérée par IAM.

    • L's3:PutObjectaction, comme indiqué dans l'exemple IAM de stratégie suivant.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket Amazon S3 créé en même temps Compte AWS et en même temps Région AWS que votre appareil principal Greengrass. SageMaker AI Edge Manager nécessite un compartiment S3 pour créer un parc d'appareils Edge et pour stocker des exemples de données provenant de l'exécution d'inférences sur votre appareil. Pour plus d'informations sur la création de compartiments S3, consultez Getting started with Amazon S3.

  • Un parc d'appareils SageMaker AI Edge qui utilise le même alias de AWS IoT rôle que votre appareil principal Greengrass. Pour de plus amples informations, veuillez consulter Créez un parc d'appareils de pointe.

  • Votre appareil principal Greengrass est enregistré en tant qu'appareil Edge dans votre parc d'appareils SageMaker AI Edge. Le nom de l'appareil Edge doit correspondre au nom de l' AWS IoT objet de votre appareil principal. Pour de plus amples informations, veuillez consulter Enregistrez votre appareil Greengrass Core.

Commencez avec SageMaker AI Edge Manager

Vous pouvez suivre un didacticiel pour commencer à utiliser SageMaker AI Edge Manager. Le didacticiel vous montre comment commencer à utiliser SageMaker AI Edge Manager avec des exemples de composants AWS fournis sur un périphérique principal existant. Ces exemples de composants utilisent le composant SageMaker AI Edge Manager comme dépendance pour déployer l'agent Edge Manager et effectuer des inférences à l'aide de modèles préentraînés compilés à l'aide d' SageMaker AI Neo. Pour de plus amples informations, veuillez consulter Tutoriel : Démarrez avec SageMaker AI Edge Manager.