Modélisez le déploiement à la périphérie avec SageMaker Edge Manager

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Amazon SageMaker Edge Manager assure la gestion des modèles pour les appareils périphériques afin que vous puissiez optimiser, sécuriser, surveiller et gérer les modèles d'apprentissage automatique sur des flottes d'appareils périphériques tels que les caméras intelligentes, les robots, les ordinateurs personnels et les appareils mobiles.

Pourquoi utiliser Edge Manager ?

De nombreux cas d'utilisation de machine learning (ML) nécessitent l'exécution de modèles ML sur une flotte de dispositifs, ce qui vous permet d'obtenir des prédictions en temps réel, de préserver la confidentialité des utilisateurs finaux et de réduire le coût de la connectivité réseau. Avec la disponibilité croissante de matériels périphériques basse consommation conçus pour le ML, il est désormais possible d'exécuter plusieurs modèles de réseau neuronal complexes sur des dispositifs périphériques.

Cependant, contrairement aux instances cloud, les périphériques sont limités en termes de calcul, de mémoire et de connectivité, ce qui rend l'exploitation de modèles ML difficile sur des dispositifs périphériques. Une fois le modèle déployé, vous devez contrôler les modèles en continu, car la dérive de modèle peut entraîner la dégradation de la qualité du modèle. La surveillance des modèles sur l'ensemble de vos flottes de dispositifs est difficile car vous devez écrire du code personnalisé pour collecter des échantillons de données à partir de votre dispositif et reconnaître l'asymétrie des prédictions. En outre, les modèles sont souvent codés en dur dans l'application. Pour mettre à jour le modèle, vous devez reconstruire et mettre à jour intégralement le firmware de l'application ou du périphérique, ce qui peut perturber vos opérations.

Avec SageMaker Edge Manager, vous pouvez optimiser, exécuter, surveiller et mettre à jour des modèles d'apprentissage automatique sur des flottes d'appareils en périphérie.

Fonctionnement

De manière générale, le flux de travail SageMaker Edge Manager comporte cinq composants principaux : compiler des modèles avec SageMaker Neo, empaqueter des modèles compilés par Neo, déployer des modèles sur vos appareils, exécuter des modèles sur le moteur d'inférence SageMaker AI (agent Edge Manager) et gérer les modèles sur les appareils.

SageMaker Edge Manager utilise SageMaker Neo pour optimiser vos modèles pour le matériel cible en un clic, puis pour signer cryptographiquement vos modèles avant le déploiement. À l'aide d' SageMaker Edge Manager, vous pouvez échantillonner les données d'entrée et de sortie des modèles à partir d'appareils Edge et les envoyer vers le cloud à des fins de surveillance et d'analyse, et consulter un tableau de bord qui suit et rend compte visuellement du fonctionnement des modèles déployés dans la console SageMaker AI.

SageMaker Edge Manager étend jusqu'à la périphérie des fonctionnalités qui n'étaient auparavant disponibles que dans le cloud, afin que les développeurs puissent continuellement améliorer la qualité des modèles en utilisant Amazon SageMaker Model Monitor pour détecter les dérives, puis réétiqueter les données avec SageMaker AI Ground Truth et réentraîner les modèles à SageMaker l'IA.

Comment utiliser SageMaker Edge Manager ?

Si vous utilisez SageMaker Edge Manager pour la première fois, nous vous recommandons de procéder comme suit :