Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Déploiement de modèles à la périphérie avec SageMaker Edge Manager

Amazon SageMaker Edge Manager assure la gestion des modèles pour les appareils périphériques afin que vous puissiez optimiser, sécuriser, surveiller et gérer des modèles d'apprentissage automatique sur des flottes d'appareils périphériques tels que des caméras intelligentes, des robots, des ordinateurs personnels et des appareils mobiles.

Pourquoi utiliser Edge Manager ?

De nombreux cas d'utilisation de machine learning (ML) nécessitent l'exécution de modèles ML sur une flotte de dispositifs, ce qui vous permet d'obtenir des prédictions en temps réel, de préserver la confidentialité des utilisateurs finaux et de réduire le coût de la connectivité réseau. Avec la disponibilité croissante de matériels périphériques basse consommation conçus pour le ML, il est désormais possible d'exécuter plusieurs modèles de réseau neuronal complexes sur des dispositifs périphériques.

Cependant, contrairement aux instances cloud, les périphériques sont limités en termes de calcul, de mémoire et de connectivité, ce qui rend l'exploitation de modèles ML difficile sur des dispositifs périphériques. Une fois le modèle déployé, vous devez contrôler les modèles en continu, car la dérive de modèle peut entraîner la dégradation de la qualité du modèle. La surveillance des modèles sur l'ensemble de vos flottes de dispositifs est difficile car vous devez écrire du code personnalisé pour collecter des échantillons de données à partir de votre dispositif et reconnaître l'asymétrie des prédictions. En outre, les modèles sont souvent codés en dur dans l'application. Pour mettre à jour le modèle, vous devez reconstruire et mettre à jour intégralement le firmware de l'application ou du périphérique, ce qui peut perturber vos opérations.

Avec SageMaker Edge Manager, vous pouvez optimiser, exécuter, surveiller et mettre à jour des modèles d'apprentissage automatique sur des flottes d'appareils en périphérie.

Fonctionnement

À un niveau élevé, le flux de travail d' SageMaker Edge Manager comprend cinq composants principaux : compiler des modèles avec SageMaker Neo, empaqueter des Neo-compiled modèles, déployer des modèles sur vos appareils, exécuter des modèles sur le moteur d'inférence SageMaker AI (agent Edge Manager) et gérer les modèles sur les appareils.

SageMaker Edge Manager utilise SageMaker Neo pour optimiser vos modèles pour le matériel cible en un clic, puis pour signer vos modèles de manière cryptographique avant le déploiement. À l'aide d' SageMaker Edge Manager, vous pouvez échantillonner les données d'entrée et de sortie des modèles à partir d'appareils Edge et les envoyer vers le cloud à des fins de surveillance et d'analyse, et afficher un tableau de bord qui suit et rapporte visuellement le fonctionnement des modèles déployés dans la console SageMaker AI.

SageMaker Edge Manager étend des fonctionnalités qui n'étaient auparavant disponibles que dans le cloud vers la périphérie, afin que les développeurs puissent améliorer en permanence la qualité des modèles en utilisant Amazon SageMaker Model Monitor pour la détection des dérives, puis réétiqueter les données avec SageMaker AI Ground Truth et réentraîner les modèles en SageMaker IA.

Comment utiliser SageMaker Edge Manager ?

Si vous utilisez SageMaker Edge Manager pour la première fois, nous vous recommandons de procéder comme suit :