Facultatif : Configuration de votre appareil pour la qualification ML

SSH dans votre appareil.

Exécutez les scripts suivants pour vérifier que les dépendances sont correctement installées.

sudo python3.7 -c "import mxnet; print(mxnet.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

La sortie imprime le numéro de version et le script doit se terminer sans erreur.

Assurez-vous que le fichier device.json est configuré pour la qualification ML. Pour plus d'informations, consultez Configurer device.json pour la qualification ML.

Exécutez le test des dépendances pour le framework.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id mxnet_dependency_check

Le récapitulatif du test affiche un résultat PASSED pour mldependencies.

SSH dans votre appareil.

Exécutez le script suivant pour vérifier que la dépendance est correctement installée.

sudo python3.7 -c "import tensorflow; print(tensorflow.__version__)"

La sortie imprime le numéro de version et le script doit se terminer sans erreur.

Assurez-vous que le fichier device.json est configuré pour la qualification ML. Pour plus d'informations, consultez Configurer device.json pour la qualification ML.

Exécutez le test des dépendances pour le framework.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id tensorflow_dependency_check

Le récapitulatif du test affiche un résultat PASSED pour mldependencies.

SSH dans votre appareil.

Exécutez les scripts suivants pour vérifier que les dépendances sont correctement installées.

sudo python3.7 -c "import dlr; print(dlr.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

La sortie imprime le numéro de version et le script doit se terminer sans erreur.

Assurez-vous que le fichier device.json est configuré pour la qualification ML. Pour plus d'informations, consultez Configurer device.json pour la qualification ML.

Exécutez le test des dépendances pour le framework.

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id dlr_dependency_check

Le récapitulatif du test affiche un résultat PASSED pour mldependencies.

Vérifiez que le type de votre appareil est pris en charge par SageMaker. Pour plus d'informations, consultez le .options d'équipement cibleleAmazon SageMaker API Reference. Si le type de votre appareil n'est pas actuellement pris en charge par SageMaker, suivez les étapes deOption 2 : Utiliser TVM pour compiler le modèle DLR.

Téléchargez le fichier tarball qui contient le modèle MxNet préformé non compilé pour DLR :

Décompressez le fichier tarball. Cette commande génère la structure de répertoire suivante.

Déplacez synset.txt hors du répertoire resnet18. Notez le nouvel emplacement. Vous copierez ce fichier dans le répertoire du modèle compilé ultérieurement.

Compressez le contenu du répertoire resnet18.

tar cvfz model.tar.gz resnet18v1-symbol.json resnet18v1-0000.params

Chargez le fichier compressé sur un compartiment Amazon S3 de votreCompte AWS, puis suivez la procédure décrite dansCompilez un modèle (Console)pour créer une tâche de compilation.

1. Pour Configuration d'entrée, utilisez les valeurs suivantes :

   • Pour Configuration d'entrée de données, entrez {"data": [1, 3, 224, 224]}.

   • Pour Cadre de machine learning, choisissez MXNet.

2. Pour Configuration de sortie, utilisez les valeurs suivantes :

   • PourEmplacement de sortie S3, entrez le chemin d'accès au compartiment Amazon S3 ou au dossier dans lequel vous souhaitez stocker le modèle compilé.

   • Pour Périphérique cible, choisissez votre type d'appareil.

Téléchargez le modèle compilé à partir de l'emplacement de sortie spécifié, puis décompressez le fichier.

Copiez synset.txt dans le répertoire du modèle compilé.

Renommez le répertoire du modèle compilé en resnet18.

Votre répertoire de modèle compilé doit avoir la structure de répertoire suivante.

Téléchargez le fichier tarball qui contient le modèle MxNet préformé non compilé pour DLR :

Décompressez le fichier tarball. Cette commande génère la structure de répertoire suivante.

Suivez les instructions de la documentation TVM pour créer et installer TVM à partir de la source pour votre plateforme.

Une fois TVM créé, exécutez la compilation TVM pour le modèle resnet18. Les étapes suivantes sont basées sur le didacticiel Quick Start Tutorial for Compiling Deep Learning Models, de la documentation TVM.

1. Ouvrez le fichier relay_quick_start.py à partir du référentiel TVM cloné.

2. Mettez à jour le code qui définit un réseau neuronal en relais. Vous pouvez utiliser une des options suivantes :

   • Option 1 : Utilisermxnet.gluon.model_zoo.vision.get_modelPour obtenir le module et les paramètres de relais :

     from mxnet.gluon.model_zoo.vision import get_model
     block = get_model('resnet18_v1', pretrained=True)
     mod, params = relay.frontend.from_mxnet(block, {"data": data_shape})

   • Option 2 : À partir du modèle non compilé que vous avez téléchargé à l'étape 1, copier les fichiers suivants dans le même répertoire que le fichierrelay_quick_start.pydans le fichier. Ces fichiers contiennent le module et les paramètres de relais.

     • resnet18v1-symbol.json

     • resnet18v1-0000.params

3. Mettez à jour le code qui enregistre et charge le module compilé pour utiliser le code suivant.

   from tvm.contrib import util
   path_lib = "deploy_lib.so"
   #  Export the model library based on your device architecture
   lib.export_library("deploy_lib.so", cc="aarch64-linux-gnu-g++")
   with open("deploy_graph.json", "w") as fo:
       fo.write(graph)
   with open("deploy_param.params", "wb") as fo:
       fo.write(relay.save_param_dict(params))

4. Créez le modèle :

   python3 tutorials/relay_quick_start.py --build-dir ./model

   Cette commande génère les fichiers suivants.

   • deploy_graph.json

   • deploy_lib.so

   • deploy_param.params

Copiez les fichiers du modèle généré dans un répertoire nommé resnet18. Ceci est votre répertoire de modèle compilé.

Copiez le répertoire de modèle compilé sur votre ordinateur hôte. Copiez ensuite synset.txt à partir du modèle non compilé que vous avez téléchargé à l'étape 1 dans le répertoire de modèle compilé.

Votre répertoire de modèle compilé doit avoir la structure de répertoire suivante.