View a markdown version of this page

Lancement d'une instance DLAMI avec AWS Neuron - AWS Apprentissage profond (deep learning) AMIs
Vérification de votre instanceIdentifiant AWS Appareils InferentiaAffichage de l'utilisation des ressourcesUtilisation de Neuron Monitor (neuron-monitor)Mise à niveau du logiciel Neuron

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Lancement d'une instance DLAMI avec AWS Neuron

Le dernier DLAMI est prêt à être utilisé avec AWS Inferentia et est livré avec le package API AWS Neuron. Pour lancer une instance DLAMI, voir Lancement et configuration d'une instance DLAMI. Une fois que vous avez un DLAMI, suivez les étapes ci-dessous pour vous assurer que votre puce AWS Inferentia et vos ressources AWS Neuron sont actives.

Vérification de votre instance

Avant d'utiliser votre instance, vérifiez qu'elle est correctement configurée et configurée avec Neuron.

Identifiant AWS Appareils Inferentia

Pour identifier le nombre de périphériques Inferentia sur votre instance, utilisez la commande suivante : 

neuron-ls

Si des périphériques Inferentia sont connectés à votre instance, votre sortie ressemblera à ce qui suit : 

+--------+--------+--------+-----------+--------------+
| NEURON | NEURON | NEURON | CONNECTED |     PCI      |
| DEVICE | CORES  | MEMORY |  DEVICES  |     BDF      |
+--------+--------+--------+-----------+--------------+
| 0      | 4      | 8 GB   | 1         | 0000:00:1c.0 |
| 1      | 4      | 8 GB   | 2, 0      | 0000:00:1d.0 |
| 2      | 4      | 8 GB   | 3, 1      | 0000:00:1e.0 |
| 3      | 4      | 8 GB   | 2         | 0000:00:1f.0 |
+--------+--------+--------+-----------+--------------+

La sortie fournie provient d'une Inf1.6xlarge instance et comprend les colonnes suivantes :

  • NEURON DEVICE : ID logique attribué au NeuronDevice. Cet ID est utilisé lors de la configuration de plusieurs environnements d'exécution pour en utiliser différents NeuronDevices.

  • NOYAUX DE NEURONES : Le nombre de noyaux NeuronCores présents dans le NeuronDevice.

  • MÉMOIRE NEURONALE : quantité de mémoire DRAM contenue dans le. NeuronDevice

  • APPAREILS CONNECTÉS : Autres appareils NeuronDevices connectés au NeuronDevice.

  • PCI BDF : ID de fonction de périphérique de bus PCI (BDF) du. NeuronDevice

Affichage de l'utilisation des ressources

Consultez des informations utiles sur NeuronCore l'utilisation du processeur virtuel, l'utilisation de la mémoire, les modèles chargés et les applications Neuron à l'aide de la neuron-top commande. Un lancement neuron-top sans argument affichera les données de toutes les applications d'apprentissage automatique qui utilisent NeuronCores. 

neuron-top

Lorsqu'une application en utilise quatre NeuronCores, la sortie doit ressembler à l'image suivante :

Le résultat de la neuron-top commande, avec les informations relatives à l'une des quatre NeuronCores mises en surbrillance.

Pour plus d'informations sur les ressources permettant de surveiller et d'optimiser les applications d' Neuron-based inférence, consultez Neuron Tools.

Utilisation de Neuron Monitor (neuron-monitor)

Neuron Monitor collecte des métriques à partir des environnements d'exécution Neuron exécutés sur le système et diffuse les données collectées vers stdout au format JSON. Ces mesures sont organisées en groupes de mesures que vous configurez en fournissant un fichier de configuration. Pour plus d'informations sur Neuron Monitor, consultez le Guide de l'utilisateur de Neuron Monitor.

Mise à niveau du logiciel Neuron

Pour plus d'informations sur la mise à jour du logiciel Neuron SDK dans DLAMI, consultez le AWS Guide de configuration Neuron. https://awsdocs-neuron.readthedocs-hosted.com/en/latest/neuron-intro/neuron-install-guide.html

Étape suivante

Utilisation du DLAMI avec AWS Neuron