Optimisation GPU des paramètres sur les EC2 instances Amazon - Amazon Elastic Compute Cloud

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Optimisation GPU des paramètres sur les EC2 instances Amazon

Il existe plusieurs optimisations de GPU paramètres que vous pouvez effectuer pour obtenir les meilleures performances sur NVIDIA GPU les instances. Avec certains de ces types d'instances, le NVIDIA pilote utilise une fonction d'accélération automatique, qui fait varier les vitesses d'GPUhorloge. En désactivant l'autoboost et en réglant les vitesses d'GPUhorloge sur leur fréquence maximale, vous pouvez toujours obtenir des performances maximales avec vos GPU instances.

  1. Configurez les GPU paramètres pour qu'ils soient persistants. L’exécution de cette commande peut prendre plusieurs minutes.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Instances G3 et P2 uniquement] Désactivez la fonction Autoboost pour tous les utilisateurs de GPUs l'instance.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Réglez toutes les vitesses d'GPUhorloge sur leur fréquence maximale. Utilisez les vitesses d’horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

    Certaines versions du NVIDIA pilote ne prennent pas en charge le réglage de la vitesse d'horloge de l'application et affichent l'erreur"Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

    • instances G3 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • instances G4dn :

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Instances G5 :

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Instances G6 et Gr6 :

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • Instances G6e :

      [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520

    • instances P2 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • instances P3 et P3dn :

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • instances P4d :

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Instances P4de :

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Instances P5 :

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Ouvrez une PowerShell fenêtre et accédez au dossier NVIDIA d'installation.

    cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"

  2. [Instances G3 et P2 uniquement] Désactivez la fonction Autoboost pour tous les utilisateurs de GPUs l'instance.

    .\nvidia-smi --auto-boost-default=0

  3. Réglez toutes les vitesses d'GPUhorloge sur leur fréquence maximale. Utilisez les vitesses d’horloge de mémoire et de graphiques spécifiées dans les commandes suivantes.

    Certaines versions du NVIDIA pilote ne prennent pas en charge le réglage de la vitesse d'horloge de l'application et affichent l'erreur"Setting applications clocks is not supported for GPU...", que vous pouvez ignorer.

    • instances G3 :

      .\nvidia-smi -ac "2505,1177"

    • instances G4dn :

      .\nvidia-smi -ac "5001,1590"

    • Instances G5 :

      .\nvidia-smi -ac "6250,1710"

    • Instances G6 et Gr6 :

      .\nvidia-smi -ac "6251,2040"

    • Instances G6e :

      .\nvidia-smi -ac "9001,2520"

    • instances P2 :

      .\nvidia-smi -ac "2505,875"

    • instances P3 et P3dn :

      .\nvidia-smi -ac "877,1530"