Ottimizza GPU le impostazioni sulle EC2 istanze Amazon - Amazon Elastic Compute Cloud

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ottimizza GPU le impostazioni sulle EC2 istanze Amazon

Esistono molte ottimizzazioni delle GPU impostazioni che puoi effettuare per raggiungere le prestazioni ottimali sulle NVIDIA GPU istanze. Con alcuni di questi tipi di istanze, il NVIDIA driver utilizza una funzione autoboost, che varia le velocità di GPU clock. Disattivando l'autoboost e impostando le velocità di GPU clock sulla loro frequenza massima è possibile ottenere prestazioni ottimali costanti delle istanze. GPU

  1. Configurare le GPU impostazioni per renderle persistenti. L'esecuzione di questo comando può richiedere diversi minuti.

    [ec2-user ~]$ sudo nvidia-persistenced

  2. [Istanze G3 e P2]: disabilitare la funzionalità autoboost per tutti GPUs sull'istanza.

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di GPU clock sulla loro frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del NVIDIA driver non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore"Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177

    • Istanze G4dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590

    • Istanze G5:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710

    • Istanze G6 e Gr6:

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040

    • Istanze G6e:

      [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520

    • Istanze P2:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875

    • Istanze P3 e P3dn:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530

    • Istanze P4d:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410

    • Istanze P4de:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410

    • Istanze P5:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

  1. Aprire una PowerShell nuova finestra e passare alla cartella NVIDIA di installazione.

    PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"

  2. [Istanze G3 e P2]: disabilitare la funzionalità autoboost per tutti GPUs sull'istanza.

    PS C:\> .\nvidia-smi --auto-boost-default=0

  3. Impostare tutte le velocità di GPU clock sulla loro frequenza massima. Utilizzare le velocità di clock di memoria e grafica specificate nei comandi seguenti.

    Alcune versioni del NVIDIA driver non supportano l'impostazione della velocità di clock dell'applicazione e visualizzano l'errore"Setting applications clocks is not supported for GPU...", che può essere ignorato.

    • Istanze G3:

      PS C:\> .\nvidia-smi -ac "2505,1177"

    • Istanze G4dn:

      PS C:\> .\nvidia-smi -ac "5001,1590"

    • Istanze G5:

      PS C:\> .\nvidia-smi -ac "6250,1710"

    • Istanze G6 e Gr6:

      PS C:\> .\nvidia-smi -ac "6251,2040"

    • Istanze G6e:

      PS C:\> .\nvidia-smi -ac "9001,2520"

    • Istanze P2:

      PS C:\> .\nvidia-smi -ac "2505,875"

    • Istanze P3 e P3dn:

      PS C:\> .\nvidia-smi -ac "877,1530"