

# Otimização das configurações de GPU em instâncias do Amazon EC2
<a name="optimize_gpu"></a>

Há várias otimizações de configuração de GPU que é possível executar para obter a melhor performance nas instâncias GPU NIVIDIA. Com alguns desses tipos de instância, o driver NVIDIA usa um recurso de autoboost, que varia as velocidades de clock da GPU. Ao desativar o recurso de autoboost e definir as velocidades de clock de GPU como a frequência máxima, você pode atingir a performance máxima de forma consistente com suas instâncias de GPU.

## Otimização das configurações de GPU no Linux
<a name="optimize-gpu-linux"></a>

1. Defina as configurações de GPU para serem persistentes. Esse comando pode levar vários minutos para ser executado.

   ```
   [ec2-user ~]$ sudo nvidia-persistenced
   ```

1. [Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.

   ```
   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
   ```

1. Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.

   Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro `"Setting applications clocks is not supported for GPU..."`, que é possível ignorar.
   + Instâncias G3:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
     ```
   + Instâncias G4dn:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
     ```
   + Instâncias G5:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710
     ```
   + Instâncias G6, G6f, Gr6 e Gr6f:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040
     ```
   + Instâncias G6e:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520
     ```
   + Instâncias G7e:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 12481,2430
     ```
   + Instâncias P2:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
     ```
   + Instâncias P3 e P3dn:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
     ```
   + Instâncias P4d:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410
     ```
   + Instâncias P4de:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410
     ```
   + Instâncias P5:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980
     ```
   + Instâncias P5e e P5en:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 3201,1980
     ```
   + Instâncias P6-B200:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 3996,1965
     ```
   + Instâncias P6-B300:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac 3996,2032
     ```

## Otimização das configurações de GPU no Windows
<a name="optimize-gpu-windows"></a>

1. Abra uma janela do PowerShell e navegue para a pasta de instalação NVIDIA.

   ```
   PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"
   ```

1. [Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.

   ```
   PS C:\> .\nvidia-smi --auto-boost-default=0
   ```

1. Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.

   Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro `"Setting applications clocks is not supported for GPU..."`, que é possível ignorar.
   + Instâncias G3:

     ```
     PS C:\> .\nvidia-smi -ac "2505,1177"
     ```
   + Instâncias G4dn:

     ```
     PS C:\> .\nvidia-smi -ac "5001,1590"
     ```
   + Instâncias G5:

     ```
     PS C:\> .\nvidia-smi -ac "6250,1710"
     ```
   + Instâncias G6, G6f, Gr6 e Gr6f:

     ```
     PS C:\> .\nvidia-smi -ac "6251,2040"
     ```
   + Instâncias G6e:

     ```
     PS C:\> .\nvidia-smi -ac "9001,2520"
     ```
   + Instâncias P2:

     ```
     PS C:\> .\nvidia-smi -ac "2505,875"
     ```
   + Instâncias P3 e P3dn:

     ```
     PS C:\> .\nvidia-smi -ac "877,1530"
     ```