

# Otimização das configurações de GPU em instâncias do Amazon EC2
<a name="optimize_gpu"></a>

Há várias otimizações de configuração de GPU que é possível executar para obter a melhor performance nas instâncias GPU NIVIDIA. Com alguns desses tipos de instância, o driver NVIDIA usa um recurso de autoboost, que varia as velocidades de clock da GPU. Ao desativar o recurso de autoboost e definir as velocidades de clock de GPU como a frequência máxima, você pode atingir a performance máxima de forma consistente com suas instâncias de GPU.

## Otimização das configurações de GPU no Linux
<a name="optimize-gpu-linux"></a>

1. Defina as configurações de GPU para serem persistentes. Esse comando pode levar vários minutos para ser executado.

   ```
   [ec2-user ~]$ sudo nvidia-persistenced
   ```

1. [Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.

   ```
   [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
   ```

1. Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.

   Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro `"Setting applications clocks is not supported for GPU..."`, que é possível ignorar.
   + Instâncias G3:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2505,1177}}
     ```
   + Instâncias G4dn:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{5001,1590}}
     ```
   + Instâncias G5:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{6250,1710}}
     ```
   + Instâncias G6, G6f, Gr6 e Gr6f:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{6251,2040}}
     ```
   + Instâncias G6e:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{9001,2520}}
     ```
   + Instâncias G7e:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{12481,2430}}
     ```
   + Instâncias P2:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2505,875}}
     ```
   + Instâncias P3 e P3dn:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{877,1530}}
     ```
   + Instâncias P4d:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{1215,1410}}
     ```
   + Instâncias P4de:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{1593,1410}}
     ```
   + Instâncias P5:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{2619,1980}}
     ```
   + Instâncias P5e e P5en:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3201,1980}}
     ```
   + Instâncias P6-B200:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3996,1965}}
     ```
   + Instâncias P6-B300:

     ```
     [ec2-user ~]$ sudo nvidia-smi -ac {{3996,2032}}
     ```

## Otimização das configurações de GPU no Windows
<a name="optimize-gpu-windows"></a>

1. Abra uma janela do PowerShell e navegue para a pasta de instalação NVIDIA.

   ```
   PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"
   ```

1. [Somente para instâncias G3 e P2] Desabilite o recurso de autoboost para todas as GPUs na instância.

   ```
   PS C:\> .\nvidia-smi --auto-boost-default=0
   ```

1. Defina todas as velocidades de relógio de GPU como a frequência máxima. Use a memória e as velocidades de relógio de placa gráfica especificadas nos seguintes comandos.

   Algumas versões do driver NVIDIA não suportam a configuração da velocidade de clock da aplicação e exibem o erro `"Setting applications clocks is not supported for GPU..."`, que é possível ignorar.
   + Instâncias G3:

     ```
     PS C:\> .\nvidia-smi -ac "{{2505,1177}}"
     ```
   + Instâncias G4dn:

     ```
     PS C:\> .\nvidia-smi -ac "{{5001,1590}}"
     ```
   + Instâncias G5:

     ```
     PS C:\> .\nvidia-smi -ac "{{6250,1710}}"
     ```
   + Instâncias G6, G6f, Gr6 e Gr6f:

     ```
     PS C:\> .\nvidia-smi -ac "{{6251,2040}}"
     ```
   + Instâncias G6e:

     ```
     PS C:\> .\nvidia-smi -ac "{{9001,2520}}"
     ```
   + Instâncias P2:

     ```
     PS C:\> .\nvidia-smi -ac "{{2505,875}}"
     ```
   + Instâncias P3 e P3dn:

     ```
     PS C:\> .\nvidia-smi -ac "{{877,1530}}"
     ```