本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。
-
設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。
[ec2-user ~]$
sudo nvidia-persistenced -
[僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。
[ec2-user ~]$
sudo nvidia-smi --auto-boost-default=0 -
將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。
某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤
"Setting applications clocks is not supported for GPU..."
,您可以忽略此錯誤。-
G3 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac2505,1177
-
G4dn 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac5001,1590
-
G5 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac6250,1710
-
R6 和 Gr6 執行個體
[ec2-user ~]$
sudo nvidia-smi -ac6251,2040
-
G6e 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac9001,2520
-
P2 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac2505,875
-
P3 和 P3dn 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac877,1530
-
P4d 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac1215,1410
-
P4de 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac1593,1410
-
P5 執行個體:
[ec2-user ~]$
sudo nvidia-smi -ac2619,1980
-
-
開啟 PowerShell 視窗,然後瀏覽至 NVIDIA 安裝資料夾。
PS C:\>
cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\" -
[僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。
PS C:\>
.\nvidia-smi --auto-boost-default=0 -
將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。
某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤
"Setting applications clocks is not supported for GPU..."
,您可以忽略此錯誤。-
G3 執行個體:
PS C:\>
.\nvidia-smi -ac "2505,1177
" -
G4dn 執行個體:
PS C:\>
.\nvidia-smi -ac "5001,1590
" -
G5 執行個體:
PS C:\>
.\nvidia-smi -ac "6250,1710
" -
R6 和 Gr6 執行個體
PS C:\>
.\nvidia-smi -ac "6251,2040
" -
G6e 執行個體:
PS C:\>
.\nvidia-smi -ac "9001,2520
" -
P2 執行個體:
PS C:\>
.\nvidia-smi -ac "2505,875
" -
P3 和 P3dn 執行個體:
PS C:\>
.\nvidia-smi -ac "877,1530
"
-