選取您的 Cookie 偏好設定

我們使用提供自身網站和服務所需的基本 Cookie 和類似工具。我們使用效能 Cookie 收集匿名統計資料,以便了解客戶如何使用我們的網站並進行改進。基本 Cookie 無法停用,但可以按一下「自訂」或「拒絕」以拒絕效能 Cookie。

如果您同意,AWS 與經核准的第三方也會使用 Cookie 提供實用的網站功能、記住您的偏好設定,並顯示相關內容,包括相關廣告。若要接受或拒絕所有非必要 Cookie,請按一下「接受」或「拒絕」。若要進行更詳細的選擇,請按一下「自訂」。

在 Amazon EC2 執行個體最佳化 GPU 設定

焦點模式
在 Amazon EC2 執行個體最佳化 GPU 設定 - Amazon Elastic Compute Cloud

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

您可以執行數種 GPU 設定最佳化,讓 NVIDIA GPU執行個體發揮最佳效能。透過其中一些執行個體類型,NVIDIA 驅動程式會使用 Autoboost 功能,而這會改變 GPU 時脈速度。您可以停用 Autoboost 並將 GPU 時脈速度設為頻率上限,即可持續發揮 GPU 執行個體的最大效能。

  1. 設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • G5 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710
    • R6 和 Gr6 執行個體

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040
    • G6e 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520
    • P2 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 和 P3dn 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
    • P4d 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410
    • P4de 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410
    • P5 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980

在 Linux 最佳化 GPU 設定

  1. 設定 GPU 以保有持續性。此命令可能需要幾分鐘的執行時間。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • G5 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710
    • R6 和 Gr6 執行個體

      [ec2-user ~]$ sudo nvidia-smi -ac 6251,2040
    • G6e 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 9001,2520
    • P2 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 和 P3dn 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
    • P4d 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410
    • P4de 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410
    • P5 執行個體:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980
  1. 開啟 PowerShell 視窗,然後瀏覽至 NVIDIA 安裝資料夾。

    PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"
  2. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    PS C:\> .\nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      PS C:\> .\nvidia-smi -ac "2505,1177"
    • G4dn 執行個體:

      PS C:\> .\nvidia-smi -ac "5001,1590"
    • G5 執行個體:

      PS C:\> .\nvidia-smi -ac "6250,1710"
    • R6 和 Gr6 執行個體

      PS C:\> .\nvidia-smi -ac "6251,2040"
    • G6e 執行個體:

      PS C:\> .\nvidia-smi -ac "9001,2520"
    • P2 執行個體:

      PS C:\> .\nvidia-smi -ac "2505,875"
    • P3 和 P3dn 執行個體:

      PS C:\> .\nvidia-smi -ac "877,1530"

  1. 開啟 PowerShell 視窗,然後瀏覽至 NVIDIA 安裝資料夾。

    PS C:\> cd "C:\Windows\System32\DriverStore\FileRepository\nvgridsw_aws.inf_*\"
  2. [僅限 G3 和 P2 執行個體] 停用執行個體上所有 GPU 的 Autoboost 功能。

    PS C:\> .\nvidia-smi --auto-boost-default=0
  3. 將所有 GPU 時脈速度設為頻率上限。使用下列命令中指定的記憶體和圖形時脈速度。

    某些版本的 NVIDIA 驅動程式不支援設定應用程式時脈速度,會顯示錯誤 "Setting applications clocks is not supported for GPU...",您可以忽略此錯誤。

    • G3 執行個體:

      PS C:\> .\nvidia-smi -ac "2505,1177"
    • G4dn 執行個體:

      PS C:\> .\nvidia-smi -ac "5001,1590"
    • G5 執行個體:

      PS C:\> .\nvidia-smi -ac "6250,1710"
    • R6 和 Gr6 執行個體

      PS C:\> .\nvidia-smi -ac "6251,2040"
    • G6e 執行個體:

      PS C:\> .\nvidia-smi -ac "9001,2520"
    • P2 執行個體:

      PS C:\> .\nvidia-smi -ac "2505,875"
    • P3 和 P3dn 執行個體:

      PS C:\> .\nvidia-smi -ac "877,1530"
隱私權網站條款Cookie 偏好設定
© 2025, Amazon Web Services, Inc.或其附屬公司。保留所有權利。