View a markdown version of this page

Importanti modifiche ai driver NVIDIA per DLamis - AWS Deep Learning AMIs

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Importanti modifiche ai driver NVIDIA per DLamis

Il 15 novembre 2023, AWS ha apportato importanti modifiche a AWS Deep Learning AMIs (DLAMI) relative al driver NIVIDA utilizzato dai DLAMI. Per informazioni su cosa è cambiato e se ciò influisce sull'utilizzo dei DLamis da parte dell'utente, consulta. Domande frequenti sulla modifica del driver NVIDIA DLAMI

Domande frequenti sulla modifica del driver NVIDIA DLAMI

Cosa è cambiato?

Abbiamo diviso i DLAMI in due gruppi separati:

  • DLAMI che utilizzano driver proprietari NVIDIA (per supportare P3, P3dn, G3)

  • DLAMI che utilizzano il driver NVIDIA OSS (per supportare G4dn, G5, P4, P5)

Di conseguenza, abbiamo creato nuovi DLAMI per ciascuna delle due categorie con nuovi nomi e nuovi ID AMI. Questi DLAMI non sono intercambiabili. Cioè, le DLAMI di un gruppo non supportano le istanze supportate dall'altro gruppo. Ad esempio, il DLAMI che supporta P5 non supporta G3 e il DLAMI che supporta G3 non supporta P5.

Forcella DLAMI

Perché è stata necessaria questa modifica?

In precedenza, le DLAMIS per GPU NVIDIA includevano un driver kernel proprietario di NVIDIA. Tuttavia, la comunità del kernel Linux upstream ha accettato una modifica che isola i driver del kernel proprietari, come il driver per GPU NVIDIA, dalla comunicazione con altri driver del kernel. Questa modifica disabilita GPUDirect RDMA sulle istanze delle serie P4 e P5, ovvero il meccanismo che consente alle GPU di utilizzare in modo efficiente EFA per la formazione distribuita. Di conseguenza, i DLAMI ora utilizzano il driver OpenRM (driver open source NVIDIA), collegato ai driver EFA open source per supportare G4dn, G5, P4 e P5. Tuttavia, questo driver OpenRM non supporta le istanze più vecchie (come P3 e G3). Pertanto, per continuare a fornire DLAMI attuali, performanti e sicure che supportino entrambi i tipi di istanze, abbiamo suddiviso le DLAMI in due gruppi: uno con il driver OpenRM (che supporta G4dn, G5, P4 e P5) e uno con il driver proprietario precedente (che supporta P3, P3dn e G3).

Su quali DLAMI ha influito questa modifica?

Questa modifica ha interessato tutti i DLAMI.

Cosa significa questo per te?

Tutte le DLAMI continueranno a fornire funzionalità, prestazioni e sicurezza fintanto che le eseguirai su un tipo di istanza Amazon Elastic Compute Cloud (Amazon EC2) supportato. Per determinare i tipi di istanze EC2 supportati da un DLAMI, consulta le note di rilascio relative a quel DLAMI, quindi cerca le istanze EC2 supportate. Per un elenco delle opzioni DLAMI attualmente supportate e i collegamenti alle relative note di rilascio, vedere. Note di rilascio delle AMI di deep learning

Inoltre, è necessario utilizzare i comandi correct AWS Command Line Interface (AWS CLI) per richiamare i DLAMI correnti.

Per i DLAMI di base che supportano P3, P3dn e G3, utilizzate questo comando:

aws ec2 describe-images --region us-east-1 --owners amazon \ --filters 'Name=name,Values=Deep Learning Base Proprietary Nvidia Driver AMI (Amazon Linux 2) Version ??.?' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' --output text

Per i DLAMI di base che supportano G4dn, G5, P4 e P5, usa questo comando:

aws ec2 describe-images --region us-east-1 --owners amazon \ --filters 'Name=name,Values=Deep Learning Base OSS Nvidia Driver AMI (Amazon Linux 2) Version ??.?' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' --output text

C'è una perdita di funzionalità con i nuovi DLamis?

No, non vi è alcuna perdita di funzionalità. Le DLAMI attuali offrono tutte le funzionalità, le prestazioni e la sicurezza delle DLAMI precedenti, a condizione che vengano eseguite su un tipo di istanza EC2 supportato.

Questa modifica ha influito sui Deep Learning Containers?

No, questa modifica non ha influito sui AWS Deep Learning Containers, in quanto non includono il driver NVIDIA. Tuttavia, assicurati di eseguire Deep Learning Containers su AMI compatibili con le istanze sottostanti.