View a markdown version of this page

Esegui processi GPU - AWS Batch

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Esegui processi GPU

I processi GPU consentono di eseguire processi che utilizzano le GPU di un'istanza.

Sono supportati i seguenti tipi di GPU-based istanze Amazon EC2. Per ulteriori informazioni, consulta le istanze Amazon EC2 G3, le istanze Amazon EC2 G4, le istanze Amazon EC2 G5, le istanze Amazon EC2 G6, le istanze Amazon EC2 P2, le istanze Amazon EC2 P3, le istanze Amazon EC2 P4d, le istanze Amazon EC2 P5, le istanze Amazon EC2 P6, le istanze Amazon EC2 Trn1, le istanze Amazon EC2 Trn2, https://aws.amazon.com/ec2/instance-types/p6/ https://aws.amazon.com/ec2/instance-types/trn1/ https://aws.amazon.com/ec2/instance-types/trn2/ Istanze Amazon EC2 Inf1, istanze Amazon EC2 In172, istanze Amazon EC2 Dl1 e istanze Amazon EC2 Dl2.

Tipo di istanza

GPU

Memoria GPU

vCPU

Memoria

Larghezza di banda di rete

g3s.xlarge

1

8 GiB

4

30,5 GiB

10 Gb/s

g3.4xlarge

1

8 GiB

16

122 GiB

Fino a 10 Gb/s

g3.8xlarge

2

16 GiB

32

244 GiB

10 Gb/s

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gb/s

g4dn.xlarge

1

16 GiB

4

16 GiB

Fino a 25 Gb/s

g4dn.2xlarge

1

16 GiB

8

32 GiB

Fino a 25 Gb/s

g4dn.4xlarge

1

16 GiB

16

64 GiB

Fino a 25 Gb/s

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gb/s

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gb/s

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gb/s

g5.xlarge

1

24 GiB

4

16 GiB

Fino a 10 Gb/s

g5.2xlarge

1

24 GiB

8

32 GiB

Fino a 10 Gb/s

g5.4xlarge

1

24 GiB

16

64 GiB

Fino a 25 Gb/s

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gb/s

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gb/s

g5.12xlarge

4

96 GiB

48

192 GiB

40 Gb/s

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gb/s

g5.48xlarge

8

192 GiB

192

768 GiB

100 Gb/s

g5g.xlarge

1

16 GiB

4

8 GiB

Fino a 10 Gb/s

g5g.2xlarge

1

16 GiB

8

16 GiB

Fino a 10 Gb/s

g5g.4xlarge

1

16 GiB

16

32 GiB

Fino a 10 Gb/s

g5g.8xlarge

1

16 GiB

32

64 GiB

12 GBps

g5g.16xlarge

2

32 GiB

64

128 GiB

25 Gb/s

g5g.metal

2

32 GiB

64

128 GiB

25 Gb/s

g6.xlarge

1

24 GiB

4

16 GiB

Fino a 10 Gb/s

g6.2xlarge

1

24 GiB

8

32 GiB

Fino a 10 Gb/s

g6.4xlarge

1

24 GiB

16

64 GiB

Fino a 25 Gb/s

g6.8xlarge

1

24 GiB

32

128 GiB

25 Gb/s

g6.16xlarge

1

24 GiB

64

256 GiB

25 Gb/s

g6.12xlarge

4

96 GiB

48

192 GiB

40 Gb/s

g6.24xlarge

4

96 GiB

96

384 GiB

50 Gb/s

g6.48xlarge

8

192 GiB

192

768 GiB

100 Gb/s

g6e.xlarge

1

48 GiB

4

32 GiB

Fino a 20 Gbps

g6e.2xlarge

1

48 GiB

8

64 GiB

Fino a 20 Gbps

g6e.4xlarge

1

48 GiB

16

128 GiB

20 Gb/s

g6e.8xlarge

1

48 GiB

32

256 GiB

25 Gb/s

g6e.16xlarge

1

48 GiB

64

512 GiB

35 Gbps

g6e.12xlarge

4

192 GiB

48

384 GiB

100 Gb/s

g6e.24xlarge

4

192 GiB

96

768 GiB

200 Gb/s

g6e.48xlarge

8

384 GiB

192

1536 GiB

400 Gb/s

gr6.4xlarge

1

24 GiB

16

128 GiB

Fino a 25 Gb/s

gr6.8xlarge

1

24 GiB

32

256 GiB

25 Gb/s

p2.xlarge

1

12 GiB

4

61 GiB

Elevata

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gb/s

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gb/s

p3.2xlarge

1

16 GiB

8

61 GiB

Fino a 10 Gb/s

p3.8xlarge

4

64 GiB

32

244 GiB

10 Gb/s

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gb/s

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gb/s

p4d.24xlarge

8

320 GiB

96

152 GiB

400 Gb/s

p4de.24xlarge

8

640 GiB

96

152 GiB

400 Gb/s

p5.48xlarge

8

640 GiB

192

2 TiB

3200 Gbps

p5e.48xlarge

8

128 GiB

192

2 TiB

3200 Gbps

p5en.48xlarge

8

128 GiB

192

2 TiB

3200 Gbps

p6-b200.48xlarge

8

1440 GiB

192

2 TiB

100 Gb/s

trn1.2xlarge

1

32 GiB

8

32 GiB

Fino a 12,5 Gb/s

trn1.32xlarge

16

512 GiB

128

512 GiB

800 Gbps

trn1n.32xlarge

16

512 GiB

128

512 GiB

1600 Gbps

trn2.48xlarge

16

1,5 TiB

192

2 TiB

3,2 Tbps

inf1.xlarge

1

8 GiB

4

8 GiB

Fino a 25 Gb/s

inf1.2xlarge

1

8 GiB

8

16 GiB

Fino a 25 Gb/s

inf1.6xlarge

4

32 GiB

24

48 GiB

25 Gb/s

inf1.24xlarge

16

128 GiB

96

192 GiB

100 Gb/s

inf2.xlarge

1

32 GiB

4

16 GiB

Fino a 15 Gb/s

inf2.8xlarge

1

32 GiB

32

128 GiB

Fino a 25 Gb/s

inf2.24xlarge

6

192 GiB

96

384 GiB

50 Gb/s

inf2.48xlarge

12

384 GiB

192

768 GiB

100 Gb/s

dl1.24xlarge

8

256 GiB

96

768 GiB

400 Gb/s

dl2q.24xlarge

8

128 GiB

96

768 GiB

100 Gb/s
Nota

Per i lavori con GPU supporta AWS Batch solo i tipi di istanza con GPU NVIDIA. Ad esempio, la G4ad famiglia non è supportata per la pianificazione delle GPU. Puoi comunque utilizzare G4ad on AWS Batch definendo solo i requisiti di vcpu e memoria nella definizione del job, quindi accedendo direttamente alle GPU host tramite la personalizzazione in un modello di avvio Amazon EC2 dei dati utente con un'AMI ottimizzata per l'elaborazione di Amazon ECS o Amazon EKS o un'AMI personalizzata per l'utilizzo delle GPU AMD.

I tipi di istanza che utilizzano un'architettura ARM64 sono supportati per i lavori GPU su AMI personalizzate fornite AWS Batch o dati utente di Amazon EC2 per accedere alle GPU tramite codice e configurazioni personalizzati. Ad esempio, la famiglia di istanze. G5g

Il parametro ResourceRequirements per la definizione del job specifica il numero di GPU da aggiungere al contenitore. Questo numero di GPU non è disponibile per nessun altro job eseguito su quell'istanza per la durata del job. Tutti i tipi di istanze in un ambiente di calcolo che eseguono processi GPU devono appartenere alle p3 famigliep4,,p5,p6, g3 g3s g4g5, o g6 di istanze. In caso contrario, un job GPU potrebbe rimanere bloccato nello stato. RUNNABLE

I processi che non utilizzano le GPU possono essere eseguiti su istanze GPU. Tuttavia, l'esecuzione su istanze GPU potrebbe costare di più rispetto a istanze simili non GPU. A seconda della vCPU, della memoria e del tempo specifici necessari, questi processi non GPU potrebbero bloccare l'esecuzione dei processi GPU.

Argomenti