View a markdown version of this page

Exécuter des tâches GPU - AWS Batch

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Exécuter des tâches GPU

Les tâches GPU vous aident à exécuter des tâches qui utilisent les GPU d'une instance.

Les types d' GPU-based instances Amazon EC2 suivants sont pris en charge. Pour plus d'informations, consultez Instances Amazon EC2 G3, Instances Amazon EC2 G4, Instances Amazon EC2 G5, Instances Amazon EC2 G6, Instances Amazon EC2 P2, Instances Amazon EC2 P3, Instances Amazon EC2 P4d, Instances Amazon EC2 P5, Instances Amazon EC2 P6, Instances Amazon EC2 Trn1, Instances Amazon EC2 Trn2, https://aws.amazon.com/ec2/instance-types/trn1/ https://aws.amazon.com/ec2/instance-types/trn2/ Instances Amazon EC2 Inf1, instances Amazon EC2 Inf2, instances Amazon EC2 Dl1 et instances https://aws.amazon.com/ec2/instance-types/dl1/ Amazon EC2 Dl2. https://aws.amazon.com/ec2/instance-types/dl2q/

Type d’instance

Processeurs graphiques

Mémoire GPU

vCPU

Mémoire

Bande passante du réseau

g3s.xlarge

1

8 GiO

4

30,5 Gio

10 Gbit/s

g3.4xlarge

1

8 GiO

16

122 Go

Jusqu'à 10 Gbit/s

g3.8xlarge

2

16 GiO

32

244 Go

10 Gbit/s

g3.16xlarge

4

32 GiO

64

488 Gio

25 Gb/s

g4dn.xlarge

1

16 GiO

4

16 GiO

Jusqu'à 25 Gbit/s

g4dn.2xlarge

1

16 GiO

8

32 GiO

Jusqu'à 25 Gbit/s

g4dn.4xlarge

1

16 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g4dn.8xlarge

1

16 GiO

32

128 Gio

50 Gb/s

g4dn.12xlarge

4

64 Go

48

192 Go

50 Gb/s

g4dn.16xlarge

1

16 GiO

64

256 Gio

50 Gb/s

g5.xlarge

1

24 GiO

4

16 GiO

Jusqu'à 10 Gbit/s

g5.2xlarge

1

24 GiO

8

32 GiO

Jusqu'à 10 Gbit/s

g5.4xlarge

1

24 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g5.8xlarge

1

24 GiO

32

128 Gio

25 Gb/s

g5.16xlarge

1

24 GiO

64

256 Gio

25 Gb/s

g5.12xlarge

4

96 Go

48

192 Go

40 Gbit/s

g5.24xlarge

4

96 Go

96

384 Go

50 Gb/s

g5.48xlarge

8

192 Go

192

768 Gio

100 Gbit/s

g5g.xlarge

1

16 GiO

4

8 GiO

Jusqu'à 10 Gbit/s

g5g.2xlarge

1

16 GiO

8

16 GiO

Jusqu'à 10 Gbit/s

g5g.4xlarge

1

16 GiO

16

32 GiO

Jusqu'à 10 Gbit/s

g5g.8xlarge

1

16 GiO

32

64 Go

12 Gb/s

g5g.16xlarge

2

32 GiO

64

128 Gio

25 Gb/s

g5g.metal

2

32 GiO

64

128 Gio

25 Gb/s

g6.xlarge

1

24 GiO

4

16 GiO

Jusqu'à 10 Gbit/s

g6.2xlarge

1

24 GiO

8

32 GiO

Jusqu'à 10 Gbit/s

g6.4xlarge

1

24 GiO

16

64 Go

Jusqu'à 25 Gbit/s

g6.8xlarge

1

24 GiO

32

128 Gio

25 Gb/s

g6.16xlarge

1

24 GiO

64

256 Gio

25 Gb/s

g6.12xlarge

4

96 Go

48

192 Go

40 Gbit/s

g6.24xlarge

4

96 Go

96

384 Go

50 Gb/s

g6.48xlarge

8

192 Go

192

768 Gio

100 Gbit/s

g6e.xlarge

1

48 GiO

4

32 GiO

Jusqu'à 20 Gbit/s

g6e.2xlarge

1

48 GiO

8

64 Go

Jusqu'à 20 Gbit/s

g6e.4xlarge

1

48 GiO

16

128 Gio

20 Gbit/s

g6e.8xlarge

1

48 GiO

32

256 Gio

25 Gb/s

g6e.16xlarge

1

48 GiO

64

512 Gio

35 Gbit/s

g6e.12xlarge

4

192 Go

48

384 Go

100 Gbit/s

g6e.24xlarge

4

192 Go

96

768 Gio

200 Gb/s

g6e.48xlarge

8

384 Go

192

1536 GiB

400 Gb/s

gr6.4xlarge

1

24 GiO

16

128 Gio

Jusqu'à 25 Gbit/s

gr6.8xlarge

1

24 GiO

32

256 Gio

25 Gb/s

p2.xlarge

1

12 GiO

4

61 Go

Élevée

p2.8xlarge

8

96 Go

32

488 Gio

10 Gbit/s

p2.16xlarge

16

192 Go

64

732 Gio

20 Gbit/s

p3.2xlarge

1

16 GiO

8

61 Go

Jusqu'à 10 Gbit/s

p3.8xlarge

4

64 Go

32

244 Go

10 Gbit/s

p3.16xlarge

8

128 Gio

64

488 Gio

25 Gb/s

p3dn.24xlarge

8

256 Gio

96

768 Gio

100 Gbit/s

p4d.24xlarge

8

320 Gio

96

1152 Go

400 Gb/s

p4de.24xlarge

8

640 Gio

96

1152 Go

400 Gb/s

p5.48xlarge

8

640 Gio

192

2 Tio

3200 Gbit/s

p5e.48xlarge

8

128 Gio

192

2 Tio

3200 Gbit/s

p5en.48xlarge

8

128 Gio

192

2 Tio

3200 Gbit/s

p6-b200.48xlarge

8

1440 Gio

192

2 Tio

100 Gbit/s

trn1.2xlarge

1

32 GiO

8

32 GiO

Jusqu'à 12,5 Gbps

trn1.32xlarge

16

512 Gio

128

512 Gio

800 Gb/s

trn1n.32xlarge

16

512 Gio

128

512 Gio

1600 Gbit/s

trn2.48xlarge

16

1,5 Tio

192

2 Tio

3,2 cuillères à soupe

inf1.xlarge

1

8 GiO

4

8 GiO

Jusqu'à 25 Gbit/s

inf1.2xlarge

1

8 GiO

8

16 GiO

Jusqu'à 25 Gbit/s

inf1.6xlarge

4

32 GiO

24

48 GiO

25 Gb/s

inf1.24xlarge

16

128 Gio

96

192 Go

100 Gbit/s

inf2.xlarge

1

32 GiO

4

16 GiO

Jusqu'à 15 Gbit/s

inf2.8xlarge

1

32 GiO

32

128 Gio

Jusqu'à 25 Gbit/s

inf2.24xlarge

6

192 Go

96

384 Go

50 Gb/s

inf2.48xlarge

12

384 Go

192

768 Gio

100 Gbit/s

dl1.24xlarge

8

256 Gio

96

768 Gio

400 Gb/s

dl2q.24xlarge

8

128 Gio

96

768 Gio

100 Gbit/s

Note

Pour les tâches GPU, AWS Batch seuls les types d'instances dotés de GPU NVIDIA sont pris en charge. Par exemple, la G4ad famille n'est pas prise en charge pour la planification des GPU. Vous pouvez toujours utiliser G4ad on AWS Batch en définissant uniquement les exigences en matière de processeur virtuel et de mémoire dans la définition de la tâche, puis en accédant aux GPU hôtes directement en personnalisant les données utilisateur d'un modèle de lancement Amazon EC2 avec une AMI optimisée pour le calcul Amazon ECS ou Amazon EKS, ou une AMI personnalisée pour l'utilisation de GPU AMD.

Les types d'instances qui utilisent une architecture ARM64 sont pris en charge pour les tâches GPU sur les AMI personnalisées fournies AWS Batch ou les données utilisateur Amazon EC2 pour accéder aux GPU par un code et des configurations personnalisés. Par exemple, la famille d'G5ginstances.

Le paramètre ResourceRequirements de la définition de tâche spécifie le nombre de GPU à épingler dans le conteneur. Ce nombre de GPU n'est disponible pour aucune autre tâche exécutée sur cette instance pendant la durée de cette tâche. Tous les types d'instances d'un environnement informatique qui exécutent des tâches GPU doivent appartenir aux familles d'g6instances p3 p4 p5 p6 g3g3s,g4,g5,,, ou. Si cela n'est pas fait, une tâche GPU risque de rester bloquée dans le RUNNABLE statut.

Les tâches qui n'utilisent pas les GPU peuvent être exécutées sur des instances GPU. Cependant, leur exécution sur des instances GPU peut être plus coûteuse que sur des instances similaires non GPU. En fonction du vCPU, de la mémoire et du temps nécessaires, ces tâches non liées au GPU peuvent empêcher l'exécution des tâches GPU.