Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Cette page fournit des blocs-notes Jupyter qui présentent des exemples de mise en œuvre de la bibliothèque de parallélisme de données distribué par l' SageMaker IA (SMDDP) pour exécuter des tâches de formation distribuées sur l'IA. SageMaker
Blogs et études de cas
Les blogs suivants présentent des études de cas sur l'utilisation de la bibliothèque SMDDP.
Blogues de SMDDP v2
-
Accélérez la formation grâce à la bibliothèque parallèle de données Amazon SageMaker AI
, AWS Machine Learning Blog (5 décembre 2023)
Blogues de SMDDP v1
-
Comment j'ai entraîné 10 To pour une diffusion stable sur l' SageMaker IA
dans Medium (29 novembre 2022) -
Exécutez PyTorch Lightning et le PyTorch DDP natif sur Amazon SageMaker Training, avec Amazon Search
, AWS Machine Learning Blog (18 août 2022) -
Formation YOLOv5 sur AWS l'utilisation PyTorch et la bibliothèque parallèle de données distribuées par l' SageMaker IA
, Medium (6 mai 2022) -
Accélérez l'entraînement des EfficientNet modèles sur l' SageMaker SageMaker IA grâce PyTorch à la bibliothèque parallèle de données distribuées AI
, Medium (21 mars 2022) -
Accélérez l' EfficientNet entraînement AWS grâce à la bibliothèque parallèle de données distribuées basée sur l' SageMaker IA
, Towards Data Science (12 janvier 2022) -
Hyundai réduit le temps de formation des modèles ML pour les modèles de conduite autonome à l'aide d'Amazon SageMaker AI
, AWS Machine Learning Blog (25 juin 2021) -
Formation distribuée : apprenez à BART/T5 à la synthèse à l'aide de Transformers et d'Amazon AI, SageMaker le site
Web Hugging Face (8 avril 2021)
Exemples de blocs-notes
Des carnets d'exemples sont fournis dans le GitHub référentiel d'exemples d'SageMaker IAtraining/distributed_training/pytorch/data_parallel.
Note
Clonez et exécutez les exemples de blocs-notes dans l' SageMaker AI ML IDEs suivant.
-
SageMaker AI JupyterLab (disponible dans Studio créé après décembre 2023)
-
SageMaker Éditeur de code AI (disponible dans Studio créé après décembre 2023)
-
Studio Classic (disponible sous forme d'application dans Studio créée après décembre 2023)
git clone https://github.com/aws/amazon-sagemaker-examples.git
cd amazon-sagemaker-examples/training/distributed_training/pytorch/data_parallelExemples de SMDDP v2
Exemples de SMDDP v1
-
CNN avec PyTorch et la bibliothèque de parallélisme de données SageMaker AI
-
BERT avec PyTorch et la bibliothèque de parallélisme de données SageMaker AI
-
CNN avec TensorFlow 2.3.1 et la bibliothèque de parallélisme de données SageMaker AI
-
BERT avec TensorFlow 2.3.1 et la bibliothèque de parallélisme de données SageMaker AI
-
HuggingFace Formation parallèle aux données distribuées TensorFlow sur l' SageMaker IA
