Blogs e estudos de caso Cadernos de exemplo

Exemplos da biblioteca de paralelismo de dados da Amazon SageMaker AI

Esta página fornece notebooks Jupyter que apresentam exemplos de implementação da biblioteca de paralelismo de dados distribuídos de SageMaker IA (SMDDP) para executar trabalhos de treinamento distribuídos em IA. SageMaker

Blogs e estudos de caso

Os blogs a seguir discutem estudos de caso a respeito do uso da biblioteca SMDDP.

Blogs do SMDDP v2

Permita um treinamento mais rápido com a biblioteca paralela de dados de SageMaker IA da Amazon, Blog de AWS Machine Learning (05 de dezembro de 2023)

Blogs do SMDDP v1

Como treinei 10 TB para difusão estável em SageMaker IA no Medium (29 de novembro de 2022)
Execute o PyTorch Lightning e o PyTorch DDP nativo no Amazon SageMaker Training, com o Amazon Search, AWS Machine Learning Blog (18 de agosto de 2022)
Treinamento YOLOv5 em AWS with PyTorch and the SageMaker AI Distributed Data Parallel Library, Medium (6 de maio de 2022)
Acelere o treinamento de EfficientNet modelos em SageMaker IA com PyTorch a biblioteca paralela de dados distribuídos de SageMaker IA, Medium (21 de março de 2022)
Acelere o EfficientNet treinamento AWS com a biblioteca paralela de dados distribuídos de SageMaker IA, Towards Data Science (12 de janeiro de 2022)
Hyundai reduz o tempo de treinamento de modelos de ML para modelos de direção autônoma usando Amazon SageMaker AI, AWS Machine Learning Blog (25 de junho de 2021)
Treinamento distribuído: Treine o BART/T5 para resumir usando Transformers e Amazon AI, SageMaker o site Hugging Face (8 de abril de 2021)

Cadernos de exemplo

Os notebooks de exemplo são fornecidos no GitHub repositório de exemplos de SageMaker IA. Para baixar os exemplos, execute o seguinte comando para clonar o repositório e acesse training/distributed_training/pytorch/data_parallel:

nota

Clone e execute os notebooks de exemplo no SageMaker AI ML a seguir. IDEs

SageMaker AI JupyterLab (disponível no Studio criado após dezembro de 2023)
SageMaker Editor de código AI (disponível no Studio criado após dezembro de 2023)
Studio Classic (disponível como uma aplicação no Studio criado após dezembro de 2023)
SageMaker Instâncias de notebook


git clone https://github.com/aws/amazon-sagemaker-examples.git
cd amazon-sagemaker-examples/training/distributed_training/pytorch/data_parallel

Exemplos de SMDDP v2

Exemplos de SMDDP v1

Atenção O Javascript está desativado ou não está disponível no seu navegador.

Para usar a documentação da AWS, o Javascript deve estar ativado. Consulte as páginas de Ajuda do navegador para obter instruções.

Convenções do documento

Crie seus próprios contêineres do Docker com a biblioteca

Dicas de configuração