Blog e casi di studio Notebook di esempio

Esempi di librerie di parallelismo SageMaker dei dati di Amazon

Questa pagina fornisce notebook Jupyter che presentano esempi di implementazione della libreria SageMaker Distributed Data Parallelism (SMDDP) su cui eseguire lavori di formazione distribuiti. SageMaker

Blog e casi di studio

I blog seguenti illustrano casi di studio sull'utilizzo della libreria SMDDP.

Blog SMDDP v2

Abilita una formazione più rapida con la libreria parallela di SageMaker dati di Amazon, AWS Machine Learning Blog (05 dicembre 2023)

Blog SMDDP v1

Come ho addestrato 10 TB per Stable Diffusion su SageMaker in Medium (29 novembre 2022)
Esegui PyTorch Lightning e PyTorch DDP nativo su Amazon SageMaker Training, con Amazon Search, AWS Machine Learning Blog (18 agosto 2022)
Addestramento di YOLov5 AWS con PyTorch e la libreria parallela di dati SageMaker distribuiti, Medium (6 maggio 2022)
Accelera l'addestramento dei EfficientNet modelli su SageMaker PyTorch e sulla libreria parallela di dati SageMaker distribuiti, Medium (21 marzo 2022)
Accelera la EfficientNet formazione AWS con la libreria parallela di dati SageMaker distribuiti, Towards Data Science (12 gennaio 2022)
Hyundai riduce i tempi di formazione sui modelli di machine learning per i modelli di guida autonoma utilizzando Amazon SageMaker, AWS Machine Learning Blog (25 giugno 2021)
Formazione distribuita: addestrare BART/T5 per il riepilogo utilizzando Transformers e Amazon, il sito Web di SageMaker Hugging Face (8 aprile 2021)

Notebook di esempio

I taccuini di esempio sono disponibili nell'archivio degli esempi. SageMaker GitHub Per scaricare gli esempi, esegui il seguente comando per clonare il repository e vai a. training/distributed_training/pytorch/data_parallel

Nota

Clona ed esegui i taccuini di esempio nei seguenti IDE ML. SageMaker

SageMaker JupyterLab(disponibile in Studio creato dopo dicembre 2023)
SageMaker Code Editor (disponibile in Studio creato dopo dicembre 2023)
Studio Classic (disponibile come applicazione in Studio creata dopo dicembre 2023)
SageMaker Istanze Notebook


git clone https://github.com/aws/amazon-sagemaker-examples.git
cd amazon-sagemaker-examples/training/distributed_training/pytorch/data_parallel

Esempi di SMDDP v2

Esempi di SMDDP v1

Avvertimento JavaScript è disabilitato o non è disponibile nel tuo browser.

Per usare la documentazione AWS, JavaScript deve essere abilitato. Consulta le pagine della guida del browser per le istruzioni.

Convenzioni dei documenti

Crea il tuo contenitore docker con la libreria

Consigli per la configurazione