Caratteristiche principali della libreria di parallelismo dei SageMaker modelli v2

La libreria di parallelismo dei SageMaker modelli Amazon v2 (SMPv2) offre strategie di distribuzione e tecniche di risparmio di memoria, come il parallelismo dei dati condivisi, il parallelismo tensoriale e il checkpoint. Le strategie e le tecniche di parallelismo dei modelli offerte da v2 aiutano a distribuire modelli di grandi dimensioni su più dispositivi, ottimizzando al contempo la velocità di allenamento e il consumo di memoria. SMP SMPv2 fornisce anche un torch.sagemaker pacchetto Python per aiutare ad adattare lo script di addestramento con poche righe di modifica del codice.

Questa guida segue il flusso di base in due fasi introdotto in. Usa la libreria di parallelismo dei SageMaker modelli v2 Per approfondire le funzionalità principali della SMP v2 e come utilizzarle, consulta i seguenti argomenti.