Principais características da biblioteca de paralelismo de SageMaker modelos v2

A biblioteca de paralelismo de SageMaker modelos v2 (SMPv2) da Amazon oferece estratégias de distribuição e técnicas de economia de memória, como paralelismo de dados fragmentados, paralelismo de tensores e pontos de verificação. As estratégias e técnicas de paralelismo de modelos oferecidas pela SMP v2 ajudam a distribuir modelos grandes em vários dispositivos, otimizando a velocidade de treinamento e o consumo de memória. SMPA v2 também fornece um torch.sagemaker pacote Python para ajudar a adaptar seu script de treinamento com algumas linhas de alteração de código.

Este guia segue o fluxo básico de duas etapas apresentado emUse a biblioteca de paralelismo de SageMaker modelos v2. Para se aprofundar nos principais recursos da SMP v2 e como usá-los, consulte os tópicos a seguir.