Principais características da biblioteca de paralelismo de SageMaker modelos v2

A biblioteca de paralelismo de modelos Amazon SageMaker AI v2 (SMP v2) oferece estratégias de distribuição e técnicas de economia de memória, como paralelismo de dados fragmentados, paralelismo de tensores e pontos de verificação. As estratégias e técnicas de paralelismo de modelos oferecidas pelo SMP v2 ajudam a distribuir grandes modelos em vários dispositivos, otimizando a velocidade de treinamento e o consumo de memória. O SMP v2 também fornece um pacote Python torch.sagemaker para ajudar a adaptar seu script de treinamento com poucas linhas de alteração de código.

Este guia acompanha o fluxo básico de duas etapas apresentado em Use a biblioteca de paralelismo de SageMaker modelos v2. Para se aprofundar nos principais atributos do SMP v2 e como usá-los, consulte os tópicos a seguir.