As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Etapa 2: iniciar um trabalho de treinamento usando o SDK do SageMaker Python

O SDK do SageMaker Python oferece suporte ao treinamento gerenciado de modelos com estruturas de ML, como e. TensorFlow PyTorch Para iniciar um trabalho de treinamento usando uma dessas estruturas, você define um estimador, um SageMaker TensorFlow estimador ou um SageMaker PyTorch Estimador SageMaker genérico para usar o script de treinamento modificado e a configuração de paralelismo do modelo.

Usando os SageMaker TensorFlow PyTorch estimadores e

As classes TensorFlow e PyTorch estimator contêm o distribution parâmetro, que você pode usar para especificar parâmetros de configuração para usar estruturas de treinamento distribuídas. A biblioteca paralela de SageMaker modelos usa internamente MPI para dados híbridos e paralelismo de modelos, portanto, você deve usar a opção MPI com a biblioteca.

O modelo a seguir de um PyTorch estimador TensorFlow or mostra como configurar o distribution parâmetro para usar a biblioteca paralela de SageMaker modelos com MPI.

import sagemaker
from sagemaker.train import ModelTrainer
from sagemaker.train.configs import SourceCode, Compute
from sagemaker.train.distributed import Torchrun
from sagemaker.core.helper.session_helper import get_execution_role
from sagemaker.core import image_uris

training_image = image_uris.retrieve(
    framework="tensorflow", region=region, version='2.6.3',
    py_version='py38', instance_type='ml.p3.16xlarge',
    image_scope="training"
)

smd_mp_model_trainer = ModelTrainer(
    source_code=SourceCode(entry_script="your_training_script.py", source_dir="location_to_your_script"),
    role=get_execution_role(),
    compute=Compute(instance_count=1, instance_type='ml.p3.16xlarge'),
    training_image=training_image,
    distributed=Torchrun(),
    base_job_name="SMD-MP-demo",
)

smd_mp_model_trainer.train('s3://my_bucket/my_training_data/')

Para habilitar a biblioteca, você precisa passar dicionários de configuração para "mpi" as chaves "smdistributed" e por meio do distribution argumento dos construtores do SageMaker estimador.

Para iniciar o trabalho de treinamento usando o estimador e seu script de treinamento configurado em paralelo do SageMaker modelo, execute a estimator.fit() função.

Use os seguintes recursos para saber mais sobre como usar os recursos de paralelismo de modelos no SDK do SageMaker Python:

Estenda um contêiner Pre-built Docker que contém a biblioteca paralela SageMaker de modelos distribuídos

Para estender um contêiner pré-construído e usar a biblioteca SageMaker de paralelismo de modelos, você deve usar uma das imagens de contêineres de aprendizado AWS profundo (DLC) disponíveis para ou. PyTorch TensorFlow A biblioteca de paralelismo de SageMaker modelos está incluída nas imagens DLC TensorFlow (2.3.0 e posteriores) e PyTorch (1.6.0 e posteriores) com CUDA (). cuxyz Para obter uma lista completa de imagens de DLC, consulte Imagens de contêineres de aprendizado profundo disponíveis no GitHub repositório de contêineres de aprendizado AWS profundo.

Por exemplo, o Dockerfile deve conter uma declaração FROM semelhante à seguinte:

# Use the SageMaker DLC image URI for TensorFlow or PyTorch
FROM aws-dlc-account-id.dkr.ecr.aws-region.amazonaws.com/framework-training:{framework-version-tag}

# Add your dependencies here
RUN ...

ENV PATH="/opt/ml/code:${PATH}"

# this environment variable is used by the SageMaker AI container to determine our user code directory.
ENV SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/code

Além disso, ao definir um TensorFlow estimador PyTorch or, você deve especificar aquele entry_point para o seu script de treinamento. Esse deve ser o mesmo caminho identificado com ENV SAGEMAKER_SUBMIT_DIRECTORY no seu Dockerfile.

Depois de terminar de hospedar o contêiner do Docker e recuperar o URI da imagem do contêiner, crie um objeto SageMaker PyTorch estimador da seguinte forma. Este exemplo pressupõe que você já definiu smp_options e mpi_options.

smd_mp_estimator = Estimator(
    entry_point="your_training_script.py",
    role=sagemaker.get_execution_role(),
    instance_type='ml.p3.16xlarge',
    sagemaker_session=sagemaker_session,
    image_uri='your_aws_account_id.dkr.ecr.region.amazonaws.com/name:tag'
    instance_count=1,
    distribution={
        "smdistributed": smp_options,
        "mpi": mpi_options
    },
    base_job_name="SMD-MP-demo",
)

smd_mp_estimator.fit('s3://my_bucket/my_training_data/')

Crie seu próprio contêiner Docker com a biblioteca paralela de modelos SageMaker distribuídos

Para criar seu próprio contêiner Docker para treinamento e usar a biblioteca paralela do SageMaker modelo, você deve incluir as dependências corretas e os arquivos binários das bibliotecas paralelas SageMaker distribuídas em seu Dockerfile. Esta seção fornece o conjunto mínimo de blocos de código que você deve incluir para preparar adequadamente um ambiente de SageMaker treinamento e a biblioteca paralela de modelos em seu próprio contêiner Docker.