Frameworks compatíveis com Regiões da AWS, tipos de instância e modelos testados

Antes de usar o SageMaker Training Compiler, verifique se seu framework de escolha é compatível, se os tipos de instância estão disponíveis em AWS sua conta e se AWS sua conta está em uma das Regiões da AWS compatíveis.

Estruturas compatíveis

O SageMaker Training Compiler é compatível com as seguintes frameworks de aprendizado profundo e está disponível por meio do contêineres de aprendizado profundo AWS:

PyTorch

TensorFlow

Para obter mais informações, consulte as Imagens disponíveis no repositório do GitHub de contêineres de aprendizado profundo AWS.

Regiões da AWS

Os contêineres do SageMaker Training Compiler estão disponíveis no Regiões da AWS onde os AWS contêineres de aprendizado profundo estão em serviço, exceto nas regiões da China.

Tipos de instâncias compatíveis

O SageMaker Training Compiler foi testado e é compatível com os seguintes tipos de instância de ML:

Para especificações dos tipos de instância, consulte a seção Computação acelerada na página Tipos de instância do Amazon EC2. Para obter informações sobre a definição de preço de instâncias, consulte Definição de preço do Amazon SageMaker.

Se você encontrou uma mensagem de erro semelhante à seguinte, siga as instruções em Solicitar um aumento da cota de serviço para os recursos do SageMaker:

ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling
the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge
for training job usage' is 0 Instances, with current utilization of 0 Instances
and a request delta of 1 Instances.
Please contact AWS support to request an increase for this limit.

Modelos testados

A tabela a seguir inclui uma lista dos modelos que foram testados com o SageMaker Training Compiler. Para referência, o maior tamanho de lote que cabe na memória também está incluído junto com outros parâmetros de treinamento. O SageMaker Training Compiler pode alterar a pegada de memória do processo de treinamento do modelo; como resultado, um lote maior geralmente pode ser usado durante o processo de treinamento, diminuindo ainda mais o tempo total de treinamento. Em alguns casos, o SageMaker Training Compiler promove inteligentemente o cacheamento, o que resulta em uma redução no tamanho do lote mais alto que pode ser acomodado na GPU. Você precisa reajustar os hiperparâmetros do seu modelo e encontrar um tamanho de lote (batch size) ideal para o seu caso. Para economizar tempo, use as tabelas de referência a seguir para pesquisar um tamanho de lote que pode ser um bom ponto de partida para seu caso de uso.