Treinamento inútil na Amazon SageMaker HyperPod

O treinamento inútil da Checkpointless na Amazon SageMaker HyperPod permite uma recuperação mais rápida de falhas na infraestrutura de treinamento. A documentação a seguir ajuda você a começar com o treinamento inútil e o ajuste fino dos modelos. NeMo-supported

O treinamento da Checkpointless tem os seguintes pré-requisitos:

O treinamento da Checkpointless foi SageMaker HyperPod desenvolvido com base no Guia do Usuário do NVIDIA NeMo Framework. Você pode realizar um treinamento inútil com receitas SageMaker HyperPod pré-criadas. Se você estiver familiarizado NeMo, o processo de usar as receitas de treinamento sem controle é semelhante. Com pequenas alterações, você pode começar a treinar um modelo usando recursos de treinamento inúteis que permitem que você se recupere rapidamente de falhas de treinamento.

As HyperPod receitas a seguir são pré-configuradas com otimizações de treinamento inúteis. Você pode especificar seus caminhos de dados como parte da receita e usar o script de inicialização associado para executar o treinamento (consulte o guia de início rápido abaixo):

O guia de início rápido a seguir fornece tutoriais para usar receitas de treinamento inúteis:

Exemplos de introdução

Se você quiser pré-treinar ou ajustar modelos personalizados, consulte. Tutoriais - Pré-treinamento ou ajuste fino de modelos personalizados do Amazon SageMaker HyperPod Checkpointless

Para saber mais sobre a incorporação de componentes específicos de treinamento sem ponto de verificação,. HyperPod recursos de treinamento inúteis