Compilar um modelo (console do Amazon SageMaker)

Você pode criar um trabalho de compilação do Amazon SageMaker Neo no console do Amazon SageMaker.

No console do Amazon SageMaker, escolha Trabalhos de compilação e depois Criar trabalho de compilação.
Na página Criar trabalho de compilação, em Nome do trabalho, digite um nome. Em seguida, selecione uma perfil do IAM.
Se você não tem uma perfil do IAM, escolha Criar uma nova função.
Na página Criar uma perfil do IAM, escolha Qualquer bucket do S3 e depois Criar função.
Non PyTorch Frameworks

Na seção Configuração de entrada, insira o caminho completo do URI do bucket Amazon S3 que contém os artefatos do seu modelo no campo de entrada Localização de artefatos de modelo. Os artefatos do seu modelo devem estar em um formato de arquivo tarball compactado (.tar.gz).

No campo Configuração de entrada de dados, insira a string JSON que especifica a forma dos dados de entrada.

Para Estrutura de machine learning, escolha a estrutura.

Para encontrar exemplos de sequências JSON de dependência de estruturas, consulte Quais são as formas de dados de entrada que o Neo espera.

PyTorch Framework
Instruções semelhantes se aplicam à compilação de modelos do PyTorch. No entanto, se você treinou com o PyTorch e está tentando compilar o modelo para o destino ml_* (exceto ml_inf), você pode especificar opcionalmente a versão do PyTorch que usou.

Para encontrar exemplos de sequências JSON de dependência de estruturas, consulte Quais são as formas de dados de entrada que o Neo espera.
Observações

Se você salvou seu modelo usando o PyTorch versão 2.0 ou posterior, o campo de configuração de entrada de dados é opcional. O SageMaker Neo obtém a configuração de entrada do arquivo de definição do modelo que você criar com o PyTorch. Para obter mais informações sobre como criar o arquivo de definição, consulte a seção PyTorch em Salvando modelos para o SageMaker Neo.

Ao compilar para instâncias ml_* usando a estrutura PyTorch,use o campo de opções do compilador na Configuração de saída para fornecer o tipo de dados correto (dtype) da entrada do modelo. O padrão é definido como "float32".
Atenção
Se você especificar um caminho de URI do bucket do Amazon S3 que leva ao arquivo .pth, você receberá o seguinte erro após iniciar a compilação: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
Vá para a seção Configuração de saída. Escolha onde você deseja implantar o modelo. Você pode implantar seu modelo em um dispositivo de destino ou em uma plataforma de destino. Os dispositivos de destino incluem dispositivos de nuvem e de borda. As plataformas de destino se referem a sistemas operacionais, arquiteturas e aceleradores específicos nos quais você deseja que seu modelo seja executado.

Em Local de saída do S3, insira o caminho para o bucket do S3 ou a pasta onde deseja armazenar o modelo. Opcionalmente, você pode adicionar opções do compilador no formato JSON na seção Opções do compilador.
Verifique o status do trabalho de compilação quando ele for iniciado. Esse status do trabalho pode ser encontrado na parte superior da página Trabalho de compilação, conforme mostrado na captura de tela a seguir. Você também pode conferir o status na coluna Status.
Verifique o status do trabalho de compilação quando ele for concluído. Você pode verificar o status na coluna Status, conforme mostrado na captura de tela a seguir.