Como criar um Endpoint de Inferência Assíncrona

Crie um endpoint assíncrono da mesma forma que você criaria um endpoint usando os serviços de hospedagem do SageMaker:

Para criar um endpoint, primeiro você cria um modelo com CreateModel, onde aponta para o artefato do modelo e um caminho de registro do Docker (Imagem). Em seguida, você cria uma configuração usando CreateEndpointConfig onde especifica um ou mais modelos que foram criados usando a API CreateModel para implantação e os recursos que você deseja que o SageMaker provisione. Crie um endpoint com CreateEndpoint usando a configuração de endpoint especificada na solicitação. Você pode atualizar um endpoint assíncrono com a API UpdateEndpoint. Envie e receba solicitações de inferência do modelo hospedado no endpoint com InvokeEndpointAsync. Você pode excluir seus endpoints com a API DeleteEndpoint.

Para obter uma lista completa das imagens do SageMaker disponíveis, consulte Imagens de contêineres de aprendizado profundo disponíveis. Consulte Contêineres com código de inferência personalizado para obter informações sobre como criar sua imagem do Docker.