Como criar um Endpoint de Inferência Assíncrona - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Como criar um Endpoint de Inferência Assíncrona

Crie um endpoint assíncrono da mesma forma que você criaria um endpoint usando serviços de hospedagem de IA: SageMaker

  • Crie um modelo em SageMaker IA com CreateModel o.

  • Criar uma configuração de endpoint com CreateEndpointConfig.

  • Crie um endpoint HTTPS com CreateEndpoint.

Para criar um endpoint, primeiro você cria um modelo com CreateModel, onde aponta para o artefato do modelo e um caminho de registro do Docker (Imagem). Em seguida, você cria uma configuração usando a CreateEndpointConfigqual especifica um ou mais modelos que foram criados usando a CreateModel API para implantação e os recursos que você deseja que a SageMaker IA provisione. Crie um endpoint com CreateEndpoint usando a configuração de endpoint especificada na solicitação. Você pode atualizar um endpoint assíncrono com a API UpdateEndpoint. Envie e receba solicitações de inferência do modelo hospedado no endpoint com InvokeEndpointAsync. Você pode excluir seus endpoints com a API DeleteEndpoint.

Para obter uma lista completa das imagens de SageMaker IA disponíveis, consulte Imagens disponíveis de contêineres de Deep Learning. Consulte Contêineres com código de inferência personalizado para obter informações sobre como criar sua imagem do Docker.