Como criar um endpoint de inferência assíncrona - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Como criar um endpoint de inferência assíncrona

Crie um endpoint assíncrono da mesma forma que você criaria um endpoint usando serviços de hospedagem: SageMaker

  • Crie um modelo SageMaker comCreateModel.

  • Criar uma configuração de endpoint com CreateEndpointConfig.

  • Crie um HTTPS endpoint comCreateEndpoint.

Para criar um endpoint, primeiro você cria um modelo com CreateModel, onde aponta para o artefato do modelo e um caminho de registro do Docker (Imagem). Em seguida, você cria uma configuração usando CreateEndpointConfigonde você especifica um ou mais modelos que foram criados usando o CreateModel API para implantar e os recursos que você deseja SageMaker provisionar. Crie um endpoint com CreateEndpoint usando a configuração de endpoint especificada na solicitação. Você pode atualizar um endpoint assíncrono com o. UpdateEndpointAPI Envie e receba solicitações de inferência do modelo hospedado no endpoint com InvokeEndpointAsync. Você pode excluir seus endpoints com o. DeleteEndpointAPI

Para obter uma lista completa das SageMaker imagens disponíveis, consulte Imagens disponíveis de contêineres de Deep Learning. Consulte Contêineres com código de inferência personalizado para obter informações sobre como criar sua imagem do Docker.