Empregos de recomendação com o Amazon SageMaker Inference Recommender - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Empregos de recomendação com o Amazon SageMaker Inference Recommender

O Amazon SageMaker Inference Recommender pode fazer dois tipos de recomendações:

  1. As recomendações de inferência (tipo de trabalho Default) executam um conjunto de testes de carga nos tipos de instância recomendados. Você também pode fazer o teste de carga para um endpoint com tecnologia sem servidor. Você só precisa fornecer um pacote de modelos Amazon Resource Name (ARN) para iniciar esse tipo de trabalho de recomendação. Os trabalhos de recomendação de inferência são concluídos em 45 minutos.

  2. As recomendações de endpoint (tipo de trabalho Advanced) são baseadas em um teste de carga personalizado em que você seleciona as instâncias de ML desejadas ou um endpoint com tecnologia sem servidor, fornece um padrão de tráfego personalizado e fornece requisitos de latência e taxa de transferência com base em seus requisitos de produção. Este trabalho leva, em média, 2 horas para ser concluído, dependendo da duração definida para o trabalho e do número total de configurações de inferência testadas.

Ambos os tipos de recomendações usam o mesmo APIs para criar, descrever e interromper trabalhos. O resultado é uma lista de recomendações de configuração de instâncias com variáveis de ambiente, custo, taxa de transferência e métricas de latência associadas. Os trabalhos de recomendação também fornecem uma contagem inicial de instâncias, que você pode usar para configurar uma política de escalonamento automático. Para diferenciar os dois tipos de trabalhos, ao criar um trabalho por meio do SageMaker console ou doAPIs, especifique Default a criação de recomendações preliminares de endpoint e Advanced para testes de carga personalizados e recomendações de endpoints.

nota

Você não precisa fazer os dois tipos de trabalhos de recomendação em seu próprio fluxo de trabalho. Você pode fazer qualquer uma delas independentemente da outra.

O recomendador de inferência também pode fornecer uma lista de instâncias potenciais ou os cinco principais tipos de instância otimizados em termos de custo, produtividade e latência para implantação de modelo, juntamente com uma pontuação de confiança. Você pode escolher essas instâncias ao implantar seu modelo. O recomendador de inferência executa automaticamente a análise comparativa em relação ao seu modelo para que você forneça as instâncias potenciais. Como essas são recomendações preliminares, recomendamos que você execute outros trabalhos de recomendação de instâncias para obter resultados mais precisos. Para ver as instâncias em potencial, acesse a página de detalhes do SageMaker modelo. Para obter mais informações, consulte Obter instâncias prospectivas instantâneas.

Tópicos