Monitoramento de endpoints - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Monitoramento de endpoints

Depois de criar um endpoint de SageMaker hospedagem, você pode monitorar seu endpoint usando a Amazon CloudWatch, que coleta dados brutos e os processa em métricas legíveis, quase em tempo real. Ao usar essas métricas, você pode acessar informações históricas e obter uma melhor visão do desempenho do endpoint. Para obter mais informações, consulte o Guia CloudWatch do usuário da Amazon.

Na guia Monitoramento na página de detalhes do endpoint, você pode visualizar os dados de CloudWatch métricas que foram coletados do seu endpoint.

A aba Monitoramento inclui as seções a seguir:

  • Métricas operacionais: visualize métricas que rastreiam a utilização dos recursos do seu endpoint, como CPU utilização e utilização de memória.

  • Métricas de invocação: visualize métricas que rastreiam o número, a integridade e o status das solicitações InvokeEndpoint que chegam ao seu endpoint, como erros do modelo de invocação e latência do modelo.

  • Métricas de saúde: visualize métricas que monitoram a integridade geral do seu endpoint, como falhas de invocação e falhas de notificação.

Para obter descrições detalhadas de cada métrica, consulte Monitorar SageMaker com CloudWatch.

A captura de tela a seguir mostra a seção Métricas operacionais para um endpoint sem servidor.

Captura de tela dos gráficos de métricas na seção de métricas operacionais da página de detalhes do endpoint.

Você pode ajustar o período e a estatística que deseja rastrear para as métricas em uma determinada seção, bem como o período durante o qual deseja visualizar os dados das métricas. Você também pode adicionar e remover widgets de métrica da visualização de cada seção escolhendo Adicionar widget. Na caixa de diálogo Adicionar widget, você pode selecionar e desmarcar as métricas que deseja ver.

As métricas disponíveis podem depender do seu tipo de endpoint. Por exemplo, endpoints sem servidor têm algumas métricas que não estão disponíveis para endpoints em tempo real. Para mais informações de métricas específicas por tipo de endpoint, consulte as páginas a seguir.