View a markdown version of this page

Referência de métricas do Ray - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Referência de métricas do Ray

O complemento SageMaker HyperPod Observability coleta as métricas que o Ray exporta. Não adicionamos, renomeamos ou removemos métricas do Ray, então os nomes e rótulos das métricas correspondem ao Ray de código aberto.

As seções a seguir listam os grupos de métricas que cada painel provisionado abrange. Para os nomes, definições e tipos de métricas individuais, consulte Métricas do sistema Ray na documentação do Ray.

Métricas do Ray Core

O painel do Ray Core abrange o estado do Ray no nível do sistema e o hardware em que o cluster é executado, nos seguintes grupos:

  • Tarefas, atores e grupos de colocação

  • Recursos de cluster e armazenamento de objetos

  • Hardware e sistema operacional do Node

  • Per-component uso

  • Estado do autoescalador

Métricas do Ray Data

O painel do Ray Data abrange a taxa de transferência do conjunto de dados, o ciclo de vida da tarefa, a iteração e a pressão de memória nos seguintes grupos:

  • Linhas, bytes e blocos

  • Contagem de tarefas e ciclo de vida

  • Outros contadores de operadores

  • Iteração

  • Armazenamento de objetos e orçamento de memória

  • Utilização e orçamentos do cluster

Métricas do Ray Train

O painel do Ray Train abrange a execução do treinamento e o estado do trabalhador, os pontos de verificação e o hardware dos nós, nos seguintes grupos:

  • Estado administrativo e trabalhista

  • Verificação e emissão de relatórios

  • Hardware e sistema operacional do Node

Métricas do Ray Serve

O painel do Ray Serve abrange a taxa de solicitações, a latência, os erros e a integridade da réplica nos seguintes grupos:

  • Solicitações e latência

  • Erros e filas

  • Integridade da réplica e do controlador

  • Hardware do nó e estado do cluster

Rótulos para consulta

As métricas chegam ao Amazon Managed Service for Prometheus, então você pode consultá-las fora do Grafana. O coletor adiciona cluster_namecluster_id, e. namespace Acrescenta Rayray_io_cluster, que identifica o cluster Ray e é o rótulo sobre o qual os painéis se movem.

Para obter mais informações sobre a visualização dessas métricas, consultePainéis do Ray Grafana.