View a markdown version of this page

Gerenciando cargas de trabalho do Ray com o Studio - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Gerenciando cargas de trabalho do Ray com o Studio

O Amazon SageMaker Studio gerencia cargas de trabalho do Ray a partir de uma interface web. Abra seu cluster no HyperPod console e escolha a guia Tarefas. A guia lista os recursos do Ray nos namespaces aos quais você tem acesso, e o filtro do tipo de tarefa alterna entreRayCluster, RayJobRayCronJob, e. RayService

O Studio lê e grava os mesmos recursos KubeRay personalizados que o operador reconcilia. Um recurso que você cria no Studio é idêntico ao que você usa para aplicarkubectl. Você pode se mover entre as duas superfícies na mesma carga de trabalho.

Antes que alguém use a guia Tarefas, configure um domínio de SageMaker IA e conceda a ele acesso ao seu cluster. Para obter mais informações, consulte Configurando o Studio for Ray.

Criação de um cluster

Escolha Criar cluster de raios e preencha o formulário ou cole um RayCluster manifesto na visualização YAML. O formulário abrange os campos comuns. A visualização YAML aceita qualquer campo suportado pelo KubeRay operador. Use-o quando precisar de um campo que o formulário não expõe.

O seletor de namespace no formulário mostra a alocação computacional e a utilização atual de cada namespace ao qual você tem acesso. Use-o para dimensionar o cluster de acordo com a capacidade que está realmente livre antes do envio, em vez de descobrir depois que o cluster está aguardando a cota. Isso é mais importante em um namespace gerenciado pelo HyperPod Task Governance, em que o cluster não é admitido até que exista uma cota para todo o tamanho declarado. Para obter mais informações, consulte Comportamento de cota e agendamento para cargas de trabalho do Ray.

Anexe um espaço ao cluster quando quiser desenvolver nele de forma interativa. Um espaço é um ambiente JupyterLab ou editor de código no Amazon SageMaker Studio. O código que você executa lá, em um notebook ou terminal, chega ao cluster por meio deleray.init().

Um espaço carrega sua própria versão do Ray, a partir da imagem de distribuição de SageMaker inteligência artificial que ele executa. Combine essa versão com a versão Ray do cluster. Uma incompatibilidade produz erros de tempo de execução difíceis de diagnosticar. Para obter mais informações, consulte Anexando o cluster Ray ao espaço.

Ações em um cluster

Escolha Ações em uma linha para agir nesse recurso sem sair do Studio.

Ação O que ela faz
Desenvolvimento interativo Abre um espaço do Editor de Código JupyterLab ou do Editor de Código anexado ao cluster, para ray.init() que esse espaço se conecte a ele. Requer o complemento SageMaker AI Spaces. Para obter mais informações, consulte Anexando o cluster Ray ao espaço.
Enviar trabalho Envia um trabalho para o cluster em execução.
Painel do Open Ray Abre o Ray Dashboard para o cluster. Requer o operador Ray Endpoint. Para obter mais informações, consulte Instalando o HyperPod Ray Endpoint Operator.
Abra o Grafana Abre os painéis do Grafana para o cluster. Requer o complemento de observabilidade. Para obter mais informações, consulte Configurando a coleção de métricas do Ray.
Editar cluster Ray Altera o cluster, incluindo a contagem de réplicas do trabalhador.
Suspenda o cluster Ray Interrompe os pods do cluster e mantém o recurso. Libera a computação.
Retomar o cluster Ray Reinicia os pods de um cluster suspenso com sua configuração existente. Disponível quando o cluster está suspenso.
Excluir cluster Ray Exclui o cluster e seus pods.

Visualizando detalhes e eventos

Escolha um nome de recurso para abri-lo. A guia Eventos lista os pods do cluster Ray junto com seus eventos do Kubernetes. Comece aí quando um cluster não atingir um estado de execução. Também ajuda quando um pod é reiniciado inesperadamente ou quando um trabalho falha por um motivo que seus registros não explicam. Os eventos nomeiam o pod com falha e o motivo, como falha na extração da imagem ou capacidade alocável insuficiente. Para obter mais informações, consulte Solução de problemas do Ray on HyperPod.

Para ver a utilização do cluster, escolha Ações e, em seguida, Abrir Grafana. Para saber o comportamento de cota, prioridade e preempção em um namespace gerenciado pelo HyperPod Task Governance, consulte. Comportamento de cota e agendamento para cargas de trabalho do Ray