View a markdown version of this page

Ray nas HyperPod perguntas frequentes - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Ray nas HyperPod perguntas frequentes

HyperPod Modifica Ray ou KubeRay?

HyperPod executa o Ray upstream, de código aberto e KubeRay sem alterações. Seu código Ray, as APIs do Ray e os recursosRayCluster,RayJob,RayCronJob, e RayService personalizados se comportam da mesma forma que no código aberto. HyperPod adiciona recursos em torno do Ray, como uma experiência gerenciada de estúdio, acesso seguro ao painel, observabilidade e resiliência.

Posso manter minha KubeRay instalação existente?

Você pode manter o KubeRay operador que você já administra. HyperPod os recursos instalados junto com ele e os manifestos que você já inscreveu continuam funcionando. Se o cluster ainda não tiver KubeRay operador, instale-o conforme descrito emInstalação KubeRay no HyperPod Amazon EKS.

Eu preciso do SageMaker Studio?

O Amazon SageMaker Studio é necessário somente para a experiência gerenciada, na qual cientistas de dados criam e gerenciam clusters Ray sem o conhecimento do Kubernetes. Em uma plataforma Ray existente, você usa o kubectl Helm e a biblioteca do kit de ferramentas, e nada requer o Studio. Para obter mais informações, consulte Introdução.

Posso usar meu próprio Prometheus e Grafana?

Você pode manter seu próprio Prometheus e Grafana. O complemento HyperPod Observability é uma opção que chega configurada, mas, em vez disso, você pode coletar as métricas do Ray com sua própria pilha. Para obter mais informações, consulte Configurando a coleção de métricas do Ray.

Como a cota funciona com um cluster Ray de longa duração?

HyperPod A governança de tarefas contabiliza a cota no RayCluster nível, portanto, um cluster de longa duração mantém sua capacidade declarada total enquanto estiver em execução. Dimensione um cluster persistente de acordo com a capacidade que você pretende reservar e use RayJob para trabalhos que adquirem e liberam capacidade por trabalho. Para obter mais informações, consulte Filas com governança de tarefas.

O que acontece com meu trabalho do Ray quando um nó de GPU falha?

HyperPod detecta a falha por meio de verificações de integridade e reinicializa ou substitui o nó e KubeRay reprograma os pods Ray afetados. Seu trabalho é retomado a partir do último ponto de verificação, então escreva pontos de verificação para recuperar o trabalho em andamento. Para obter mais informações, consulte Recuperação automática de nós com Ray.

Quais bibliotecas Ray são suportadas?

HyperPod oferece suporte às bibliotecas Ray de código aberto, incluindo Ray Core, Ray Train, Ray Data e Ray Serve, porque executa o Ray sem modificações. Combine spec.rayVersion com a versão Ray em sua imagem de contêiner. Para as APIs da biblioteca, consulte a documentação do Ray no site do Ray.

Posso adotar uma capacidade sem as outras?

Cada HyperPod recurso é instalado de forma independente como um complemento ou pacote Python, então você pode adotar um e parar. Uma equipe com sua própria plataforma Ray pode adicionar observabilidade ou acesso autenticado ao painel sem alterar o resto. Para ver a lista completa e as dependências, consulteIntrodução.